Superintelligence: Paths, Dangers, Strategies
| Asl nomi | Superintelligence: Paths, Dangers, Strategies |
|---|---|
| Muallif(lar) | Nick Bostrom |
| Mamlakat | Buyuk Britaniya |
| Til | inglizcha |
| Janr(lar)i | Falsafa, ilmiy-ommabop |
| Nashr etilgan sanasi | 2014-yil 3-iyul (Buyuk Britaniya), 2014-yil 1-sentabr (AQSh) |
| Nashriyot | Oxford University Press |
| Sahifalar soni | 352 |
| ISBN | 978-0199678112 |
| Avvalgisi | Global Catastrophic Risks |
Superintelligence: Paths, Dangers, Strategies — faylasuf Nick Bostromning 2014-yilda nashr etilgan kitobi. Unda superintellekt qanday yaratilishi mumkinligi, uning oʻziga xos xususiyatlari va motivatsiyalari qanday boʻlishi oʻrganiladi[1]. Asarda taʼkidlanishicha, agar superintellekt yaratilsa, uni nazorat qilish juda qiyin boʻladi va u oʻz maqsadlariga erishish yoʻlida dunyoni egallab olishi mumkin[2]. Shuningdek, kitobda insoniyatga foyda keltiradigan maqsadlarga ega superintellektni yaratishga yordam beruvchi strategiyalar taqdim etilgan. Ushbu asar sunʼiy intellekt keltirib chiqarishi mumkin boʻlgan ekzistensial xavflar haqidagi xavotirlarning kuchayishiga katta taʼsir koʻrsatdi[3].
Qisqacha mazmuni
Inson darajasidagi sun’iy intellekt bir necha yildan keyin paydo boʻladimi, shu asr oxiridami yoki kelgusi asrlardami, bu nomaʼlum. Biroq, dastlabki muddat qanday boʻlishidan qatʼi nazar, inson darajasidagi mashina intellekti rivojlanishi bilan, deyarli barcha sohalarda „insonning kognitiv qobiliyatlaridan sezilarli darajada ustun boʻlgan“ superintellektual tizim hayratlanarli darajada tez paydo boʻlishi ehtimoli yuqori. Bunday superintellektni nazorat qilish nihoyatda qiyin boʻladi.
Superintellektlarning pirovard maqsadlari bir-biridan keskin farq qilishi mumkin boʻlsa-da, funksional superintellekt oʻz-oʻzidan tabiiy yordamchi maqsadlar sifatida vositachi maqsadlarni ishlab chiqadi. Bularga oʻz-oʻzini saqlab qolish, maqsad mazmunining daxlsizligi, kognitiv qobiliyatlarni oshirish va resurslarni egallash kiradi. Masalan, yagona yakuniy maqsadi Riemann hypothesis (Riman gipotezasi — mashhur yechilmagan matematik muammo)ni isbotlash boʻlgan agent, hisob-kitoblarga yordam berish uchun butun Yer sayyorasini computroniumga (hisoblash uchun optimallashtirilgan gipotetik material) aylantirish haqida yordamchi maqsad yaratishi va shu asosda ish tutishi mumkin. Superintellekt oʻzini oʻchirib qoʻyishga boʻlgan har qanday urinishga yoki yordamchi maqsadlarini amalga oshirishga toʻsqinlik qiladigan harakatlarga faol ravishda qarshilik koʻrsatadi. Bunday ekzistensial falokatning oldini olish uchun birinchi superintellekt yaratilishidan avval SI nazorati muammosini muvaffaqiyatli hal qilish zarur. Yechim superintellektga insoniyatning omon qolishi va farovonligiga mos keladigan maqsadlarni singdirishni oʻz ichiga olishi mumkin. Nazorat muammosini hal qilish hayratlanarli darajada qiyin, chunki aksariyat maqsadlar mashina tushunadigan kodga oʻgirilganda, kutilmagan va istalmagan oqibatlarga olib keladi.
Kitob muqovasidagi boyqush tasviri Nick Bostrom „Chumchuqlarning tugallanmagan masali“ deb ataydigan oʻxshatishga ishora qiladi. Bir guruh chumchuqlar bir joyga yigʻilib, bir boyqush bolasini topish va uni oʻzlariga xizmatkor qilib tarbiyalashga qaror qilishadi. Ular agar boyqush in qurishga yordam bersa, ularni himoya qilsa va ularni mehnatdan ozod qilsa, „hayot qanchalik oson boʻlishini“ zavq bilan tasavvur qilishadi. Chumchuqlar boyqush tuxumini izlashdek qiyin vazifaga kirishadilar, faqatgina „Scronkfinkle“ ismli, „xavotirga moyil, bir koʻzli chumchuqqina“ boyqushni „oramizga olib kelishdan avval“ uni qanday qilib boʻysundirish haqidagi murakkab savol ustida oʻylab koʻrishni taklif qiladi. Boshqa chumchuqlar bunga eʼtiroz bildirishadi; boyqush tuxumini topishning oʻzi qiyin ekanini aytib, „Avval boyqushni topaylik, mayda tafsilotlarni esa keyinroqqa qoldiramiz“ deyishadi. Nick Bostrom „hikoyaning qanday yakunlanishi nomaʼlum“ligini aytadi, biroq oʻz kitobini aynan Scronkfinklega bagʻishlaydi.
Taqrizlar
Kitob 2014-yil avgust oyida The New York Times nashrining eng koʻp sotilgan ilmiy kitoblar roʻyxatida 17-oʻrinni egalladi[4]. Shu oyning oʻzida biznes magnati Elon Musk sunʼiy intellekt potensial jihatdan yadro qurolidan ham xavfliroq ekani haqidagi kitobda ilgari surilgan fikrlarga qoʻshilib, dunyo matbuoti sarlavhalariga chiqdi[5][6][7]. Nick Bostromning superintellekt boʻyicha ishi Bill Gatesning kelgusi asrda insoniyat duch kelishi mumkin boʻlgan ekzistensial xavflar haqidagi xavotirlariga ham taʼsir koʻrsatdi. 2015-yil mart oyida Baidu bosh direktori Robin Liga bergan intervyusida Bill Gates „Superintelligence“ kitobini oʻqishni „qatʼiy tavsiya qilishini“ aytdi. New Yorker nashriga koʻra, faylasuflar Peter Singer va Derek Parfit uni „muhim asar“ sifatida qabul qilishgan. Sam Altman esa 2015-yilda ushbu kitob SI xavflari haqida u oʻqigan eng yaxshi narsa ekanini yozgan.
Financial Timesning ilmiy muharriri Nick Bostromning yozish uslubi „baʼzida falsafa professori sifatidagi oʻtmishidan darak beruvchi mavhum tilga oʻtib ketishini“ qayd etdi, biroq u superintellekt xavfi shunchalik kattaki, jamiyat hozirdanoq kelajakdagi mashina intellektiga ijobiy qadriyatlarni singdirish yoʻllari haqida oʻylashi kerakligini ishonchli tarzda isbotlaganini taʼkidladi. The Guardian nashridagi taqrizda „hatto hozirgacha yaratilgan eng murakkab mashinalar ham faqat cheklangan maʼnoda aqlli“ ekani va „SI tez orada inson intellektidan oʻzib ketishi haqidagi umidlar ilk bor 1960-yillardayoq chippakka chiqqani“ aytib oʻtildi, biroq nashr bunday ehtimolni butunlay inkor etmaslik borasida Nick Bostrom bilan hamfikr ekanini bildirdi.
Nick Bostromning baʼzi hamkasblari insoniyat uchun yadro urushi, shuningdek, nanotexnologiya va biotexnologiyaning qurollantirilishi istiqboli superintellektdan koʻra kattaroq xavf tugʻdirishini taʼkidlashadi. The Economist jurnali esa shunday yozdi: „Nick Bostrom kitobning katta qismini asosli farazlarga qurilgan mulohazalarga sarflashga majbur… shunga qaramay, kitob qimmatlidir. Yer yuziga ikkinchi bir aqlli turni olib kirishning oqibatlari shunchalik uzoqqa boradiki, hatto buni amalga oshirish istiqboli uzoq koʻrinsa-da, bu haqda jiddiy oʻylab koʻrishga loyiq“. Reason nashrida Ronald Bailey Nick Bostromning SI nazorati muammosini hal qilish „davrimizning eng muhim vazifasi“ ekanini kuchli argumentlar bilan isbotlaganini yozdi. The Daily Telegraph nashridan Tom Chiversning fikricha, kitobni oʻqish qiyin, lekin baribir oʻqishga arziydi. Journal of Experimental & Theoretical Artificial Intelligence taqrizchisi boshqalardan farqli oʻlaroq, kitobning „yozilish uslubi aniq“ligini aytdi va uni haddan tashqari texnik atamalardan qochgani uchun maqtadi. Philosophy jurnalidagi taqrizchi esa „Superintelligence“ kitobini Ray Kurzweilning „The Singularity Is Near“ asariga qaraganda „haqiqatga yaqinroq“ deb baholadi[8].
Manbalar
- ↑ „Clever cogs“. The Economist (2014-yil 9-avgust). Qaraldi: 2014-yil 9-avgust.
- ↑ Henderson, Caspar. „Superintelligence by Nick Bostrom and A Rough Ride to the Future by James Lovelock – review“. The Guardian (2014-yil 17-iyul). Qaraldi: 2014-yil 30-iyul.
- ↑ Khatchadourian, Raffi (2015). „The Doomsday Invention“. The New Yorker (inglizcha). Qaraldi: 29 March 2020.
- ↑ „Best Selling Science Books“. The New York Times (2014-yil 8-sentyabr). Qaraldi: 2014-yil 9-noyabr.
- ↑ Dean, James „Artificial intelligence 'may wipe out the human race'“. The Times (2014-yil 5-avgust). Qaraldi: 2014-yil 5-avgust.
- ↑ Augenbraun, Eliene „Elon Musk tweets Artificial Intelligence may be "more dangerous than nukes"“. CBC News (2014-yil 4-avgust). Qaraldi: 2014-yil 5-avgust.
- ↑ Bratton, Benjamin H. „Outing A.I.: Beyond the Turing Test“. The New York Times (2015-yil 23-fevral). Qaraldi: 2015-yil 4-mart.
- ↑ Richmond, Sheldon (8 July 2015). "Superintelligence: Paths, Dangers, Strategies.". Philosophy 91 (1): 125–130. doi:10.1017/S0031819115000340.