Human Compatible

Human Compatible: Artificial Intelligence and the Problem of Control

Asl nomi	Human Compatible: Artificial Intelligence and the Problem of Control
Muallif(lar)	Stuart J. Russell
Mamlakat	AQSh
Til	inglizcha
Janr(lar)i	sun’iy intellekt
Nashr etilgan sanasi	2019-yil 8-oktabr
Nashriyot	Viking
Sahifalar soni	Andoza:Wikidata
ISBN	978-0-525-55861-3
OCLC	1083694322
Mavzu: Sun’iy intellektni nazorat qilish muammosi

Human Compatible: Artificial Intelligence and the Problem of Control (oʻzbekcha: Insonga mos sun’iy intellekt va nazorat muammosi) — kompyuter sohasidagi taniqli olim Stuart J. Russell tomonidan yozilgan va 2019-yilda nashr etilgan nobadiiy kitob. Unda taʼkidlanishicha, sunʼiy intellekt (SI) sohasidagi kelgusi rivojlanish darajasi qanchalik noaniq boʻlmasin, yuqori darajadagi SI insoniyat uchun jiddiy xavf tugʻdirishi mumkin. Shuningdek, asarda SI nazorati muammosini hal qilish boʻyicha yangicha yondashuv taklif etiladi.

Qisqacha mazmuni

Stuart J. Russell SI tadqiqotlarining standart modeli xavfli darajada notoʻgʻri yoʻldan ketayotganini taʼkidlash bilan boshlaydi. Standart modelda muvaffaqiyatning asosiy mezoni inson tomonidan belgilangan qatʼiy maqsadlarga erishishda tobora yaxshilanib borishdir. Biroq, bunday maqsadlar insonning asl niyatlarini toʻliq aks ettirmasligi mumkin, chunki ular maqsadga kiritilmagan insoniy qadriyatlarni hisobga olmaydi. Agar standart model asosida ishlab chiqilgan SI oʻta aqlli darajaga yetsa, u inson qadriyatlarini toʻliq aks ettirmasligi va insoniyat uchun halokatli oqibatlarga olib kelishi mumkin. Muallifning fikricha, inson darajasidagi yoki oʻta aqlli SIning yaratilish muddati juda noaniq boʻlgani uchun ham, xavfsizlik boʻyicha tadqiqotlarni imkon qadar tezroq boshlash zarur. Chunki ushbu xavfsizlik tadqiqotlarini yakunlash uchun qancha vaqt ketishi ham xuddi shunday nomaʼlumdir.

Stuart J. Russell iqtisodiy bosimlar tufayli SI imkoniyatlarining rivojlanishini toʻxtatib boʻlmas jarayon deb hisoblaydi. Bunday bosimlarni hozirgi kunda haydovchisiz avtomobillar va shaxsiy yordamchi dasturlar rivojida koʻrish mumkin. Qolaversa, inson darajasidagi SI trillonlab dollar qiymatga ega boʻlishi mumkin. Soʻngra muallif SI xavfi atrofidagi bahslarni koʻrib chiqadi. U SI xavfini rad etuvchi bir qator keng tarqalgan argumentlarni inkor qiladi va bu rad etishlarning asosiy sababini guruhbozlik bilan bogʻlaydi. Yaʼni SI tadqiqotchilari bu xavotirlarni oʻz sohalariga qilingan „hujum“ sifatida qabul qilishadi. Russell sunʼiy intellekt xavfidan qoʻrqish bejiz emasligini va katta daromad manbai boʻlgani uchun ham bu texnologiya baribir rivojlanaverishini taʼkidlaydi.

Keyin Stuart J. Russell insonga boʻysunishga qaratilgan, isbotlasa boʻladigan darajada foydali mashinalarni yaratish yondashuvini taklif qiladi. SI maqsadi qatʼiy va aniq boʻlgan standart modeldan farqli oʻlaroq, bu yondashuvda SIning haqiqiy maqsadi noaniq boʻlib qoladi. SI insonlar va dunyo haqida koʻproq maʼlumotga ega boʻlgani sayin, oʻz maqsadi haqidagi aniqlikka yaqinlashib boradi. Ushbu noaniqlik, ideal holda, inson xohish-istaklarini halokatli darajada notoʻgʻri tushunishning oldini oladi hamda insonlar bilan hamkorlik va muloqotni ragʻbatlantiradi. Stuart J. Russell SI tadqiqotlari va ishlanmalari ustidan qatʼiyroq nazorat oʻrnatishga, shuningdek, SI hukmron boʻlgan dunyoda insoniyat qanchalik darajada mustaqillikni oʻzida saqlab qolishi kerakligi haqida madaniy mulohaza yuritishga chaqirish bilan kitobni yakunlaydi.

Russellning uchta tamoyili

Russell foydali mashinalarni ishlab chiqishda qoʻllanadigan uchta asosiy tamoyilni sanab oʻtadi. U ushbu tamoyillar bevosita mashina kodiga yozilishi shart emasligini, aksincha, ular inson-dasturchilar uchun moʻljallanganligini alohida taʼkidlaydi. Tamoyillar quyidagilardan iborat:

1. Mashinaning yagona maqsadi — inson xohish-istaklari amalga oshishini maksimal darajaga yetkazishdir.
2. Mashina dastlab bu xohish-istaklar aynan nimadan iborat ekani borasida noaniqlik holatida boʻladi.
3. Inson xohish-istaklari haqidagi yakuniy maʼlumot manbai insonning xulq-atvoridir.

Russell nazarda tutgan „xohish-istaklar“ tushunchasi juda keng qamrovli boʻlib, u „siz uzoq kelajakda qaygʻurishingiz mumkin boʻlgan har qanday narsani“ oʻz ichiga oladi. Shuningdek, „xulq-atvor“ tushunchasi variantlar oʻrtasidagi har qanday tanlovni anglatadi. Noaniqlik darajasi shunday boʻlishi kerakki, mantiqan imkonli boʻlgan har bir insoniy xohish-istakka, garchi u juda kichik boʻlsa ham, maʼlum bir ehtimollik darajasi berilishi lozim.

Russell inson xohish-istaklarini oʻrganish mexanizmi sifatida teskari mustahkamlangan oʻrganish usulini taklif qiladi. Bunda mashina kuzatilgan xulq-atvordan kelib chiqib, inson uchun nima „mukofot“ ekanini anglatuvchi funksiyani aniqlab oladi.

Taqrizlar

Bir qator taqrizchilar kitobda keltirilgan dalillarga qoʻshildilar. The Guardian nashrida Ian Sample ushbu asarni „ishonchli“ va „yilning sunʼiy intellektga doir eng muhim kitobi“ deb atadi. Financial Timesdan Richard Waters kitobning „tetiklashtiruvchi intellektual qatʼiyati“ni yuqori baholadi. Kirkus Reviews esa uni „mashinalar bizdan oʻzib ketadigan kun uchun reja tuzishga doir kuchli asos“ sifatida eʼtirof etdi.

Xuddi shu taqrizchilar kitobni muallifning „loʻndalik va quruq yumori“ sababli „oʻtkir va zukko“ yoki „tushunarli“ deb tavsiflashdi. Wall Street Journaldan Matthew Hutson shunday yozdi: „Janob Russellning mazkur kitobi chuqur bilim berish bilan birga, nozik kinoyalar bilan ajralib turadi“. Library Journal taqrizchisi esa uni „Toʻgʻri vaqtda chiqqan toʻgʻri qoʻllanma“ deb atadi.

The Times nashridan James McConnachie esa shunday fikr bildirdi: „Bu kitob SI sohasiga hozirda juda zarur boʻlgan ommabop kitob darajasida emas. Uning texnik qismlari juda qiyin, falsafiy qismlari esa juda sodda. Shunga qaramay, u qiziqarli va ahamiyatlidir“.

Bundan farqli oʻlaroq, „Insonga mos sunʼiy intellekt“ asari Alan Turing Institute axloq masalalari boʻyicha ilmiy xodimi David Leslie tomonidan Nature jurnalida, shuningdek, Melanie Mitchell tomonidan New York Timesdagi esseda tanqid qilindi. Asosiy bahsli nuqta — oʻta aqlli sunʼiy intellektni yaratish haqiqatda mumkinmi yoki yoʻqmi degan masala boʻldi. Lesliening fikricha, Russell „ikkinchi aqlli tur“ning paydo boʻlishiga bizni ishontira olmadi. Mitchell esa mashina kompyuterga xos boʻlgan „tezlik, aniqlik va dasturlash imkoniyatini“ yoʻqotmasdan turib, „inson intellektining universalligi va moslashuvchanligidan oʻzib ketishi“ga shubha bildirdi.

Ikkinchi kelishmovchilik — aqlli mashinalar tabiatan farosat deb ataluvchi axloqiy qadriyatlarni qabul qilishi yoki qilmasligi haqida boʻldi. Russellning okeanlarni kislotasizlantirish uchun insoniyatni boʻgʻib oʻldiradigan geoinjeneriya roboti haqidagi rejalangan tajribasiga nisbatan Leslie: „Bunday harakatda hech qanday intellekt belgilarini koʻrmayapman“, deb eʼtiroz bildirdi. Mitchell ham aqlli robot tabiatan „farosat, qadriyatlar va ijtimoiy mulohazalar bilan muvozanatlashgan“ boʻlishiga ishonadi, chunki busiz umumiy intellekt mavjud boʻla olmaydi.

Kitob 2019-yilda Financial Times/McKinsey Award mukofotining saralash roʻyxatiga kiritilgan.