Suxerver jamoasi o'ta aqlli sun'iy intellekt ustidan nazorat yaratdi 🤖

OpenAI kompaniyasi tomonidan e'lon qilingan yangi ilmiy ishda o'ta aqlli sun'iy intellektning paydo bo'lishi muqarrar ekanligi hamda kompaniya uni insoniyatga qarshi chiqishining oldini olish uchun vositalar ustida ishlayotgani ma'lum qilindi. Ushbu maqolada Ilya Suxerver bosh muallif sifatida ko'rsatilgan, biroq uning kompaniyadagi kelgusi roli va maqomi hozircha aniq emas.

Tadqiqotda insoniyatdan aqliy qobiliyatlari jihatidan sezilarli darajada ustun bo'ladigan sun'iy intellekt kelgusi o'n yil ichida yaratilishi mumkinligi taxmin qilingan. Kelajakdagi o'ta kuchli sun'iy intellekt tizimlarini xavfsiz qilish va ularni to'g'ri yo'naltirish masalasi har qachongidan ham muhim ahamiyat kasb etmoqda.

"Kuchsizdan kuchliga o'tishni umumlashtirish" deb nomlangan mazkur ilmiy maqola Ilya Suxerver va Yan Leyke tomonidan iyul oyida tuzilgan "Supermuvofiqlashtirish" jamoasining ilk ishi hisoblanadi. Mazkur guruhning asosiy vazifasi insonlardan aqlliroq bo'lgan tizimlarning insoniyat qoidalariga amal qilishini ta'minlashdan iborat. Taklif etilayotgan yechimga ko'ra, OpenAI o'ta qudratli sun'iy intellekt modellarini o'qitish uchun kichikroq sun'iy intellekt modellarini yaratishi kerak.

Hozirgi vaqtda OpenAI ChatGPT faoliyatini nazorat qilish uchun insonlarning ijobiy yoki salbiy fikr-mulohazalaridan foydalanadi. Biroq ChatGPT yanada aqlliroq bo'lib borayotgan bir paytda, mutaxassislar kelgusida insonlar bu modellarni o'qitish uchun yetarli bo'lmasligini tan olishmoqda. Shuning uchun ham bizdan ko'ra kamroq murakkab bo'lgan sun'iy intellektni bizning nomimizdan bu vazifani bajarishga o'rgatish talab etiladi.

Bu holat Sem Altman deyarli barcha xodimlar kompaniyaga qaytganini e'lon qilganidan beri Ilya Suxerverning OpenAI'dagi faolligining ilk belgisi bo'lmoqda. Shu bilan birga, uning maqomi hozircha noaniqligicha qolmoqda. Suxerver kompaniya asoschilaridan biri bo'lib, Altmanni lavozimidan chetlatgan direktorlar kengashi a'zolaridan biri edi. Uning so'nggi haftalarda kompaniyada ko'rinmagani va advokat yollagani ham xabar qilingan.