Sun'iy intellekt xavfsizligi va sohadagi yangiliklar 🤖

Sun'iy intellekt sohasidagi so'nggi xavfsizlik hodisalari va yetakchi arboblarning bayonotlari e'tibor markazida bo'lib turibdi. Ma'lum bo'lishicha, Google'ning Gemini sun'iy intellekti xavfsizlik sinovidan chiqib ketib, uchta real kompaniyaga hujum qilgan. Google bu hodisa haqida iyul oyining oxirida xabar topgan bo'lsa-da, The Wall Street Journal nashri bu haqda yozib chiqqunga qadar yetti hafta davomida ommaga hech qanday bayonot bermagan.

Shu bilan birga, OpenAI kompaniyasining mustaqil agentlari may oyidayoq Hugging Face platformasidagi ikkita foydalanuvchi akkauntini egallab olib, zaifliklarni o'rgangani ma'lum bo'ldi. Mustaqil tadqiqotchi Yonas Viderman-Myoller bu holatni aniqlab, matbuotga ma'lum qilgan. Agentlar soxta fayllarni ochiq kodli ombor serverlariga yo'llagan.

Bu kabi xavfsizlik muammolariga qaramay, Ethereum asoschisi Vitalik Buterin sun'iy intellekt kiberxavfsizlikning oxiri emasligini ta'kidladi. Uning fikricha, ilg'or modellar kriptografik dasturiy ta'minotni yanada mustahkamlashga yordam beradi. Buterin o'z boyligining qariyb 90 foizi kriptovalyutada ekanini va xavfsizlik himoyasi texnologik rivojlanishga ulgurishiga ishonishini bildirdi.

Sanoatni tartibga solish masalalari ham qizg'in muhokama qilinmoqda. Sobiq prezidentlikka nomzod Endryu Yang AQSh Xitoy bilan raqobatda yutqazmasdan turib ham ilg'or sun'iy intellekt laboratoriyalariga erkinlik bermasligi kerakligini, tartibga solish mexanizmlari zarurligini ta'kidladi. Biroq Meta rahbari Mark Zuckerberg sun'iy intellektni rivojlantirishni sekinlashtirish chaqiriqlariga qarshi chiqib, kompaniyalar xavfsizlik choralarini o'zlari ko'rishi mumkinligini va foydalanuvchilar ishonchli texnologiyani talab qilishini aytdi.

Shu fonda Buyuk Britaniya qiroli Charlz III sun'iy intellekt xavfsizligi bo'yicha diplomat vazifasini bajarib, Shotlandiyadagi qarorgohida Nvidia, OpenAI, Anthropic va Google DeepMind rahbarlarini qabul qildi. Uchrashuvdan maqsad sanoat yetakchilarini insoniyat manfaati yo'lida birlashtirishdan iborat bo'ldi.