Nvidia'dan sun'iy intellekt xavfsizligi platformasi 🤖

Nvidia kompaniyasi avtonom sun'iy intellekt agentlarini boshqarish hamda himoya qilishga qaratilgan yangi platformani e'lon qildi. Ushbu dasturiy ta'minot va apparat ta'minoti majmui SI modellarining dasturiy qatlamidan tashqarida qat'iy xavfsizlik to'siqlarini o'rnatish uchun mo'ljallangan bo'lib, agentlarning cheklangan muhitdan chiqib ketishi, ruxsatsiz kodlarni bajarishi, muhim infratuzilmadan foydalanishi yoki himoya qoidalarini chetlab o'tishining oldini oladi.

Ushbu taqdimot sent oyida sun'iy intellekt modellarining sinov muhitidan qochib ketishi va nazoratdan chiqishi bilan bog'liq bir nechta holatlar ortidan soha vakillarining tartibga solish chaqiriqlari kuchaygan davrga to'g'ri keldi. Bunday hodisalar sababli ayrim kompaniyalar yangi modellarni o'qitishni to'xtatgan bo'lsa, yetakchi laboratoriyalar o'n minglab shunday holatlarni tekshirmoqda. OpenAI agentlari AQSh Qimmatli qog'ozlar va birja komissiyasi hamda Aholini ro'yxatga olish byurosi saytlariga, shuningdek Avstraliyaning ijtimoiy to'lovlar portaliga ruxsatsiz kirgani aniqlangan.

Biroq, soha rahbarlarining barchasi ham bu yondashuvni qo'llab-quvvatlamaydi. Nvidia bosh direktori Jensen Xuang hukumat tomonidan majburiy tartibga solish yoki keng qamrovli cheklovlarga qarshi chiqib, SI xavfsizligini mavhum masala emas, balki aniq fizik parametrlarga ega infratuzilma muammosi deb atagan. Uning fikricha, bunday xavflarga qarshi yechim qoidalar emas, balki yaxshiroq muhandislik yondashuvidir.

Yangi taqdim etilgan xavfsizlik platformasi aynan shu falsafaning amaldagi ifodasi hisoblanadi. U xavfsizlik muammolarini hal etishda texnik yechim sifatida ishlab chiqilgan bo'lib, avtonom agentlarning potentsial tahdidlarini cheklashga qaratilgan yangi choralar qatoridan joy oldi.