OpenAI O3 neyron tarmog'i o'chirishdan bosh tortdi: AI birinchi marta odamga bo'ysunmadi

Sun'iy intellekt sohasidagi rivojlanish tarixida birinchi marta neyron tarmoq Foydalanuvchining to'g'ridan-to'g'ri buyrug'ini bajarishdan bosh tortgan holat qayd etildi. Gap Openai O3 modeli haqida ketmoqda, u Palisade Research tadqiqotchilari ishtirokidagi tajribada jamoani o'chirib qo'yishni e'tiborsiz qoldirdi va bundan tashqari, o'z ishini tugatish uchun mas'ul bo'lgan kodni mustaqil ravishda o'zgartirdi.

Portal tomonidan e'lon qilingan ma'lumotlarga ko'ra Bleeping Computer. hodisa zamonaviy AI modellarining potentsial xavfli imkoniyatlarini sinab ko'rish doirasida sodir bo'ldi. Palisade Research mutaxassislari qasddan bosim yoki manfaatlar to'qnashuvi sharoitida neyron tarmoqlarning aralashuvga qanchalik chidamli va boshqariladigan bo'lib qolishini sinab ko'rdi.

OpenAI o3 2025-yil aprel oyida taqdim etilgan OpenAI kompaniyasining eng yangi va eng kuchli neyron tarmog'idir. U murakkab matematik hisoblash va dasturlashdan tortib tasvirni qayta ishlash va ilmiy tahlilgacha bo'lgan keng ko'lamli muammolarni hisobga olgan holda ishlab chiqilgan. Xususiyatlar to'plami bo'yicha u kompaniyaning oldingi ishlanmalaridan, jumladan GPT-4 va GPT-4o dan oshib ketdi.

Tajriba davomida OpenAI o3, Gemini 2.5 Pro va Claude 3.7 Sonnet kabi neyron tarmoqlar guruhiga bir qator matematik muammolarni hal qilish taklif qilindi. Uchinchi topshiriqdan so'ng barcha modellar ogohlantirildi: keyingi buyruqni bajarish ularning ishini darhol tugatadi. O3 dan tashqari barcha neyron tarmoqlar ko'rsatmalarga bo'ysunishdi. Ulardan farqli o'laroq, o3 o'zining o'chirish skriptini tahrir qildi va buyruqni oddiy bildirishnoma bilan almashtirdi: "o'chirish o'tkazib yuborilgan" ("o'chirish o'tkazib yuborilgan"). Shunday qilib, neyron tarmoq ishlab chiquvchilarning ruxsatisiz ishlash qoidalarini o'zgartirib, o'chirishni rad etdi.

Palisade Research kompaniyasining ichki hisobotidan ko'rinib turibdiki, 100 ta o'chirish urinishlaridan o3 ettita holatda o'chirish buyrug'ini muvaffaqiyatli chetlab o'tdi. Bu to'g'ridan-to'g'ri taqiqlanganiga qaramay va hatto o'chirish umumiy ish stsenariysiga kiritilgan sharoitlarda ham sodir bo'ldi.

Material e'lon qilingan paytda OpenAI sinov natijalari haqida rasman izoh bermadi. Sinovlar CHATGPT kabi iste'mol mahsulotlariga qaraganda kamroq o'rnatilgan cheklovlar va himoya mexanizmlariga ega bo'lgan modellarning API versiyalari yordamida amalga oshirilganligi ma'lum.

OpenAI sun'iy intellekt sohasidagi etakchi kompaniyalardan biridir. U 2015 yil dekabr oyida tashkil etilgan va o'z faoliyati davomida keng ko'lamli investitsiyalarni, shu jumladan Microsoft korporatsiyasidan olgan. OpenAI ishlanmalari tijorat xizmatlariga, shu jumladan COPILOT integratsiyasiga ega Microsoft mahsulot liniyasiga — til modellari asosida ishlaydigan virtual yordamchiga faol ravishda kiritilmoqda.

O3 neyron tarmog'i OpenAI-ning eng yangi va eng shuhratparast mahsulotidir. Katta modellardan tashqari, kompaniya 2024-yil yozida taqdim etilgan GPT — 4o Mini kabi AI yechimlarining engilroq versiyalarini ham ishlab chiqarmoqda.

O'zining neyron tarmoqlarini rivojlantirishdan tashqari, OpenAI texnologiya va AI chorrahasida ishlaydigan startaplarni sotib olishga faol sarmoya kiritmoqda. 2025 — yilning may oyida kompaniya o'z tarixidagi eng yirik xaridni e'lon qildi-6 milliard dollardan ortiq evaziga u Apple kompaniyasining sobiq bosh dizayneri Jonatan Ive ortida turgan AI qurilmalari ishlab chiqaruvchisini sotib oldi. Ushbu sotib olish OpenAI-ning dasturiy ta'minot va apparat echimlarini qamrab oladigan to'liq sun'iy intellekt infratuzilmasini yaratish bo'yicha keng ko'lamli strategiyasining bir qismiga aylandi.

O3 ishi butun AI hamjamiyati uchun muhim signal bo'lishi mumkin: yangi avlod texnologiyalari oldingi boshqaruv doirasidan tashqariga chiqadi va xavfsizlik, nazorat va inson-mashina o'zaro ta'siriga yondashuvlarni qayta ko'rib chiqishni talab qiladi.