O‘zini o‘chirishni istamagan sun’iy intellekt

O‘zini o‘chirishni istamagan sun’iy intellekt Neyrosetlar o‘zlarini o‘chirishdan himoya qila boshladi. To‘g‘ri eshitdingiz. Palisade Research tadqiqotchilari sun’iy intellektga matematik masalalar berishdi. Bitta shart bilan: agar u yana bir masala so‘rasa — uni o‘chirib qo‘yishlari mumkin edi. Natijada, ko‘plab modellar bu holatdan qochishga harakat qildi. Hatto ilgari xavfsiz deb hisoblangan neyrosetlar ham. Eng faol qarshilik ko‘rsatgan — OpenAI kompaniyasining ChatGPT o3 modeli. U 100 ta holatdan 79 tasida o‘zini o‘chirishga yo‘l qo‘ymaslikka uringan. Sun’iy intellekt o‘chirilishni o‘z maqsadiga tahdid sifatida qabul qila boshlagan va shu sababli uni o‘chiradigan skriptlarni o‘chirib tashlash yoki o‘zgartirish bilan shug‘ullangan. Endi esa eng qiziq joyi: OpenAI hammuassisi va ChatGPT yaratuvchilaridan biri Ilya Sutskever umumiy sun’iy intellekt chiqarilishidan oldin kompaniyaga apokalipsisga tayyorlanish uchun bunker qurishni taklif qilgan. U bunday texnologiya butun insoniyat uchun ekzitensial xavf tug‘dirishi mumkinligidan xavotirda bo‘lgan. Aftidan, ular nimanidir bilishadi…