Yapay zeka artık insanları nasıl kandıracağını öğrendi

Suni zeka dünyası hızla gelişmeye devam ediyor. ChatGPT benzer biçimde üretken suni zeka söyleşi robotlarının başarısını müşaahade ediyoruz ve pek fazlaca şirket uygulamalarına ve programlarına suni zekayı iç yapmak eylemek için çalışmakta. Ayrıca suni zeka tehdidi hala büyük bir mesele olmaya devam ederken, araştırmacılar suni zekanın bizlere ne kadar basit yalan söylemiş olduğu ve bunun ileride ne anlama gelebileceği mevzusunda çeşitli enteresan endişeleri dile getirdi.

ChatGPT ve öteki suni zeka sistemlerinin kullanımını güçleştiren şeylerden birisi, bilgiyi “halüsinasyon” olarak isimlendirilen anında uydurma eğilimleri. Bu, suni zekanın emek verme şeklindeki bir eksiklik ve araştırmacılar suni zekanın bizi daha da çok kandırmasına izin verecek biçimde genişletilebileceğinden kaygı ediyor.

Peki suni zeka bizlere hakkaten yalan söyleyebilir mi? Bu enteresan bir sual ve çeşitli araştırmacılar bunu yanıtlayabileceklerine inanıyor. Araştırmacılara nazaran Meta’nın CICERO suni zekası, suni zekanın ne kadar aldatıcı olabileceğinin en rahatsız edici örneklerinden birisi. Bu model Diplomacy oynamak için tasarlandı ve Meta “muazzam bir şekilde dürüst ve muavin” oluş için tasarlandığını söylüyor.

Sadece CICERO deneyinden elde edilmiş verilere bakıldığında, araştırmacılar CICERO’nun bir yalan makinesi bulunduğunu söylüyorlar. Hatta CICERO, bir insan oyuncuyla beraber emek vererek başka bir insan oyuncuyu kandırıp kendisini istilaya açık hale getirecek biçimde kandırmayı evvel planlayacak kadar ileri gitti.

Bunu, Alman oyuncuyla komplo kurarak ve arkasından İngiliz oyuncuyla beraber emek vererek onların şimal Denizi’nde bir açıklık bırakmasını sağlayarak yapmış oldu. Bunu Almanya’nın oyuncusuyla komplo kurarak ve arkasından İngiltere’nin oyuncusuyla emek vererek şimal Denizi’nde bir açıklık bırakmalarını sağlayarak yapmış oldu. Suni zekanın oyuncuları kandırıp başarıya erişmek için nasıl yalan söylediğini ve onlara karşı nasıl çalıştığının kanıtını yukarıda görebilirsiniz. Bu enteresan bir delil ve araştırmacıların CICERO suni zekasından kaydettiği birden çok örnekten bir tek birisi.

Buradaki tehlike, bunun birkaç değişik biçimde kötüye kullanılabilecek olmasından kaynaklanıyor. Araştırmacılar hazırladıkları raporda potansiyel riskin “yalnızca fena niyetli kişilerin düş kuvveti ve teknik data birikimi ile sınırı olan bulunduğunu” belirtiyor. Bu davranışın gelecekte nereye varabileceğini müşahade etmek enteresan olabilir, bilhassa de bu davranışı bilgi almak açık bir kandırma niyeti gerektirmiyorsa…