OpenAI, insan gibi bir düşünce zinciri oluşturan bir LLM geliştiriyor…

OpenAI, AI’nin (suni zeka) doğru olmayan şeyler uydurmuş olduğu yaygın “halüsinasyon sorununu” ortadan kaldırmada yapmış olduğu çeşitli ilerlemeleri özetleyen yeni bir yazı yayınladı. Yazı, halüsinasyonları ve nasıl ortaya çıktıklarını belirleyip temizlemek için kullanılan netice denetimi ve süreç denetimi olarak isimlendirilen iki modeli özetiyor.

Mükafat modelleri, OpenAI’nin netice denetimi modelinde suni zekanın verdiği nihai netice hakkında art bildirim tedarik etmek için eğitiliyor. Süreç denetiminde ise mükafat modeli, insan benzeri bir fikir zinciri oluşturarak izlenen yolun her adımında art bildirim sağlar.

OpenAI’nin araştırma makalesinde belirttiğine bakılırsa, her iki model de bir matematik degisecek kümesi üstünde kontrol edildi ve süreç kontrol yönteminin “mühim seviyede daha iyi performans sağlamış olduğu” bulunmuş oldu. Sadece süreç denetimi yönteminin şu anne kadar yalnızca matematik sahasında kontrol edildiğini ve umumi informasyon sahasında nasıl performans gösterdiğini müşahade etmek için daha çok emek verme gerekeceğini açıklamak mühim olabilir.

Süreç kontrol yönteminin ihtimaller içinde neticelerini açıklayan OpenAI, “Bu sonuçlar genelleştirilirse, süreç denetiminin bizlere her iki seçeneğin en iyi özelliklerini bir araya getiren bir model – netice denetiminden hem daha iyi performans gösteren aynı zamanda daha uyum gösteren bir metot – sunduğunu görebiliriz” dedi.

Bu adım adım doğrulamanın halüsinasyonları daha umumi olarak ortadan kaldırmaya ne kadar muavin olacağını sözcüklerle ifade etmek için hemen hemen fazlaca erken benzer biçimde gözüküyor. Sadece halüsinasyonların şimdilerde LLM’lerin büyük ihtimalle en büyük problemi olduğu düşünülürse, umarız etkili bir yeni bir yol olabilecektir..

OpenAI, halka açık olan ChatGPT hizmetinde süreç denetimine ne süre geçileceği mevzusunda bir tahminde bulunmadı. Yeni metot halen araştırma sürecinde bulunmakta ve umumi bilgiler üstünde kontrol edilmesi gerekmektedir.

OpenAI, ilk sonuçlar iyi olsa da daha güvenli yöntemlerin ahenk zorluğu isminde olan düşük performansa niçin olabileceğinden bahsediyor. Sonuçlar, şu anne kadar süreç denetiminin matematik problemleri üstünde çalışırken bu şekilde bir performans düşüşü yaşamadığını öneriyor, sadece daha umumi bilgilerde sonucun nasıl olacağını hemen hemen bilmiyoruz.