ChatGPT şeklinde büyük lisan modellerinin (LLM’ler) kullanımı hızla artıyor. Bunun sebebi de işlerini oldukça iyi yapıyor olmaları. Aslına bakarsak, o denli iyi ki, üniversite dersleri için açık ve ikna edici makaleler bile oluşturabiliyor. Bundan dolayı bundan böyle, makine tarafınca oluşturulan metinleri algılayan sistemlere gerekseme duyuluyor.
Kısa bir süre evvel Stanford’daki bir grup araştırmacı DetectGPT isminde yeni bir metot önerdi ve bu yöntemin yükseköğretimde imal edilen metinlerle mücadelede kullanılacak ilk araçlardan birisi olmasını hedefliyor. Metot, LLM’ler tarafınca imal edilen metinlerin tipik olarak modelin olasılık fonksiyonunun negatif eğrilik bölgelerinin belirli bölgeleri çevresinde gezdiği fikrine dayanıyor. Bu içgörü olanakları sayesinde ekip, metnin makine tarafınca üretilip üretilmediğini ölçüp tartmak ve karar vermeye çalışmak için bir suni zekayı eğitmeye ya da metni karşılaştırmak için büyük degisecek kümeleri toplamaya dayanmayan yeni bir metot geliştirdi.
“Sıfır atış” olarak isimlendirilen bu metot, DetectGPT’nin makine tarafınca yazılmış metni, onu yaratmak için kullanılan suni zeka hakkında rastgele bir informasyon olmadan tespit etmesini sağlıyor. Eğitim ‘sınıflandırıcıları’ ve gerçek ve üretilmiş pasajlardan meydana gelen degisecek kümeleri gerektiren öteki yöntemlerin tam aksine çalışmakta.
Ekip DetectGPT sistemini bir takım düzmece havadis, bilgi, salık makalesinde kullandı ve sistem sahteleri ayıklamak penceresinden öteki tanımlama şekillerinden oldukça daha iyi bir iş çıkardı. DetectGPT makineler tarafınca imal edilen metinleri en iyi tespit edecek sistem olabilir.
Özetle, DetectGPT, LLM’ler tarafınca oluşturulan metni saptamak için yeni bir metot. Rastgele bir ilave degisecek ya da eğitim gerektirmiyor, bu da onu makine tarafınca oluşturulan metni tanımlamak için verimli ve etkili bir otomobil haline getiriyor. LLM’lerin kullanımı artmaya devam ettikçe, makine tarafınca oluşturulan metinleri saptamak için ilgili sistemlerin önemi giderek daha tehlikeli sonuç hale istikbal şeklinde görünüyor.
DetectGPT, birden çok alanda mühim bir etkiye haiz olabilecek ümit verici bir yaklaşım ve daha da geliştirilmesi birden çok alan için yararlı olabilir.
