ChatGPT, bu sefer bir dava için emsal toplamada kullanıldı ve yanlış bilgi verdi…

Amerika’da görülen yakın tarihindeki bir davada, bir avukatın yasal araştırma için ChatGPT’yi kullandığı ve bu da yanlış bilgilerin sunulmasına niçin olduğu ortaya çıktı. vaka, yanlış bilgilerin yayılması da iç oluş suretiyle hukuk sahasında AI ile ilişkili potansiyel riskleri bir kez daha gösteriyor.
Dava, bireysel yaralanma iddiasıyla bir havayolu şirketini dava eden bir adamı içeriyordu. Davacının hukuk ekibi, iddiaları için yasal bir emsal yapmaya emek harcayarak, iddialarını desteklemek amacıyla daha evvelki birkaç mahkeme davasına atıfta var olan kısa bir sunum yapmış oldu. Sadece, havayolunun avukatları, atıfta bulunulan çeşitli davaların gerçekte var olmadığını ayrım ettiler ve mahkeme başkanını uyardılar.
Davaya başkanlık eden Hakim Kevin Castel, durumu “benzeri görülmemiş bir vaziyet” olarak nitelendirerek duruma şaşırdığını beyan etti ve hukuk ekibinden bir izahat istedi.
Kafa avukatın bir meslektaşı olan Steven Schwartz, benzemekte yasal emsalleri araştırmak için ChatGPT’yi kullandığını itiraf etti. Yazılı bir açıklamada Schwartz, “evvelinden suni zekayı yasal araştırma için asla kullanmadığı ve içinde ne olduğunun yanlış olabileceğinden habersiz olduğu” için derin üzüntü duyduğunu beyan etti.
Dosyaya eklenen monitor görüntüleri, Schwartz ve ChatGPT arasındaki bir konuşmayı gösteriyor. Schwartz, ChatGPT’ye verdiği istemde Varghese-China Southern Airlines Co Ltd davasının gerçek olup olmadığını soruyor.
ChatGPT, davanın LexisNexis ve Westlaw benzer biçimde yasal referans veritabanlarında bulunabileceğini belirterek gerçekliğini doğruladı. Sadece, daha sonraki soruşturmalar davanın olmadığını ortaya çıkardı ve bu da ChatGPT tarafınca sağlanan öteki davalar hakkında daha çok şüpheye yol açtı.
Bu olayın ışığında, davaya iç olan her iki avukat, Levidow, Levidow & Oberman hukuk firmasından Peter LoDuca ve Steven Schwartz, eylemlerini açıklamaları için 8 Haziran’da yapılacak disiplin duruşmasına çağrıldılar.
Bu vaka, yasal incelemelerde AI araçlarının münasip kullanımı ve benzemekte oluşumları önlemek için kapsamlı yönergelere duyulan gerekseme mevzusunda hukuk topluluğunda tartışmalara yol açacak benzer biçimde görünüyor.