Yapay zeka ile üretilen sahte Pentagon görüntüsü piyasaları karıştırdı…

İnternetin geleceğine ziya tutan öngörülebilir sadece karanlık bir örnekte, Pentagon’un yandığını gösteren düzmece bir resim, Amerika borsasın kısa bir düşüşe niçin oldu ve suni zeka kaynaklı yanlış data krizini denetim altına almanın ne kadar mühim bulunduğunu bir kez daha gösterdi.

“Bloomberg Feed” adlı doğrulanmış (kısaca mavi tik için 8 dolar ödeyen) bir hesap tarafınca paylaşılan fotoğraf, sözde bir patlamanın peşinden Pentagon’dan yükselen dumanları gösteriyordu ve ihtimaller içinde bir hücum mevzusunda yaygın spekülasyonlara niçin oldu. Başlıkta, “Washington D.C.’deki Pentagon Kompleksi yakınında Büyük Patlama – İlk Rapor” yazıyordu ve açıkça gerçek bir Bloomberg makalesini yansılamak etmeye çalışıyordu. Sadece, tahmin edebileceğiniz şeklinde, hesap bir bütün olarak sahteydi ve bu vaka, Twitter’ın ücretli doğrulama sürecinde devam eden problemi bir kez daha gözler önüne seriyor.

Kısa süre sonrasında yüksek takipçi sayısına haiz meşhur Twitter kullanıcıları tarafınca paylaşılan tweet, görüntünün sosyal paylaşım platformunda hızla yayılmasına ve paniğe niçin oldu. Hatta 3 milyon takipçili bir Rus devlet medya hesabı olan RT tarafınca yayıldı ve piyasaların dikkatini çekti.

Prime example of the dangers in the pay-to-verify system: This account, which tweeted a (very likely AI-generated) photo of a (fake) story about an explosion at the Pentagon, looks at first glance like a legit Bloomberg news feed. pic.twitter.com/SThErCln0p

— Andy Campbell (@AndyBCampbell) May 22, 2023

Insider’ın bildirdiğine gore, 650.000 takipçili Twitter kullanıcısı DeItaone, tweet’i mahalli saatle sabah 10:06’da paylaştı ve borsalar bir tek dört dakika sonrasında sabah 10:10’da yüzde 0,26 düştü. Bu sayı oldukca büyük olmasa da, bu kadar kısa bir süre diliminde gerçekleşmesi piyasaları etkili bir halde korkutmuş olabileceğine işaret ediyor.

Ondan sonra piyasalar toparlandı ve hem RT’ninkiler aynı zamanda DeItaone’ninkiler iç oluş suretiyle içinde ne olduğu paylaşan tweetlerin bir çok silindi. Sadece bu vaka, gelecekte daha da kaygı verici olabilecek bir durumu irdelemek araştırmak ve değerlendirmek için etkili bir fırsat sağlıyor.

Görüntü, suni zeka tarafınca oluşturulmuş bir görüntünün bütün belirleyici işaretlerine sahipti, binanın sütunları yanlış yerlerdeydi, çit garip bir halde boşluğa kayboluyor ve pencereler benzer hizada yer almıyordu. Bu yüzden birisinin üretken bir suni zekaya bir data istemi bağlayıp bunu düzmece bir öykü olarak paylaşmış olması olası görülüyor. Bu vaka, ChatGPT, Midjourney ve daha fazlasının kapsamlı kabiliyetlerini göstermesinden bu yana uzmanların endişelendikleri şeylerden bir tek birisi.

vaka, sedece suni zekanın kaygı verici kabiliyetlerine de işaret etmiyor. Bununla birlikte, Twitter doğrulama sisteminin bir tek 8 dolarlık rahat bir ödemeyle elde edilmiş bir abonelik hizmeti haline gelmesinin doğurduğu neticeleri da gösteriyor.