Emma Watson ve Scarlett Johansson’un seksi deepfake videoları

Suni zeka günlük hayatımızda giderek daha büyük bir rol almaya devam ederken, bununla beraber kendi sorunlarını da getiriyor. Bu hafta, tamamında Emma Watson ve Scarlett Johansson’a benzeyen yüzlerin yer almış olduğu yüzlerce deepfake videosu, FaceMega adlı bir AI deepfake uygulaması için meydana getirilen bir reklam kampanyasının parçası olarak Feysbuk ve Instagram’da gösterildi.

İlk olarak NBC News tarafınca duyurulan haberde, Feysbuk ve Instagram’da 200’den çok videonun yayınlandığını bildirdi. 127’sinde Watson, 74’ünde ise Johansson’un yer almış olduğu reklam videolarının tamamında kadın oyuncular “kışkırtıcı” durumlarda ve müstehcen temalar içeren şekillerde görünüyordu.

Görünüşe gore kampanya bir FaceMega reklamıydı ve kullananların, 7 günde 8 dolar karşılığında, bir videodaki birinin yüzlerini uygulamaya yüklenen fotoğraflarla değiştirmesine olanak sağlıyor. FaceMega bir süredir Apple App Store’dan kaldırılmış benzer biçimde görünüyor, sadece ova yayına hazırlanırken Google Play Store’da hala mevcuttu.

Videolardan birinin monitor kaydını Twitter’a yükleyen Lauren Barton, NBC News ile yapmış olduğu görüşmede bu uygulamanın diktatörlük altındaki öğrenciler benzer biçimde gençler üstünde kullanılabileceğini ve durumu oldukça daha kötüye götürebileceğini belirtti: “Birinin yaşamını mahvedebilir. İşlerinde problem yaşayabilirler. Ve bunu oluşturmak oldukça basit ve parasızdır. Tek yapmam ihtiyaç duyulan yüzümün bir resmini yüklemekti ve 50 parasız şablona erişebiliyordum.”

i got this isim yesterday and wow what the hell pic.twitter.com/smGiR3MfMb

— lauren (@laurenbarton03) March 6, 2023

Uygulamanın kendi Şartlar ve Koşulları kullananların “aldatıcı davranmasına ya da rastgele bir şahıs ya da kuruluşun kimliğine bürünmesine” izin verilmediği söylese de, gösterilen reklamlar bu şartlara aykırı görünüyor.

NBC News, kampanyanın Çinli anne şirketi Wondershare‘in sahibi olduğu uygulama geliştiricisi Ufoto Limited‘den geldiğini söylüyor.