Deepfake tehlikesine dikkat çekmek için ilk “sertifikalı” deepfake oluşturuldu…

Geçtiğimiz on seneler süresince küçüklere internette gördükleri her şeye inanmamaları söylendi. Fakat bundan böyle bu öğüdü yetişkinleri de kapsayacak biçimde genişletmemiz gerekmektedir.

Suni zeka (AI) teknolojisinin videoları ve sesi gerçek yaşamı yansılamak edecek biçimde manipüle yapmak eylemek için kullanıldığı ve “deepfake” olarak isimlendirilen vakalar giderek daha çok karşımıza çıkıyor. Ve şimdi, Dünya’nın ilk “sertifikalı” deepfake videosu, bir şeffaflık örneği meydana getirmeye yardım etmek için AI stüdyosu Revel.ai tarafınca gösterildi.

Bu videoda, yetkin ve uzman bir AI danışmanı olan Nina Schick‘in “gerçek ile kurgu arasındaki çizgilerin nasıl bulanıklaştığı” mevzusunda bir uyarıda bulunmuş olduğu görülüyor. Sadece, yazının başlangıcından da tahmin edebileceğiniz benzer biçimde, videoda görülen aslına bakarsak gerçek Schick değil ve video, dijital özgünlük şirketi Truepic tarafınca kriptografik olarak imzalanarak suni zeka tarafınca imal edilen içerik içerdiğini beyan ediyor.

Deepfake teknolojisi ile imal edilen “düzmece Schick” yavaş ve net bir halde, “Bir kısmı gerçeğin bizim gerçekliğimizin bir yansıması bulunduğunu söylüyor” diyor. Beyanatlar şöyleki devam ediyor: “Onu kendi duyularımızla tanımlamaya alışkınız. Peki ya gerçekliğimiz değişiyorsa? Ya burada ve burada gördüklerimizin gerçekliğini ortaya çıkarmak için bundan böyle duyularımıza güvenemezsek? Suni zekanın şafağındayız ve gerçek ile kurgu arasındaki çizgiler şimdiden bulanıklaşıyor. Gölgelerin gerçekle karıştırıldığı bir dünya ve kimi zaman vakaları gerçekte oldukları benzer biçimde müşahade etmek için nazar açımızı kökten değiştirmemiz gerekmektedir. Bu deepfake, Revel.ai tarafınca Nina Schick’in izniyle oluşturuldu ve Truepic tarafınca kriptografik olarak imzalandı.”

Porno videolarla ortaya çıktı

Deepfake’ler, ses, görüntü ya da videoyu manipüle yapmak eylemek için “derin öğrenmeyi” kullanan, hiper gerçekçi sadece düzmece medya içinde ne olduğu meydana getiren suni zeka biçimleridir. Terim, 2017 senesinde bir Reddit kullanıcısının foruma manipüle edilmiş porno videolar göndermesiyle ortaya çıktı.

Videolar, Gal Gadot, Taylor Swift ve Scarlett Johansson benzer biçimde ünlülerin yüzlerini izinleri olmadan porno yıldızlarıyla değiştirmişti. Deepfake’in tehlikeli bir öteki örneği, geçtiğimiz sene Rusya toplumsal medyasında geniş çapta dolaşan bir videoda Ukrayna cumhurbaşkanı Volodymyr Zelensky’nin Rusya’ya teslim olmuş benzer biçimde görünmesiyle ortaya çıktı. Cumhurbaşkanı, bu düzmece videoda Ukrayna askerlerini silahlarını bırakmaya ve Putin’in işgalci güçlerine boyun eğmeye çağırıyordu.

Dikkatli web kullanıcıları Zelensky’nin boynunun ve yüzünün rengi, acayip aksanı ve kafasının etrafındaki pikselleşme benzer biçimde tutarsızlıkları süratli bir halde bulsa da, bu video ilk bakışta iyice gerçekçi gözüküyordu.

Deepfake videoları keyif amaçlı bir değere haiz olabilse de, çeşitli uzmanlar oluşturabilecekleri tehlikeler mevzusunda senelerdir uyarılarda bulunmakta.

Pek fazlaca uzman, bu deepfake videoların saygınlık zedelemenin de ötesine geçerek ulusal seviyeye kadar çıkabilecek dikkat edilmesi gereken güvenlik tehlikeleri oluşturabileceğine ve “düşman etkenler” tarafınca kendi amaçları için kullanılabileceğine işaret ediyor.

DALL-E ve Meta’nın “Make-A-Video” benzer biçimde ücretsiz bir şekilde kullanılabilen metinden görüntüye ve metinden videoya suni zeka araçlarının yükselişiyle, manipüle edilmiş medya daha yaygın hale istikbal benzer biçimde gözüküyor. Hatta, 2025 senesine kadar çevrimiçi içeriğin yüzde 90’ının suni zeka kullanılarak üretileceği ya da oluşturulacağı tahmin ediliyor. Kısacası bundan böyle, internette gördüğümüz her şeye fazlaca daha çok şüpheyle yaklaşmamız lazım olabilir.