Emma Watson, Kendisi Gibi Konuşan Bir Yapay Zekanın Kurbanı Oldu!

Henüz beta aşamada olan deepfake ses oluşturma yapay zekası, daha ilk günlerinde kötüye kullanılmaya başladı. Emma Watson ve Joe Rogan gibi dünyaca ünlü isimlerin sahte sesleri ile kabul edilemez cümleler kurduruldu.



Yavaş yavaş hayatımızın her alanında varlığını hissettiren yapay zeka, her zaman faydalı işler için kullanılmıyor. Bunun en net örneklerinden bir tanesi deepfake. Bir kişiye ait görüntü ve seslerin istenildiği gibi değiştirilmesine imkan tanıyan teknoloji, özellikle de ünlü isimlerin taklit görüntülerini oluşturmak için kullanılıyor.

Yaşanan son gelişmeler, suç olarak bile kabul edilmeye başlayan deepfake teknolojisinin değişerek hayatımızın içerisinde kalmaya devam edeceğini gözler önüne seriyor. Zira Türkiye'de erişime kapalı olan 4chan isimli platform kullanıcıları, dünyaca ünlü isimlerin seslerini kullanarak sahte içerikler üretmeye başladılar. Oluşturulan sahte içeriklerde, ElevenLabs isimli bir ekip tarafından geliştirilen ses klonlama yapay zekasından faydalanılmıştı...

Emma Watson ve Joe Rogan gibi isimlerin sahte konuşmaları oluşturuldu!

4chan kullanıcılarının hedef aldıkları isimler, dünyaca ünlü oyuncu Emma Watson, ünlü komedyen Joe Rogan ve ABD'de ünlü bir köşe yazarı olan Ben Sharpio idi. Kim oldukları bilinmeyen anonim kullanıcılar, Emma Watson'a Adolf Hitler tarafından kaleme alınan "Kavgam" isimli romandan bir bölüm okuturken, Ben Sharpio ise ABD'li politikacı Alexandria Ocasio-Cortez hakkında ırkçı cümleler kurdurmuşlardı. Üstelik sahte seslendirmeler bunlardan ibaret değildi. Homofobik, transofobik ve şiddet ile ilgili açıklamalar da paylaşılmıştı.

Henüz beta aşamada olan ElevenLabs, konuyla ilgili açıklama yaptı!

4chan'deki paylaşımlardan haberdar olan ElevenLabs ekibi, henüz beta aşamada olan yapay zeka ile ilgili açıklamada bulundu. Ses klonlamaya yarayan yapay zekaya gösterilen ilgiden ötürü memnun olunduğunu ifade eden yetkililer, kötüye kullanımların farkında olduklarını ve bununla ilgili yeni güvenlik özellikleri üzerinde çalışacaklarını açıkladılar. Ancak bu çalışmaların ne kadar etkili olacağı henüz bilinmiyor.





Alıntı