Yapay zekâyla üretilen ve bir kişinin hiç olmamış bir şeyi söylemesini veya yapmasını taklit etmek üzere tasarlanabilen videolar, görüntüler veya seslere “deepfake” deniyor. Bazı deepfake'ler gerçek video görüntülerinin üzerine bir benzerlik yerleştirirken, diğerleri tamamen bilgisayar tarafından üretiliyor. Bu kapsamda, yapay zekânın yarattığı en büyük sorunlardan biri de deepfake'ler olarak biliniyor.
Deep Trace tarafından 2019 yılında yapılan The State of Deepfakes adlı bir araştırma, deepfake videoların yüzde 96'sının pornografik olduğunu ortaya koydu.
Bu çalışmanın yazarlarından biri olan deepfakes araştırmacısı Henry Ajder, Business Insider'a verdiği demeçte, rakam değişmiş olsa da, sorunun aynı derecede ciddi olmaya devam ettiğini söyledi.
BBC News'in haberine göre, 2021 yılında bir İngiliz genç, okulundaki diğer öğrenciler tarafından sahte pornografik görüntüleri oluşturulup bir Snapchat grubunda paylaşıldıktan sonra intihar etti.
Teknolojinin geldiği nokta korkutucu olsa da kimliğinizin yapay zekâ tarafından manipüle edilmesine karşı korunmanıza yardımcı olabilecek bazı araçlar ve yöntemler bulunuyor.
DEEPFAKE ALGILAMA
İçeriğin yapay zekâ tarafından üretildiğinin açıkça belirtildiği dijital filigranlar, Biden yönetimi tarafından bir çözüm olarak desteklendi.
Etiketler hem kamuoyunda farkındalık yaratmayı hem de platformların zarar verici sahte içerikleri kazıyıp kaldırmasını kolaylaştırmayı amaçlıyor.
Google ve Meta, içeriğin kökenini daha net hale getirmek için yapay zekâ tarafından oluşturulan veya değiştirilen materyalleri "dijital kimlik bilgisi" ile etiketlemeye başlamayı planladıklarını duyurdu.
POİSON PİLLS
Bu yöntem, görüntüleri manipülasyona karşı koruyan savunma araçları daha güçlü bir çözüm olarak görülse de henüz gelişimin ilk aşamalarında.
Bu araçlar, kullanıcılara görüntülerini yapay zekâ destekli herhangi bir sistemden geçirildiğinde kullanılamıyor.
Örneğin, Chicago Üniversitesi'ndeki araştırmacılar tarafından oluşturulan bir araç olan Nightshade, bir yapay zekâyla beslendiğinde bozulan görüntülere pikseller ekliyor. Fakat görüntünün insanlar için tasarlandığı gibi görünmesini sağlıyor.
BİR DİZİ YASAL UYGULAMALAR ORTAYA ÇIKTI
Associated Press'e göre, ABD’de en az 10 eyalet halihazırda deepfake mağdurları için bir dizi yasal korumayı uygulamaya koydu.
Ancak son zamanlarda yaşanan yüksek profilli vakalar, yapay zekâ ve derin sahteciliğin kötü niyetli kullanımını caydırmak ve cezalandırmak için kanun koyucular üzerindeki baskıyı artırdı.
Federal İletişim Komisyonu, New Hampshire ön seçimlerinde Joe Biden'a benzeyen yapay zekâ tarafından oluşturulmuş bir ses kullanılarak yapılan sahte aramaların ardından yapay zekâ tarafından oluşturulan sahte aramaları yasakladı.
CAYDIRICI ÖNLEMLER
Bu durum, Çevrimiçi Güvenlik Yasası'nın deepfake porno dağıtmayı yasa dışı hale getirdiği ancak yaratmayı yasadışı hale getirmediği Birleşik Krallık'taki mevzuat üzerinde etkili oldu.
Deepfake’le pornografik görüntü oluşturanların cezalandırılması zor olsa da yine de önemli bir caydırıcı unsur olarak görülüyor. Bazı insanların yapay zekâ araçlarını kendi özel tüketimleri için içerik oluşturmak amacıyla kullandığını söylüyor. Ancak, bunun suç teşkil eden bir davranış olduğunun farkına varmalarını sağlamanın, sadece merak edenleri caydırmak için önemli olduğunu da sözlerine ekliyor.
Hükümetlerin ayrıca arama motoru sağlayıcıları, yapay zekâ aracı geliştiricileri ve içeriğin dağıtıldığı sosyal medya platformları üzerinde de baskı kurabileceği düşünülüyor.
Öte yandan, Hindistan'da Bollywood aktrislerinin karıştığı bir deepfake porno skandalı, hükümeti mevzuatı hızlandırmaya ve büyük teknoloji şirketlerine yapay zekâ tarafından üretilen içeriğin internette yayılmasını engellemeleri için baskı yapmaya teşvik etti.
