Bist 100
10.479,16 1%
DOLAR
32,27 0,08%
EURO
34,94 -0,31%
ALTIN
2.417,25 -0,72%

Deepfake’le oluşturulan pornografik görüntüler engellenebilir mi?

2019’da yapılan bir araştımaya göre deepfake yöntemiyle üretilen içeriklerin yüzde 96’sının müstehcen olduğu belirtildi. Bu oranın bugün değişse de deepfake ile üretilen içeriklerin aynı derecede ciddi olduğu aktarıldı. Peki, deepfake’le üretilen pornografik içeriklerle mücadele etmenin yolları neler? İşte detaylar...

Yayın Tarihi: 19.02.2024 15:28
Güncelleme Tarihi: 19.02.2024 15:28

Deepfake’le oluşturulan pornografik görüntüler engellenebilir mi?

Yapay zekâyla üretilen ve bir kişinin hiç olmamış bir şeyi söylemesini veya yapmasını taklit etmek üzere tasarlanabilen videolar, görüntüler veya seslere “deepfake” deniyor. Bazı deepfake'ler gerçek video görüntülerinin üzerine bir benzerlik yerleştirirken, diğerleri tamamen bilgisayar tarafından üretiliyor. Bu kapsamda, yapay zekânın yarattığı en büyük sorunlardan biri de deepfake'ler olarak biliniyor.

Deep Trace tarafından 2019 yılında yapılan The State of Deepfakes adlı bir araştırma, deepfake videoların yüzde 96'sının pornografik olduğunu ortaya koydu.

Bu çalışmanın yazarlarından biri olan deepfakes araştırmacısı Henry Ajder, Business Insider'a verdiği demeçte, rakam değişmiş olsa da, sorunun aynı derecede ciddi olmaya devam ettiğini söyledi.

BBC News'in haberine göre, 2021 yılında bir İngiliz genç, okulundaki diğer öğrenciler tarafından sahte pornografik görüntüleri oluşturulup bir Snapchat grubunda paylaşıldıktan sonra intihar etti.

Teknolojinin geldiği nokta korkutucu olsa da kimliğinizin yapay zekâ tarafından manipüle edilmesine karşı korunmanıza yardımcı olabilecek bazı araçlar ve yöntemler bulunuyor.

deepfake

DEEPFAKE ALGILAMA

İçeriğin yapay zekâ tarafından üretildiğinin açıkça belirtildiği dijital filigranlar, Biden yönetimi tarafından bir çözüm olarak desteklendi.

Etiketler hem kamuoyunda farkındalık yaratmayı hem de platformların zarar verici sahte içerikleri kazıyıp kaldırmasını kolaylaştırmayı amaçlıyor.

Google ve Meta, içeriğin kökenini daha net hale getirmek için yapay zekâ tarafından oluşturulan veya değiştirilen materyalleri "dijital kimlik bilgisi" ile etiketlemeye başlamayı planladıklarını duyurdu.

deepfake

POİSON PİLLS

Bu yöntem, görüntüleri manipülasyona karşı koruyan savunma araçları daha güçlü bir çözüm olarak görülse de henüz gelişimin ilk aşamalarında.

Bu araçlar, kullanıcılara görüntülerini yapay zekâ destekli herhangi bir sistemden geçirildiğinde kullanılamıyor.

Örneğin, Chicago Üniversitesi'ndeki araştırmacılar tarafından oluşturulan bir araç olan Nightshade, bir yapay zekâyla beslendiğinde bozulan görüntülere pikseller ekliyor. Fakat görüntünün insanlar için tasarlandığı gibi görünmesini sağlıyor.

deepfake

BİR DİZİ YASAL UYGULAMALAR ORTAYA ÇIKTI

Associated Press'e göre, ABD’de en az 10 eyalet halihazırda deepfake mağdurları için bir dizi yasal korumayı uygulamaya koydu.

Ancak son zamanlarda yaşanan yüksek profilli vakalar, yapay zekâ ve derin sahteciliğin kötü niyetli kullanımını caydırmak ve cezalandırmak için kanun koyucular üzerindeki baskıyı artırdı.

Federal İletişim Komisyonu, New Hampshire ön seçimlerinde Joe Biden'a benzeyen yapay zekâ tarafından oluşturulmuş bir ses kullanılarak yapılan sahte aramaların ardından yapay zekâ tarafından oluşturulan sahte aramaları yasakladı.

deepfake

CAYDIRICI ÖNLEMLER

Bu durum, Çevrimiçi Güvenlik Yasası'nın deepfake porno dağıtmayı yasa dışı hale getirdiği ancak yaratmayı yasadışı hale getirmediği Birleşik Krallık'taki mevzuat üzerinde etkili oldu.

Deepfake’le pornografik görüntü oluşturanların cezalandırılması zor olsa da yine de önemli bir caydırıcı unsur olarak görülüyor. Bazı insanların yapay zekâ araçlarını kendi özel tüketimleri için içerik oluşturmak amacıyla kullandığını söylüyor. Ancak, bunun suç teşkil eden bir davranış olduğunun farkına varmalarını sağlamanın, sadece merak edenleri caydırmak için önemli olduğunu da sözlerine ekliyor.

Hükümetlerin ayrıca arama motoru sağlayıcıları, yapay zekâ aracı geliştiricileri ve içeriğin dağıtıldığı sosyal medya platformları üzerinde de baskı kurabileceği düşünülüyor.

Öte yandan, Hindistan'da Bollywood aktrislerinin karıştığı bir deepfake porno skandalı, hükümeti mevzuatı hızlandırmaya ve büyük teknoloji şirketlerine yapay zekâ tarafından üretilen içeriğin internette yayılmasını engellemeleri için baskı yapmaya teşvik etti.