Bist 100
9.097,15 1%
DOLAR
31,37 0,42%
EURO
34,06 0,51%
ALTIN
2.092,7 2,45%

OpenAI çocuk güvenliği üzerine çalışmak için yeni bir ekip kurdu!

OpenAI, yapay zekâ teknolojisinin çocuklarca kötüye kullanılmasının ya da istismar edilmesinin önüne geçilmesinin yollarını araştırmak amacıyla yeni bir ekip kurdu.

Yayın Tarihi: 08.02.2024 16:44
Güncelleme Tarihi: 08.02.2024 16:44

OpenAI çocuk güvenliği üzerine çalışmak için yeni bir ekip kurdu!

OpenAI, kariyer sayfasındaki yeni bir iş ilanında, 18 yaşından küçük kullanıcılara yönelik "süreçleri, olayları ve incelemeleri" yönetmek amacıyla OpenAI içindeki platform politikası, hukuk ve soruşturma gruplarının yanında dış paydaşlar ile beraber çalıştığını ifade ettiği bir Çocuk Güvenliği ekibinin varlığını ortaya koyuyor.

Ekip, şu anda OpenAI'nin politikalarını yapay zekâ teknolojisince üretilen içerik kapsamında uygulamaktan ve hassas içeriğe yönelik inceleme süreçleri üzerinde çalışmaktan sorumlu olacak bir çocuk güvenliği uygulama uzmanını istihdam etmeyi düşünüyor.

Belirli büyüklükteki teknoloji tedarikçileri, çocukların internette nelere ulaşıp nelere erişemeyeceğinin yanında şirketlerin onlar hakkında ne tür veriler toplayabileceğine ilişkin kontrolleri zorunlu kılan ABD Çocukların Çevrim İçi Gizliliğini Koruma Kuralı gibi kanunlara uymak için oldukça fazla kaynak ayırıyor. Bu nedenle, OpenAI'nin çocuk güvenliği uzmanlarını istihdam etmesi, özellikle de şirketin bir gün önemli bir 18 yaşından küçük kullanıcı tabanı bekliyorsa, tam bir sürpriz olmadığı belirtiliyor.

Ancak OpenAI'nin Common Sense Media ile çocuk dostu yapay zekâ kılavuzları üzerinde iş birliği yapmak üzere bir iş birliği yaptığını duyurmasından ve ilk eğitim müşterisini kazanmasından birkaç hafta sonra gelen yeni ekibin ortaya çıkışı, OpenAI'nin reşit olmayanların yapay zekâ kullanımıyla ilgili politikalara ve olumsuz basına karşı ihtiyatlı olduğunu da gösteriyor.

chatgpt

UNESCO DA YAPAY ZEKÂ DÜZENLEMESİ İSTİYOR

Çocuklar ve gençler sadece okul ödevlerinde değil, kişisel sorunlarında da yardım almak için giderek daha fazla yapay zekâ araçlarına başvuruyor. Center for Democracy and Technology adlı bir şirket tarafından yapılan bir ankete göre, çocukların yüzde 29'u anksiyete veya ruh sağlığı problemleriyle başa çıkmak amacıyla, yüzde 22'si arkadaşlarına yönelik problemler için ve yüzde 16'sı aile içi çatışmalar için ChatGPT kullandığını bildirdi.

UNESCO, 2023’ün sonlarında hükümetlere, kullanıcılar için yaş sınırı, veri muhafaza etme ve kullanıcı gizliliğine yönelik korkulukların uygulanması da dahil olmak üzere eğitimde yapay zekâ kullanımını düzenlemeleri için baskı yapmıştı. UNESCO Genel Direktörü Audrey Azoulay, "Üretken yapay zekâ, insan gelişimi konusunda eşsiz bir fırsat olabilir. Fakat ayrıca zarar ve önyargıya da sebep olabilir. Vatandaşların katılımı ve hükümetlerin gerekli güvenceleri ve düzenlemeleri olmaksızın eğitime entegre edilemez” demişti.