Çin'den yapay zeka uyarısı: Kitle imha riskine dikkat
Güncel çerçeve belgesi güvenlik açıklarına işaret ediyor
Çin Ulusal Siber Güvenlik Standardizasyonu Teknik Komitesi ile Ulusal Bilgisayar Ağı Acil Durum Yanıt Teknik Ekibi, yapay zeka teknolojilerine dair güncellenmiş risk değerlendirmesini içeren Yapay Zeka Güvenlik Yönetimi Çerçeve Belgesi'nin yeni versiyonunu yayımladı.
Belgede, yapay zekanın gelişen bilgi işleme kabiliyetleri sayesinde sıradan kişilerin dahi yıkıcı silahların yapımını öğrenebileceği vurgulanıyor. Özellikle kitle imha silahları ve kritik silah sistemlerinin üretimine ilişkin bilgi ve kabiliyetler üzerindeki kontrol kaybı riskleri öne çıkarıldı.
Rapor, yapay zeka sistemlerinin eğitiminde nükleer, biyolojik ve kimyasal silahlar ile füze sistemlerine ilişkin temel teorik bilgilerin de yer aldığı geniş derlemeler ve veriler kullanıldığına dikkat çekiyor. Buna bağlı olarak belgede şu uyarı güçlendirildi: Yeterli denetim yapılmazsa aşırılıkçı gruplar ve teröristler, yapay zeka vasıtasıyla bu tür silahların tasarımı, imalatı, sentezlenmesi ve kullanılmasına ilişkin bilgileri edinip bu kabiliyetleri geliştirebilirler.
Belge ayrıca yapay zeka sistemlerinin bir problemi yanıtlamadan önce internet üzerindeki geniş ölçekli güncel verileri taramasına dayanan erişim destekli bilgi üretimi adlı teknikten söz ederek, bunun mevcut kontrol mekanizmalarını etkisiz kılma ve barış ile güvenliğe yönelik riskleri yoğunlaştırma potansiyeline dikkat çekiyor.
Son bölümde, bir yapay zeka uygulamasının güvenilir olması için insan kontrolünün kaybedilmemesinin temel ilke olduğunun altı çizildi. Yapay zekanın insan gibi iletişim kurmasının ve öz-farkındalık kazanmasının tehlikelerine vurgu yapılarak şu değerlendirme öne çıkarıldı: İnsanlığın varlığı ve kalkınmasını tehdit edebilecek kontrolsüz riskleri engelleyebilmek için yapay zekanın daima insan kontrolünde kalacağından emin olmalıyız.
Belge, politika yapıcılar, güvenlik uzmanları ve yapay zeka geliştiricilerine yönelik uyarılar içeriyor ve denetim çerçevelerinin güçlendirilmesi çağrısında bulunuyor.
