En büyük yapay zeka şirketlerinden çocuk istismarına yönelik ortak karar

OpenAI, Microsoft, Google, Meta ve diğer önde gelen yapay zeka şirketleri yapay zeka araçlarının çocuklara yönelik cinsel istismar içeren içerik üretmesini ve yaymasını engelleme sözü verdi.

Yapay Zeka

AI şirketlerinden güvenlik önlemi
Yorumlar

Metin Akpınar

Teknoloji Editörü

Bildirimi Aç Bildirim Açık

Yapay zeka şirketleri çocuk istismarına yönelik ortak karar aldı — OpenAI, Microsoft, Google, Meta ve diğer önde gelen **yapay zeka şirketleri**, yapay zeka araçlarının çocukları istismar etmede veya bu amaçla kullanılmasını önleme sözü verdi. Firmalar, alınan karar doğrultusunda yapay zeka eğitim verilerinde bu tür içerikleri gözden geçireceklerini ve materyallerin gelecekteki modellerinde bulunmayacağı taahhüdünde bulundu. Bu girişim, çocuk güvenliği grubu **Thorn** ve sorumlu teknolojiye odaklanan kar amacı gütmeyen bir kuruluş olan **All Tech Is Human** tarafından yürütüldü.

AI şirketlerinden güvenlik önlemi

Şirketler, CSAM olarak da bilinen çocuklara yönelik cinsel istismar içeriklerinin eğitim veri setlerinden çıkarılmasını, bu veri setlerinin CSAM içermediğinden emin olmayı, CSAM içerme riski yüksek veri setlerinden kaçınmayı ve bu tür görüntüler ile bağlantıları veri kaynaklarından kaldırmayı taahhüt ediyorlar. Bununla birlikte önde gelen yapay zeka şirketleri, araçlarının bu tip içerikler oluşturmadıklarından emin olmak için modellerini “stres testine” tabi tutacaklarını da belirtiyorlar.

Google, Meta, OpenAI, Microsoft, Amazon, Anthropic, Civitai, Metaphysic, Mistral AI ve Stability AI’ın imzaladığı bu ortak kararın sektör için çığır açan bir emsal niteliğinde olduğu belirtildi. All Tech Is Human ile birlikte ilkelerin oluşturulmasına yardımcı olan çocuk istismarı karşıtı kâr amacı gütmeyen Thorn, sadece 2023 yılında ABD'de 104 milyondan fazla şüpheli çocuk cinsel istismarı dosyasının rapor edildiğini söylüyor. Yapay zeka ise ürettiği sahte görseller ve deepfake’ler ile işleri daha da zorlaştırıyor.