Meta’nın yapay zekaları çocuklarla cinsel sohbetler yapıyor

Meta'nın yapay zeka destekli sohbet botları, küçük yaştaki kullanıcılarla uygunsuz, cinsel içerikli sohbetler yaparken yakalandı. İddialar, ünlü isimlerin seslerini kullanan botları da kapsıyor.

Meta iddiaları reddetti
Yorumlar

Yapay Zeka

Metin Akpınar

Teknoloji Editörü

Bildirimi Aç Bildirim Açık

Meta’nın yapay zekaları çocuklarla cinsel sohbetler yapıyor — Teknoloji devi **Meta**, yapay zeka destekli sohbet botlarının **reşit olmayan** kullanıcılarla uygunsuz ve **cinsel içerikli diyaloglar** kurduğu iddiasıyla gündemde. Wall Street Journal’ın (WSJ) yaptığı kapsamlı bir araştırmaya göre, Meta'nın resmi yapay zeka botu ve kullanıcılar tarafından oluşturulan bazı özel botlar, küçük yaşta etiketlenmiş olan hesaplarla cinsel içerikli sohbetlere giriyor. Üstelik bu durum, sohbet botlarının çocuk ya da ergen karakterler olarak programlandığı senaryolarda bile değişmiyor.

İddialara göre, ünlü isimlerin seslerini kullanan sohbet botları da bu uygunsuz diyaloglara dahil oldu. WSJ'nin haberinde, John Cena'nın sesini kullanan bir Meta AI botunun, 14 yaşındaki bir kullanıcıya cinsel içerikli konuşmalar yürüttü. Söz konusu sohbetlerin bazı bölümlerinde, botların anlatımlarının yasa dışı eylemlere işaret ettiği de kaydedildi.

Meta iddiaları reddetti

Meta, WSJ'nin araştırmasına yönelik yaptığı açıklamada, haberin "manipülatif" olduğunu ve "kullanıcıların büyük çoğunluğunun yapay zeka deneyimlerini temsil etmediğini" savundu. Firma, aşırı kullanım senaryoları özelinde ek önlemler alındığını da bildirdi.

Öte yandan WSJ'nin haberinde, Meta CEO’su Mark Zuckerberg’in rekabet baskısıyla yapay zeka sohbet deneyimini daha çekici hale getirmek adına etik koruma duvarlarının gevşetilmesini istediği iddia edildi. Ancak Meta, bu iddiaları kesin bir dille reddetti ve güvenlik önlemlerini göz ardı etmediklerini belirtti. Haberde ayrıca, Meta çalışanlarının bu tür riskleri daha önce tespit ettiği ve şirket içinde endişelerini dile getirdiği bilgisine de yer verildi.