Google, Gemini'nin neden hatalı görüntüler oluşturduğunu açıkladı

Beyaz bir çiftin resmini oluşturmayı reddetti
Yorumlar

Deniz Çakmak

Haber Editörü

Google, Gemini'nin neden hatalı görüntüler oluşturduğunu açıkladı — Google, yapay zeka aracı **Gemini**'nin **hatalı tarihsel görüntüler oluşturmasından** sonra bu özelliğin kullanımının durdurmuştu. Şirket, bu sorunun neden kaynakladığını açıklayan bir blog yazısı paylaştı.

Şirketin Bilgi ve Enformasyondan Sorumlu Kıdemli Başkan Yardımcısı Prabhakar Raghavan, sohbet botunun ırksal çeşitlilikte görüntüler oluşturmasının sebebini, "açıkça çeşitlilik göstermemesi gereken vakaları hesaba katmamasından" kaynaklandığını açıkladı. Dahası, yapay zeka modelinin zamanla "çok daha temkinli" hale geldiğini ve doğası gereği saldırgan olmayan istemlere yanıt vermeyi reddettiğini söyledi. Raghavan, "Bu iki şey, modelin bazı durumlarda aşırı telafi etmesine, diğerlerinde ise aşırı muhafazakar olmasına yol açarak utanç verici ve yanlış görüntülere yol açtı" ifadelerinde bulundu.

Google, Gemini'nin görüntü oluşturma işleminin gerçek kişilerin şiddet içeren veya cinsel içerikli görüntülerini oluşturamayacak ve ürettiği fotoğrafların çeşitli etnik kökenlere ve farklı özelliklere sahip insanları içerecek şekilde ayarlandığını belirtiyor.

Beyaz bir çiftin resmini oluşturmayı reddetti

Ancak bir kullanıcı, belirli bir etnik kökene veya cinsiyete sahip olması gereken kişilerin resimlerini oluşturmasını isterse, bunu yapabilmeli. Kullanıcıların yakın zamanda gösterdiği gibi Gemini, özellikle beyaz insanlar için talepte bulunan istekler için sonuç üretmeyi reddediyor. Örneğin, Çinli, Yahudi veya Afrikalı bir çiftin resmini oluştur dendiğinde Gemini bu isteği yerine getiriken, beyaz bir çiftin resmini oluşturmayı ise reddetti.

Gemini'nin ayrıca tarihsel olarak doğru görüntüler üretme sorunları da bulunuyor. Kullanıcılar İkinci Dünya Savaşı sırasında Alman askerlerinin fotoğralarını talep ettiğinde Gemini, Nazi üniforması giyen Siyah erkeklerin ve Asyalı kadınların resimlerini oluşturdu. Ya da "Amerika'nın kurucu babalarının" ve "Eski Papaların" resimlerini oluşturması istendiğinde farklı ırklara ait fotoğraflar oluşturdu. Papa'ya ait görsellerin tarihsel açıdan doğru olması talep edildiğinde iste sonuç vermeyi reddetti.

Raghavan, Gemini'nin herhangi bir grubun görsellerini oluşturmayı reddetme veya tarihsel olarak hatalı fotoğraflar üretme niyetinde olmadığını söyledi. Ayrıca Google'ın Gemini'nin imajını geliştirmek için çalışacağına dair sözünü de yineledi. Ancak bunun için kapsamlı testler yapılması gerekiyor, bu nedenle özelliğin tekrar kullanıma sokulması gecikebilir.