İnce Satırlar
Liste Modu
Döşeme Modu
Sade Döşeme Modu
Blog Modu
- Yapay zekada duygu tanımlama durumu
- Duygular tanımlama için uzmanlar ne diyor? Yapay zeka bunu yapabilir mi?
- Yorumlar
Yapay zekada duygu tanımlama durumu
PaliGemma 2, görüntüleri analiz ederek yalnızca nesneleri tanımlamakla kalmıyor; aynı zamanda görsellerdeki kişilerin eylemlerini, duygularını ve sahnenin genel hikayesini de açıklayabiliyor. Google, bu modellerin “bağlam odaklı açıklamalar” üreterek görüntülerin detaylı analizini mümkün kıldığını belirtiyor. Ancak bu duygu tanıma özelliği, modelin kutusundan çıktığı anda çalışmıyor; özel olarak eğitilmesi gerekiyor.
Öte yandan uzmanlar, bu teknolojinin açık bir şekilde erişilebilir hale getirilmesinden endişe duyuyor. Oxford İnternet Enstitüsü’nden Veri Etiği ve Yapay Zeka Profesörü Sandra Wachter, “Bu benim için çok rahatsız edici. İnsanların duygularını 'okuyabileceğimizi' varsaymayı sorunlu buluyorum.” diyor.
Duygular tanımlama için uzmanlar ne diyor? Yapay zeka bunu yapabilir mi?
Startup'lar ve teknoloji devleri yıllardır satış eğitiminden kazaları önlemeye kadar her şey için duyguları tespit edebilen bir yapay zeka geliştirmeye çalışıyor. Bazıları bunu başardığını iddia etse de bilim, ampirik açıdan zayıf bir zeminde duruyor.
Queen Mary Üniversitesi'nde yapay zeka alanında uzmanlaşmış bir araştırma görevlisi olan Mike Cook, “Genel durumda duygu tespiti mümkün değil, çünkü insanlar duyguları karmaşık şekillerde deneyimliyor. Elbette, diğer insanlara bakarak ne hissettiklerini anlayabileceğimizi düşünüyoruz ve casus ajansları ya da pazarlama şirketleri gibi pek çok insan da yıllar boyunca bunu denedi. Bazı durumlarda bazı genel göstergeleri tespit etmenin kesinlikle mümkün olduğuna eminim, ancak bu asla tam olarak 'çözebileceğimiz' bir şey değil.” diyor.
Ayrıca, bu sistemlerin genellikle geliştiricilerinin önyargılarından etkilenebileceğine dikkat çekiliyor. Bunun bir göstergesi yakın tarihli bir çalışmada ortaya çıkıyor. Çalışma, duygusal analiz modellerinin siyahların yüzlerine beyazların yüzlerinden daha fazla olumsuz duygu atadığını öne sürüyor.
Google, PaliGemma 2’yi piyasaya sürmeden önce demografik önyargıları değerlendirmek için kapsamlı testler yaptığını söylüyor. Ancak, bu testlerin tam kapsamını veya kullanılan ölçütlerin detaylarını paylaşmadı. Google'ın açıkladığı tek ölçüt, on binlerce kişinin vesikalık fotoğraflarından oluşan FairFace. Şirket, PaliGemma 2'nin FairFace'te iyi puan aldığını iddia ediyor. FairFace, sınırlı sayıda ırk grubunu temsil etmesi nedeniyle bazı araştırmacılar tarafından eleştiriliyor. Bazı uzmanlar ise kesin bir ifadeyle, sadece yüze bakarak duyguları tanımlamanın mümkün olmadığını söylüyor.
Duygu tanımlama ve tespitinin yapay zeka ile yapılmasının bilimsel mümkünlüğü bir tarafa dursun, işin etik ve yasal boyutu da büyük önem arz ediyor. Örneğin, AB'deki en önemli yapay zeka mevzuatı olan Yapay Zeka Yasası, okulların ve işverenlerin duygu tespit sistemlerini kullanmasını yasaklıyor (ancak kolluk kuvvetlerinin kullanmasını yasaklamıyor).
Uzmanlar, Hugging Face gibi yapay zeka geliştirme platformu da dahil olmak üzere birçok sunucudan edinilebilen PaliGemma 2 gibi açık modellerin kötüye kullanılabileceği ve bunun toplumsal zararlara yol açabileceği konusunda uyarıyor. Özellikle işe alım, kredi başvuruları ve eğitim kabul süreçlerinde ayrımcılığın derinleşebileceği belirtiliyor.
Bu haberi, mobil uygulamamızı kullanarak indirip,istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz:
