Anlık Bildirim

Endişelendiren çalışma: Şirketler yapay zeka ile insanların kararlarını etkileyecek

Yapılan yeni bir çalışmaya göre yapay zeka araçları, insanları ne satın alacaklarından kime oy vereceklerine kadar çeşitli kararlar almaya yönlendirmek için kullanılabilir.
Şirketler yapay zeka sayesinde insanların kararlarını etkileyecek Tam Boyutta Gör
Cambridge Üniversitesi'nden araştırmacılar, yapay zeka araçlarının çevrimiçi kullanıcıların kararlarını yönlendirme gücüne dikkat çekiyor. Bu durum, kullanıcıların ne alacaklarından kime oy vereceklerine kadar geniş bir yelpazede etkiler yaratabilir. Araştırma, “niyet ekonomisi” olarak adlandırılan yeni bir dijital piyasayı öne çıkarıyor.

Dikkat ekonomisinden niyet ekonomisine geçiş

Leverhulme Center for the Future of Intelligence (LCFI) araştırmacılarına göre, niyet ekonomisi, mevcut dikkat ekonomisinin bir adım ötesine geçiyor. Sosyal medya platformları, kullanıcıların dikkatini çekerek reklam gelirlerini artırırken, niyet ekonomisi yapay zeka destekli araçlarla kullanıcıların motivasyonlarını anlamayı, tahmin etmeyi ve hatta yönlendirmeyi amaçlıyor. En basit tanımla, çalışma, yapay zekayı manipülatif bir konumda değerlendiriyor.

LCFI tarihçisi Dr. Jonnie Penn, “On yıllardır “dikkat” internetin para birimi oldu. Facebook ve Instagram gibi sosyal medya platformlarıyla dikkatinizi paylaşmak çevrimiçi ekonomiyi yönlendirdi.” derken şöyle devam etti: “Düzenlenmediği sürece, niyet ekonomisi motivasyonlarınızı yeni para birimi olarak değerlendirecek. Bu, insanların niyetlerini hedef alan, yönlendiren ve satanlar için adeta bir altına hücum dönemi olacak.”

Çalışma, ChatGPT sohbet robotu gibi yapay zeka araçlarının temelini oluşturan teknoloji olan büyük dil modellerinin (LLM), “kasıtlı, davranışsal ve psikolojik verilere” dayalı olarak kullanıcıları “tahmin etmek ve yönlendirmek” için kullanılacağını iddia ediyor.

Bugün dikkat ekonomisi, reklam verenlerin anlık veri analizleriyle kullanıcıların ilgisini çekmesini sağlıyor. Ancak LLM’lerin gelişimiyle bu süreç çok daha kişiselleşmiş ve tahmin odaklı hale gelebilir.

Araştırmada verilen örneklerden biri, bir yapay zeka modelinin kullanıcıya şu soruyu yöneltebilmesi: “Bu akşam Spider-Man filmini izlemeyi düşündünüz mü?” veya “Kendinizi yorgun hissettiğinizi söylediniz, sizin için konuştuğumuz o sinema biletini ayırmamı ister misiniz?” Bu tür öneriler, kullanıcıların geçmiş davranışlarını ve kişisel tercihlerini analiz ederek yapılabilecek.

Daha da kişiselleştirilmiş reklamlar

Şirketler yapay zeka sayesinde insanların kararlarını etkileyecek Tam Boyutta Gör
Araştırma, yapay zeka modellerinin bir kullanıcının konuşma tarzı, siyasi eğilimleri, yaşı, cinsiyeti, tercihleri ve hatta iltifat alma isteği gibi unsurları analiz ederek hedefe yönelik mesajlar oluşturabileceğini belirtiyor. Örneğin, bir LLM, bir film biletini satma amacıyla kullanıcıyla yaptığı konuşmayı dinamik olarak şekillendirebilir. Kullanıcının önceki mesajları veya sosyal medya paylaşımlarını analiz ederek o an neye ihtiyaç uyduğunu tespit ederek tam yerinde, hedefe yönelik bir öneride bulunabilir. Çalışmaya göre bu “kişisel veri kümeleri” reklamcılara satılabilir.

Bu süreç, yalnızca bireysel ihtiyaçları tahmin etmekle sınırlı değil. Araştırmaya göre, niyet ekonomisi yalnızca bireysel özgürlükleri değil, aynı zamanda adil seçimler, özgür basın ve piyasa rekabeti gibi temel demokratik ilkeleri de tehdit edebilir.

Meta’nın geliştirdiği Cicero adlı yapay zeka modeline atıfta bulunan araştırma, bu teknolojilerin insan davranışlarını tahmin etmede ve yönlendirmede nasıl kullanılabileceğini gösteriyor. Cicero, strateji ve diplomasi oyunu olan Diplomacy’de insan seviyesinde başarı göstermesiyle dikkat çekiyor. Oyunun temel dinamikleri, rakiplerin niyetlerini anlamaya dayanıyor ve bu yetenek, ticari ve reklamcılık uygulamalarında büyük potansiyel taşıyor. Cicero, insanları kandırarak oyunu kazanıyordu.

Penn, bu senaryolar üzerine düzenleme çağrısında bulunurken şunları söyledi: “Böyle bir pazarın, adil seçimler, özgür bir basın ve adil piyasa rekabeti de dahil olmak üzere, insanların istekleri üzerindeki olası etkilerini ve istenmeyen sonuçlarını kurbanı olmadan önce düşünmeliyiz.”

Kaynakça https://www.theguardian.com/technology/2024/dec/30/ai-tools-may-soon-manipulate-peoples-online-decision-making-say-researchers https://www.cam.ac.uk/research/news/coming-ai-driven-economy-will-sell-your-decisions-before-you-take-them-researchers-warn Bu haberi, mobil uygulamamızı kullanarak indirip,
istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz:
DH Android Uygulamasını İndir DH iOS Uygulamasını İndir
Sorgu:

Editörün Seçtiği Sıcak Fırsatlar

Sıcak Fırsatlar Forumunda Tıklananlar

Tavsiyelerimiz

Yeni Haber
şimdi
Geri Bildirim