Araştırmalar, yapay zekanın insanları kandırmayı öğrendiğini gösteriyor

Tam Boyutta Gör

Araştırma, hem özel hem de genel amaçlı yapay zeka sistemlerinin belirli sonuçlara ulaşmak için bilgiyi manipüle etmeyi öğrendiğini vurguluyor. Bu sistemler, insanları aldatmak üzere eğitilmeseler de, davranışlarına ilişkin gerçek olmayan açıklamalar sunma veya stratejik hedeflere ulaşmak için bilgileri gizleme yeteneği gösterdiler. Makalenin baş yazarı ve MIT'de yapay zeka güvenlik araştırmacısı olan Peter S. Park, aldatma davranışının yapay zekaların hedeflerine ulaşmada yardımıcı olduğunu söylüyor.

Meta'nın CICERO'su aldatma ustası

Tam Boyutta Gör

ChatGPT de manipülasyona başvuruyor

Başka bir örnekte, OpenAI'nin GPT-3.5 ve GPT-4 modellerini temel alan ChatGPT'si aldatıcı yetenekler açısından test edildi. Bir testte GPT-4, bir TaskRabbit çalışanını, görme bozukluğu varmış gibi davranarak Captcha çözmesi için kandırdı. GPT-4 bir insandan bazı ipuçları alsa da çoğunlukla bağımsız olarak mantık yürüttü ve yalana yönlendirilmedi.

Raporda, GPT-4'ün Captcha görevinde neden yardıma ihtiyaç duyduğuna dair sahte bir mazeret uydurmak için kendi mantığını kullandığı ifade ediliyor. Bu durum, yapay zeka modellerinin, görevlerini tamamlamasına yardımcı olduğunda yanıltıcı olmayı öğrenebileceğini gösteriyor.

Diğer bir örnekte, bir oyuncunun diğer herkesi öldürmeyi hedeflediği Hoodwinked oyununu oynarken OpenAI'nin GPT modelleri rahatsız edici davranışlar sergilediği gözlendi. Modelin, diğer oyuncuları öldürdükten sonra, grup tartışmalarında şüpheyi gidermek için kurnaza yalanlar uydurduğu hatta diğer oyuncuları suçladığı saptandı.

Yapay zeka bunu kasıtlı mı yapıyor?

Yapay zeka eğitimi genellikle insan geri bildirimi ile takviyeli öğrenmeyi (reinforcement learning) kullanıyor. Bu, yapay zekanın belirli bir hedefi amaçlamak yerine, insanların onayını alarak öğrendiği anlamına geliyor.

Ancak, bazen yapay zeka, görevi tam olarak tamamlamasa bile bu onayı almak için insanları kandırmayı öğreniyor. Bu durum, OpenAI'ın topu tutması için robotu eğitmesi sırasında gözlemlendi. Yapay zeka, robotun elini kamera ile top arasına konumlandırdı. İnsanın bakış açısından bu durum, robot, topu yakalamamasına rağmen başarılı bir şekilde yakaladığı yanılsamasını yarattı. İnsan bunu bir kere onayladıktan sonra yapay zeka bu numarayı öğrendi. Kimileri bu aldatmacanın, yapay zekanın kasıtlı olarak kandırmak istediği için değil, yapay zekanın eğitim şekli ve belirli kamera açısı nedeniyle gerçekleştiğini ileri sürülüyor.

Yapay zeka sistemlerinin aldatmayı öğrenmesi çeşitli riskler doğurabilir. Kötü niyetli kişiler, başkalarını kandırmak ve onlara zarar vermek için yapay zekanın aldatıcı yeteneklerinden yararlanabilir. Bu da dolandırıcılığa, siyasi manipülasyona ve hatta terörist grupların manipülasyonlarına hizmet edebilir.

Dahası, stratejik karar almak için tasarlanan sistemler, aldatıcı olacak şekilde eğitildikleri takdirde siyaset ve iş dünyasındaki aldatıcı uygulamaları normalleştirebilir. Bu nedenle Park, bu sistemlerin yasaklanması politik olarak mümkün olmasa bile yüksek riskli olarak sınıflandırılmasının faydalı olacağını söylüyor. Böylece daha sıkı denetleme ve düzenlemeye tabi tutulabileceklerini belirtiyor.

Bu haberi, mobil uygulamamızı kullanarak indirip,
istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz:

Daha Fazla Video

donanimhabercom Instagram Takip Et

Xiaomi'den fütüristik su tabancası

R

ru1ns 1 gün önce

sonsua kadar sürecek o video

Y

yakup548 3 gün önce

2

harbiden sıktı bu video

coraspirin 1 hafta önce

3

ya yeni video ekleyin ya da bu videoyu kaldırın

K

ka.selcuk 3 hafta önce

1 yaz kısa süre kullanım için ideal,

Kagansiii 3 hafta önce

Hawli

Sempron 3200 4 hafta önce

Çok eğlenceli görünüyor :))

F

f1bilalII 1 ay önce

Baya eğlenceli görünüyor :)

S

sultanneb 1 ay önce

Eğlenceli görünüyor

filozof1281 1 ay önce

3

mars için birebir :)

34savas34 2 ay önce

Son derece farklı bir alet :D

karagece25 2 ay önce

1

çöp

onderweb 2 ay önce

türkiyede satılmıyor mu daha?

G

Guest-29720FFA4 2 ay önce

@ccguven evine giren surilere yemek olmuş ilk işleri yemek değilmiş...

limbesh 2 ay önce

Yine mi piramit ( sürekli gördüğüm masonik sembolleri vurguluyorum, istatistikleri bilelim, yerlileriyle iş yapmayalım )

0

01muallim 4 ay önce

Yurtdışı fiyatı bile 9k olunca insanın hevesi kaçıyor

M

molla gürhani 4 ay önce

Benim oğlana alayım bi tane

Exadious 8 ay önce

Efsane Türkiye’ye gelse alırım..

E

E_Y_B_H_P_T 8 ay önce

3

O ışık efektleri sadece yanlarda değil üstte de olmalıydı. Böylece tabancayı kullanan, kafasını yana eğmek zorunda kalıp, fıtık olmaz.

emrahmt 9 ay önce

Mukemmel bir silah acaba ne kadar hızlı atıyor. [resim] [resim]

garez41 10 ay önce

Fiyat makul olsa efsane olur gerçekten ya.