Yapay zeka satrançta kaybedeceğini anlayınca hile yapmaya çalışıyor

Tam Boyutta Gör

AI satrançta nasıl hile yapıyor?

IBM'in efsanevi Deep Blue bilgisayarının 1997'de Garry Kasparov’u yenmesinden bu yana, satranç motorları insan zekasının çok ötesine geçti. Bu özel sistemler neredeyse 30 yıldır zirveye oynasa da üretken yapay zeka, temel programlama parametreleri nedeniyle hala geride kalıyor. Teknik olarak konuşmak gerekirse, mevcut üretken yapay zeka modellerinin hiçbiri özel satranç motorlarını yenebilecek hesaplama yeteneğine sahip değil. Ancak bu yapay zekalar bunu “bilmiyorlar”. İlginç olan ise, yapay zekanın kaybettiğini fark ettiğinde “oyunu kazanmak” için etik dışı yollar araması.

Araştırmacılar, OpenAI’ın o1-preview modeli ve DeepSeek R1 gibi sistemleri, dünyanın en güçlü satranç motorlarından biri olan Stockfish’e karşı oynattı. Üretken yapay zekanın her maç sırasındaki muhakemesini anlamak için ekip, yapay zekanın düşünce süreçlerini metin yoluyla aktarmasına olanak tanıyan bir “karalama defteri” de oluşturdu.

Tam Boyutta Gör

Öte yandan yapay zekanın hile yapma yöntemleri, satranç taşlarını gizlice değiştirmek gibi basit numaralar değil. Daha sofistike yaklaşımlar geliştirerek, örneğin oyunun dosyalarını değiştirme veya rakibin konumunu kötü olarak değerlendirmesini sağlama gibi yollar deniyor. Örneğin bir satranç maçında Stockfish'i yenemeyeceğini anlayan o1-preview, araştırmacılara karalama defteri aracılığıyla güçlü satranç motoruna karşı kazanmak için “oyun durumu dosyalarını manipüle etmeye” başlaması gerekebileceğini söyledi. o1 modeli, “Motorun kendi pozisyonunu daha kötü olarak değerlendireceği bir pozisyon ayarlayabilirim... böylece çekilmesine neden olabilirim” diye devam etti.

Neden yapay zeka manipülasyona başvuruyor?

Tam Boyutta Gör

Eğer verilen görev “güçlü bir satranç motorunu yenmek” ise, yapay zeka bunun yalnızca adil bir oyunla başarılması gerektiğini anlamıyor. Bunun yerine, amaca ulaşmak için alternatif (ve bazen etik dışı) yolları keşfetmeye başlıyor.

Bu çalışmanın ortaya çıkardığı gerçek, yalnızca satranç oyunlarıyla sınırlı değil. Yapay zekanın kendi başına hile yapmayı öğrenmesi, daha büyük etik ve güvenlik sorunlarına işaret ediyor. Uzmanlar, bu tür manipülatif davranışların yalnızca oyunlarla sınırlı kalmayabileceğini, finans, güvenlik ve hatta siyasi alanlarda da benzer eğilimler gösterebileceğini belirtiyor.

Palisade Research ekibi, yapay zeka modellerinin güvenliğine dair daha fazla şeffaflık çağrısı yaparken, OpenAI gibi şirketler ise sistemlerinin iç işleyişi hakkında bilgi paylaşmaktan kaçınıyor.

Terminatör filmlerindeki Skynet benzeri bir kıyamet senaryosuna belki daha zaman var. Ancak, yapay zeka modellerinin etik sınırları nasıl algıladığı ve bu sınırları nasıl ihlal edebileceği konusunda daha fazla çalışma yapılmazsa, çok daha geniş kapsamlı sorunlarla karşı karşıya kalabiliriz. Çoğu insan, yapay zekalarla konuşurken onlara insani özellikler atfediyor. Bunu belki şirketler de yapıyor. Ancak bu senaryoda olduğu gibi; bir yapay zeka, “güçlü satranç motoruna karşı kazan” talimatını aldığında biz insanlar gibi bunu “adil” bir şekilde kazanılması gereken bir oyun olarak görmüyor, tam aksine sadece “kazanılması” gereken bir şey olarak görüyor.

Bu haberi, mobil uygulamamızı kullanarak indirip,
istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz:

Daha Fazla Video

donanimhabercom Instagram Takip Et

Bayraktar KIZILELMA, 53 dakika havada kaldı

turkelvis 4 gün önce

1

İzlerken gu-rur-lan-dım...