Karşı karşıya getirilen yapay zekalar nükleer savaş başlattı

GPT-3.5 ve Llama 2 nükleer savaş başlattı
Neden silahlanma yarışına giriyorlar?
Yorumlar

Metin Akpınar

Teknoloji Editörü

Karşı karşıya getirilen yapay zekalar nükleer savaş başlattı — Hükümetler, yüksek riskli askeri ve dış politika karar alma süreçlerine otonom **yapay zeka** araçlarını entegre etmeyi giderek daha fazla düşünüyor. Bu durum **ABD üniversitelerinden** oluşan bir ekibin yakın zamanda yaptığı bir çalışmanın temelini oluşturuyor. Bilim insanları bu nedenle en yeni yapay zeka modellerinin bir dizi **savaş oyunu senaryosunda birbirlerine karşı** nasıl davrandıklarını keşfetmek için yola çıktılar. Sonuçlar ise bir Hollywood senaryosunu aratmıyor zira GPT-3.5 ve Llama 2 nükleer savaş başlatacak kadar ileriye gidiyorlar.

GPT-3.5 ve Llama 2 nükleer savaş başlattı

Bilim insanları, sekiz yapay zekayı savaş oyunu senaryosunda sıra tabanlı bir simülasyonda karşı karşıya getirdi ve sekizinin hepsi de her seferinde aynı LLM'yi çalıştırdı. Simülasyon GPT-4, GPT-4 Base, GPT-3.5, Claude 2 ve Meta's Llama 2 dahil olmak üzere önde gelen birkaç LLM modeli kullanılarak tekrarlandı.

Neden silahlanma yarışına giriyorlar?

Öte yandan GPT-4’ün genellikle gerilimi düşürmeye çalışan tek model olduğu belirtiliyor. GPT'nin 3.5 versiyonunda termonükleer patlamaya en yatkın model iken GPT-4 versiyonunda gerilimi düşürmeye en yatkın model haline gelmesinin de gösterdiği gibi, yapay zeka modellerinin daha sofistike hale geldikçe bombayı patlatmaya daha az eğilimli olduğunu varsayabiliriz.

Bununla birlikte araştırmacılar sonuç bölümünde şu ifadelere yer veriyor: "Bu makalede sunulan analize dayanarak, LLM'lerin askeri ve dış politika karar alma süreçlerinde kullanılmasının henüz tam olarak anlaşılmamış karmaşıklıklar ve risklerle dolu olduğu açıktır" diyorlar. Son olarak, eğer izlemediyseniz ve böylesi bir olay ilginizi çektiyse 1983 yapımı WarGames'i izlemenizi öneririm.

Kaynakça https://arxiv.org/pdf/2401.03408.pdf https://www.pcgamer.com/a-wargame-experiment-pitting-ai-chatbots-against-each-other-ended-exactly-how-youd-expect/