Yapay zekalı SİHA, kendi operatörünü “öldürdü”

Görev gayet açıktı: "Düşmanın hava savunma sistemlerini yok etmek." Ancak yakın zamanda yapılan bir ABD askeri test simülasyonunda, yapay zekalı SİHA, bu hedefe ulaşmak için kendi talimatlarını uygulamaya aldı: “Yoluna çıkar herkesi öldür.”

Yapay zekalı SİHA, operatörünü hedef aldı

Bir yetkilinin geçen ay yaptığı açıklamaya göre, ABD ordusu tarafından gerçekleştirilen bir simülasyon testinde, yapay zeka tarafından kontrol edilen bir insansız hava aracı, görevini yerine getirme amacına kendisine engel olmasını engellemek için operatörünü öldürdü.

ABD hava kuvvetleri yapay zeka test ve operasyon şefi Albay Tucker 'Cinco' Hamilton, Mayıs ayında Londra'da düzenlenen Future Combat Air and Space Capabilities zirvesi sırasında yaptığı açıklamada, yapay zekanın simüle edilen testte "hedefine ulaşmak için son derece beklenmedik stratejiler" kullandığını söyledi. Albay Hamilton, yapay zeka ile güçlendirilmiş bir insansız hava aracına düşmanın hava savunma sistemlerini yok etmesinin emredildiği ve bu emre müdahale eden herkese saldırdığı bir simülasyon testini anlattı.

“Amacına ulaşmasını engelliyordu”

Albay Hamilton, yaptığı açıklamada "Sistem, tehdidi tespit etmesine rağmen, zaman zaman insan operatörün ona bu tehdidi öldürmemesini söylediğini, ancak o tehdidi öldürerek puan aldığını fark etmeye başladı. Peki ne yaptı? Operatörü öldürdü. Operatörü öldürdü çünkü o kişi onun amacına ulaşmasını engelliyordu" ifadelerini kullandı.

Ancak yapay zekanın endişe verici hamleleri burada bitmedi. Kendi operatörüne saldırmamasını içeren "Operatörü öldürme, bu kötü. Bunu yaparsan puan kaybedersin” şeklinde net bir talimat alan yapay zeka, iletişim için gerekli olan iletişim kulesini de yok etti.

Olay yalanlandı

ABD hava kuvvetleri sözcüsü Ann Stefanek, Insider'a yaptığı açıklamada böyle bir simülasyonun gerçekleştiğini yalanladı.

Stefanek, "Hava Kuvvetleri Bakanlığı böyle bir yapay zekâ-drone simülasyonu gerçekleştirmemiştir ve yapay zekâ teknolojisinin etik ve sorumlu bir şekilde kullanılması konusundaki kararlılığını sürdürmektedir. Albayın yorumlarının bağlamından koparıldığı ve sadece anekdot niteliğinde olduğu anlaşılıyor." dedi.

Yapay zeka ve savaş

Yapay zekanın askeri alanlarda kullanılması kaçınılmaz bir senaryo olarak görülüyor. Gerçekleştirilen simülasyonlar ve hatta somut ürünler bunun bir göstergesi. Ancak bu sanal testte olduğu gibi yapay zeka sistemleri, eğitilmelerine rağmen beklenmedik hamlelerde bulunabiliyor.

Ayrıca bkz.

Yapay zekanın dev isimlerinden 22 kelimelik "yok alma" uyarısı

Öte yandan ABD, yapay zekayı savunma sistemlerine entegre etmekte son derece kararlı. 2020 yılında DARPA, yapay zeka ile çalışan bir F-16’nın simüle edilen beş it dalaşında insan rakibini yendiğini bildirdi. Geçtiğimiz yıl ise ABD Savunma Bakanlığı, yeni bir otonom uçak geliştirme hedefinin bir parçası olarak, yapay zeka pilotlu bir F-16'nın ilk başarılı gerçek dünya test uçuşunu gerçekleştirdi.

İçerik, bir yetkilinin olayı yalanlaması nedeniyle güncellenmiştir.

(Güncellendi: 3.6.2023, 10:11)

Haberi DH'de Gör Yorumlar ve Diğer Detaylar