Amazon'un yapay zekası Q’nun ciddi güvenlik sorunları var

Teknoloji devi geçtiğimiz günlerde yeni yapay zeka ürünlerini piyasaya sürdü. Firmanın ChatGPT rakibi olan kurumsal odaklı Amazon Q’nun ise görünüşe göre ciddi güvenlik sorunları bulunuyor.

Yapay Zeka

Amazon Q, güvenlik endişelerine neden oluyor
Yorumlar

Metin Akpınar

Teknoloji Editörü

Bildirimi Aç Bildirim Açık

Amazon'un yapay zekası Q’nun ciddi güvenlik sorunları var — Geçtiğimiz hafta yıllıkAmazon Web Services geliştirici konferansında **Amazon**, şirketin iş dünyasına yönelik yapay zekalı sohbet robotu Q'yu duyurdu. **ChatGPT gibi** bir kullanım sunan Amazon Q, görünen o ki, ilk kullanıma pek de hazır değil. Hatta bazı işçiler, sorunların oldukça ciddi olduğunu ve 'Hukukçularda potansiyel olarak kalp krizlerine yol açabileceğini' söylüyor.

Amazon Q, güvenlik endişelerine neden oluyor

Platformer tarafından elde edilen dahili belgelere göre Amazon Q, ciddi halüsinasyonlar görüyor ve gizli verileri sızdırıyor. Bu sızıntılardan bazıları AWS veri merkezlerinin konumu, dahili indirim programları ve hatta yayınlanmamış özellikleri içeriyor. Amazon temsilcisi Platformer'a yaptığı açıklamada ise bu iddiaları yalanladı. Amazon, çeşitli geri bildirimler aldıklarını ancak bunlar neticesinde herhangi bir güvenlik sorunu tespit edemediklerinin altını çiziyor.

Q, çalışanlara çeşitli farklı iş işlevlerinde yardımcı olmanın yanı sıra soruları yanıtlamak ve içerik oluşturmak için özelleştirilebilen iş odaklı bir sohbet robotu olarak çalışıyor. Yani ücretsiz ChatGPT gibi değil de daha çok ChatGPT Enterprise sürümü gibi diyebiliriz. Ürünü duyurduğunda Amazon, aralarında Accenture, Amazon, BMW Group, Gilead, Mission Cloud, Orbit Irrigation ve Wunderkind'in de bulunduğu çok sayıda şirketin Q'yu kullandığını söyledi.

Amazon Q, diğer birçok sohbet robotunun aksine web'den bilgi almak yerine, yanıtları "şirketin bilgi havuzlarından, kod tabanlarından ve kurumsal sistemlerinden" alıyor ve bu da bilgilerin yanlış olması veya yanlış kişilerle paylaşılması durumunda daha ciddi sorunlar yaratabiliyor.