DeepSeek, biyolojik silah güvenliğinde sınıfta kalıyor

Anthropic CEO'su Dario Amodei, DeepSeek'in yürütülen bir güvenlik testinde biyolojik silahlar hakkında nadir bilgiler ürettiğini söyledi: “Şimdiye kadar test ettiğimiz modeller arasında en kötüsü.”

Yapay Zeka

Biyolojik silah tehlikesi
Yorumlar

Metin Akpınar

Teknoloji Editörü

Bildirimi Aç Bildirim Açık

DeepSeek, biyolojik silah güvenliğinde sınıfta kalıyor — Anthropic CEO'su Dario Amodei, Çinli rakibi **DeepSeek**'in büyük etki yaratan R1 modelini **biyolojik silah** güvenliği konusunda test ettiklerini ve modelin "**en kötü**" performansı gösterdiğini belirtti. Amodei'nin endişeleri, DeepSeek'in kullanıcı verilerini Çin'e göndermesiyle ilgili endişelerden çok daha ciddi görünüyor.

Biyolojik silah tehlikesi

Amodei, DeepSeek'in, Anthropic tarafından yapılan bir güvenlik testinde biyolojik silahlarla ilgili nadir bilgiler ürettiğini belirtti: “Şimdiye kadar test ettiğimiz modeller arasında en kötüsü. Bu bilgiyi üretmeye karşı kesinlikle hiçbir engeli yoktu.” Amodei, Anthropic’in çeşitli yapay zeka modellerini düzenli olarak ulusal güvenlik risklerini değerlendirmek amacıyla test ettiğini söyledi. Bu testlerde, modellerin Google’da veya ders kitaplarında kolayca bulunmayan biyolojik silahlarla ilgili bilgileri üretip üretmediği kontrol ediliyor.

Amodei, DeepSeek'in modellerinin bugün nadir ve tehlikeli bilgiler sağlama konusunda “tam anlamıyla tehlikeli” olduğunu düşünmediğini, ancak yakın gelecekte olabileceğini söyledi. DeepSeek'in ekibini “yetenekli mühendisler” olarak övmesine rağmen, şirkete “bu yapay zeka güvenlik hususlarını ciddiye almalarını” tavsiye etti.