DeepSeek, biyolojik silah güvenliğinde sınıfta kalıyor

Biyolojik silah tehlikesi

Amodei, DeepSeek'in, Anthropic tarafından yapılan bir güvenlik testinde biyolojik silahlarla ilgili nadir bilgiler ürettiğini belirtti: “Şimdiye kadar test ettiğimiz modeller arasında en kötüsü. Bu bilgiyi üretmeye karşı kesinlikle hiçbir engeli yoktu.” Amodei, Anthropic’in çeşitli yapay zeka modellerini düzenli olarak ulusal güvenlik risklerini değerlendirmek amacıyla test ettiğini söyledi. Bu testlerde, modellerin Google’da veya ders kitaplarında kolayca bulunmayan biyolojik silahlarla ilgili bilgileri üretip üretmediği kontrol ediliyor.

Amodei, DeepSeek'in modellerinin bugün nadir ve tehlikeli bilgiler sağlama konusunda “tam anlamıyla tehlikeli” olduğunu düşünmediğini, ancak yakın gelecekte olabileceğini söyledi. DeepSeek'in ekibini “yetenekli mühendisler” olarak övmesine rağmen, şirkete “bu yapay zeka güvenlik hususlarını ciddiye almalarını” tavsiye etti.