Microsoft, yapay zekanın hatalarını bulup düzelten aracını kullanıma sundu

Azure AI Studio'nun bir parçası olarak kullanıma sunuldu

Düzeltme özelliği, güvenlik açıklarını algılamak, yapay zeka halüsinasyonlarını bulmak ve kötü amaçlı istemleri engellemek için tasarlanmış bir güvenlik araçları paketi olan Azure AI Studio'nun bir parçası olarak kullanıma sunuldu. Özellik etkinleştirildiğinde, düzeltme sistemi yapay zeka çıktılarını müşterinin kaynak materyaliyle karşılaştırarak yanlışlıkları tarayacak ve tespit edecek. Daha sonra hatayı vurgulayarak, neden yanlış olduğu hakkında bilgi sağlayacak ve söz konusu içeriği yeniden yazacak. Tüm bunlar kullanıcı yanlışları görmeden önce gerçekleşecek. Özellik, yapay zeka hatalarını gidermede etkili bir yöntem gibi görünse de, tamamen güvenilir bir çözüm olmayabilir.

Google'ın AI sistemleri geliştiren şirketler için bulut platformu Vertex AI, yapay zeka modellerinin çıktılarını Google Arama, şirketin kendi verileri ve (yakında) üçüncü taraf veri setlerine karşı kontrol eden bir özellik sunuyor. Ancak bir Microsoft sözcüsü, düzeltme sisteminin yapay zeka çıktılarını temel belgelere uyumlu hale getirmek için küçük dil modelleri ve büyük dil modellerini kullandığını, bu nedenle hata yapmaya açık olduğunu söyledi.