OpenAI, yeni yapay zeka tespit aracını yayınladı: İşe yarıyor mu?
OpenAI’ın viral sohbet robotu ChatGPT hayatımıza girdiğinden beri bazı sorunlarla karşılaştık. Bu sorunların en önemlisi ise yazılan metni yapay zeka tarafından yazılıp yazılmadığını anlamak oldu.
OpenAI, ChatGPT'yi piyasaya sürdükten iki ay sonra öğrenciler ödevlerini, sınavlarını, yazılım kodlarını ve daha fazlasını yapmaya başladı. Bazı üniversiteler ChatGPT kullanımı konusunda katı önlemler almaya başlarken birkaç önemli bilim dergisi yayınlarında chatbot kullanımını yasakladı. Bu hamlelerin temel sorunu ise ortak: Gösterilen metni yapay zeka mı yazdı yoksa bir insan mı?
Bu sorunu çözmek için OpenAI, metnin bir insan tarafından mı yoksa yapay zeka tarafından mı yazıldığını belirlemenize yardımcı olacak yeni bir araç yayınladı. Birkaç gün önce de Stanford'daki bir araştırma ekibi benzer bir amaç için DetectGPT’yi duyurmuştu. Öte yandan OpenAI’ın yeni aracı en az 1.000 karakter uzunluğunda metin yapıştırabileceğiniz bir metin kutusu sunuyor. Buraya ilgili metni yapıştırdığınızda ise metnin yapay zeka tarafından oluşturulmuş olma ihtimalinin çok düşük veya yapay zeka tarafından oluşturulmuş olabileceğine dair bir geribildirim uyarısı gösteriliyor.
Bu içeriği kimin yazdığını test ettik
Ancak OpenAI sistemin tamamen olgunlaşmadığının da altını çiziyor. Yani sistemin, yapay zeka tarafından oluşturulmamış veya oluşturulmuş bir metin hakkında yanlış karar verme şansı bulunuyor. Yaptığım testlerde çoğunlukla sistemin doğru tahminde bulunduğunu gördüm ancak yanlış tahminlerinin de sayısı yüksek.Örneğin bu yazı. Şu anda okuyor olduğunuz bu yazıyı OpenAI’ın yeni yapay zeka tespit yazılımında test ettim ve yazının yapay zeka tarafından yazılmış olabileceğini söyledi. Öte yandan ChatGPT’den “Yükselen oyun fiyatlarıyla ilgili bir eleştiri yazısı yazar mısın?” isteğinde bulundum. ChatGPT’nin yazmış olduğu metni test ettim ve sonuç ise biraz gülünç diyebilirim. Sistem, yazının yapay zeka tarafından oluşturulmuş olma ihtimalinin düşük olduğunu söyledi.
Bu bağlamda en azından şimdilik bu aracın çok güvenilir olmadığını söyleyebilirim. Bununla birlikte OpenAI ile Microsoft arasındaki ortaklık giderek büyüyor. Microsoft, şirketin yapay zeka ürünlerini Bing, Office 365 ve Azure gibi servislerine eklemeyi planlarken yakın bir zamanda OpenAI’a 10 milyar dolarlık bir yatırım yaptığı bildirildi.
{{body}}
{{/longBody}} {{^longBody}}{{body}}
{{/longBody}}