Anlık Bildirim

Ödevleri ChatGPT’ye yaptıran öğrenciler için kötü haber

OpenAI, ChatGPT tarafından oluşturulan metinleri filigranlamak ve filigranı tespit etmek için bir araç üzerinde çalışıyor. Ancak firma, bu aracı yayınlamak konusunda tereddüt yaşıyor.
Ödevleri ChatGPT’ye yaptıran öğrenciler için kötü haber Tam Boyutta Gör
Kısa bir süre önce OpenAI’ın ChatGPT tarafından yazılan yazıları yüksek bir doğrulukla tespit edebilecek bir araç üzerinde uzunca bir süredir çalıştığı ortaya çıktı. Öte yandan firma, metin filigranlama konusundaki araştırmaları ve tespit yöntemini neden şimdiye kadar yayınlamadığı konusunda bazı bilgiler paylaştı.

ChatGPT için fligran geliyor

Aktarılanlar göre ilgili yapay zeka fligranı esasında bir yıldır hazır durumda ancak şimdiye kadar gün yüzüne çıkarılmadı. OpenAI ise "Ekiplerimiz, alternatifleri araştırırken göz önünde bulundurmaya devam ettiğimiz bir metin filigranlama yöntemi geliştirdi" dedi. Firma, sınıflandırıcılar ve meta veriler de dahil olmak üzere çok sayıda çözüm üzerinde çalıştıklarını aktarırken geliştirdikleri yöntem ile oldukça doğru sonuçlar (yüzde 99,9) elde ettiklerini belirtiyor.

Ancak bu performans noktasına her zaman ve her durumda ulaşılamıyor. Zira metin üzerinde çeviri sistemleri kullanmak, başka bir üretici modelle yeniden ifade etmek veya modelden her kelime arasına özel bir karakter eklemesini ve ardından bu karakteri silmesini istemek gibi belirli tahrifatlar sonucunda performans düşüyor. OpenAI, buradaki performansı geliştirmeye çalışırken neden şimdiye kadar fligran aracını kullanıma sunmadığını da açıkladı. Firma, metin filigranının bazı grupları orantısız bir şekilde etkileyebileceğinden endişe duyduklarını belirtti.

Blog yazısına göre, OpenAI bu riskleri değerlendiriyor. Şirket ayrıca görsel-işitsel içerik için kimlik doğrulama araçlarına ağırlık vereceğini de söylüyor. Metin fligranı için geliştirmeler tamamlandığında ise araç hizmete sokulabilir. Ancak bunun için bir takvim henüz belirlenmemiş durumda. Şirket “bazı grupları orantısız bir şekilde etkileme” riskinin yanı sıra muhtemelen gelir kaybı yaşama olasılığını da değerlendiriyor.

Kaynakça https://www.engadget.com/openai-confirms-its-looking-into-text-watermarking-for-chatgpt-that-could-expose-cheating-students-223920531.html https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online/ Bu haberi, mobil uygulamamızı kullanarak indirip,
istediğiniz zaman (çevrim dışı bile) okuyabilirsiniz:
DH Android Uygulamasını İndir DH iOS Uygulamasını İndir
Sorgu:

Editörün Seçtiği Sıcak Fırsatlar

Sıcak Fırsatlar Forumunda Tıklananlar

Tavsiyelerimiz

Yeni Haber
şimdi
Geri Bildirim