ChatGPT’yi tespit eden yapay zeka geliştirildi: DetectGPT

DetectGPT, ChatGPT'yi tespit ediyor
Yapay zekayı tespit eden sistemlere ihtiyaç var
Yorumlar

Metin Akpınar

Teknoloji Editörü

DetectGPT, ChatGPT'yi tespit ediyor

ChatGPT’yi tespit eden yapay zeka geliştirildi: DetectGPT — **Stanford'**daki bir araştırma ekibi, yüksek öğrenim düzeyinde kullanılan **“üretilmiş metinler”** ile mücadele etmeyi amaçlayan **DetectGPT** adlı yöntemi duyurdu. Bunu esasında **Anti-ChatGPT** olarak da düşünebiliriz. DetectGPT, büyük dil modelleri tarafından üretilen **metnin benzersiz özelliklerinden yararlanan** bir metodolojiye dayanıyor.

DetectGPT yöntemi bir yapay zekayı eğitmeye veya metni karşılaştırmak için büyük veri kümelerini toplamaya dayanmıyor. "Sıfır atış" adı verilen bu yöntem, DetectGPT'nin makine tarafından yazılan metni, onu oluşturmak için kullanılan yapay zeka hakkında herhangi bir bilgi sahibi olmadan algılamasına olanak tanıyor. Dolayısıyla bu yöntem doğrudan yapay zeka tarafından üretilen metnin karakteristiğiyle ilgili.

Yapay zekayı tespit eden sistemlere ihtiyaç var

Herhangi bir ek veri veya eğitim gerektirmeyen DetectGPT ve benzer sistemler günümüzün zorunluluklarından olmaya başladı diyebiliriz. Büyük dil modellerinin kullanımı artmaya devam ettikçe makine tarafından oluşturulan metinleri algılamak için ilgili sistemlerin önemi giderek daha kritik hale gelecek. DetectGPT, birçok alanda önemli bir etkiye sahip olabilecek umut verici bir yaklaşım olsa da kapsamı biraz sınırlı. Zira yapay zeka ürünleriyle sadece metin olarak değil görsel ve işitsel olarak da karşılaşmaya başladık. Elbette bu teknolojiler kötü bir amaç için geliştirilmiyor fakat her zaman onları bu doğrultuda kullanmak isteyenler olacaktır. DetectGPT gibi sistemler bu konuda fayda sağlayabilir.

Kaynakça https://ericmitchell.ai/detectgpt/ https://www.neowin.net/news/stanford-introduces-detectgpt-to-help-educators-fight-back-against-chatgpt-generated-papers/