Uygulama ile Aç

Yapay zekanın çözümü yapay zekada: ChatGPT’yi tespit eden araç geliştirildi

Özellikle ChatGPT’nin bilimsel makalelerde ve öğrencilerin bitirme ödevlerinde kullanımı sık rastlanır hale geldi. Geliştirilen yeni bir araç ise ChatGPT’yi yüksek doğrulukla tespit edebiliyor.

OpenAI tarafından geliştirilen ChatGPT, hayatımızın her alanına sızmaya başlamış durumda. Özellikle ChatGPT’nin bilimsel makalelerde ve öğrencilerin bitirme ödevlerinde kullanımı sık rastlanır hale geldi. Pek çok kişi (ve araştırmacı) bu tür sorunlu küçüklüklere karşı pratik bir çözüm geliştirmeye çalışıyor ve yeni bir yaklaşım özellikle belirli bir tür bilimsel makale için işe yarıyor gibi görünüyor.

ChatGPT bilimsel makalelerde kullanılıyor

ChatGPT, insan yapımı yaratıcı içerik taklidi yapmakta son derece başarılı olsa da, gerçek profesyoneller sohbet robotunun bir yazar olarak oldukça "berbat" ve gereksiz olduğunu düşünüyor. Ancak söz konusu bilimsel yazılar olduğunda bu tür sohbet robotları basit birer baş belası olmaktan çıkıp bilime ve doğru araştırma uygulamalarına yönelik gerçek tehditlere dönüşebiliyor.

Ayrıca bkz.

Robotik satranç tahtası geliyor

Kansas Üniversitesi'nden bilim insanlarının yeni yayınlanan araştırması, yapay zeka tabanlı intihal sorununa potansiyel bir çözüm öneriyor. Geliştirilen araç, insan yapımı bilim yazısını ChatGPT çıktısından "%99'un üzerinde doğrulukla" ayırt ederek oldukça dikkat çekici bir başarı sergiliyor. Bu sonucun yapay zeka algoritmaları ve özel olarak eğitilmiş bir dil modeli sayesinde elde edildiğini de belirtelim. Yani, yapay zekayı yine yapay zeka tespit ediyor.

Neredeyse yüzde 100 tespit edilebiliyor

Kimya profesörü Heather Desaire ve meslektaşları yapay zekaya karşı yapay zeka ile savaşıyor ve görünüşe göre bu konuda çok iyi sonuçlar alıyorlar: Araştırmacılar çalışmalarını, belirli araştırma konularına genel bir bakış sağlamak için bilimsel dergilerde yayınlanan özel bir makale tarzı olan "perspektif, görüş ve yorum" makalelerine odakladılar.

Bilim insanları biyolojiden fiziğe kadar çeşitli konularda 64 makale seçtiler ve ardından ChatGPT'den 128 "sahte" makaleyi bir araya getirmek için aynı araştırma hakkında yeni paragraflar oluşturmasını istediler. Yapay zeka 1.276 paragraf üretti ve bu paragraflar daha sonra araştırmacılar tarafından yapay zeka yapımı metinleri sınıflandırmakta kullanılacak dil modelini eğitmek için kullanıldı. Eğitilen model daha sonra teste tabi tutuldu ve başarısı neredeyse yüzde 100 oldu. Ayrıca tek tek sahte paragrafları tespit etme doğruluğu yüzde 92 oldu.

Bilim insanları, sohbet robotlarının belirli bir "yazma" stili kullanarak metinler ürettiğini belirtiyor. Dolayısıyla bunları tespit edecek yapay zeka araçlarının geliştirilip genel kullanıma sunulabileceğini düşünüyorlar. Geliştirilen araç şimdilik spesifik bir makale grubunda ChatGPT’yi tespit edebilse de daha fazla araştırma ve modelin daha fazla beslenmesiyle diğer makale türlerinde de benzer sonuçların elde edilebileceği belirtiliyor.



Haberi DH'de Gör Yorumlar ve Diğer Detaylar
Whatsapp ile Paylaş

Beğenilen Yorumlar

Tümünü Gör
5 Yorumun Tamamını Gör