Bir grup araştırmacı, üretici yapay zekâ uygulamaları ve büyük dil modelleri tarafından üretilen metinleri tanımlamak için son derece hassas bir araç geliştirdiklerini ifade etti.
Pazartesi günü yayınlanan bir makalede, çoğu Maryland Üniversitesi'nden 8 araştırmacı, Binoculars adını verdikleri bir aracın, ChatGPT gibi yapay zekâ uygulamaları tarafından oluşturulan yazıları tespit etmek için tasarlanmış GPTZero ve Ghostbuster dahil olmak üzere mevcut diğer araçlardan daha iyi performans gösterdiğini söyledi. Araştırmacılar, Binoculars'ı haber yazıları, yaratıcı yazılar ve öğrenci denemelerinden oluşan büyük veri kümeleri üzerinde test ettiler. Aracın, yüzde 99,9 doğruluk oranı veya yüzde 0,01 hata payıyla, veri kümelerinin yapay zekâ tarafından yazılan örneklerinin yüzde 90'ından fazlasını tespit ettiğini söylediler.
ChatGPT gibi üretken yapay zekâ araçlarının popülaritesi arttıkça, öğrencilerin akademik çalışmaları tamamlamak için yapay zekâ kullanmaları ve bunu kendi çalışmaları gibi göstermeleri konusundaki endişeler de arttı. Aynı zamanda, birçok öğrenci yapay zekâ tespit araçlarının sonuçlarına dayanarak haksız yere yapay zekâ kullanmakla suçlandı. Bu durum, insanların haksız yere kopya çekmekle suçlandığına dair endişelere yol açtı.
ÜNİVERSİTELER YAPAY ZEKÂYI DEVRE DIŞI BIRAKMAYA BAŞLADI
Geçen yıl, okullar ve üniversiteler bu tür yapay zekâ tespit araçlarını devre dışı bırakmaya başladı. Vanderbilt Üniversitesi intihal programı Turnitin'i kullanmayı bırakmaya karar verdiğini açıkladığında, tespit aracının yüzde 1'lik yanlış pozitif oranını gerekçe göstererek, bunun yüzlerce öğrencinin kopya çekmedikleri halde kopya çekmekle suçlanabilecekleri anlamına geldiğini söyledi.
Yapay zekâ tarafından üretilen metinlerle ilgili diğer endişeler arasında sahte ürün incelemelerinin ve siyasi yanlış bilgilendirmelerin yaygınlaşması yer alıyor.
Binoculars araştırmacıları, yeni araçlarıyla çok daha düşük bir yanlış-pozitif oranı elde ettiklerini iddia ettiler. Ekip, Binoculars'ı lisanslanabilecek daha kullanışlı bir ürün haline getirmeyi düşündüğünü söyledi.
Maryland Üniversitesi'nde araştırmacı olan Abhimanyu Hans yaptığı açıklamada, "Kötü ürünlerin erken piyasaya sürülmesi, insanların büyük dil modeli (LLM) tespitinin imkânsız olduğunu ya da LLM dedektörlerinin asla faydalı olacak kadar iyi performans gösteremeyeceğini düşünmelerine yol açtı. Gerçek şu ki, LLM tespiti üzerine yapılan bilimsel araştırmalar son 6 ayda büyük ilerlemeler kaydetti ve bazı uygulamalar için etkili bir şekilde kullanılabilecek noktaya geldi” dedi.
