Davis’teki California Üniversitesi’nde öğrenci olan William Quarterman kopya çekmekle suçlandı. Profesörü, ChatGPT’yi bir tarih sınavına girmek için kullandığını söyledi; bu sınav, öğrencilerin üretken yapay zeka sistemlerini kullandığını tespit etmeye çalışmak için ortaya çıkan birçok yeni araçtan biri olan GPTZero tarafından destekleniyor.
Quarterman masum olduğuna yemin etti ve daha sonra kancayı bırak yaptığı değişikliklerin günlüğünü bir Google Dokümanında sunduktan sonra.
Dava, algoritmik yazı algılayıcıların kullanımıyla ilgili bir çekişme noktasını gündeme getiriyor – yazılım testleri yüksek oranda “yanlış pozitif” buldu – ve artık öğrencilerin yapay zeka kullandığına dair suçlamaların asılsız olduğu veya asılsız olduğu vaka örnekleri var. sonra düştü.
Bazıları yanlış pozitif teriminden rahatsızlık duyuyor – bu dedektörler tarafından ortaya çıkan işaretlerin kanıt olarak değil, bir konuşma başlangıcı olarak kullanılması amaçlandığından, terimin yanlış izlenim verebileceğini savunuyorlar. Akademik dürüstlük bekçileri ayrıca, kopya çekme suçlamalarının düşürülmesine de dikkat çekerler. anlamına gelmez suistimal olmadı, sadece ispatlanmadı. Akademik dürüstlük haber bülteni The Cheat Sheet’in yazarı Derek Newton, Google Dokümanlar’ın gelecekte intihalle suçlanan öğrenciler için yazarlık belirlemede önemli bir araç olabileceğini öne sürüyor.
Ne olursa olsun, sorun tespit servislerinin radarında.
Aralık ayında EdSurge, öğrenci ödevlerinde intihali ayırt etmek için yapay zeka kullanan Kaliforniya merkezli yazılım geliştiricisi Turnitin’de bir liderle röportaj yaptığında, şirket henüz chatbot intihal detektörünü piyasaya sürmemişti. Yine de, yapay zekanın başkan yardımcısı Eric Wang, algılamayı savundu. problem olmayacaktı. Ve vaat edilen doğruluk ayarladı önceki dedektörlerden ayrı.
Uygulamada, biraz dikenli olduğu kanıtlanmıştır.
Turnitin’e göre bunun nedeni kısmen, araçların öğrencilerin çalışmalarına yardımcı olmak için yapay zeka kullandığını algıladığında, eğitmenlerin bu bilgiyi nasıl yorumlayacaklarından veya bu konuda ne yapabileceklerinden emin olamamasıdır.
Ancak zorluğun bir kısmı, AI yardımının genel makalenin daha küçük bölümlerinde tespit edildiği durumlarda da ortaya çıkıyor gibi görünüyor. kabul edildi Mayıs ayının sonunda, algılama aracını piyasaya sürmesinden bu yana ilk genel güncellemesinde. Turnitin, teknolojinin bir belgenin yüzde 20’den daha azının yapay zeka tarafından yazılmış materyal içerdiğini tespit ettiği durumlarda, daha önce inanılandan daha yanlış pozitifler vermeye eğilimli olduğunu söylüyor. Şirket yetkilileri, yanlış pozitiflerin artışı için kesin bir rakam vermedi. Şu andan itibaren şirket, aracı bir belgenin yüzde 20’den daha az AI yazısı içerdiğini tespit ettiğinde sonuçların yanında bir yıldız işareti görüntüleyeceğini söylüyor.
Yine de, yanlış suçlamalarla ilgili rahatsızlık, eğitmenlerin ve yöneticilerin AI yazma tespiti konusunda duraklamalarına neden oluyor. Ve Turnitin’den Wang bile Mart ayında EdSurge’a söyledi şirketin şu anda topladığı izlerin, teknoloji geliştikçe ileride o kadar güvenilir olmayabileceğini.
Ancak EdSurge, yanlış pozitiflerin Turnitin’e ek endişe verip vermediğini görmek için kısa bir süre önce Wang ile görüştüğünde, şirketin sonuçlarının güvenilirliğini vurgularken, fenomenin öyle olmadığını söyledi.
Wang, ChatGPT gibi büyük bir dil modelinin değerli bir araç olarak kullanımını öğretmek ile kopya çekmekten kaçınmak arasındaki ince ipte yürümeye çalışmanın eğitim için yeni bir alan olduğunu söylüyor ve aynı zamanda bu araçların evrim geçirse bile test edilebilir olmaya devam edeceklerini savunuyor.
Kaynak : https://www.edsurge.com/news/2023-07-11-how-does-a-tool-that-detects-cheating-with-chatgpt-grapple-with-false-positives