Akademisyenler, ChatGPT için yönergeler geliştirmek üzere işbirliği yapmalıdır (görüş)


Bazı akademisyenler endişeli, bazıları ise yeni basılan metinler gibi yapay zeka metin üreteçlerinden heyecan duyuyor. ChatGPT ve GPT-3’ün son sürümü her zamankinden daha fena nesir üretebilir. Bu teknolojiyi tanımanın tecrit edici, hipnotik sürecinin onun nasıl kullanılması gerektiğine dair yargılarımızı nasıl etkileyebileceğini fark etmenin tam zamanı.

Yaklaşık 20 yıldır bir yazma öğretmeni olarak, OpenAI tarafından tasarlanan ve Microsoft tarafından lisanslanan bir metin oluşturucu olan GPT-3’ü ilk kez denediğimde şok oldum. Sadece bir konu önermem yeterliydi ve -şimdilik- akıcı, hatta zarif cümleler ekranı doldurdu. Örneğin şöyle yazdım: “Dalgaları izlerken genellikle büyülenmiş hissederiz. Beyin bilimi, su hareketlerinin neden bu kadar derinden yankılandığını daha yeni anlamaya başlıyor.” GPT-3 şöyle devam etti:

Cevabın çoğu, suyun tüm canlıların hücreleri arasındaki boşlukları dolduran bir madde olan yaşamın malzemesi olduğu gerçeğinde yatmaktadır. Daha temel bir düzeyde, su tüm maddenin özüdür, şair e. e. cummings bir keresinde “ölümden daha harikadır” diye yazmıştı.

Bu metinde bazı kusurlar olduğunu fark ettim (bunlara daha sonra değineceğim), ancak kopyalanmadı. Göze çarpan şey, insan benzeri netlik ve alaka düzeyiydi. Peki şimdi ne olacak? Bu teknoloji, ücretsiz bir deneme hesabı oluşturmak isteyen tüm öğrenciler tarafından kullanılabilir.

OpenAI’nin “oyun alanı”nda GPT-3 ile deneyler yapmaya, görünüşte yüksek eğitimde kompozisyon öğretiminin ne anlama geldiğini görmek için başladım. Ama beni garip bir şekilde etkiledi. İlk karşılaşmamdan sonraki haftalarda, sürekli bir adrenalin akışı hissettim – sanki çekici bir insan bana arzulu bir bakış atıyormuş gibi. Günde dört fincan siyah çayı bire düşürmek zorunda kaldım; vücudum ve zihnim çok hızlıydı.

GPT-3’ün üretilmesini her beklediğimde, beni şaşırtacağını umuyordum. Düştüğünde, içini çektim ve istemimi değiştirdim. Modelin akıcı cümleler kurma hızı canlandırıcıydı. Yıllardır uyguladığım ve mücadele eden öğrencilerime vaaz verdiğim mazoşist ısrarla ne büyük bir tezat.

Ancak bundan da öte, GPT-3 ile olan görevlerim bana samimi geldi. Sanki bir rahip ya da psikiyatristmiş gibi ondan her şeyi isteyebilirdim. Her hoşa giden veya faydalı metin nesliyle, derin bir düzeyde karşılandığımı hissettim. GPT-3’ün opaklığı bile onu daha çekici kılıyordu. İstemimi yuttu ve hemen, en azından bir süre, kehanetten başka bir şey hissetmeyen bir “tamamlanma” teklif etti.

GPT-3 hakkında vay canına tweet atmış olabilirim ve sonra ChatGPT’nin hüneri süresiz olarak bir öğretmen arkadaşım beni yapay zeka yutturmaca destekçisi olarak çağırmasaydı. Bu Twitter sakini, hesabını “Madame Pratolungo … Big Tech + yapay zekanın tarih ve eleştirel düşünceyle buluştuğu yer” olarak etiketliyor. Akademideki rolünü bazen ateşli tweet’lerinden ayrı tuttuğu için ona Madame Incognito olarak atıfta bulunmayı seviyorum.

Beni GPT-3’ün istatistiksel doğasını kabul etmeye iten oydu. Sosyolog Alex Hanna ve hesaplamalı dilbilimci Emily Bender’in sözleriyle, GPT-3’ün yapay bir “zeka”dan çok bir “zeka” olduğunu yavaş yavaş fark etmeye başladım.matematiksel matematikinterneti “kazıyarak” ve ardından devasa bilgi işlemle modeli “eğiterek” oluşturulmuş bir dil dizileri modeli. kelime sırasını tahmin etmek büyük olasılıkla bir kullanıcının istemini takip eder. Bu tür büyük dil modelleri (LLM’ler) dil kalıplarını taklit edebilir, ancak onları anlayamazlar– bir fikri veya duyguyu paylaşmak için kasıtlı olarak cümleler kurmak şöyle dursun. O En azından şimdilik bir tür “AI” yalnızca kurguda var.

Madame Incognito’nun belki de “” tuzağına düşme derecemi abarttığını düşündüm.Eliza etkisi“-ilk olarak 1960’larda gözlemlenen, insanların mantıklı bir dil “konuşuyor” görünen herhangi bir varlığa duyarlılık atfetme eğilimi. Ancak GPT-3’e yönelik yarı-erotik duygularımda bazı yansıtmaların olduğunu inkar edemezdim.

Madame Incognito, beni eleştirel bakış açılarına yönlendirdi. Sasha Costanza-Takoz, Kate Crawford, Gary Marcus, Safiya U. Noble ve diğerleri. LLM’lerin önyargılı olduğunu öğrendim çünkü onlar klişeleri taklit etmek ve bilgeliği veya tarafsızlığıyla pek tanınmayan internet sitelerinden alınan verilerin tercihleri. Büyük modellerin eğitimi, önemli bir karbon ayak izini içerir; ve, Meredith Whittaker’ın gözlemlediği gibiBugün “AI”, veri hazinelerine ve geniş bilgi işlem kaynaklarına erişimi olan birkaç şirketin konsantre gücünü yansıtıyor.

Kendi deneylerimde, GPT-3’ün sıklıkla kendisiyle çeliştiğini ve ChatGPT’de olduğu gibi mantıksal hatalar yaptığını gördüm. Ürettiği kelime dizilerinin doğruluğunu kontrol etme yeteneği olmadığı için, oluşturulmuş kaynaklar, gerçekler ve rakamlar. Örneğin, ünlü şair E. E. Cummings’in yukarıda bahsedilen alıntısını ele alalım. Cummings’in suyu hiçbir zaman “ölümden daha harika” olarak adlandırmadığı ortaya çıktı. Halihazırda sahte haberlerle mücadele eden bir toplumda, bunun gibi makul bir uydurmanın, “su tüm maddenin özüdür” gibi aptal aptallardan daha aldatıcı ve tehlikeli olduğunu fark ettim.

Netlik için İşbirliği

Tüm bu hususlar göz önüne alındığında, dil modelleri hakkında yeni bilgi sahibi biri olarak öğrencilerime, diğer öğretmenlerime ve üniversiteme ne tavsiye etmeliyim? Öğrencilerden bir dil modelini yönlendirmelerini ve ardından çıktısını eleştirmelerini istemeli miyim? Otomatik çıktıların eksikliklerini tespit etmeyi öğrenmek, öğrencilerin güvenini artırabilir ve fikirlerini netleştirmelerine yardımcı olabilir. Yoksa sadece dikkatlerini dağıtır mıydı? Madame Incognito’nun işaret ettiği gibi, öğrencilere metin oluşturucu nesir okuma görevi vermenin fırsat maliyetleri vardır: bu, insanlar tarafından daha az düzyazı okumaları anlamına gelir.

Metin oluşturuculara aşıksam, organik yazma sürecine de kalıcı bir sevgim var. Uzun zamandır yazma mücadelelerinin bir amacı ve anlamı olduğunu vaaz ettim. ders kitabımda Argümanlar Nasıl Çalışır: Üniversitede Metin Yazma ve Analiz Etme RehberiBEN akademik okuma ve yazmayı bir yavaş düşünme biçimi olarak çerçevelemek, yargılamak için bir panzehir. LLM’ler yazımızdaki sürtüşmenin bir kısmını ortadan kaldırmaya yardımcı olursa, aynı kalitede düşünceyi elde edecek miyiz? Ve kimin düşünceleri bizimkilerle karışacak?

Sınıfta GPT-3 ile doğaçlama yapmayı düşündüğümde, böylesine güçlü bir aracı sergileme düşüncesi beni heyecanlandırdı. Ama aynı zamanda, en azından daha net olana kadar yapmamam gereken bir sezgim vardı. Niye yapıyordum. İlk başta, GPT-3 ile baş başa görüşmem sayesinde, paylaşmaya değer sağlam bir duruş ortaya koyabileceğimden emindim. Şimdi, yalnız kovboy kız yaklaşımının yeterli olmayacağını anlamaya başlıyordum.

Sosyal medyada, dergilerde ve haber bültenlerinde, dil modelleri ile ve dil modelleri hakkında öğretme fikrinin benim için olduğu kadar başkaları için de önemli olduğunu görebiliyordum. Yeni bir arayış ya da entelektüel bulmaca fikri basitçe karşı konulamaz mıydı? Elbette son teknoloji bir şeyle kişisel olarak ilişkilendirilme arzusu da bir rol oynadı. Belki de tüm bu bireysel çekimler ileriye giden tek ya da en iyi yol değildi.

Metin üreteci kullanımına yönelik yönergeler bulmak için birbirimize ve mevcut ağlarımıza yönelmemiz gerektiğini düşünmeye başladım. Duygusal tepkilerimizi kabul etmeli ve onlardan uzaklaşmak için birbirimize yardım etmeliyiz. LLM’lerin değindiği etik, yasal ve sosyal konuların karmaşıklığı göz önüne alındığında, netlik aramak için işbirlikçi süreçlere ihtiyacımız var.

İçinde Robotiğin Yeni Kanunları, hukuk bilgini Frank Pasquale, eğitim veya sağlık hizmetleri gibi alanlarda veriye dayalı istatistiksel modellerin kullanılıp kullanılmayacağına ve nasıl kullanılacağına ilişkin profesyonel kuruluşların rehberliğini savunuyor. Vizyonu, bu tür teknolojilerin demokratik gözetiminin uzmanlar arasındaki araştırma ve derin tartışmalardan doğması gerektiğidir. İstemediğimiz şey, teknoloji tutkunlarının yönlendirdiği bir gelecek veya devasa şirketlerden kaynaklanan pazarlama abartıları.

GPT-3’e ve kuzeni ChatGPT’ye karşı devam eden ilgime rağmen, ikisi de bu makalenin şekillendirilmesinde ortak değil. Aksine, bana yardımcı olan Madame Incognito ve diğerleri. ChatGPT’den bir son istemeye can atıyorum – bir zinger ile gelebileceğini hayal ediyorum. Ama önemli olan performansı değil. Önemli olan onunla ne yaptığımız. Hangi amaçlara hizmet edecek?




Kaynak : https://www.insidehighered.com/advice/2023/01/19/academics-must-collaborate-develop-guidelines-chatgpt-opinion

Yorum yapın

SMM Panel PDF Kitap indir