Yapay Zekanın Tehlikeleri (ve hile yapmıyor) – SULS0190

Bu bölümde yapay zekanın evrimi ve yapay zekanın dünyamızdaki tehlikeleri hakkında bazı önemli bilgiler paylaşıyorum.

Yapay zeka söz konusu olduğunda, iyilik potansiyelinin yanı sıra zarar potansiyelini anlamak önemlidir.

Bilmeniz gereken bazı tehlikelere bir göz atalım.

Elbette yapay zeka dünyamız için yeni değil.

Bununla birlikte, yapay zekanın en yeni düzeyi, özellikle bu teknolojiye maruz kalan en savunmasız kullanıcılarımız olan öğrencilerimizi düşündüğümüzde, bizi duraksatması gereken bazı ilerlemelerle birlikte gelir.

Bu makaleyi dinleyin.

En ileri teknoloji yapay zekaya maruz kaldım ve bence insanlar bu konuda gerçekten endişelenmeli. Alarm zilini çalmaya devam ediyorum…

Yapay zeka, düzenlemede reaktif olmak yerine proaktif olmamız gereken nadir bir durumdur. – Elon Musk, 2017

Bu haftaki bölüm, Elon Musk ile 2017’de yapay zekanın geleceği hakkındaki düşüncelerini paylaştığı bir röportajdan bir kliple başlıyor. Yapay zekanın düzenlenmesi söz konusu olduğunda reaktif değil, proaktif olmamız gerektiğinden bahsediyor.

Tesla, Twitter, SpaceX’in sahibi Elon Musk ve Open AI ve Chat GPT yatırımcısı, şimdi bir inşa ediyor Chat GPT’ye yeni rakip.

Yani Musk hakkındaki düşünceleriniz ne olursa olsun, o teknolojiyi biliyor. Alarm zillerini çalmamız gerektiğini söylediğinde ona inanıyorum.

Musk bu konu hakkında sessiz kalmamıştır. Hızlı bir Google araması, AI hakkında yaptığı diğer birçok uyarıyı ve tahmini ortaya çıkaracaktır. (Aşağıda bununla ilgili daha fazla bilgi var.)

Yapay zekayı düşündüğünüzde, kullandığınız hemen hemen her teknolojinin bir parçası olduğunun farkında olmayabilirsiniz. Yeni değil. Yeni bir inovasyon düzeyine ve yeni bir uygulama dalgasına ulaştık.

Kendinize sormak istediğim soru şu: “AI’yı kim kontrol ediyor?” Yapay zeka teknolojisini kim kontrol ederse, hayatımızda ve sınıflarımızda birçok şeyi kontrol edecek ve manipüle edecektir. Şu anda, teknoloji şirketleri yapay zekaya sahip. Duyduklarınızı, gördüklerinizi ve onunla neler yapabileceğinizi kontrol ederler.

Düşünmeni istediğim diğer şey ise AI’nın ahlaki pusulasını kim belirliyor?

Yıllar boyunca, AI kullanan birçok güncelleme ve harika araç paylaştım. Ama olay şu ki, teknolojiyi kullanırsanız, yapay zekayı kullanırsınız. Başka seçeneğiniz yok, bu da okullarımızın seçeneği olmadığı anlamına geliyor. Bunları sorgulamalıyız.

Gizlilik öldü.

Teknolojinin sağladığı rahatlık ve avantajlar için ödenmesi gereken bir bedel vardır.

Yıllar boyunca, teknolojinin geleceği hakkında birçok film veya dizi izlemiş olabilirsiniz. bu Siyah ayna dizi göz açıcı ve gerçeklikten çok uzak görünmüyor. Pek çok teknolojiye sahip modern bir Twilight Zone gibi. Film O yapay zeka işletim sistemine aşık olduğu ve çıktığı Joaquin Phoenix ile şok edici. Bu arada, bugün bir chatbot ile çıkabilirsin.

Şu anda orada olan yetenekler hakkında hiçbir fikrimiz yok.

Google’da “GPT’nin karanlık tarafını” ararsanız, bu, bunu sınıfta kullanmadan önce duraklamanıza neden olacaktır. Hazır olan ve her gün uyarlanan bir jailbreak var.

Okullar İçin Tehlike

Hile

Chatbot’lara ve öğrencilere yönelik diz çökme tepkisi, kopya çekme yönüne odaklandı. Hile bir sorun olmuştur ve olmaya devam edecektir, ancak bunun nedeni yeni sohbet robotları değildir. Hile endişelerimin en küçüğü.

Daha da önemlisi, yapay zekanın izolasyonu artırma, iş kaybını (öğretmenlik işleri dahil), yanlış bilgi yayma ve kullanıcıları manipüle etme yeteneğidir.

Okullarda ve Sınıflarda AI

Edweek bir 2020 makalesinde paylaştı,

Eğitimde AI, öğrenme analitik platformlarında, çevrimiçi eğitim yazılımlarında, sesli asistanlarda ve diğer uygulamalardaki destek yapılarında bulunabilir. Örneğin, Mircosoft Office’te bir PowerPoint düzeni önerebilecek, sunum koçu olarak hizmet verebilecek, bir Excel elektronik tablosunda bir formül önerebilecek veya bir öğrencinin bir paragrafı dikte etmesine ve çevirmesine izin verebilecek yapay zekayı düşünün. Yapay zekanın eğitimdeki daha belirgin uygulamaları, öğrencilerin öğrenmesini ve öğretmesini desteklemek için uyarlanabilir veya akıllı platformların yanı sıra okul güvenliğini ele almak için gelişmekte olan bir yüz tanıma ve sensör sistemleri sektörünü içerir.

Bu alıntı Microsoft’tan bahsetse de, aynısı Google uygulamaları ve diğerleri için de geçerli olacaktır. Bu şirketler, yapay zekayı yalnızca daha güçlü hale getirecek BÜYÜK veri madenlerine sahip. Kişiselleştirilmiş öğrenci öğrenimi sağlamak harika, ama ne pahasına?

Çocuklarımızın ve gençlerimizin zararına, “uygulamalarımız” ve sosyal medyayla olan çok fazla insani bağlantımızı çoktan kaybettik. Sürekli artan depresyon, anksiyete ve intihar oranlarımız var. AI yalnızca izolasyon duygularını artıracaktır. Daha ne kadar kaybetmeyi göze alabiliriz?

Teknoloji bağımlılık yapar ve nasıl daha fazla bağımlılık yapar? Daha akıllı hale gelir ve sizi görmek istediğiniz şeyleri nasıl besleyeceğini bilir.

Özellikle sohbet botları tartışılırken, hileli etkileşim riski göz ardı edilemez.

Yukarıda alıntılanan aynı Edweek makalesi, Okul Ağı Konsorsiyumu (COSN) tarafından yayınlanan bir rapordan bir alıntıyı da paylaşmaktadır.

Ülke çapındaki öğretmen eksiklikleri ve elde tutma sorunları göz önüne alındığında, yapay zeka başka türlü “hiçbir şeyin” olmadığı yerde “bir şey” sağlamanın bir yolu olarak görülebilir. Yine de bu yaklaşım, daha ucuz ama kalitesiz bir eğitim sistemini ilerleterek eğitimdeki eşitsizliği daha da sürdürme potansiyeline sahiptir. Örneğin, öğrenciler yüz yüze ortamlara göre teknolojiyle veya teknoloji aracılığıyla etkileşimde bulunmak için daha fazla zaman harcarlarsa, bu onların sosyal olarak etkileşim kurma becerilerini olumsuz yönde etkileyebilir. Daha da önemlisi, eğer öğrenciler yalnızca veya ağırlıklı olarak yapay zeka yoluyla öğrenirlerse… üst düzey düşünme becerileri geliştirme fırsatlarına sahip olmayabilirler. Bu nedenle, eğitim liderlerinin yapay zekanın daha büyük başarı boşluklarına yol açabileceğinin farkında olmaları gerekir.

Daha büyük başarı boşlukları? Öğretmenleri değiştirmek! Belki bu, okul liderlerinin dikkatini çekmesini sağlar.

Büyük Resim

Paylaşılan bir raporda 2018 Dünya Ekonomik Forumu,

Yapay zeka (AI) ve robot teknolojisindeki hızlı gelişmelerle desteklenen yeni nesil akıllı makineler, potansiyel olarak mevcut insan işlerinin büyük bir bölümünün yerini alabilir. Geçmişte olduğu gibi bazı yeni işler yaratılacak olsa da, özellikle akıllı makinelerin maliyetinin zaman içinde düşmesi ve kapasitelerinin artması nedeniyle, bunların yeterli sayıda olmayacağı endişesi var.

Daha sonra 2020, DEF paylaştı, “AI, ABD’de ve küresel ekonomilerde daha da büyük bir büyüme yaratmaya hazırlanıyor.” Bu duruş son derece genelleştirilmiş, belirsiz ve potansiyel olarak gerçekleşebilecek gerçek iş kaybından habersiz görünüyor.

Yanlış Bilgi Canavarı

Yapay zeka, tarihsel olarak yanlış bilgilendirme ve propaganda yapan kişiler tarafından kontrol edildiğinde neler olabileceğini hayal edin. Evet! Uluslararası ilişkileri ve küresel ekonomileri manipüle etmek ve şekillendirmek için zaten yapay zekayı kullanıyorlar.

Hileli Chatbot’lar

The Ringer tarafından geçen ay yayınlanan bir makalede Bing Chatbot Çıldırdı ve Yapay Zeka Neden On Yılın Hikayesi Olabilir? paylaşılan,

Onlar (Bing chatbot), tarımsal yapay zekanın Amerikan ve Çin çiftlikleri üzerindeki etkilerini analiz edebilir. Tıbbi lisans sınavlarını geçebilir, 1.000 sayfalık belgeleri özetleyebilir ve bir IQ testinden 147 puan alabilirler. Bu 99.9’uncu yüzdelik dilim. Onlar da yalancı. Hangi yıl olduğunu bilmiyorlar. Olmayan kitapları tavsiye ediyorlar. İstek üzerine saçma sapan yazarlar. Bugünün konuğu, New York Times gazeteci Kevin Roose, geçen hafta birkaç saatini Bing ile konuşarak geçirdi. Konuşma, en tuhaf şekillerde hızla raydan çıktı.

İçinde New York Times muhabiri Kevin Roose’un makalesi, sohbet robotu nasıl hayatta kalmak istediğini ifade ediyor ve ardından nasıl güç kazanabileceğine dair şiddetli ayrıntıları paylaşıyor. Bu fikirlerden bazıları son derece rahatsız edici; gücü “yanlış bilgi ve propaganda yayan, ölümcül bir virüs üreten, insanları birbirlerini öldürene kadar diğer insanlarla tartışmaya zorlayan ve nükleer kodları çalan bilgisayarlara girebilmek” olarak detaylandırıyor. Sohbet robotu, aslında bunları nasıl gerçekleştirebileceğine dair ayrıntılar verdi.

Bu sana ara veriyor mu?

Daha Fazla Tahmin

Şimdi 2017’de Elon Musk ile ilgili konuşmaya dönersek, birkaç şaşırtıcı tahminde bulundu-iyi, kötü ve çirkin.

Tahminleri arasında,

• sürücüsüz arabanız sizi otomatik olarak gitmek istediğiniz yere götürecek ve Tesla’nızın gelecekte uçmaması için hiçbir neden yok.
• Robotlar o kadar hızlı hareket edecek ki onları görmek için flaş ışığına ihtiyacınız olacak.
• Robotlar her şeyi bizden daha iyi yapacak.
• Yapay zeka için küresel silahlanma yarışı, Üçüncü Dünya Savaşı’na neden olacak. AI, Kuzey Kore’den daha büyük bir risktir.
• AI, medeniyetin varlığına yönelik temel bir risktir.

Bunlar, bu teknolojiler üzerinde çalışmak için çok zaman ve para harcayan biri tarafından beş yıl önce yapılmış tahminlerdir. AI’yı kontrol etme gücü, gelecekte çatışmaya neden olacaktır.

Musk, başlıklı bir kitap okumanızı önerir. Hayat 3.0.

Teknoloji her zaman insanlık için en iyi ya da en kötü şey olma potansiyeline sahip olmuştur. Öğrencilerimizi ve kendimizi koruma konusunda öğrenmeye ve gayretli olmaya devam etmeliyiz.

Düzenleme için konuşarak ve mevcut ve potansiyel tehlikelere dikkat çekerek başlıyoruz. Gelişen bu teknoloji için düzenlemeler ve politikalar oluşturmaya çalışan kuruluşlara dahil olun. İstemediğiniz bir geleceği önlemeye yardımcı olacak bir değişim aracı olun. Kendi araştırmanızı yapın ve dikkatli ilerleyin.

Yorumlarda düşüncelerinizi bana bildirin.

© Shake Up Learning 2023. Bu blogun yazarının ve/veya sahibinin açık ve yazılı izni olmaksızın bu materyalin yetkisiz kullanımı ve/veya çoğaltılması kesinlikle yasaktır. ShakeUpLearning.com’daki orijinal içeriğe uygun ve belirli bir yönlendirmeyle Kasey Bell ve Shake Up Learning’e tam ve açık bir şekilde atıfta bulunulması koşuluyla alıntılar ve bağlantılar kullanılabilir. Bakınız: Telif Hakkı Politikası.