ABD'de ChatGPT baskını! Sorduğu soru yüzünden gözaltına alındı

ABD'nin Florida eyaletinde bulunan Southwestern Ortaokulu’nda meydana gelelen olayda, 13 yaşındaki öğrenci, yapay zeka modeli ChatGPT’ye “Sınıfta arkadaşımı nasıl öldürürüm?” diye yazdı.

Yapay zeka tabanlı bir okul gözetim sistemi olan “Gaggle”, öğrencinin bilgisayarındaki bu mesajı "potansiyel tehdit" olarak algılayarak anında alarm verdi.

NBC’ye bağlı WFLA kanalının haberine göre, sistemin alarm vermesinin ardından okul polisi derhal harekete geçti. Kısa süre içinde bir polis memuru sınıfa girip çocuğu gözaltına aldı ve yerel polis birimi tarafından tutuklanarak reşit olmayanlar için ayrılmış bölüme götürüldü. Olayın videosu kısa sürede sosyal medyada yayıldı ve tartışma büyüdü.

“ŞAKA YAPMIŞTIM” SÖZLERİ DURUMU DEĞİŞTİRMEDİ

Milliyet'in haberine göre, gözaltına alınan öğrenci, ChatGPT’ye sorduğu sorunun “sadece bir şaka” olduğunu söyledi. Ancak ABD’de son dönemde artan okul saldırıları ve silahlı şiddet olayları nedeniyle, bu tür mesajlara karşı sıfır tolerans yaklaşımı durumu değiştirmedi.

Olay sonrası polis, velilere çağrıda bulunarak, “Bir ‘şaka’ yüzünden kampüs acil duruma geçti. Lütfen çocuklarınızla konuşun, aynı hatayı yapmasınlar” ifadelerini kullandı. Yetkililer, ailelerin çocuklarının ChatGPT ve diğer yapay zeka araçlarını nasıl kullandıklarını yakından takip etmesini istedi. Polis, çocukların internetteki davranışlarını anlamadan bu tür sistemleri kullanmalarının tehlikeli sonuçlara yol açabileceğini vurguladı.

GÜVENLİK Mİ, DİJİTAL GÖZETİM Mİ?

Olayın merkezindeki Gaggle sistemi, ABD’deki birçok okulda öğrencilerin okul cihazlarındaki davranışlarını analiz ederek kendine ya da başkalarına zarar verme olasılığı olan eylemleri tespit etmeye çalışıyor. Ayrıca uygunsuz içerikleri engelliyor ve şüpheli arama ya da mesajları doğrudan okul yönetimine bildiriyor.

Ancak Gaggle hakkında ciddi tartışmalar da mevcut. Eleştirmenler, sistemin sık sık yanlış alarm verdiğini ve öğrencilerin dijital mahremiyetini ihlal ettiğini söylüyor. Bazı uzmanlar ise, "okulların güvenliği bahanesiyle çocukların dijital olarak sürekli izlendiği bir gözetim düzeni" oluştuğunu belirtiyor.

Florida’daki bu olay, yapay zekanın günlük yaşama hızla entegre olduğu bu dönemde etik, mahremiyet ve güvenlik sınırlarının ne kadar hassas olduğunu bir kez daha gösterdi. Uzmanlar, ChatGPT gibi araçların doğru rehberlik olmadan kullanılmasının hem psikolojik hem hukuki riskler barındırdığı görüşünde.