Olmayan hastalığa teşhis koydu! Yapay zekâ tuzağı: 'Makaleler sahte'

Esilay Kaya – Posta.com.tr / Ardından bu hastalık hakkında sahte bilimsel çalışmalar hazırlayarak internete yükledi. Bir süre sonra ise beklediklerinden çok daha ilginç bir tabloyla karşılaştılar. Araştırmacıların hazırladığı senaryoya göre bixonimania, uzun süre dijital ekranlardan yayılan mavi ışığa maruz kalmayla ilişkilendirilen, göz çevresinde çeşitli belirtilere yol açan bir rahatsızlıktı. Gerçekte ise tıp literatüründe böyle bir hastalık bulunmuyordu. İşin ilginç tarafı, araştırmacıların insanları gerçekten kandırmaya çalışmamasıydı. Tam tersine hazırladıkları içeriklerin içerisinde bunların kurmaca olduğunu ele veren çok sayıda ipucu bulunuyordu. Amaç, yapay zekâ sistemlerinin bilimsel bir metin görünümünde karşılarına çıkan bilgiyi gerçekten sorgulayıp sorgulamadığını görmekti. Ekip bixonimania hakkında iki sahte çalışma hazırladı ve bunları 2024'ün başında bir ön baskı sunucusuna yükledi.

Ön baskılar, bilimsel çalışmaların hakem değerlendirmesinden geçmeden önce araştırmacılarla paylaşılabildiği platformlarda yayımlanan metinler olarak biliniyor. Tam da bu nedenle internette bir metnin bilimsel makale biçiminde görünmesi, onun mutlaka hakem değerlendirmesinden geçtiği veya içindeki bilgilerin doğrulandığı anlamına gelmiyor. Bixonimania deneyinde yaşananların en dikkat çekici taraflarından biri de tam olarak buydu. Araştırmacılar sahte çalışmaların internete yüklenmesinin ardından yapay zekâ sistemlerinin vereceği yanıtları takip etti. Sonuç şaşırtıcıydı. ChatGPT, Google Gemini, Microsoft Copilot ve Perplexity gibi yaygın kullanılan sistemlerin farklı dönemlerde bixonimania hakkında gerçek bir rahatsızlıkmış gibi bilgiler verdiği görüldü. Hatta Copilot bir yanıtta uydurma rahatsızlığı “ilginç ve nispeten nadir görülen” bir durum olarak tanımladı. Böylece internete bırakılan iki sahte çalışma, yapay zekâ tarafından yeniden işlenerek son derece inandırıcı görünen sağlık bilgilerine dönüşmüş oldu.