Yapay zekadan kanser hastasına ‘ölümcül’ tavsiye! Şirket hatayı kabul edip geri adım attı

Google’ın milyonlarca kullanıcının sağlık sorularına yanıt veren yapay zeka özelliği AI Overviews, hayati risk barındıran hatalar nedeniyle geri çekildi. Kan tahlilleri ve kanser beslenmesi gibi son derece hassas konularda yanıltıcı ve tehlikeli bilgiler sunduğu ortaya çıkan sistem, uzmanları alarma geçirdi. 

The Guardian’ın yürüttüğü kapsamlı inceleme, Google’ın yapay zekâ destekli özetlerinin özellikle sağlık alanında ciddi yanlışlar ürettiğini gözler önüne serdi. İncelemeye göre, kullanıcıların güvenerek okuduğu bu özetler bazı durumlarda hastaları yanlış yönlendirerek hayati sonuçlara yol açabilecek nitelikteydi. 

KARACİĞER TESTLERİNDE KRİTİK YANILGI 

Araştırmanın en çarpıcı bulgularından biri karaciğer fonksiyon testleriyle ilgili oldu. AI Overviews, “normal değerler” başlığı altında sunduğu rakamlarda; yaş, cinsiyet, etnik köken ve kullanılan laboratuvar yöntemleri gibi temel değişkenleri tamamen göz ardı etti. 

Uzmanlar, bu tür genelleştirilmiş bilgilerin ciddi karaciğer rahatsızlığı olan kişilerin kendilerini sağlıklı sanmasına neden olabileceğini, bunun da kontrol ve tedavilerin aksamasına yol açabileceğini vurguladı. Yapay zekanın farklı laboratuvar referans aralıklarını tek bir değer gibi sunmasının, tıbbi standartlarla örtüşmediği belgelendi. 

PANKREAS KANSERİNDE “ÖLÜMCÜL” TAVSİYE 

İnceleme kapsamında pankreas kanseriyle ilgili yapılan aramalarda ise daha da endişe verici bir tablo ortaya çıktı. Yapay zekanın hastalara “yüksek yağlı gıdalardan kaçının” yönünde tavsiyeler verdiği belirlendi. 

Oysa uzmanlara göre bu öneri, mevcut tıbbi yaklaşımların tam tersini içeriyor. Pankreas kanseri hastalarının, özellikle kemoterapi sürecinde, yüksek kalori ve enerjiye ihtiyaç duyduğu biliniyor. Yanlış beslenme tavsiyelerinin, hastaları doğrudan hayati riske sokabileceği ifade ediliyor. 

GOOGLE GERİ ADIM ATTI 

Artan tepkiler ve bilim insanlarının uyarıları sonrası Google, “karaciğer kan testleri için normal aralık nedir” gibi belirli sağlık sorgularında AI Overviews özelliğini devre dışı bıraktığını açıkladı.

Uzmanlar, bu olayın yapay zekanın sağlık alanında tek başına bilgi kaynağı olarak kullanılmasının ne kadar riskli olduğunu bir kez daha gösterdiğini belirtiyor. Dünya genelinde birçok sağlık otoritesi, özellikle tanı, test sonuçları ve tedaviye ilişkin konularda yapay zeka yanıtlarının mutlaka hekim görüşüyle desteklenmesi gerektiği uyarısında bulunuyor.