Yapay zeka halüsinasyon görebiliyor

Yapay zekanın halüsinasyon görmesi özellikle sürücüsüz otomobil gibi teknolojilerde büyük tehlike teşkil ediyor

13 Mart 2018, Salı 16:59
A A
Yaşamın her alanına girmeye başlayan yapay zeka teknolojisinde büyük ve giderilmesi zor bir sorun ortaya çıktı. Bir grup araştırmacının imaj, ses ve metinlerde yaptığı oldukça küçük değişiklikler yapay zekanın aslında var olmayan şeyleri görmesine, algılamasına yol açtı.
The Wire'da yer alan habere göre yapay zekanın halüsinasyon görebildiğini ortaya çıkaran çalışma MIT öğrencisi Anish Athalye ve ABD'nin saygın üniversitelerinden biri olan Berkeley'den Nicholas Carlini ve David Wagner tarafından yapıldı. Proje, Google, Amazon gibi dev şirketlerin yanı sıra pek çok önemli kurum ve kuruluşun kullandıkları yapay zeka teknolojilerinin halüsinasyon yoluyla kolayca sabote edilebileceklerini ortaya koydu.
 

KAYAK YAPAN İKİ KİŞİYİ KÖPEK OLARAK ALGILADI


Proje kapsamında üzerinde çok ince bir oynama yapılan kayak yapan iki kişinin görüldüğü bu fotoğraf, insanlar tarafından kolaylıkla algılanabilirken Google'ın Cloud Vision servisi yüzde 91 oranında bir kesinlikle fotoğrafta bir köpek gördüğünü belirtti.
Çalışmada benzer türde değişiklikler "Dur" işaretinin görünmez hale gelmesine ya da seslerin söylenenlerden tamamen farklı algılanmasına yol açtı.

Yapay zekadaki bu zaafın özellikle sürücüsüz otomobil gibi sistemlerde büyük tehlike teşkil ettiği belirtiliyor. Kişilerin banka ya da kredi kartlarını kullandıkları sesli yanıt sistemleri de halüsinasyon yoluyla sabotaja maruz kalabilir.

 

SON 24 SAATTE YAŞANANLAR

;