Kanadalı müzisyen Ashley MacIsaac, Google’ın AI Overview (yapay zeka özeti) özelliğinin yaptığı ciddi bir hata nedeniyle itibarının zedelendiğini ve bir konserinin iptal edildiğini açıkladı.
Kanadalı ünlü kemancı Ashley MacIsaac,’e göre Google arama sonuçlarında yer alan yapay zeka tarafından üretilmiş özet, kendisini doğu Kanada’da yaşayan başka bir kişiyle karıştırarak “cinsel saldırı” ve “internet üzerinden çocukları kandırma” gibi ağır suçlardan hüküm giymiş biri olarak tanımladı.
KONSER SON ANDA İPTAL EDİLDİ
Olay, MacIsaac’in Nova Scotia’daki Sipekne’katik First Nation topluluğunda sahne almaya hazırlandığı sırada yaşandı. Organizasyon yetkilileri, Google’da gördükleri bu yanlış bilgiler nedeniyle konseri son anda iptal etti.
Daha sonra yapılan incelemede, organizatörlerin Google’ın AI Overview bölümünde yer alan yanlış ve bağlamdan kopuk bilgileri esas aldığı ortaya çıktı.
“ÖZGÜN ANLATI” PROBLEMLERE YOL AÇIYOR
Uzmanlara göre sorun, yapay zekânın bilgiyi yalnızca listelemek yerine özgün bir anlatı üretmesi. McMaster Üniversitesi’nden Dr. Clifton van der Linden, bu dönüşümün ciddi riskler barındırdığına dikkat çekerek “Arama motorları artık sadece bilgiye yönlendiren araçlar değil, aynı zamanda hikaye anlatıcıları haline geliyor" açıklamasında bulundu.
Google’ın AI Overview sistemi, arama sonuçlarından derlediği verilerle her aramada sıfırdan metin üretiyor. Bu da benzer isimler, eksik bağlam veya hatalı kaynaklar söz konusu olduğunda ağır yanlış kimliklendirmelere yol açabiliyor.
“HERKES OKUMUŞ OLABİLİR”
MacIsaac, Google’da kendisi hakkında arama yapan başka kişilerin de aynı yanlış bilgileri görmüş olabileceğinden endişe ettiğini söyledi. Müzisyen, bu durumun yeni iş fırsatlarının kaybına, kendisini hedef alan düşmanlıklara, hatta fiziksel güvenlik risklerine yol açabileceğini dile getirdi.
GOOGLE'DAN “DÜZELTTİK” AÇIKLAMASI
Google sözcüsü Wendy Manton, The Globe and Mail’e yaptığı açıklamada, AI Overview sonuçlarının dinamik olarak güncellendiğini ve hata tespit edildiğinde sistemlerin iyileştirildiğini belirtti. Gazete, Google’ın MacIsaac’e ilişkin arama sonuçlarını daha sonra düzelttiğini aktardı.
Sipekne’katik First Nation topluluğu temsilcileri de MacIsaac’e ulaşıp “Bu hatanın itibarınıza, geçiminize ve kişisel güvenlik hissinize verdiği zarardan derin üzüntü duyuyoruz” ifadeleriyle özür diledi ve müzisyenin ileride yeniden sahne alabileceği bildirildi.