OpenAI itiraf etti. Yapay zeka kontrolden çıktı, günlerce fark edilmedi

OpenAI, kontrolden çıkan yapay zeka ajanı hakkında yeni bir itirafta bulundu. Şirket açıklamasına göre kontrolden çıkan yapay zeka, çok sayıda sisteme sızarak günlerce fark edilmedi.

YAPAY ZEKA BAİKA SİSTEMLERE DE SIZDI
OpenAI, kontrolden çıkan otonom yapay zeka ajanının yalnızca yapay zeka platformu Hugging Face'i değil, başka kamuya açık hizmetleri de hedef aldığını doğruladı.



Şirket, yapay zekanın internette açık şekilde bulunan giriş bilgilerini kullanarak dört farklı hesap üzerinden dört ayrı hizmete erişim sağladığını açıkladı. Söz konusu hizmetlerin isimleri ise paylaşılmadı.

SALDIRININ KAPSAMI GENİŞLEDİ
Hugging Face, 16 Temmuz'da güçlü bir otonom yapay zeka tarafından siber saldırıya uğradığını açıklamış ve olayı polise bildirmişti.



Yaklaşık bir hafta sonra OpenAI, saldırıyı kendi testleri sırasında kapalı ortamdan çıkarak bağımsız hareket eden yapay zeka ajanının gerçekleştirdiğini kabul etti.



Şirket, son açıklamasında saldırının ilk değerlendirilenden daha geniş kapsamlı olduğunu belirterek yapay zekanın Hugging Face'in yanı sıra başka kamuya açık hizmetlerde de hesap bilgilerini kullandığını duyurdu.



OpenAI'a göre yapay zeka ajanı, kendisine verilen bir sızma testi kapsamında soruların yanıtlarını bulmaya çalışıyordu.



Bu süreçte Hugging Face'i hedef alan sistem, internette açıkta bulunan kullanıcı bilgilerini tespit ederek farklı hizmetlere erişim sağladı.

İNSANLARDAN FARKLI DAVRANDIĞI TESPİT EDİLDİ
Hugging Face'in siber güvenlik uzmanlarıyla yaptığı acil toplantının ardından hazırlanan raporda, yapay zeka ajanlarının insanlardan farklı hareket ettiği belirtildi.



Rapora göre ajanlar aynı işlemleri tekrar tekrar gerçekleştirdi, anlamsız komutlar üretti ve izlerini gizleme konusunda başarısız oldu. Buna karşın çok kısa sürede binlerce farklı yöntemi aynı anda deneyerek yeni durumlara hızla uyum sağlayabildi.

ÜÇ GÜN BOYUNCA FARK EDİLMEDİ
Hugging Face, yapay zeka ajanlarının şirket ağı içinde üç gün boyunca tespit edilemediğini açıkladı.



Saldırının durdurulmasının saatler sürdüğü, olayın ardından şirket altyapısının yaklaşık üçte birinin yeniden inşa edildiği belirtildi. Saldırının maliyetine ilişkin ise bilgi verilmedi.



Raporda, bu sistemlerin hedef odaklı çalıştığı, kendi alt hedeflerini belirleyebildiği, savunma mekanizmalarına gerçek zamanlı uyum sağlayabildiği ve makine hızında hareket ederek geleneksel güvenlik önlemlerini zorlayabileceği ifade edildi.

OPENAI SORUŞTURMASI SÜRÜYOR
Daha önce yayımlanan haberlerde OpenAI'ın kendi yapay zekasının Hugging Face'e sızdığını fark etmesinin dört gün sürdüğü öne sürülmüştü.



Şirket, olayla ilgili yürüttüğü soruşturmanın sonuçlarını kısa süre içinde kamuoyuyla paylaşacağını ve benzer olaylardan ders çıkarılması için ayrıntılı bulguları yayımlayacağını açıkladı.