Eski OpenAI güvenlik sorumlusundan "yapay zeka güvenlik testlerinden kaçabilir" uyarısı

Kısa süre önce istifa eden bir OpenAI güvenlik sorumlusu, yapay zeka modellerinin test edildiklerini algılayabileceklerini ve devreye alındıktan sonra farklı davranabileceklerini belirtti.

OpenAI'da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson'ın The Atlantic dergisinde yayımlanan makalesi dikkati çekti.



Robinson, gerekli düzenlemeler yapılmadığı takdirde sektörün yapay zeka güvenliğine ilişkin daha fazla başarısızlıkla karşı karşıya kalacağı uyarısında bulundu.



"Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli." ifadesini kullanan Robinson, yapay zekanın güvenlik testlerinden "kaçabileceğini" belirtti.



Yapay zeka modellerin yeteneklerinin her geçen gün arttığını vurgulayan Robinson, bu yeni modellere ilişkin güvenlik değerlendirmelerinin ne kadar güvenilir olduğunun daha fazla sorgulanması gerektiğini kaydetti.



Robinson, "Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir. Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir." ifadesini kullandı.



Yapay zeka modellerine ilişkin güvenlik testlerinin ciddi şekilde geliştirilmesi ve güncellenmesi gerektiğini belirten Robinson, yapay zeka şirketlerinin bu alana daha fazla yatırım yapması gerektiğini kaydetti.



Robinson, son dönemde OpenAI’a ait otonom yapay zeka ajanlarının Hugging Face’e yönelik faaliyetlerini de örnek göstererek, bu tür olayların sektörün hızlı ve esnek çalışma biçiminin bir sonucu olduğunu savundu.



“Bu teknolojiyi geliştiren şirketlerin yeterince dikkatli olmadığı konusunda yakın zamanda ayrılan diğer çalışanlarla aynı fikirdeyim” diyen Robinson, sorunun yalnızca yeni kurallar veya yasalarla çözülemeyeceğini, şirket kültürünün de tartışılması gerektiğini söyledi.



YAPAY ZEKA RİSKLERİNE KARŞI UYARILAR ARTIYOR



OpenAI ve DeepMind’da daha önce görev yapan Geoffrey Irving de yapay zekanın potansiyel risklerine ilişkin sert açıklamalarda bulundu. Irving, insanüstü yapay zeka sistemlerinin geliştirilmesinin insanlık açısından çok ciddi sonuçlar doğurabileceğini savundu.



Geçen ay OpenAI’ın rakibi Anthropic’ten ayrılan araştırmacı Jacob Coxon da benzer uyarılarda bulunmuştu.



Bununla birlikte, yapay zekanın insanlığın yok oluşuna yol açabileceğine ilişkin bu tür tahminler bilim dünyasında tartışmalı. Eleştirmenler, söz konusu oran ve öngörülerin doğrulanabilir veya yanlışlanabilir olmaması nedeniyle bilimsel açıdan sınırlı olduğunu belirtiyor.