-
- Katılım
- 17 Aralık 2025
-
- Mesajlar
- 562
-
- Tepkime puanı
- 0
-
- Puan
- 16
.JPG?width=930&format=webp "Anthropic kurucusundan yapay zeka için ''acil kapatma düğmesi'' önerisi")
Anthropic'in kurucu ortaklarından Jack Clark, şirketler için üçüncü bir tarafça kullanılabilecek bir "acil kapatma düğmesinin" zorunlu hale gelebileceği yorumunda bulundu.
ABD'li yapay zeka şirketi Anthropic'in kurucu ortaklarından Jack Clark, son dönemde yapay zekayla ilgili gündeme gelen tartışmalara ilişkin, BBC'ye bir röportaj verdi.
Clark, yapay zeka yazılımının çok tehlikeli hale gelmesi durumunda onu tamamen devre dışı bırakmanın bir yolunun, toplumun "ileride bu konuda kurallar koymak isteyebileceği" bir konu olduğunu söyledi.
Anthropic dahil birçok şirketin çeşitli "kapatma düğmesi" yöntemlerinin olduğunu belirten Clark, "acil kapatma düğmesi" gereklilikleri ve denetimi ile ilgili ayrıntıların, yapay zeka konusunda yürütülen "daha geniş kapsamlı politika tartışmasının" bir parçası olması gerektiğini dile getirdi.
''KUMAR OYNUYORUZ''
BBC'nin "Şirketlerin mutlaka bir acil kapatma düğmesi bulundurmasını zorunlu kılmalı mısınız? Bu acil kapatma düğmesi üçüncü bir tarafın mı kontrolü altında olmalı?" sorusu üzerine Clark, "Bence bu, toplumun bilmek isteyeceği ve nihayetinde bu konuda kurallar koymak isteyebileceği türden bir konu." yanıtını verdi.
Yapay zekanın tüm insanlığı yok etme olasılığının yüzde kaç olduğunun sorulması üzerine Clark, "Bu istatistiklerin bir işe yarayacağını düşünmüyorum. Ancak yapay zekanın tamamen kontrolsüz bir endüstri olması kötü bir fikir." ifadesini kullandı.
Clark, "Muazzam riskler alarak kumar oynuyoruz. Ve asıl mesele şu ki bu sektörün gidişatını değiştirmeliyiz." görüşünü paylaştı.
OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak, Anthropic'ten istifa etmişti.
Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ileri süren Coxon, bu sistemlerin yakın gelecekte "her şeyi hackleyebilecek" insanüstü sistemlere dönüşebileceğini savunmuştu.
Coxon ayrıca, yapay zeka modellerini geliştiren bazı sektör çalışanlarının bu sistemlerin 10 yıl içinde "insanlığı öldürebileceğine" ciddi şekilde inandığını öne sürmüştü.