OpenAI, ChatGPT'nin gençlere yönelik yeni sürümünü duyurdu

Yapay zekanın gençler üzerindeki olumsuz etkilerine yönelik baskılardan kaçınan OpenAI, güvenlik önlemleri daha güçlendirilmiş bir ChatGPT modunu piyasaya sürecek.

OpenAI, bazı kullanıcıları intihara sürüklediği yönündeki eleştiriler ve yasal şikayetlerin ardından, Salı günü özellikle gençler için tasarlanmış, daha güçlü güvenlik önlemleri ve izleme mekanizmalarına sahip amiral gemisi ChatGPT sohbet robotunun yeni bir sürümünü tanıttı.



"Gençler için ChatGPT" (ChatGPT for Teens) olarak adlandırılan bu değiştirilmiş parametreler, 13 ile 17 yaş aralığında kayıt olan veya kullanım kalıpları veya hesap yaşı yoluyla şirket tarafından reşit olmadığı tespit edilen tüm kullanıcılar için otomatik olarak devreye alınacak.



ChatGPT for Teens modelinde kullanılan güvenlik önlemlerinin çoğu, kendine zarar verme, şiddet, yeme bozuklukları ve açık cinsel içerikle ilgili kısıtlamalar gibi, reşit olmayanlara ait ChatGPT hesapları için zaten mevcuttu.



OpenAI'ye göre program ayrıca daha sık mola hatırlatıcıları, sessiz saatler ve kullanıcılara doğrudan cevaplar vermek yerine yol gösterici sorularla yanıt veren Çalışma Modu sunarak gençlerin kaynak materyalleri daha iyi anlamalarına yardımcı olacak.



ChatGPT for Teens modelindeki diğer kısıtlamalar arasında, sohbet robotunun kullanıcıya karşı kişisel duygular beslediğini veya kendi bilincine sahip olduğunu ima etmesinin engellenmesi ve ses modu gibi bazı özelliklerin devre dışı bırakılması yer alıyor.



EBEVEYNLERİ UYARMA ÖZELLİĞİ GELİYOR



Hesaplarını ergenlik çağındaki çocuklarının hesaplarıyla ilişkilendirme ve kendine zarar verme ya da intihar gibi yüksek riskli durumların konuşulması halinde ebeveynlere uyarı alma seçeneği sunulacak.



Ebeveyn uyarıları insan moderatörler tarafından incelenip, gizliliği korumak amacıyla sohbet kayıtlarındaki belirli ayrıntılar kaldırılacak.



Yeni gençlik modu, yasal ve düzenleyici baskıların arttığı bir dönemde ortaya çıkıyor.



OpenAI, aralarında ChatGPT'nin tavsiye ettiği yöntemleri kullanarak intihar ettiği iddia edilen 16 yaşındaki Adam Raine'in ailesinin açtığı dava da dahil olmak üzere, çeşitli ölüm davalarıyla karşı karşıya.



ABD Federal Ticaret Komisyonu da, dijital arkadaş görevi gören yapay zekâ destekli sohbet robotlarının çocuklar ve gençler için potansiyel risklerine odaklanarak bir soruşturma başlattı.



Sosyal medya şirketleri gibi, yapay zeka devleri de artan düzenleyici baskıyla karşı karşıya kalıyor; Kongre, sohbet robotlarını düzenlemek için birçok yasa tasarısı sunarken, Kaliforniya da arkadaş veya sırdaş görevi gören asistanlar için güvenlik önlemlerinin alınmasını şart koşuyor.



Diğer yapay zeka şirketleri de, modellerinin küçükler tarafından kullanılmasından kaynaklanan sorunlar nedeniyle tepkilerle karşılaştı; Anthropic gibi bazı rakip şirketler ise modelinin kullanımını yetişkinlerle sınırlandırmayı tercih etti.