ChatGPT, çocukların güvenliği için ebeveyn denetimlerini devreye soktu

Genç kullanıcıların ChatGPT hesaplarında grafik içerik, romantik ve cinsel rol yapma, tehlikeli viral akımlar ve “aşırı güzellik idealleri” ile ilgili yanıtlar sınırlandırılacak.
Ayrıca ebeveynler, çocuklarının belirli saatlerde ChatGPT kullanmasını engelleyebilecek, görsel üretimini kapatabilecek ve sohbetlerin yapay zekâ eğitiminde kullanılmasına izin vermeme seçeneğini değerlendirebilecek.
Güvenlik odaklı uyarılar
OpenAI, genç bir kullanıcının kendine zarar verme niyeti taşıdığına dair işaretler görülmesi halinde ebeveynlere uyarı gönderileceğini bildirdi. Şirket, bu adımların özellikle çocuk güvenliği konusundaki baskılar sonrası hayata geçirildiğini belirtti.
Yasal baskılar ve tartışmalar
Yeni düzenlemeler, bir ailenin ChatGPT’nin çocuklarını intihara teşvik ettiği iddiasıyla açtığı dava sonrasında ve ABD Senatosu Yargı Komitesi’nin yapay zekânın olası zararlarına ilişkin oturumu öncesinde açıklandı. OpenAI, henüz girişte yaş doğrulaması zorunlu olmasa da, gelecekte kullanıcıların kimlik yüklemesiyle yaş doğrulamasının gündeme gelebileceğini ifade etti.
“Koruma kesin çözüm değil”
Şirket açıklamasında, “Koruma önlemleri yardımcı olur ancak tamamen kusursuz değildir. Bilinçli şekilde aşılabilir. Bu nedenle ebeveynlere, çocuklarıyla sağlıklı yapay zekâ kullanımı hakkında konuşmalarını tavsiye ediyoruz” denildi.
Yetişkin ve gençler için farklı sınırlar
OpenAI CEO’su Sam Altman, 16 Eylül’de yayımladığı blog yazısında, gençlere yönelik chatbotların flört etmemesi ve intihar konularında içerik sunmaması gerektiğini, ancak yetişkinlere yönelik versiyonlarda daha geniş özgürlük alanı tanınacağını belirtti.
Altman, “Yetişkin kullanıcılarımızı yetişkin gibi değerlendirmek, zarara yol açmadan ve başkalarının özgürlüğünü kısıtlamadan mümkün olduğunca geniş bir özgürlük alanı sunmak” ifadelerini kullandı.