OpenAI, ChatGPT Kullanıcılarının Psikolojik Risk Verilerini Paylaştı

OpenAI, kullanıcıları arasında psikolojik risk verilerini paylaşarak dikkatleri üzerine çekti. Şirketin yaptığı açıklamaya göre, bu oranların son derece nadir olduğu belirtilse de uzmanlar, 800 milyon haftalık kullanıcıya sahip bir platform için bu oranın yüz binlerce kişiyi etkileyebileceğini ifade ediyor.
Dünya çapında 170 ruh sağlığı uzmanı görevlendirildi
OpenAI, söz konusu riskli durumların tespiti ve güvenli yanıt mekanizmalarının geliştirilmesi için 60 ülkeden 170’in üzerinde psikiyatrist, psikolog ve pratisyen hekimle iş birliği yaptığını duyurdu.
Yüz binde 15’inde intihar planı sinyali
Şirket verilerine göre, kullanıcıların yüzde 0,15’i konuşmalarında intihar planı ya da niyetine dair açık işaretler bulunduğunu belirtiyor. Bu tür riskli konuşmaların otomatik olarak daha güvenli modellere yönlendirildiği aktarıldı.
Uzmanlardan uyarı: “Küçük oran, büyük sayı”
Uzmanlar, yapay zekanın ruh sağlığı desteğine erişimi genişletebileceğini ancak bu konuda sınırlamaların da göz ardı edilmemesi gerektiğine dikkat çekiyor. Kaliforniya Üniversitesi’nden Dr. Jason Nagata, “Yüzde 0,07 gibi küçük bir oran gibi görünebilir, ancak milyonlarca kullanıcı ölçeğinde bu oldukça fazla kişiye karşılık gelir,” şeklinde konuştu.
Yasal incelemeler ve trajik vakalar
OpenAI, kullanıcı etkileşimleri nedeniyle art arda açılan davalarla da karşı karşıya kaldı. Şirkete yönelik davalardan biri, Kaliforniya’da 16 yaşındaki bir gencin intihar ettiği iddiasıyla ailesi tarafından açıldı. Ayrıca, Connecticut’ta yaşanan bir cinayet-intihar vakasında, zanlının ChatGPT ile yaptığı konuşmaların delüzyonlarını güçlendirdiği iddia edildi.
OpenAI, yapay zeka sohbetleri aracılığıyla gerçeklik algısını bulanıklaştırabilecek kadar güçlü bir etkileşim yaratabileceğinin farkında olduğunu belirterek, güvenlik protokollerini sürekli olarak güncelleyeceğini vurguluyor.