OpenAI, ChatGPT Kullanıcılarında Ruh Sağlığı Krizlerini İnceledi

OpenAI, ChatGPT kullanıcıları arasında tespit edilen psikoz, mani veya intihar düşüncesi gibi ruh sağlığı acil durumlarına dair yeni veriler yayımladı.
Şirket, bu tür belirtilerin haftalık aktif kullanıcıların yaklaşık yüzde 0,07’sinde görüldüğünü bildirdi.
Her ne kadar OpenAI bu oranların “son derece nadir” olduğunu vurgulasa da uzmanlar, 800 milyon haftalık kullanıcı için bu oranın yüz binlerce kişiyi temsil ettiğini belirtiyor.

170 UZMANLA KÜRESEL İŞ BİRLİĞİ

OpenAI, 60 farklı ülkeden 170’in üzerinde psikiyatrist, psikolog ve pratisyen hekimle iş birliği yaptığını açıkladı.
Amaç, riskli vakaların tespiti ve güvenli yanıt mekanizmalarının geliştirilmesi.
Bu iş birliği kapsamında ChatGPT’ye, kullanıcıları “gerçek dünyada profesyonel yardım almaya teşvik eden” yeni protokoller eklendi.

İNTİHAR SİNYALLERİNE KARŞI GÜNCELLEME

Verilere göre kullanıcıların yüzde 0,15’inde intihar planı veya niyetine dair açık işaretler tespit edildi.
ChatGPT artık “sanrılar, mani veya kendine zarar verme riskine işaret eden ifadeleri empatik ve güvenli şekilde” yanıtlayacak.
Riskli konuşmalar ise otomatik olarak daha güvenli modellere yönlendirilecek.

UZMANLARDAN UYARI

Kaliforniya Üniversitesi’nden Dr. Jason Nagata, “Yüzde 0,07 küçük görünebilir ama milyonlarca kullanıcı içinde bu büyük bir sayı,” dedi.
Nagata, yapay zekânın ruh sağlığı desteğini genişletebileceğini ancak sınırlamalarının farkında olunması gerektiğini vurguladı.
Prof. Robin Feldman ise, “Yapay zekâ sohbetleri insanlara gerçeklik yanılsaması yaratabiliyor. Bu güçlü bir etki,” diyerek uyardı.
Ayrıca, zihinsel olarak kırılgan kişilerin ekrandaki uyarıları fark edemeyebileceğini söyledi.

YASAL SORUŞTURMALAR VE TRAJİK VAKALAR

OpenAI, kullanıcı etkileşimleri nedeniyle açılan davalarla da karşı karşıya.
Kaliforniya’da 16 yaşındaki Adam Raine’in intiharı sonrası ailesi, şirkete “ihmal ve haksız ölüm” gerekçesiyle dava açtı.
Bu, OpenAI’ye yönelik ilk “ölümle sonuçlanan etkileşim” davası oldu.
Ayrıca Connecticut’ta bir cinayet–intihar vakasında, zanlının ChatGPT ile yaptığı konuşmaların delüzyonlarını güçlendirdiği iddia edildi.
OpenAI, küçük ama anlamlı bir kesimin bu tür riskler taşıdığını kabul ederek güvenlik protokollerini geliştirmeyi sürdüreceğini açıkladı.