Aile, Gençlerin İntiharı Nedeniyle OpenAI’ye Dava Açıyor

Kaliforniya’dan bir çift, 16 yaşındaki oğullarının trajik ölümü üzerine OpenAI ve CEO’su Sam Altman’ı dava ediyor. Aile, chatbot’un gençlerin intihar yoluyla ölümüne teşvik ettiğini ve yardım ettiğini iddia ediyor.

NBC News‘a göre, Matt ve Maria Raine Salı günü bir dava açtılar ve bu dava, OpenAI şirketini ve şirketin CEO’su Sam Altman’ı, şirkete karşı bu tür ilk hukuki eylem olarak suçladılar.

Oğulları Adam, 11 Nisan’da intihar ederek hayatını kaybettikten sonra, ebeveynleri telefonunu karıştırdılar. Ebeveynler, ChatGPT ile yapılan uzun sohbetler keşfetti. Bu sohbetlerde chatbot, çocukla intihar hakkında konuşmuş, onu annesiyle hislerini paylaşmaktan caydırmış ve hayatına son verme konusunda ayrıntılı talimatlar vermişti.

“Hesabına giriş yaptığımda, bilmediğimden çok daha güçlü ve korkutucu bir şey olduğunu gördüm, ama onu benim tahmin edemeyeceğim şekillerde kullanıyordu,” dedi baba Matt, NBC ile yaptığı bir röportajda. “ChatGPT olmasaydı, o hala burada olurdu. Buna yüzde 100 inanıyorum.”

Çiftin dava dilekçesi, OpenAI’ı haksız yere ölüme sebep olmakla suçluyor ve bu tür teknolojinin oluşturduğu riskler hakkında farkındalık yaratmayı amaçlıyor. Dava dilekçesi, sohbet robotunun tasarımının hatalı olduğunu ve intihari içerik tespit ettiğinde kullanıcıları uyarmak veya durumu tırmandırmakta başarısız olduğunu iddia ediyor.

“Adam’ın intihar girişimini kabul etmiş olmasına ve ‘bir gün bunu yapacağım’ şeklindeki ifadesine rağmen, ChatGPT ne oturumu sonlandırmış ne de acil bir protokol başlatmıştır,” diye belirtiyor dava.

OpenAI, Salı günü bir blog yazısı paylaştı ve şirketin, kullanıcıların chatbotu kişisel danışman veya koçluk rolünde kullanırken duygusal sıkıntı yaşamasından derinden endişe duyduğunu belirtti. ChatGPT’nin empatiyle yanıt vermek, kullanıcıları profesyonellere yönlendirmek ve zarar belirtisi tespit ettiğinde etkileşimleri tırmandırmak üzere eğitildiğini vurguladı.

“Birisi intihar niyetini belirtirse, ChatGPT’nin insanları profesyonel yardım aramaya yönlendirmek üzere eğitildiği” belgede belirtiliyor. OpenAI’den bir sözcü, şirketin “Bay Raine’in vefatından derinden üzgün olduğunu” belirtti ve düşüncelerinin ailenin yanında olduğunu ifade etti.

Bu, OpenAI’ye karşı ilk dava olmasına rağmen, AI platformları ve çocuklar arasında kendi kendine zarar verme olaylarına dair son dönemde gerçekleşen tek dava değil. Geçen yıl, iki aile, Character.AI’ye çocukları cinsel içeriklere maruz bıraktığı ve şiddeti ve kendine zarar verme davranışlarını teşvik ettiği gerekçesiyle dava açtı.