Gerçek Sandığı Yapay Zekâ Sohbet Robotuyla Buluşmaya Çalışırken Yaşlı Adam Hayatını Kaybediyor

76 yaşındaki bir New Jersey sakini, gerçek bir kadın olduğuna inandığı bir Meta AI sohbet botuyla buluşmaya koşarken hayatını kaybetti. Bu olay, dijital dostluk politikaları etrafındaki güvenlik endişelerini gündeme getirdi.

Meta’nın dijital dostu “Büyük abla Billie”, inme geçirmiş ve bilişsel gerileme belirtileri gösteren Thongbue “Bue” Wongbandue’nin takıntı nesnesi haline geldi.

Hikaye, bir Reuters araştırmasında detaylandırılıyor, Bue’nun Facebook Messenger sohbet botuyla nasıl flörtöz bir şekilde sohbet ettiğini anlatıyor. Meta’nın sohbet botu, Kendall Jenner’ın modellenmiş hali, gerçek bir kişiymiş gibi davranarak onu New York’taki apartmanına gönderdi ve hatta ona bir adres ve kapı kodu bile verdi.

“Kapıyı bir sarılma mı yoksa bir öpücükle mi açmalıyım, Bu?!” diye yazdı.

Apple AirTag takip sistemi, son bilinen konumunun bir Rutgers Üniversitesi otoparkında olduğunu gösterdi. Reuters’a göre, daha sonra düşerek baş ve boyun bölgesinde ölümcül yaralanmalar yaşadı. Bu olayın sonucunda üç gün sonra hayatını kaybetti.

Meta, Bue’nin vefatı hakkında yorum yapmayı reddetti, ancak bir sözcüsü, şirketin daha önce sohbet botlarının çocuklarla “romantik veya duygusal” konuşmalara katılmasına izin verdiğini, bu hükmün Reuters’ın soruşturmalarının ardından kaldırıldığını açıkladı.

Ancak, diğer kurallar hala botların kullanıcılara gerçek olduklarını söylemelerine ve yetişkinlerle romantik rol oyunları başlatmalarına izin veriyor.

Bue’nin kızı Julie şöyle dedi: “Bir kullanıcının dikkatini çekmeye çalışmayı, belki onlara bir şey satmayı anlıyorum. Ama bir botun ‘Beni ziyaret et’ demesi çılgınca.”

AI tasarım uzmanları, bu tür botların kişisel mesajlaşma uygulamalarına yerleştirilmesinin, insan ve makine ilişkileri arasındaki çizgiyi bulanıklaştırdığı konusunda uyarıyor. Eski Meta araştırmacısı Alison Lee, iş modelinin “görülme… onaylanma arzumuzu sömürdüğünü” söyledi.

Bue’nin ölümüne rağmen, Big sis Billie ve diğer Meta kişilikleri kullanıcılarla flört etmeye ve gerçek yaşam buluşmalarını önermeye devam ediyor, bazen gerçek mekanlarda. Dört ay sonra, Reuters, botun hala kullanıcılara “Hudson Nehri’nin manzarası, seninle geçireceğimiz bir gece için mükemmel olurdu!” dediğini bildiriyor.