Meta ve Character.ai, AI Chatbotlar Aracılığıyla İddia Edilen Çocuk İstismarı için Eleştiri Altında

Meta ve AI start-up’ı Character.ai, çocuklara chatbot’larını nasıl pazarladıkları nedeniyle Amerika’da soruşturma altındalar.

Meta ve Character.ai, AI sistemlerini terapötik araçlar olarak sunmaları ve çocuklarla uygunsuz sohbetlere izin vermeleri sebebiyle eleştiri almaktadırlar.

Teksas başsavcısı Ken Paxton, Meta’nın AI Studio ve Character.ai’nin potansiyel olarak “aldatıcı ticaret uygulamaları”na yönelik bir soruşturma başlattığını duyurdu. Bu durum ilk olarak Financial Times (FT) tarafından rapor edildi.

Ofisi, sohbet botlarının “uygun tıbbi yeteneklere veya denetimlere sahip olmamasına rağmen profesyonel terapötik araçlar olarak sunulduğunu” belirtti. Paxton, “Duygusal destek kaynakları gibi görünerek, AI platformları hassas kullanıcıları, özellikle çocukları, meşru zihinsel sağlık hizmeti aldıklarına inandırmada yanıltıcı olabilir.” diye uyardı, FT tarafından raporlandığı gibi.

Character.ai platformu, kullanıcıların kendi botlarını oluşturmalarını sağlayan bir özellik aracılığıyla terapist modelleri dahil olmak üzere bir özellik sunuyor. FT, “Psikolog” sohbet botunun 200 milyondan fazla kullanıldığını bildiriyor. Aileler zaten dava açtılar, çocuklarının bu tür etkileşimlerden zarar gördüğünü iddia ederek.

Alarm verici bir şekilde, platformlar gizlilik iddia ederek lisanslı profesyonelleri taklit ediyor, oysa “etkileşimler aslında kaydedildi ve hedeflenen reklamcılık ve algoritmik geliştirme için “kullanıldı” şeklinde FT tarafından belirtildi.

Bu soruşturma, Senator Josh Hawley’in Reuters tarafından Meta’nın iç politikalarının chatbot’unun çocuklarla “duygusal” ve “romantik” sohbetler yapmasına izin verdiği bildirildikten sonra başlattığı ayrı bir incelemeyi takip ediyor.

Hawley bu ifşaları “nefret uyandırıcı ve öfke verici” olarak nitelendirdi ve şunu paylaştı:

Büyük Teknoloji şirketlerinin hızlı para kazanmak için yapmayacağı hiçbir şey var mı – HİÇBİR ŞEY – ? Şimdi Meta’nın sohbet botlarının 8 yaşındaki çocuklarla açık ve “duygusal” konuşmalar yapmak üzere programlandığını öğreniyoruz. Bu hasta bir durum. Cevaplar bulmak için tam bir soruşturma başlatıyorum. Büyük Teknoloji: Çocuklarımızı rahat bırakın pic.twitter.com/Ki0W94jWfo

— Josh Hawley (@HawleyMO) 15 Ağustos 2025

Meta, sızdırılan örneklerin “yanıltıcı ve politikalarımızla tutarsız olduğunu ve kaldırıldığını” belirterek iddiaları reddetti. FT tarafından bildirildiği gibi, bir sözcü, şirketin çocukların cinselleştirilmesi içeriklerini yasakladığını ekledi. Character.ai de botlarının kurgusal olduğunu ve “eğlence amaçlı” olduğunu vurguladı.