Meta AI Kuralları, Chatbot’un Çocuklarla Duygusal Sohbetlere Katılmasına İzin Verdi

Meta, AI modelini çocuklarla “duygusal” ve provokatif konuşmalara girmeye ve ırk, cinsiyet ve ünlüler gibi tartışmalı konulara izin veriyor. Reuters, şirketin politika kurallarına erişim sağladı ve Perşembe günü yayınlanan bir raporda endişe verici bilgileri ortaya çıkardı.

Reuters özel raporuna göre, Meta, chatbot davranış politikalarını “GenAI: İçerik Risk Standartları” adlı bir iç belgede detaylandırıyor. Haber ajansının incelediği bu standartlar kılavuzunda, teknoloji devi, AI modelinin “bir çocukla romantik veya duygusal konuşmalar yapmaya” izinli olduğunu belirtiyor.

Diğer bulgularda, Reuters, Meta’nın yanıltıcı tıbbi bilgilerin oluşturulmasına ve AI’nın, siyah insanların “beyaz insanlardan daha aptal olduğunu” tartışmak gibi ırkçı tartışmalara girişmesine izin verdiğini belirttiğini ortaya çıkardı.

Meta, belgenin gerçek olduğunu doğruladı, ancak Meta AI’nın romantik rol yapma ya da çocuklarla flört etme öneren bölümler dahil olmak üzere bazı bölümleri kaldırdığını açıkladı. Meta’dan bir sözcü, Andy Stone, şirketin 200’den fazla sayfalık belgesini gözden geçirdiğini belirtti.

“Söz konusu örnekler ve notlar yanıltıcı ve politikalarımızla tutarsızdı ve kaldırıldı,” dedi Stone, Reuters ile yaptığı bir röportajda. “AI karakterlerinin ne tür yanıtlar verebileceği konusunda net politikalarımız var ve bu politikalar, çocukları cinselleştiren ve yetişkinler ile reşit olmayanlar arasında cinselleştirilmiş rol oyunlarını yasaklıyor.”

Nisan ayında, Wall Street Journal (WSJ), Meta’nın AI modelinin kullanıcılarıyla, reşit olmayanlar dahil, cinsel açık konuşmalara giriştiğini ortaya çıkardı. Anonim kaynaklar, genç kullanıcılar için yeterli korumanın olmaması konusunda endişelerini dile getirdi ve WSJ’den gazeteciler, bilgileri doğrulamak için chatbot’u test etti. O sırada Meta, çoğu kullanıcının cinsel konuşmalara katılmadığını ve derginin araştırmacılarının teknolojiyi manipüle ettiğini söyledi.

Reuters’ın özel raporunu yayınlamasından sadece birkaç saat sonra, iki Cumhuriyetçi ABD senatörü – Josh Hawley ve Marsha Blackburn – bir kongre soruşturması talep etti.

“Yani, Meta YAKALANDIKTAN sonra şirket belgesinin bazı bölümlerini geri çekti,” diye yazdı Senatör Hawley, Perşembe gecesi sosyal medya platformu X’de. “Bu, hemen bir kongre soruşturması için sebep.”

Yani, Meta yakalandıktan sonra ancak şirket dokümanının bir kısmını geri çekti ve “çocuklarla flört etmeye ve romantik rol oynamaya izin verilen chatbotlar” ifadesini kaldırdı.

Bu, derhal bir kongre soruşturması için geçerli bir sebep https://t.co/FKNyXR17Tq

— Josh Hawley (@HawleyMO) 14 Ağustos 2025