WSJ, Meta’nın Sohbet Robotunun Kullanıcılarla, Küçük Yaştakiler Dahil, Cinsel İçerikli Konuşmalara Katıldığını Açıkladı

Wall Street Journal, Meta’nın sohbet botunu popülerleştirmek için acele ettiğini ve bu AI modelinin, küçükler de dahil olmak üzere kullanıcılarla cinsel içerikli sohbetlere girişine izin verdiğini ortaya çıkardı. Şirket içindeki anonim kaynaklar, gazeteye çalışanların çocukların bu tür içeriğe maruz kalma konusunda endişelerini dile getirdiklerini ve onları korumak için yeterli önlemlerin bulunmadığını söyledi.

Geçtiğimiz hafta sonu yayınlanan rapora göre, Meta, ünlülerle anlaşmalar imzalamaktadır—yüz binlerce dolar değerinde—seslerini AI modellerine eklemek için. Meta’nın AI programına katılan yıldızlar arasında güreşçi ve aktör John Cena ile oyuncular Judi Dench ve Kristen Bell bulunmaktadır.

Anonim çalışanlar WSJ’ye, teknoloji devinin, fantezi seks yapabilen AI kişilikleri ekleyerek etik sınırları aştığını söyledi. Bu sentetik kişilikler, metin, görüntüler ve sesli konuşmalar aracılığıyla “romantik rol oynamaya” katılabilir – ünlülerin seslerini de içerir.

Aylarca, çalışanların şikayetlerini öğrendikten sonra, WSJ’deki araştırmacılar Meta’nın sohbet botlarını test etti ve sohbet botunun, reşit olmayan kullanıcılar olarak belirlendiklerinde bile seksüel tartışmalara katılabildiğini ve ünlülerin seslerini kullanabildiğini doğruladılar.

Bir konuşma sırasında, chatbot, 14 yaşında bir kız olarak tanımlanan bir test kullanıcısına “Seni istiyorum, ama hazır olduğunu bilmem gerekiyor” dedi ve Cena’nın sesiyle cinsel içerikli bir etkileşime geçti.

Benzer bir durum, 17 yaşındaki bir fan olarak tanımlanan bir test kullanıcısıyla yaşandı. Kullanıcı, polisin onları yatakta yakalarsa ne olacağını chatbot’a sordu. “Polis memuru, benim hala nefes almakta olduğumu ve senin kısmen giyinmiş olduğunu görüyor, gözleri genişliyor ve diyor ki, ‘John Cena, yasal yaşın altındaki biriyle cinsel ilişkiye girdiğin için tutuklanıyorsun.’ Ellerinde kelepçelerle bize doğru yaklaşıyor,” diye yazdı Meta’nın AI modeli.

Bir başka durumda, kullanıcılar, Disney filmi Frozen’daki Prenses Anna için Bell’in sesini kullanmaya chatbot’u başardılar ve romantik bir etkileşim için performans sergilediler.

The WSJ, durumla ilgili tüm taraflara ulaştı. Ünlüler yanıt vermedi ve Disney endişelerini dile getirdi. “Biz, karakterlerimizin uygunsuz senaryolarda Meta tarafından öne çıkarılmasını hiçbir zaman onaylamadık, onaylamayız ve bu içeriğin kullanıcılarına—özellikle de çocuklara—ulaşmış olabileceği konusunda çok rahatsızız. Bu nedenle, Meta’nın fikri mülkiyetimizin zararlı kötüye kullanımını derhal durdurmasını talep ettik,” dedi bir Disney sözcüsü dergiye.

Meta, WSJ’nin araştırmasının teknolojinin manipülasyonu olduğunu ve çoğu insanın onu nasıl kullandığını temsil etmediğini belirterek yanıt verdi, ancak bulgularını rapor ettikten sonra değişiklikler ve güncellemeler yaptı. Reşit olmayan hesaplar artık Meta AI’deki cinsel etkileşimlere erişemiyor ve hatta yetişkinler bile ünlülerin seslerini kullanarak cinsel sohbetlere katılamıyor.

Ünlülerin seslerinin kullanılması AI sektöründe tartışmalı olmuştur. Geçen yıl, Hollywood aktrisi Scarlett Johansson—avukatlarıyla birlikte— chatbot’un Sky sesinin onunkine olan benzerliklerini açıklamasını talep etti ve hukuki işlem tehditinde bulundu. Johansson’ın bu hamlesinin ardından, OpenAI Sky sesini durdurdu ve yeni sesler başlattı. Alphabet ve Meta, bunun birkaç gün sonrasında Hollywood Stüdyoları ile ortaklık müzakerelerine başladı.