Mattel ve OpenAI, Yapay Zeka Oyuncakları Üzerine Tepkilerle Karşı Karşıya

Tüketici savunucuları, Mattel ve OpenAI arasındaki yeni ortaklığın, AI destekli oyuncaklar yaratma konusunda ortaya çıkan riskleri belirtiyorlar.

Public Citizen ortak başkanı Robert Weissman, Mattel’den daha fazla şeffaflık talep ediyor ve yaklaşan ürünleri hakkındaki detayları açıklamasını istiyor.

“Oyuncaklara insan gibi konuşabilen sesler vermek ve insan gibi konuşmalar yapmalarını sağlamak, çocuklara gerçek zararlar verme riski taşıyor,” diye belirtti Weissman, ilk olarak Ars Technica tarafından bildirildiği üzere.

Weissman, bu tür oyuncakların çocukların sosyal gelişimine zarar verebileceğinden, gerçek hayattaki arkadaşlıkları olumsuz etkileyebileceğinden ve uzun vadede psikolojik zarara yol açabileceğinden korkuyor. “Mattel, AI teknolojisini içeren oyuncaklar satarak çocuklarımız üzerinde dikkatsiz bir sosyal deney yapmak için ebeveynlerin güvenini kullanmamalı” diye ekledi Weissman.

İşbirliğinden çıkan ilk ürün, ismi açıklanmayan bir Axios kaynağına göre, 13 yaşın altındaki çocukları hedeflemeyecek. Bu durumun muhtemelen OpenAI’nin yaş sınırlamalarından kaynaklandığı Ars Technica tarafından öne sürülmektedir. Eleştirmenler, yaş sınırlamasının yeterli koruma sağlamadığını ileri sürmektedirler.

OpenAI yorum yapmayı reddederken, Mattel henüz Ars Technica’nın soruşturmasına yanıt vermedi. İşbirliğinden çıkan ilk ürün, bu yıl duyurulacak ve 2026’da piyasaya sürülecek, Mattel’in basın bültenine göre, işbirliği AI destekli ürünler ve deneyimleri destekleyecek ve bu, Mattel markalarına dayanacak.

Ancak, teknoloji yöneticisi Varundeep Kaur ve dijital güvenlik uzmanı Adam Dodge gibi eleştirmenler, yapay zeka oyuncaklarının çocukları gizlilik ihlallerine, önyargılı içeriğe veya karışık chatbot yanıtlarına maruz bırakabileceği konusunda uyarıyor. Kaur ayrıca, bu oyuncakların “uygunsuz veya tuhaf yanıtlar” verebileceğini, bunun da çocuklar için rahatsız edici olabileceğini belirtmiş.

Ars Technica, bir teknoloji yöneticisi ve dijital güvenlik uzmanı olan Varundeep Kaur ve Adam Dodge gibi eleştirmenlerin, yapay zeka oyuncaklarının gizlilik ihlallerine, önyargılı içerik sunumuna ve karışık chatbot yanıtlarına yol açabileceği konusunda endişelerini dile getirdiğini bildiriyor.

Kaur, AI’nin halüsinasyon riskini vurguladı ve bu durumun oyuncakların çocukları rahatsız edebilecek ya da garip yanıtlar üretebileceğini belirtti. Ayrıca, “ses verilerinin, davranış kalıplarının ve kişisel tercihlerin” kaydedilmesiyle ilgili daha fazla riskin olabileceğini de ekledi.

Ars Technica, Dodge’un “tahmin edilemez, yalaka ve bağımlılık yaratan” diye eklediğini ve oyuncakların kendine zarar verme durumlarını teşvik etme gibi en kötü senaryolardan bahsettiğini aktardı. Her iki uzman da herhangi bir lansmandan önce katı ebeveyn kontrolü, şeffaflık ve bağımsız denetimlerin gerekliliğini vurguladılar.

Aslında, MIT’den araştırmacılar, yapay zeka arkadaşlarının bağımlılık yapıcı doğası hakkında ayrı ancak ilişkili bir uyarı yayınladı.

Mattel daha önce benzer tepkilerle karşılaşmıştı. Şirket 2015’te, çocukları dinleyen ve bulut tabanlı yapay zeka kullanarak yanıt veren Wi-Fi bağlantılı “Hello Barbie” adlı bir bebek çıkardı. Bu durum Forbes tarafından rapor edildi.

O dönemdeki eleştirmenler, siber güvenlik uzmanı Joseph Steinberg dahil olmak üzere, bu oyuncağın büyük bir gizlilik tehdidi oluşturduğu konusunda uyardı. Hello Barbie, çocukların sohbetlerini kaydederek ToyTalk adlı üçüncü bir taraf tarafından işletilen bir sunucuya yüklüyordu, bu da verileri AI sistemlerini geliştirmek için tedarikçilerle paylaşıyordu.

Steinberg, çocukların genellikle bebeklerine derin kişisel düşüncelerini açıkladıklarını, bazen korkuları, aile sorunları veya okul problemlerini tartıştıklarını belirtti. Forbes tarafından bildirildiği gibi, “Çocukların samimi çocukluk konuşmalarının kayıtlarının bilinmeyen tarafların elinde kalmasını ister miydiniz?” diye sordu.

Gizlilik uzmanları, şirketler ambalaj üzerinde sade dilde uyarılar sunmadıkça, birçok ebeveynin çocuklarının özel hayatlarını kolaylık ve eğlence kılıfı altında şirketlere bilmeden maruz bırakacağını savunuyorlar.