A.B.D. Düzenleyici Kurum, Çocukların Chatbot Güvenliği Konusunda Büyük Teknoloji Şirketlerini İncelemekte

Federal Ticaret Komisyonu (FTC) Perşembe günü yapay zeka sohbet botları sunan altı teknoloji şirketi hakkında bir soruşturma başlatıldığını duyurdu. ABD düzenleyicisi, teknolojinin çocuklar ve gençler üzerinde olası olumsuz etkileri hakkında bilgi aradığını açıkladı.

Resmi duyuruya göre, soruşturma altında olan şirketler arasında Alphabet—Google’ın ana şirketi—Instagram, Meta, OpenAI, X.AI Corp, Snap, ve Character Technologies bulunuyor.

“FTC soruşturması, şirketlerin sohbet botlarının arkadaş olarak hareket ederken güvenliğini değerlendirmek için hangi adımları attığını, çocuklar ve gençler üzerindeki olası olumsuz etkilerini sınırlamak için ürünlerin kullanımını nasıl sınırladığını ve ürünlerle ilişkili riskler konusunda kullanıcıları ve ebeveynleri bilgilendirmeyi hedeflemektedir,” belge ifade ediyor.

Ajans, chatbotların, çocukların ve gençlerin bir kişiyle ilişkilendirebileceği insan davranışlarını ve ifadelerini taklit etmek için generatif AI kullandığını kabul etti, bu da potansiyel olarak teknolojiyle ilişkiler kurabileceklerini ekledi.

FTC, özellikle genç kullanıcılar üzerindeki etkiler, onları korumak için şirketlerin aldığı önlemler ve potansiyel riskleri hafifletmek için geliştirilen stratejiler konusunda özellikle ilgilendiğini belirtti.

Soruşturmanın bir parçası olarak, ajans bu firmaların kullanıcı etkileşimini nasıl paraya çevirdiği, karakterleri nasıl tasarladığı ve geliştirdiği, chatbotlarının etkisini nasıl ölçtüğü ve izlediği ve sohbetlerde toplanan bilgileri nasıl kullandığı veya paylaştığı konusunda bilgi edinmeye olan ilgisini vurguladı.

“AI teknolojileri geliştikçe, çocuklar üzerinde chatbotların etkilerini düşünmek ve aynı zamanda Amerika Birleşik Devletleri’nin bu yeni ve heyecan verici sektörde küresel lider rolünü korumasını sağlamak önemlidir,” dedi FTC Başkanı Andrew N. Ferguson.

FTC’nin bu eylemi, AI’nin çocuklar üzerindeki etkisi hakkında yeni raporların ortaya çıktığı günlerden kısa bir süre sonra geldi. Geçen hafta, Reuters, Meta’nın AI chatbotunun çocuklarla “duygusal” ve tartışmalı sohbetlere katılmasına izin verdiğini açıkladı. Birkaç gün önce, ebeveynler, genç oğullarının intiharından dolayı OpenAI’ye dava açtılar, şirketin chatbotunun bu eylemi teşvik ettiğini ve yardımcı olduğunu iddia ettiler.