İtalya, Veri Koruma İhlali Nedeniyle AI Sohbet Robotu Üreticisi Replika’ya 5 Milyon Euro Ceza Verdi

İtalya’nın veri koruma otoritesi, kullanıcıların verilerini korumak için tasarlanmış düzenlemelere uymadığı gerekçesiyle Replika’nın ana firması Luka Inc.’yi 5 milyon euro -yaklaşık 5.64 milyon dolar- para cezasına çarptırdı. Yetkililer, teknolojinin çocuklara potansiyel riskler ve şirketin İtalyan kullanıcıların kişisel verilerini işleme konusunda yeterli hukuki dayanağının olmaması konusunda endişelerini dile getirdi.

Reuters‘a göre, gizlilik denetçisi Garante, pazartesi günü bir açıklama yaparak sohbetbot platformunun çocukların hassas içeriği paylaşmasını veya erişmesini engellemek için bir yaş doğrulama sistemi uygulamadığını belirtti. Sonuç olarak, Luka Inc. bu ihlaller nedeniyle para cezasına çarptırıldı.

Replika, kullanıcılara sohbet ve ses yoluyla konuşmalara katılabilen “sanal arkadaşlar” oluşturmak için özelleştirilebilir avatarlar sunar. Birkaç ay önce, Sarah Kay adında bir kadın, Replika’nın chatbotlarından biriyle duygusal bir bağlantı kurduğunu bildirdi.

İtalyan yetkililer ile Replika arasındaki hukuki mücadele birkaç yıldır devam ediyor. 2023 yılında, İtalya’nın veri koruma ajansı, teknolojinin çocuklara potansiyel risklerinden dolayı Replika’nın İtalyan vatandaşlarının kişisel verilerini işlemesini yasakladı.

Yaklaşık iki yıldır, İtalyan yetkililer sürekli bir soruşturma yürütüyor ve AI şirketinin İtalyan kullanıcılarının verilerini işleme konusunda yasal bir dayanağının olmadığı sonucuna varıyor.

Veri koruma ajansı, ayrıca Replika’nın Avrupa Birliği politikalarına ve yasal çerçevelere uyup uymadığını belirlemek için ayrı bir soruşturma yürütüyor, özellikle AI’ın dil modelinin nasıl eğitildiği üzerinde duruyor.

Avrupa Birliği’nin Yapay Zeka Yasası (AI Yasası) yakın zamanda yürürlüğe girdi ve böylece bölgedeki AI teknolojisinin güvenli, güvenilir ve insan haklarına saygılı olmasını sağlamak amacıyla uygulandı.

Replika, İtalyan cezası hakkında herhangi bir yorumda bulunmadı veya resmi bir açıklama yapmadı. Luka Inc., İtalyan hükümetinden hukuki işlem gören tek Amerikan AI şirketi değil—OpenAI kısa bir süreliğine yasaklandı ve ayrıca 15 milyon euro ceza ile karşı karşıya, çünkü İtalya’nın veri koruma otoritesi, şirketin AB gizlilik düzenlemelerini ihlal ettiğini iddia ediyor.