Polis, İnternette Trafik Kurbanı Olmuş Gibi Davranmak İçin Yapay Zeka Botları Kullanıyor

ABD-Meksika sınırına yakın polis departmanları, suçları araştırmak için sivil gibi davranan AI botları internete yerleştiriyor, bu durum ise sivil özgürlükler konusunda endişelere yol açıyor.

404 Media tarafından yapılan geniş çaplı bir rapora göre, Meksika sınırı yakınlarındaki ABD polis departmanları, internet üzerinden istihbarat toplamak amacıyla gizlice protestocular, seks işçileri, çocuklar ve suçlular gibi rol yapan AI botlarını kullanıyor.

Teknolojiye – Overwatch adı veriliyor ve New York merkezli olan Massive Blue adlı bir şirket tarafından satılıyor. 404 Media, bu botların, şüphelileri sosyal medya, metin veya mesajlaşma uygulamaları aracılığıyla bilgi vermeye kandırmak için tasarlandığını söylüyor.

404 Media, polis departmanlarının insan kaçakçılığı, uyuşturucu ticareti ve “radikalleşmiş aktivistler” ve “üniversite protestocuları” olarak etiketlenen kişileri izlemek için AI kişiliklerini kullandığını ortaya çıkaran belgeleri elde etti.

404 Media, Massive Blue tarafından geliştirilen AI gözetim sisteminin, insan kaçakçılığına karşı verilen bir hibe ile finanse edilen 360.000 dolarlık bir sözleşme altında Arizona, Pinal County’de faaliyet gösterdiğini bildiriyor. Anlaşma, sürekli gözetimi sağlar ve 50’ye kadar AI kişiliğine izin verir. Yuma adlı başka bir ilçe, sistemi test etti ancak, “Bizim ihtiyaçlarımızı karşılamadı” diyerek yenilemeyi reddetti.

AI botları şaşırtıcı derecede detaylıdır, bunu 404 Media belirtiyor. Örneğin, bir karakter “Jason”, İspanyolca konuşan ve animeyi seven, Los Angeles’tan utangaç bir 14 yaşında çocuk. Senaryolaştırılmış bir sohbette, bir yetişkin ona sorar:

“Ailen etrafta mı? Yoksa harika bir yalnızlık zamanı mı geçiriyorsun?”
“Tek başıma takılıyorum, adamım. Annem işte ve babam şehir dışında,” diye yanıtlıyor Jason.

Bir diğer AI karakteri, Arapça konuşan ve Telegram ve Signal gibi uygulamaları kullanan 25 yaşında bir Yemenli-Amerikalı kadın. Ayrıca vücut olumlu olma ve ekmek yapma konularına ilgi duyan yalnız 36 yaşında bir aktivist olarak posa atan bir “radikalize protesto kişiliği” de var.

“Bir AI’ın biri gibi davranma fikri, çevrimiçi pedofillerle konuşmak için genç arayan veya sahte bir terörist olan biri, uzun zamandır var olan bir fikir,” dedi Elektronik Sınır Vakfı’ndan Dave Maass, 404 Media tarafından bildirildiği gibi.

“Bu tür şeylerin problemi, bu problemlerin belirsiz olmasıdır. Ben eskortlar hakkında endişeli değilim. Üniversite protestocuları hakkında endişeli değilim. Yani, neye etkili, protestocuların İlk Değişiklik haklarını ihlal etmek mi?” diye ekledi Dave.

Buna rağmen, 404 Media, Pinal County’nin henüz hiçbir tutuklama yapmadığını bildiriyor. “Massive Blue, dedektiflerin aktif olarak takip ettiği ipuçları üretti,” dedi sözcü Sam Salzwedel. “Ancak daha fazla detayı açıklayamayız,” diye ekledi.