AI, Arkadaşlık Uygulamalarında Seks Şantajı Dolandırıcılıklarında Bir Artışa Neden Oluyor

Yapay zekâ, dolandırıcıların flört uygulamalarında cinsel şantaj düzenlemesini kolaylaştırıyor, bu durum gençler, öğrenciler ve kolluk kuvvetleri için acil endişeler yaratıyor.

Sextortion uygulaması bir süredir var olmuştur, ancak AI teknolojisi, suçluların daha inandırıcı sahte kimlikler oluşturmasını sağlar. Bu, onların kurbanla iletişimini hızlandırır ve deepfake teknolojisi aracılığıyla yapay cinsel içerik üretmelerini mümkün kılar, Vice tarafından bildirildiği gibi.

FBI, sextortion’u, suçluların küçükleri açık fotoğraflar paylaşmaya kandırıp daha sonra bu fotoğrafların yayınını önlemek için ek görüntüler veya para talep ettikleri bir yöntem olarak tanımlar.

Suçlular artık yapay zeka oluşturulan profilleri kullanarak sahte romantik ilgiler oluşturuyor, genellikle derin sahte fotoğraflar ve sohbet botları kullanıyorlar. FBI, kurbanların genellikle dolandırıcıları romantik bağlantılar veya hediyeler sunan akranları olarak yanılttığını, ancak bunun yerine manipüle edildiklerini uyarıyor.

Ulusal Suç Ajansı’na göre öğrenciye yönelik şantaj dolandırıcılıkları önemli ölçüde arttı. BBC verilerine göre, sextortion ile ilgili şantaj vakalarının sayısı 2023’te 8.000’e yükseldi, oysa 2014’teki toplam sadece 23’tü.

BBC, Nationwide’deki ekonomik suçların başındaki Jim Winters’ın gençlere sessiz kalmamaları konusunda tavsiyede bulunduğunu bildiriyor: “Şantaj, karşılaşılması en zor şeylerden biri ve daha sık gerçekleşiyor. Kolay değil ama bir şey doğru hissettirmiyorsa, sesinizi çıkarın-”

Dolandırıcılar artık kurbanların yüz görüntülerini pornografik içeriğe yerleştirmek için derin sahte teknolojisini kullanıyorlar, bu da kurbanların hiçbir zaman açıkça materyal paylaşmamış olmalarına rağmen. Bu yeni şantaj taktiği, şantajın başlamadan önce kurbanların içerik paylaşma ihtiyacını ortadan kaldırıyor.

BBC, bir dolandırıcılığın, mesajlardaki tekrarlanan ifadeler, kusursuz profil resimleri ve doğal olmayan diyalog kalıpları üzerinden belirlenebileceğini öne sürüyor. BPS ‘den uzmanlar, şüpheli görüntüleri doğrulamak için ters aramaları kullanmayı öneriyorlar. Ancak bu yöntemler, AI tarafından oluşturulan içerikle uğraşırken daha az etkili hale geliyor.

Uzmanlar, AI’nin bu suçları nasıl desteklediği konusunda sınırlı araştırma bulunduğu için açık diyalog, eğitim ve güncellenmiş önleme stratejilerine ihtiyaç duyulduğunu vurguluyorlar. Bu çabalar, en savunmasızları dijital tehditlerden korumak için hayati öneme sahiptir.