BBC, Facebook’ta AI Soykırım Görüntüsü Sahtekarlığını Ortaya Çıkarıyor

Bazı Facebook kullanıcıları, AI Holokost resimlerinden kar eden spamcıların kurbanı oldu, bu durum Holokost kurtulanları arasında öfkeye yol açtı.

Bir BBC araştırması, Facebook’un para kazanma sisteminden kar elde etmek için AI tarafından oluşturulan Holokost kurbanlarının resimlerini kullanan uluslararası bir spamcılar ağı ortaya çıkardı.

Bu uygulama, Holokost anma kuruluşlarından karşı çıkma görüyor, çünkü bu kuruluşlar, AI tarafından oluşturulan görüntülerin, hayatta kalanlara ve aile üyelerine zarar verdiğini düşünüyorlar.

“İkinci Dünya Savaşı sırasında Auschwitz toplama kampının içinden sadece bir avuç gerçek fotoğraf var,” diye BBC’ye yapılan inceleme belirtti.

AI spamlar, mahkumların keman çalarken sahnelenen resimlerini ve sevgililerin hapishane çitlerinin yakınında buluşmasını içeren yapay içerikler yayınlamaya başladı. Bu içeriklerin binlerce beğeni ve paylaşım aldığı bildirildi.

“Burada, sosyal medyada yaşanan tuhaf bir duygusal oyun için hikayeler uyduran birini görüyoruz…” diye konuştu, Polonya’daki Auschwitz Anıtı’nın sözcüsü Pawel Sawicki, BBC tarafından bildirildiği üzere.

“Bu bir oyun değil. Bu gerçek bir dünya, gerçek acılar ve anmak istediğimiz ve anmak zorunda olduğumuz gerçek insanlar,” dedi Sawicki.

BBC, birçok gönderiyi Meta’nın davetli tekil İçerik Monetizasyonu (CM) programını sömüren Pakistan merkezli içerik oluşturucularla ilişkilendirdi. Abdul Mughees tarafından işletilen hesabın, sosyal medya dolandırıcılıklarından $20,000 gelir elde ettiği ve ilk dört ayı içinde 1.2 milyar görüntüleme elde ettiği iddia edildi.

Gönderiler, tamamen uydurma senaryoları gösteren AI tarafından oluşturulan resimleri sergiliyor, örneğin bir toplama kampındaki tren yolunda terkedilmiş bir bebek.

Holokost kuruluşları bu trendin, hayatta kalanların tanıklığını baltaladığını söylüyor. “Ne gördüklerini tam anlamıyla kavrayamıyorlar,” diye belirtti Dr. Robert Williams, Uluslararası Holokost Anma İttifakı Hayatta Kalanlar’dan, BBC tarafından bildirildiği üzere. Ekledi ki, “Buna izin verilmiş olmasından dolayı belirli bir üzüntü hissediyorum.”

Uzmanlar, AI’nın anıları koruyabileceğini ancak yanıltıcı kullanımın Holokost tarihini kurguya dönüştürme riski taşıdığını belirtiyorlar.

Son bulgular, AI tarafından oluşturulan görüntülerin risklerinin yalnızca yanıltıcı bilgi yayılmasından daha ileri gidebileceğini gösteriyor. Yeni bir araştırma, AI tarafından oluşturulan içeriğin yanıltıcı anılar oluşturabileceğini gösterdi. İnsanlar sıklıkla aslında hiç meydana gelmemiş olayların gerçekleştiğine inandılar ve bu yanıltıcı anılar konusunda oldukça emindiler.

Uzmanlar, bunun Holocaust anısını ciddi şekilde etkileyebileceğini belirtiyorlar. AI tarafından üretilen görüntülerin tekrar tekrar izlenmesi, insanların gerçek ve sentetik içerik arasında ayrım yapmakta zorlanmaları nedeniyle toplu tarihi bilgilerin çarpıtılmasına yol açabilir, özellikle bu içerik sosyal medyada hızla yayıldığında.

AI, dikkatli kullanıldığında eğitim veya terapi konularında yardımcı olabilir. Ancak bilim insanları, Holocaust tarihi gibi hassas alanlarda dikkatsiz kullanımın gerçeğin kendisini silme riski taşıdığını uyarıyorlar. Araştırmacılar, tarihi kayıtları korumak ve hayatta kalanların tanıklıklarını ve kamu tarihi bilgisini korumak için daha sıkı düzenlemeler, kesin belgelendirme ve tarihçiler, teknologlar ve politika yapıcılar arasında geliştirilmiş işbirliği çağrısında bulunuyorlar.

Meta, Auschwitz Müzesi’nin uyarısı üzerine bazı sayfaları kaldırdı. BBC’nin haberine göre bir sözcü, “Spam ve sahte davranışlar konusundaki politikalarımızı ihlal ettikleri için, bize bildirilen Sayfaları ve Grupları kaldırdık ve arkasındaki hesapları devre dışı bıraktık.” dedi.