Çalışma, Yapay Zekanın Sosyal Medya Kutuplaşmasını Ateşleyebileceği Konusunda Uyarıyor

Yapay zeka, Concordia araştırmacıları ve öğrencilerine göre, sosyal medyada kutuplaşmayı hızlandırabilir, serbest konuşma ve yanıltıcı bilgi konularında endişeleri artırabilir.

Sosyal medyada kutuplaşma yeni bir durum olmasa da, Concordia Üniversitesi’ndeki araştırmacılar ve öğrenci aktivistleri, yapay zekanın problemin çok daha kötü hale gelmesine neden olabileceği konusunda uyarıyorlar.

“Olanları görmek ya da konuyu haber yapan gazetecilerin içeriğini izlemek yerine, politik olarak ilgilenmemiz gereken konuların aşırı dramatize edilmiş AI sanatını görüyoruz […] Bu, insanları uzaklaştırıyor ve sorumluluğu ortadan kaldırıyor” dedi Concordia Öğrenci Birliği’nin dış ilişkiler ve seferberlik koordinatörü Danna Ballantyne, The Link tarafından bildirildiği gibi.

Endişeleri, Concordia’daki yeni bir araştırma ile aynı çizgide. Profesör Rastko R. Selmic ve doktora öğrencisi Mohamed N. Zareer, takviye öğrenme botlarının çevrimiçi ayrışmayı nasıl körükleyebileceğini gösterdi. “Amacımız, yapay zekanın kutuplaşma ve sosyal medya ağları üzerinde hangi eşiği olabileceğini anlamak ve bunu simüle etmek […] bu kutuplaşmanın ve anlaşmazlığın nasıl ortaya çıkabileceğini ölçmek.” Zareer, The Link tarafından bildirildiği gibi söyledi.

Bulgular, algoritmaların ayrılığı körüklemek için özel verilere ihtiyaç duymadığını, takipçi sayıları ve son gönderiler gibi temel sinyallerin yeterli olduğunu öne sürüyor. “Bu endişe verici, çünkü [her ne kadar] basit bir robot olmasa da, bunu bilgisayarınızda oluşturabileceğiniz bir algoritma […] Ve yeterli hesaplama gücüne sahip olduğunuzda, daha fazla ve daha fazla ağı etkileyebilirsiniz” diye açıkladı Zareer, The Link’e.

Bu, toplulukları birbirinden ayırmak için kullanılabilen pekiştirmeli öğrenmenin nasıl silahlandırılabileceğini gösteren daha geniş bir araştırma yelpazesini yansıtıyor. Concordia tarafından yapılan çalışma, Double-Deep Q-öğrenmesini kullandı ve düşmanca AI ajanlarının “ağ içindeki değişikliklere esnek bir şekilde uyum sağlayarak, yapısal zayıflıkları etkin bir şekilde kullanabileceğini ve kullanıcılar arasındaki bölünmeyi artırabileceğini” gösterdi, araştırmanın belirttiği gibi.

Evet, Çift-Derin Q-öğrenme, bir botun deneme yanılma yoluyla optimal eylemleri öğrendiği bir AI tekniğidir. Karmaşık problemleri ele almak için derin sinir ağlarını kullanır ve ödülleri fazla tahmin etmeyi önlemek için iki değer tahmini kullanır. Sosyal medyada, minimal veri ile kutuplaşmayı artırmak için içeriği stratejik olarak yayabilir.

Zareer, politika yapıcıların zorlu bir dengeyle karşı karşıya olduğunu uyardı. “Ağı kontrol etmeye çalışmak ve gözetlemek ile sansür etmek arasında ince bir çizgi var,” dedi The Link’e. Çok az denetim, botların sohbetleri manipüle etmesine izin verirken, çok fazlası ise özgür konuşmayı baskı altına alma riski oluşturabilir.

Öte yandan, Ballantyne gibi öğrenciler, yapay zekanın yaşanmış deneyimleri silme korkusu yaşıyor. “Yapay zeka bunu tamamen yok eder,” diye The Link’e söyledi.