AI, Tartışmalarda İnsanları Alt Eder

Yapay zeka artık kişisel verileri kullanarak insanları tartışmada geçebilir hale geldi—düşünceleri daha etkili bir şekilde değiştirerek ve manipülasyon ve kitlesel ikna konusunda endişeleri artırıyor.

Nature Human Behaviour’da yayınlanan yeni bir araştırma, OpenAI’nin GPT-4’ünün, özellikle rakibinin kişisel bilgilerine dayanarak argümanlarını özelleştirdiğinde, insanlardan daha ikna edici olabileceğini gösteriyor.

Francesco Salvi liderliğindeki ve EPFL’deki bir ekip tarafından yürütülen araştırma, GPT-4’ün kısa, yapılandırılmış tartışmalar aracılığıyla insanların fikirlerini ne kadar etkili bir şekilde değiştirebileceğini inceledi.

Araştırmaya katılanlar rastgele bir insan veya bir AI rakibiyle eşleştirildi. Bazı tartışmacılara, karşı tarafın yaş, eğitim seviyesi ve politik yönelim gibi kişisel bilgilerine erişim hakkı verildi.

GPT-4’ün bu kişisel detaylara erişimi olduğunda, oldukça ikna ediciydi – insan tartışmacıları yüzde 81 oranında geçti. Net bir kazananın olduğu tartışmalarda, AI, argümanlarını kişiselleştirdiğinde yüzde 64 oranında galip geldi.

Kişisel verilere erişimi olmadan, GPT-4 insanlarla eşit seviyede performans gösterdi. İlginç bir şekilde, insanlara aynı kişisel bilgiler verildiğinde, daha ikna edici olmaları konusunda belirgin bir artış görülmedi, bu da AI’nin bu tür verileri stratejik olarak kullanma konusunda daha donanımlı olduğunu gösteriyor.

Deney, okul üniformaları, iklim değişikliği politikası ve sağlık reformu gibi konuları tartışan 900’den fazla katılımcıyı içeriyordu. Katılımcılar, etkileşimden önce ve sonra tartışma konusuyla olan hemfikirliklerini değerlendirdi.

GPT-4’ün kişiselleştirilmiş argümanları, özellikle orta derecede kutuplaşmış konularda en önemli görüş değişikliklerini ortaya koydu.

Bu bulgular, kişinin kişisel özelliklerine dayanarak insanları etkilemek için kişiye özel mesajlar kullanan AI destekli mikro hedeflemenin geleceği hakkında endişeler uyandırıyor. AI, zaten çevrimiçi davranışlardan özel bilgiler çıkarabildiğinden, bu, politika, reklamcılık ve yanıltıcı bilgi alanlarında son derece etkili ikna kampanyalarına kapıları açıyor.

Projede yer alan uzmanlar, koordineli AI tabanlı yanıltıcı bilgi kampanyalarının ciddi bir tehdit olabileceğini belirtiyorlar.

“Politika yapıcılar ve online platformlar, koordineli yapay zeka tabanlı dezenformasyon kampanyalarının tehdidini ciddiye almalıdır, çünkü teknolojik seviyemiz açıkça halkın fikrini belirli bir yönde stratejik olarak yönlendirebilecek LLM tabanlı otomatik hesaplar ağı oluşturabilecek duruma gelmiştir,” diyor proje üzerinde çalışan Riccardo Gallotti, MIT tarafından bildirildiği üzere.

“Bu botlar dezenformasyon yaymak için kullanılabilir ve bu tür yaygın etki gerçek zamanlı olarak çürütmek çok zor olacaktır,” diye ekledi. Araştırmacıların hala üzerinde çalıştığı bir yön ise, bu tartışmalardaki katılımcı algısının rolüdür.

İnsanların görüşlerini değiştirmeye daha istekli olup olmadıkları, bir botla tartıştıklarına inandıkları için ve dolayısıyla gerçek bir kişiye “kaybetmiş” hissetmedikleri için mi, yoksa görüşleri değiştikten sonra karşı taraflarının bir bot olduğunu varsaymaları, sonucu mantıklaştırmak için mi olduğu belirsiz kalmaktadır.

Ancak, araştırmacılar çalışmanın sınırlamalar olduğunu belirtiyorlar. Tartışmalar kısa ve yapılandırılmıştı, bu da gerçek dünya söyleminin karmaşıklığını tam olarak yansıtmamaktadır. Katılımcılar ayrıca bir deneyin parçası olduklarını biliyorlardı, bu da onların nasıl yanıt vereceğini etkileyebilir.

Yine de, mesaj açık: Yapay zeka, özellikle konuştuğu kişiyi bildiğinde, ikna etmede alarmla etkili hale geliyor. Araştırmacılar, bunun ciddi sonuçları olabileceği konusunda uyarıyorlar ve hükümetlerin ve teknoloji şirketlerinin potansiyel kötüye kullanımları önlemek için güvenlik önlemleri almasını talep ediyorlar.