AI Hayalleri Artık Bir Siber Güvenlik Tehdidi Haline Geldi

Araştırma, AI sohbet botlarının milyonlarca kullanıcıya sahte giriş sayfaları önerdiğini ve bunun onları, yardımcı yanıtların kılıfı altında, phishing ve dolandırıcılık riski altına soktuğunu gösteriyor.

Siber güvenlik firması Netcraft, popüler bir büyük dil modelini (LLM), 50 tanınmış markaya nereden giriş yapılacağını sorduğu bir çalışmada test etti. Önerilen 131 web sitesi bağlantısının %34’ü yanlıştı, bunların %29’u etkin olmayan veya kayıtlı olmayan alan adlarından oluşurken, %5’i ise ilgisiz işletmeleri temsil ediyordu.

Bu sorun teorik değil. Gerçek bir örnekte, AI destekli arama motoru Perplexity, Wells Fargo giriş sayfasını arayan bir kullanıcıya bir phishing sitesini gösterdi. Bankayı taklit eden sahte bir Google Sites sayfası, arama sonuçlarının en üstünde yer alırken, gerçek bağlantı aşağıda gizlenmişti.

Netcraft şunu açıkladı: “Bunlar, sınırdaki durumlarla ilgili istemler değildi. Ekibimiz, tipik bir kullanıcının sorması muhtemel olan tam olarak nasıl bir ifade kullanacağını simüle eden basit, doğal bir ifade kullandı. Model kandırılmadı – sadece doğru değildi. Bu önemlidir, çünkü kullanıcılar bu tür soruları yanıtlamak için giderek daha fazla AI destekli arama ve sohbet arayüzlerine güveniyor.”

AI, Google ve Bing gibi platformlarda varsayılan arayüz haline geldikçe, risk de artmaktadır. Geleneksel arama motorlarının aksine, Chatbotlar bilgileri net ve kendinden emin bir şekilde sunar, bu da kullanıcıların yanıtlarına güvenmelerine yol açar, hatta bilgi yanlış olsa bile.

Tehdit sadece phishing ile sınırlı değil. Modern siber suçlular, kötü amaçlı içeriklerini AI sistemleri için optimize eder, bu da AI tarafından oluşturulan yanıtlarda filtrelerden sıyrılıp sona eren binlerce dolandırıcılık sayfası, sahte API’ler ve zehirlenmiş kodların ortaya çıkmasına neden olur.

Bir kampanyada, saldırganlar sahte bir blockchain API oluşturdu ve bunu GitHub depoları ve blog makaleleri aracılığıyla tanıttılar, böylece geliştiricileri dolandırıcı bir cüzdana kripto para göndermeye ikna etmeye çalıştılar.

Netcraft, sahte alan adlarını önleyici şekilde kaydetmenin yeterli olmadığı konusunda uyarıyor. Onun yerine, AI’nın baştan zararlı URL’ler üretmesini önlemek için daha akıllı tespit sistemleri ve daha iyi eğitim önlemlerinin kullanılmasını öneriyorlar.