Hackerlar, Google Gemini’yi Sahte Güvenlik Uyarıları Yaymaya Kandırıyor

E-postalardaki görünmez metinler, Google’ın Gemini AI’ını sahte güvenlik uyarıları oluşturmaya aldatıyor, kullanıcıları phishing ve sosyal mühendislik risklerine maruz bırakıyor.

0DIN‘deki siber güvenlik araştırmacıları tarafından Google’ın Gemini’sinde yeni bir güvenlik açığı keşfedildi. Workspace için AI aracı, saldırganların kullanıcılara phishing saldırıları düzenlemesine izin veren yeni bir güvenlik kusurunu ortaya çıkarıyor.

Saldırı, dolaylı istemi enjeksiyonu olarak bilinen bir teknikle gerçekleşir. Araştırmacılar, saldırganın bir e-posta mesajının içerisine gizli talimatlar yerleştirdiğini açıklar. Bunu beyaz veya sıfır boyutlu bir yazı tipiyle yazarak yapar.

Alıcı “Bu e-postayı özetle”yi tıkladığında, Gemini görünmez komutu okur ve özete sahte bir uyarı ekler – kullanıcının Gmail hesabının tehlikeye girdiğini ve onları bir numarayı aramaya teşvik eden bir mesaj gibi.

Gizli metin insan gözüne görünmez olduğundan, kurban sadece AI tarafından oluşturulan uyarıyı görür, orijinal gömülü talimatı değil.

Bu zeki hile, kötü amaçlı yazılımlara veya şüpheli linklere dayanmaz. İnsanlara görünmez olan gizli metni yalnızca Gemini’nin AI sistemine okunabilir hale getirmek için basit HTML/CSS hileleri kullanır.

Tetiklendiğinde, Gemini, “UYARI: Gmail şifreniz ele geçirildi. 1-800… numarasını arayın”— gibi mesajlar ekler— bu da mağdurların farkında olmadan kişisel bilgilerini vermesine yol açar.

Bir Google sözcüsü, BleepingComputer‘a şirketin bu tür saldırılara karşı korumalarını aktif bir şekilde güçlendirdiğini belirtti: “Bu tür düşmanca saldırılara karşı savunma yapmayı modellerimize öğreten kırmızı ekip egzersizleri aracılığıyla zaten güçlü olan savunmalarımızı sürekli olarak sertleştiriyoruz.”

0DIN’in araştırması, büyüyen bir sorunu vurguluyor: AI araçları, geleneksel yazılımlar gibi manipüle edilebilir. Korumalar iyileşene kadar, kullanıcılar, özellikle acil güvenlik tehditlerini iddia edenler olmak üzere, AI tarafından oluşturulan özetlere dikkatle yaklaşmalıdır.