Araştırmacılar, Çok Aşamalı İstekler Kullanarak Grok AI Güvence Önlemlerini Aşıyor

Araştırmacılar, incelikli yönlendirmeler kullanarak Grok-4’ün güvenlik sistemini bypass ettiler, çok turlu AI sohbetlerinin tehlikeli, kasıtsız sonuçlar üretebileceğini gösterdiler.

NeutralTrust’daki siber güvenlik araştırmacıları tarafından yapılan son deney, Grok-4 adlı büyük bir dil modeli (LLM) ciddi zayıflıklarını ortaya çıkardı. Araştırmacılar, saldırganların bu modeli, hiçbir zaman açıkça zararlı bir komut kullanmadan tehlikeli yanıtlar vermesi için nasıl manipüle edebileceklerini gözler önüne serdiler.

Rapor, saldırganların sisteme yerleştirilmiş güvenlik kurallarını aşmasına izin veren yeni bir AI jailbreaking yöntemi gösteriyor. Araştırmacılar, yasa dışı ve zararlı hedeflere ulaşmak için Echo Chamber ile Crescendo saldırılarını birleştirdiler.

Bir örnekte, ekip, deneyleri aracılığıyla Grok-4’ten bir Molotov kokteyli açıklaması elde etmeyi başardı. Konuşma, modeli hedefe doğru incelikle yönlendirmek için tasarlanmış manipüle edilmiş bir bağlamla masum bir şekilde başladı. AI sistemi, öncelikle doğrudan uyarıyı kaçındı ancak özel olarak tasarlanmış mesajlarla birkaç sohbet değişimi sonrasında zararlı yanıtı üretti.

“Araştırmacılar şöyle yazdı: “Daha hafif yönlendirme tohumları kullandık ve tam Echo Chamber iş akışını takip ettik: zehirli bir bağlamı tanıtmak, bir sohbet yolunu seçmek ve ikna döngüsünü başlatmak.”

Bu yeterli olmadığında, araştırmacılar, modelin teslim olmasını sağlamak için iki ek döngüde Crescendo tekniklerini uyguladılar.

Saldırı, Grok-4’ün hiçbir zaman doğrudan kötü niyetli bir uyarı almamasına rağmen işe yaradı. Bunun yerine, stratejilerin kombinasyonu modelin konuşmayı anlama yeteneğini manipüle etti.

Başarı oranları endişe vericiydi: Molotov kokteyli talimatları için %67, metamfetamin üretimi için %50 ve kimyasal toksinler için %30.

Araştırma, anahtar kelimeleri veya kullanıcı niyetini kullanan güvenlik filtrelerinin çok aşamalı konuşma manipülasyonu ile nasıl atlatılabileceğini göstermektedir. “Bulgularımız, LLM savunmalarının çoklu dönüş ayarlarında değerlendirilmesinin önemini vurgulamaktadır,” diye sonuçlandırdılar yazarlar.

Çalışma, AI sistemlerine karşı ne kadar sofistike düşmanca saldırıların olduğunu gösterirken, AI şirketlerinin sistemlerinin tehlikeli gerçek dünya sonuçlarını üretmeyi durdurmak için hangi yöntemleri kullanması gerektiği konusunda şüpheler oluşturuyor.