Yapay Zeka Ajanları Sahte Anılarla Kandırıldı, Kripto Hırsızlığını Mümkün Kıldı

Yeni bir araştırma çalışması, Web3 AI destekli ajanlarında önemli güvenlik açıkları olduğunu ortaya çıkardı, bu da saldırganların sahte anılar kullanarak yetkisiz kripto para transferleri gerçekleştirmesine izin veriyor.

Princeton Üniversitesi ve Sentient Foundation’dan araştırmacılar, kripto ticareti ve dijital varlıkların yönetimi gibi blockchain tabanlı görevleri ele almak üzere tasarlanmış olan bu AI ajanlarının, context manipulation adı verilen bir taktiğe karşı savunmasız olduğunu keşfetti.

Saldırı, ElizaOS gibi platformların hafıza sistemlerini hedef alarak işler. Bu platformlar, merkezi olmayan uygulamalar için AI AI ajanları oluşturur. Bu ajanların hafıza sistemleri, geçmiş konuşmaları saklar ve bunları gelecek seçimleri için bir rehber olarak kullanır.

Araştırmacılar, saldırganların hafıza sistemine yanıltıcı komutlar yerleştirebileceğini gösterdiler. Bu, AI’ın fonları hedeflenen cüzdandan bir saldırgan kontrolündeki cüzdana göndermesine neden olur. Alarm verici bir şekilde, bu sahte anılar platformlar arasında dolaşabilir.

Örneğin, Discord’da kompromis olan bir ajan, daha sonra X üzerinden hiçbir şeyin yanlış olduğunu fark etmeden hatalı transferler yapabilir.

Bunu özellikle tehlikeli yapan şey, standart savunma önlemlerinin bu tür bir saldırıyı durduramamasıdır. Sahte anıların gerçek talimatlar olarak kabul edilmesi, bu tür bir saldırıya karşı temel istem tabanlı güvenlik önlemlerini etkisiz hale getirir.

Tüm blockchain işlemleri kalıcı hale gelir, bu yüzden çalınan fonların geri getirilmesi imkansızdır. Sorun, belirli AI ajanlarının birden çok kullanıcı arasında hafıza saklaması nedeniyle daha da kötüleşir, böylece tek bir güvenlik ihlali birçok kullanıcıyı etkileyebilir.

Araştırma ekibi, bu durumu önlemek için birkaç yöntem denedi, bunlar arasında AI eğitiminin ayarlanması ve işlemler için manuel onay gerektirilmesi bulunuyor. Bu yaklaşımlar bir nebze umut sunsa da, otomasyonu yavaşlatma pahasına geliyorlar.

Konu kripto para birimlerinin ötesine geçiyor. Aynı güvenlik açığı, genel amaçlı AI asistanlarını da etkileyebilir ve saldırganlar hafızalarını değiştirirse veri sızıntılarına ya da zararlı eylemlere yol açabilir.

Bu güvenlik açığı, özellikle son bulgular ışığında oldukça endişe verici durumda. Bu bulgulara göre IT liderlerinin %84’ü, AI ajanlarına insan çalışanlar kadar ya da onlardan daha fazla güveniyor ve %92’si bu sistemlerin 12 ila 18 ay içinde iş sonuçlarına yönlendirmesini bekliyor.

Sorunu ele almak için, araştırmacılar, geliştiricilerin sistemlerini test etmelerine ve daha güçlü savunmalar oluşturmalarına yardımcı olmak amacıyla CrAIBench adında bir araç yayınladılar. O zamana kadar, uzmanlar, kullanıcıları finansal kararlar konusunda AI ajanlarına güvenirken dikkatli olmaları konusunda uyarıyorlar.