AI Kod Paketleri Hackerlara Kapıları Açıyor, Araştırma Buluyor

Yapay zeka tarafından oluşturulan kodlar genellikle sahte yazılım kütüphanelerini içerir, bu da hacker’ların tedarik zincirlerini istismar etme ve geliştirme platformlarındaki kullanıcıları tehlikeye atma imkanlarını artırır.

Araştırmalar, AI araçları tarafından oluşturulan kodların, yazılım tedarik zincirini tehdit eden önemli güvenlik açıklıkları oluşturduğunu gösteriyor. İlk olarak Ars Technica tarafından bildirilen araştırma, ChatGPT sistemlerine benzer şekilde çalışan büyük dil modellemelerinin (LLMs), hackerların kötü niyetli amaçlar için potansiyel olarak kullanabileceği kurgusal kod bağımlılıkları oluşturduğunu belirtiyor.

Ars, araştırmacıların 576.000 kod örneği oluşturarak 16 yaygın kullanılan AI modelini değerlendirdiğini bildiriyor. Analiz, 440.000 paket referansının var olmayan kod kütüphanelerine işaret ettiği için hayal edildiğini ortaya koydu.

Bu uydurma bağımlılıkların var olması, önemli bir güvenlik riski oluşturuyor. Ars, saldırganların paket isimlerini tekrar tekrar AI önerileri olarak belirleyip bu isimlerle zararlı paketler yükleyebileceğini bildiriyor. Saldırgan, geliştiricinin farkında olmadan zararlı kodu yüklediği zaman geliştiricinin sistemini kontrol etmeye başlıyor.

“Attacker, halüsinasyon yaratan bir isim altında, içerisinde zararlı kodlar bulunan bir paket yayınladığında, bu ismi farkında olmayan kullanıcılara öneren modelin üzerine güveniyor,” diye açıklıyor Joseph Spracklen, Texas’taki San Antonio Üniversitesi’nde doktora öğrencisi ve baş araştırmacı, Ars tarafından bildirildiği gibi.

“Eğer bir kullanıcı, LLM’nin çıktısına güvenip paketi dikkatlice doğrulamadan yüklerse, saldırganın payload’u, zararlı paketin içine gizlenmiş, kullanıcının sisteminde çalıştırılacaktır,” diye ekledi Spracklen.

Saldırı yöntemi, Ars tarafından bildirildiği üzere, yazılımın niyet edilen doğru sürüm yerine tehlikeli bir paket sürümü seçmesine yol açıyor. Bağımlılık karmaşası saldırısı, önceki testler sırasında Apple, Microsoft ve Tesla gibi büyük teknoloji şirketlerini etkiledi.

Araştırmacılar, CodeLlama gibi açık kaynaklı modellerin, ticari modellerden daha fazla hayali paket oluşturduğunu keşfettiler. Açık modeller, %22 oranında yanlış kod referansları oluştururken, ticari modeller %5 veya daha az oranda hayalete neden oldu. JavaScript programlama dili, daha büyük ve daha karmaşık bir kod ekosistemi içinde çalıştığı için Python’dan daha fazla hayalete neden oldu.

Araştırmaya göre, bunlar sadece bir seferlik hatalar değil. Araştırma, birçok sahte paketin farklı testlerde tekrar tekrar ortaya çıktığını bildirdi. Bu onları daha tehlikeli hale getiriyor çünkü saldırganlar tarafından daha kolay hedef alınabilirler.

Ars, saldırganların tekrarlanan sahte paket isimlerini kullanarak bunların altına kötü amaçlı yazılım yükleyebileceğini açıklıyor. Geliştiricilerin farkında olmadan bunları yüklemesi umuluyor.