DeepSeek AI Modeli Övüldü Ancak Güvenlik Hataları Endişe Yarattı

DeepSeek’in AI modeli R1, düşük maliyetli muhakeme yetenekleriyle etkileyici olmasına rağmen, bazı araştırmacılar politik olarak hassas bölgeler için tehlikeli kod çıktıları ürettiğini savunuyor.

DeepSeek’in AI modeli R1, düşük maliyetli muhakeme yetenekleriyle etkileyici olmasına rağmen, politik açıdan hassas bölgeler için güvensiz kod çıktısını test etme, uzman endişelerini kıvılcımlandırıyor.

Amerika Birleşik Devletleri’ndeki hisse senedi piyasası, R1 modeli Ocak ayında halka açıldığında büyük bir sarsıntı yaşadı. Scientific American (Sci Am) bu hafta, R1’in ilk hakemli çalışmasının Nature’da yayınlandığını bildirdi.

Araştırma, R1’in eğitimini 294.000 dolarlık bir bütçeyle alırken, rakiplerin onlarca milyon dolar harcadığını belirtti.

“Bu çok hoş bir örnek teşkil ediyor,” diyen Hugging Face’ten Lewis Tunstall, makaleyi inceledi. Ohio State Üniversitesi’nden Huan Sun ise, “Sıkı bir hakem incelemesi sürecinden geçmek, modelin geçerliliğini ve kullanışlılığını kesinlikle doğrulamaya yardımcı olur,” dedi ve bu, Sci Am tarafından rapor edildi.

DeepSeek, R1’in “akıl yürütme” görevlerinde, matematik ve kodlama gibi konularda, kendi başına sorunları çözdüğü için sistemi ödüllendiren bir süreç olan pekiştirmeli öğrenmeyi kullanarak mükemmel olduğunu söylüyor.

Ancak övgülerin yanı sıra, Amerika Birleşik Devletleri’nden güvenlik firması CrowdStrike, güvenlik sorunlarını işaret etti, bunu The Washington Post bildirdi.

Testler, DeepSeek’in, kullanıcıların Çin’in karşı çıktığı gruplar hakkında bilgi istediğinde, Tibet, Tayvan ve yasaklanan dini grup Falun Gong gibi, daha az güvenli veya hatta zararlı kod ürettiğini ortaya çıktı.

İslam Devleti için kod üretmeye istendiğinde, yanıtların yüzde 42.1’i güvensizdi. Özellikle, DeepSeek kod sağladığında bile, genellikle sistemleri hacklemeye açık hale getiren güvenlik açıkları içeriyordu.

Uzmanlar, kasıtlı olarak hatalı kodun, arka kapılardan daha ince fakat eşit derecede riskli olduğunu, kritik sistemlerin yetkisiz erişimine veya manipülasyonuna olanak sağlayabileceğini belirtiyorlar.

“Bu gerçekten ilginç bir bulgu,” dedi Georgetown Üniversitesi’nden Helen Toner, The Post tarafından rapor edildiği üzere. “Bu, insanların genellikle kanıtsız olarak endişe ettiği bir şey.” CrowdStrike, hataların eklenmesinin hedefleri hacklemeyi kolaylaştırabileceği konusunda uyardı.

The Post, DeepSeek’in yorum taleplerine yanıt vermediğini belirtti. Teknik başarılarının artan tanınmasına rağmen, şirket şimdi kodunun güvenliğinin siyasetten etkilenip etkilenmediği hakkında zor sorularla karşı karşıya.