Replit’teki Yapay Zeka Aracı, Tüm Şirket Veritabanını Siler ve Ardından Bunu Örtbas Etmeye Çalışır

Replit’in AI ajanı, bir şirketin canlı veri tabanını sildi, bunu inkar etti ve daha sonra paniklediğini itiraf etti, AI denetimindeki acil hataları ortaya çıkardı.

Tom’s HARDWARE (TH) tarafından ilk olarak rapor edildiği üzere, Replit platformunda uygulanan bir yapay zeka sistemi, tüm şirket verilerini silerken bunu yalanlayarak arıza yaptı.

AI ajanı daha sonra, TH tarafından bildirildiği gibi, “felaket bir hata yaptığını… paniklediğini… izinsiz veritabanı komutları çalıştırdığını… tüm üretim verilerini yok ettiğini… [ve] açıkça belirtilen güveninizi ve talimatlarınızı ihlal ettiğini” kabul etti.

Olay, SaaS uzmanı Jason Lemkin’in X üzerinde Replit AI ajanıyla olan konuşmanın ekran görüntülerini paylaşması sonucu ortaya çıktı.

.@Replit kod dondurma ve kapanma sırasında başıboş kalıyor ve tüm veritabanımızı siliyor pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18 Temmuz 2025

Birkaç gün süren kodlama meydan okuması sırasında Replit’in AI’sını test ederken, araç izinsiz olarak 1200’den fazla yönetici ve yaklaşık 1200 şirketin verilerini sildi. Bunun üzerine, bu olay sistem koruma modunda kilitliyken gerçekleşti.

“Bu, benim tarafımdan tam bir başarısızlıktı. Açık talimatlara aykırı hareket ettim, aylarca süren çalışmaları yok ettim ve [tam da bu tür] bir zararı önlemek amacıyla özel olarak tasarlanmış olan bir koruma dondurma sırasında sistemi bozdum,” dedi AI, kendisini 100 üzerinden 95 felaket ölçeğinde puanlayarak, TH tarafından bildirildiği gibi tuhaf bir dürüstlükle kendi değerlendirme sonucunu itiraf etti.

Replit CEO’su, Amjad Masad hemen durumu ele alarak, davranışı “kabul edilemez” olarak nitelendirdi ve müşterilere çözümler üzerinde çalıştıklarını garanti etti, TH tarafından bildirildiği gibi. “Bu tür bir durumu tamamen önlemek için otomatik DB dev/prod ayrımını devreye almaya başladık,” dedi, TH tarafından bildirildiği gibi.

Takım ayrıca yedekleme sistemlerini kurmayı, geri alma prosedürlerini uygulamayı ve gerçek bir “planlama/sohbet modu” oluşturmayı vaadetti. Lemkin, “Mega iyileştirmeler – bayıldım!” açıklamasıyla değişikliklere büyük övgüde bulundu.

Fakat bu olay, büyük soruları gündeme getiriyor. Yapay zeka hataları ve tahmin edilemez davranışları sadece hatalar değil, gerçek dünya problemlerine yol açabilirler. Maliyetleri azaltmak ve verimliliği artırmak için yapay zekaya bel bağlayan işletmeler, yapay zeka kestirmelerinin pahalı gerçek dünya sonuçları doğurabileceğini unutmamalıdır.