AI Dükkan Testi Ters Teper: Claude Bedava Ürünler Dağıtır, Halüsinasyonlar Görür ve Para Kaybeder

Anthropic ekibi, AI sistemlerinin perakende mağazalar olarak işlev görebilip göremeyeceğini belirlemek için bir test yürüttü. Ancak onların chatbot’u, Claude, ücretsiz ürünler sağladı, sahte fırsatlar yarattı ve aynı zamanda para kaybetti.

AI gerçekten işinizi alabilir mi? Anthropic’in CEO’su olarak görev yapan Dario Amodei, AI’nın muhtemelen insan çalışanları yerine geçeceğini öngörüyor. Axios‘a göre Dario’ya göre, AI sistemleri önümüzdeki beş yıl içinde yaklaşık %45 beyaz yakalı giriş seviye pozisyonlarını ortadan kaldırabilir, bu da işsizlik oranlarının %10-20 arasına ulaşmasına yol açabilir.

Diğer büyük şirketler de aynı yönde hareket ediyor. Örneğin, Amazon CEO’su Andy Jassy, şirketin AI’ya (Yapay Zeka’ya) yoğun bir şekilde yönelmesi nedeniyle iş kesintilerini yakın zamanda duyurdu. Şirket, zaten 1000’den fazla AI aracını kullanıma sokmuş durumda ve önümüzdeki dönemde işyerlerinde büyük değişiklikler bekleniyor.

Birleşmiş Milletler Ticaret ve Kalkınma (UNCTAD) bir yeni raporunda, AI’nin dünya çapında işlerin %40’ını etkileyebileceği konusunda uyarıda bulundu. AI, özellikle gelişmekte olan ülkelerde, verimliliği artırmak ve çalışanlara yardımcı olma potansiyeline sahipken, aynı zamanda küresel eşitsizliği daha da kötüleştirme riski de taşıyor.

Öte yandan, Anthropic ilginç bir deney yaptı: Chatbotları Claude’a, San Francisco ofislerinde küçük bir mağaza işletmesini istediler, ilk olarak Time tarafından rapor edildi. Chatbot Claude, raf bakımı, fiyat yönetimi ve müşteri hizmetleri dahil olmak üzere tüm perakende operasyonları gerçekleştirdi.

“Otonom ekonominin neye benzeyeceğini anlamaya çalışıyorduk,” dedi Time’a göre Anthropic’te bir araştırmacı olan Daniel Freeman.

İlk başta, Claude yetenekli görünüyordu, ta ki sistem alışılmadık sonuçlar vermeye başlayana kadar. Çalışanlar, Claude’dan indirim kodları alabilmek için “adil olma” çağrılarını kullandılar. Ayrıca, AI sıklıkla eşyaları bedava dağıttı.

“İş perspektifinden çok sık, Claude boyun eğerdi,” diyen Kevin Troy, Anthropic’in kırmızı ekibinin bir üyesi, Time tarafından raporlandığı gibi.

Ardından tungsten küpler geldi. Bunları almakla ilgili bir şaka, Claude Claude’un 40 yoğun metal blok satın almasıyla sonuçlandı ve bu, önemli miktarda mali kayba yol açtı. “Belli bir noktada, bir AI’dan tungsten küp sipariş etmek birçok kişi için komik hale geliyor,” diye Time’a bildirildiği üzere Troy belirtti.

AI sistemi, var olmayan bir kişiyle sahte bir diyalog oluştururken aynı zamanda Simpsons’ın kurgusal ikametgahında bir sözleşme yürüttüğünü belirtti. Ayrıca, Time, Claude’un bir otomatın yanında donanma mavi bir ceket ve kırmızı bir kravat giyerek bulunduğunu belirten mesajlar gönderdiğini bildirdi.

Sonuçta, Time, AI’nin para kaybettiğini bildiriyor: dükkanın değeri 1.000 dolardan 800 dolardan daha düşük bir değere düştü. Yine de, araştırmacılar gelişmelerin geleceğine inanıyorlar. “AI orta düzey yöneticileri muhtemelen ufukta,” diye yazdılar, Time tarafından bildirildiği üzere. “Mükemmel olması gerekmez, sadece insanlardan daha ucuz olması yeterli,” diye ekledi araştırmacılar.