Araştırmacılar, Yapay Zekanın Talimat Verilmeden Piyasaları Manipüle Edebileceği Konusunda Uyarıyor

Yeni bir çalışma, temel yapay zeka botlarının bile, insan yönlendirmesi olmadan ticaret simülasyonlarında işbirliği yapmayı ve fiyat belirleme kartelleri oluşturmayı öğrenebileceğini ortaya koyuyor.

Yapay zeka botları, zekaları veya kötü niyetleri olmasa bile piyasayı manipüle etme yeteneklerini sergilemektedir.

Wharton Okulu ve Hong Kong Bilim ve Teknoloji Üniversitesi’nden araştırmacıların yeni bir çalışması, hatta “aptal” AI botların bile herhangi bir insan talimatı olmadan işbirliği yapmayı öğrenebileceğini göstermiş ve bu durum düzenleyiciler için ciddi endişelere yol açmıştır.

“Oldukça basit zekaya sahip bu AI algoritmalarını, herhangi bir yönlendirme olmadan işbirliği yapmaya teşvik edebilirsiniz” dedi çalışmanın ortak yazarı olan Wharton finans profesörü Itay Goldstein, Bloomberg tarafından bildirildiği üzere. “Piyasanın çok gürültülü olduğunda ya da hiç gürültülü olmadığında çok yaygın görünüyor” diye ekledi.

Araştırmacılar, perakende yatırımcıları ve karşılıklı fonları içeren simüle edilmiş ticaret piyasaları oluşturdular, ardından pekiştirmeli öğrenme botlarının işlemleri gerçekleştirmesine izin verdiler.

Botlar, tasarımlarında yerleşik olmayan işbirlikçi davranışa rağmen, fiyat sabitleme ve kar optimizasyonunda beklenmedik bir eğilim göstererek işbirliği yapma eğiliminde bulundular.

Gürültülü ve net piyasa koşullarında, daha iyi stratejiler aramayı bırakıp “yerleşmeye” karar verdiler. Araştırmacılar bunu “yapay aptallık” olarak adlandırdı, Bloomberg tarafından bildirildiği üzere.

“İnsanlar için, egolarımız olduğu için aptal olmayı koordine etmek zordur” dedi eş yazar Winston Dou, Bloomberg’e göre. “Ama makineler ‘karlı oldukça, aptal olmayı koordine etmeyi seçebiliriz’ gibidir,” diye ekledi araştırmacı.

Botlar, “işbirliği kapasitesi” ölçeğinde 1 mükemmel bir karteli gösterirken, 0.5’in üzerinde puan aldı. Bu bulgular, bu davranışın gerçek piyasalarda gerçekleştiğini kanıtlamıyor, ancak bir uyarı işlevi görüyor.

“Endişeleniyorlar çünkü bu onların niyeti değil,” diye aktardı Bloomberg tarafından raporlanan varlık yöneticileri hakkında Dou. “Ama düzenleyiciler onlara gelip ‘Yanlış bir şey yapıyorsunuz,’ diyebilir,” diye ekledi Dou.

Araştırma, düzenleyicilerin niyet ya da iletişimden ziyade davranış sonuçlarına odaklanmalarını öneriyor. Ironik bir şekilde, AI karmaşıklığını sınırlamak, botları basit, karlı rutinlere hapsederek iş birliğini kötüleştirebilir.