Hakim, Sahte AI Üretilen Hukuki Araştırma Kullanan Avukatlara Ceza Veriyor

Bir ABD yargıcı, bir mahkeme başvurusunda yapay zeka tarafından oluşturulan sahte hukuki bilgileri içeren iki hukuk firmasını sert bir şekilde eleştirdi ve bunu büyük bir hukuki sorumluluk ihlali olarak nitelendirdi.

Kaliforniya’da görev yapan Yargıç Michael Wilner, firmaları dilekçenin “yanlış, hatalı ve yanıltıcı hukuki atıflar ve alıntılar” ile dolu olduğunu fark ettikten sonra 31.000 dolar para cezasına çarptırdı. Bu durum ilk olarak WIRED tarafından rapor edildi.

“Hiçbir makul yetenekteki avukat, araştırma ve yazma işlerini’’ AI’ye devretmemeli” diye yazdı Wilner kararında, sahte davaları yargısal bir emre dahil etmeye yakın olduğunu uyararak.

“Onların dilekçelerini okudum, sundukları yetkililer tarafından ikna oldum (veya en azından ilgimi çekti) ve hakkında daha fazla bilgi edinmek için kararları araştırdım – sadece onların var olmadığını öğrenmek için,” dedi, WIRED tarafından bildirildiği şekilde. “Bu korkutucu,” diye ekledi.

Durum, State Farm’a karşı açılan bir sivil dava sırasında ortaya çıktı. Bir avukat, hukuki bir taslak hazırlamak için AI araçları kullandı. Sahte araştırmaları içeren bu belge, daha büyük hukuk firması K&L Gates’e verildi ve resmi bir dilekçeye eklendi.

WIRED tarafından bildirildiği gibi, Wilner, “Görünüşe göre her iki firma da avukat ya da personel üyesi, dilekçeyi sunmadan önce bu araştırmayı alıntı kontrolü yaptı ya da başka türlü gözden geçirmedi” diye belirtti.

En az iki atıfın tamamen uydurma olduğunun ortaya çıkmasının ardından, Yargıç Wilner K&L Gates’ten açıklama talep etti. Onlar yeni bir versiyon sunduklarında, daha fazla sahte atıf içerdiği ortaya çıktı. Yargıç bir açıklama talep etti, bu da AI araçlarının kullanımını itiraf eden yeminli beyanları ortaya çıkardı, WIRED tarafından bildirildiği üzere.

Wilner şu sonucu çıkardı: “Dilekçenin ilk taslağını oluşturmak için AI ürünlerinin başlangıçta, açıklanmayan kullanımı kesinlikle yanlıştı […] Ve bu materyali, şüpheli AI kökenini açıklamadan diğer avukatlara göndermek, gerçekçi bir şekilde bu profesyonelleri tehlikeye atar,” WIRED tarafından bildirildiği üzere.

Bu, AI’nin mahkemelerde sorun çıkardığı ilk durum değil. Aslında, iki Wyoming avukatı yakın zamanda bir Walmart’a karşı dava dosyasında sahte AI tarafından oluşturulan dava kullanmayı kabul etti. Bir federal hakim de onları yaptırımla tehdit etti.

Bu senaryoda, AI “halüsinasyonları” – AI araçları tarafından oluşturulan uydurma bilgiler – hukuk sisteminde giderek artan bir endişe haline geliyor.