Uzmanlar, Yargı Organlarının Hukuki Dilekçelerde Yapay Zeka Halüsinasyonlarını Göz Ardı Edebileceği Konusunda Uyarıyor

Bir Georgia mahkemesi, muhtemelen AI tarafından oluşturulan sahte hukuki atıfların keşfedilmesinin ardından bir boşanma kararını iptal etti, adalet sistemlerinde artan riskler konusunda alarm zillerini çaldı.

Bir Georgia mahkemesindeki dava, yapay zekanın (AI) Amerikan hukuk kurumlarına olan halkın güvenini nasıl sessizce zayıflatabileceğini gösteriyor. ArsTechnica, Georgia Temyiz Mahkemesi’nden Yargıç Jeff Watkins’ın belgede iki uydurma dava bulduğu için bir boşanma emrini bozduğunu bildiriyor, bu durumlar büyük olasılıkla AI içeriği olabilir.

Sipariş, avukat Diana Lynch tarafından taslak haline getirilmişti ve ArsTechnica’nın bildirdiğine göre bu, yoğun çalışan mahkemelerde artık yaygın bir uygulama. Hukuki dilekçelerde yapay zekanın kullanılma alışkanlığı, kısayolları özellikle riskli hale getiriyor.

Lynch, 2.500 dolar ceza aldı ve Yargıç Watkins, “bu dilekçelerdeki düzensizlikler, onların generatif yapay zeka kullanılarak taslak haline getirildiğini öne sürüyor” dedi ve ekledi ki yapay zeka hülyaları “zaman ve para kaybına” sebep olabilir, sistemin itibarını zedeler ve bir “davacının […] yargısal bir kararı alaycı bir şekilde şüpheye düşürerek reddetmesine” izin verir, ArsTechnica tarafından bildirildiği gibi.

Uzmanlar, bunun izole bir durum olmadığı konusunda uyarıyor. Eski bir Teksas temyiz hakimi olan John Browning, daha fazla duruşma mahkemesinin yanlışlıkla AI tarafından oluşturulan sahte atıflara başvurabileceğini, özellikle aşırı yüklenmiş sistemlerde “korkutucu bir şekilde olası” olduğunu belirtti. “Ben, bu tür bir senaryoyu birçok durumda hayal edebilirim,” dedi Ars Technica’ya.

Diğer son örnekler, endişeyi yankılıyor. Colorado hukuk sistemi, yirmiden fazla büyük hata içeren AI tarafından oluşturulan hukuki belgeler sunan MyPillow CEO’su Mike Lindell’i temsil eden iki avukata toplam 3.000 dolar para cezası verdi. Yargıç Nina Y. Wang, “bu Mahkeme, avukatları cezalandırmaktan hiç zevk almaz,” diyerek, ancak avukatların sunulan belgeleri doğrulamaktan sorumlu olduğunu vurguladı.

Kaliforniya’da, başka bir hakim, sahte atıflar içeren dilekçeler sunduktan sonra iki hukuk firmasına 31.000 dolar para cezası verdi. “Bu korkutucu” diye yazdı Hakim Michael Wilner, sahte kararlar tarafından neredeyse ikna olmuştu. Mahkemeler hızlı bir şekilde adapte olmazsa, AI hayalleri Amerikan adaletinde tekrarlayan bir kâbus haline gelebilir.

Bu trend, hukuki temsilin zaten ne kadar pahalı olduğunu düşündüğümüzde özellikle endişe vericidir. İnsanlar genellikle hukuk ücretlerinin avukatlarından hem doğruluk hem de profesyonel hizmet garantilediğine inanır. Ancak, avukatlar AI’ı kestirmeler için kullanırken, müşteriler bir makinenin yaptığı hataların faturasını ödeyebilir.

Bu halüsinasyonlar sadece hukuki sonuçları tehdit etmekle kalmaz, aynı zamanda adaleti en az karşı koyma gücüne sahip olanlar için daha da erişilmez hale getirerek eşitsizliği pekiştirebilirler.