İngiltere Mahkemesi Avukatlara Uyarıda Bulunuyor: Sahte Yapay Zeka Atıfları Ceza Davalarına Neden Olabilir

İngiltere ve Galler Yüksek Mahkemesi, avukatlara sert bir uyarı yayınladı ve yapay zeka araçları, örneğin ChatGPT gibi, tarafından üretilen yanıltıcı hukuk bilgilerini kullanmamaları gerektiğini belirtti, çünkü bu durumda cezai yaptırımlarla karşılaşacaklar.

Bu uyarı, son zamanlarda gerçekleşen iki hukuki işlem sonrasında gereklilik haline geldi. The New York Times tarafından rapor edildiği üzere, iki bankaya karşı 89 milyon sterlinlik dava açan adam, yapay zeka tabanlı hukuki atıflar oluşturdu.

Sunulan 45 dava referansının arasında, on sekizi tamamen herhangi bir gerçek temele dayanmaktan yoksundu. The Guardian avukatın gerçek alıntılar sunduğunu, fakat hem gerçek hem de sahte referansların davayla geçerli bağlantılar kuramadığını bildirdi.

Avukat, referansların gözden kaçırılmasından dolayı sorumluluğu üstlenerek kendini düzenleyici kuruma bildirdi.

Haringey Hukuk Merkezi, konut anlaşmazlıkları nedeniyle Londra belediye meclisine dava açtı. Avukat, mahkemeye tamamen uydurma olan beş önceki davayı sundu. The Guardian’a göre, mahkeme onun gereksiz yasal masraflar yaratmakla sorumlu olduğuna karar verdi.

The Times’ın bildirdiğine göre, AI’yi doğrudan kullanmayı reddetse de, “Google veya Safari’de aramalar yapmış olabileceğini” ve farkında olmadan AI tarafından oluşturulan özetlere güvenmiş olabileceğini itiraf etti.

Yargıç Victoria Sharp, King’s Bench Division Başkanı, The Times tarafından bildirildiği üzere, “Yapay zeka yanlış kullanılırsa adaletin yönetimi ve halkın adalet sistemine olan güveni konusunda ciddi sonuçlar doğar,” dedi. Avukatları, suçla suçlanma veya hukuk pratiğini yasaklanma riski konusunda uyardı.

Kararda, AI araçlarının “görünüşte tutarlı ve makul yanıtlar üretebileceği… [ama] sadece doğru olmayan iddialarda bulunabileceği” belirtildi, The Times tarafından bildirildiği gibi. Hukuk Derneği’nden Ian Jeffery, kararı destekleyerek, The Guardian tarafından bildirildiği üzere, “hukuki işlerde AI kullanmanın tehlikelerini ortaya koyuyor” dedi.

Mahkeme, bilinen bir şekilde “halüsinasyon” yaratan AI’ın sorumlu bir şekilde nasıl kullanılacağı konusunda personeli acilen eğitmeleri için hukuk liderlerine çağrıda bulundu.

Denetimsiz AI kullanımının pratiği, Amerika Birleşik Devletleri’nde olduğu gibi Avustralya ve Avrupa’da da benzer sorunlara neden olmuş ve bu durum, hukuk profesyonelleri arasında yaygın endişe yaratmıştır.

Bir ABD hakimi, yapay zeka kullanarak gerçeğe aykırı hukuki atıflar içeren yapay mahkeme dilekçeleri oluşturan iki hukuk firmasına 31.000 dolarlık para cezası verdi. State Farm ile ilgili mahkeme belgesi, her iki firma avukatlarının doğrulamadığı yanıltıcı yargı referanslarını içeriyordu.

Hakim Michael Wilner, avukatların AI tarafından oluşturulan içeriği doğrulamamaları ve bu durumun neredeyse bir mahkeme emri içerisinde aldatıcı bilgileri dahil etmelerine neden olabilecek olmasına karşı hayal kırıklığını belirtti. Hukuki atıfların uydurma olduğu belirtilmiştir.