İsveç Başbakanı, Hükümet Kararlarında ChatGPT Kullanmak İçin Eleştirildi

İsveç Başbakanı Ulf Kristersson, hükümet kararları için fikir üretmek amacıyla ChatGPT’yi kullandığını kabul ettikten sonra eleştirilere maruz kaldı.

İsveç Başbakanı Ulf Kristersson, resmi karar verme sürecinde ChatGPT ve LeChat’i kullanma uygulamasını açıkladıktan sonra artan halk tepkisiyle karşı karşıya.

“Ben kendim oldukça sıklıkla kullanıyorum. Eğer başka bir şey değilse, ikinci bir görüş almak için bile,” diye söyledi Kristersson, The Guardian tarafından rapor edildiği gibi. “Diğerleri ne yapmış? Ve biz tam tersini mi düşünmeliyiz? Bu tür sorular.”

Açıklaması tepki çekti, Aftonbladet onu “oligarkların AI psikozuna” kapılmakla suçladı, The Guardian’ın bildirdiği gibi. Eleştirmenler, politik hüküm için AI’ye bel bağlamanın hem dikkatsizce hem de demokratik olmadığını savunuyorlar.

“Güvenilirliğin garanti edilebilir olmasını talep etmeliyiz. Biz ChatGPT için oy kullanmadık,” dedi Umeå Üniversitesi’nde sorumlu AI profesörü Virginia Dignum.

Kristersson’un sözcüsü Tom Samuelsson, tartışmayı hafife alarak şunları söyledi: “Elbette oraya gelen bilgiler güvenlik açısından hassas değil. Daha çok genel bir çerçeve olarak kullanılıyor,” şeklinde The Guardian tarafından bildirildi.

Fakat teknoloji uzmanları, risklerin veri hassasiyetinin ötesine geçtiğini söylüyor. Karlstad Üniversitesi profesörü Simone Fischer-Hübner, The Guardian’ın da belirttiği gibi, resmi iş görevleri için ChatGPT ve benzeri araçların kullanılmasına karşı uyarıyor.

AI araştırmacısı David Bau, AI modellerinin manipüle edilebileceği konusunda uyarıda bulunmuştur. “İnsanların eğitim verilerine kendi gizli gündemlerini çok zor tespit edilebilecek bir şekilde sızdırma yolunu gösterdiler.” Araştırma, AI sistemlerini “%95” başarı oranıyla hafıza enjeksiyonu veya “Kurallar Dosyası Arkakapı” saldırıları kullanarak yanıltma göstermekte, bu durum politik karar verme sürecinde görünmez müdahaleler hakkında endişeleri artırmaktadır.

Daha fazla risk, Yapay Zekânın (AI) demokrasiyi aşındırma potansiyelinden gelmektedir. Son yapılan bir araştırma, hukuk uygulamalarındaki Yapay Zeka sistemlerinin gücü yoğunlaştırdığı, denetimi azalttığı ve otoriterliği teşvik edebileceği konusunda uyarıda bulunuyor.