CIO, Personel Digital Klonlarını Oluşturarak Ekibi Genişletmeyi Hedefliyor

UC San Diego’nun CIO’su, IT işlerini otomatikleştirmek, siber güvenliği geliştirmek ve personel yükünü hafifletmek için AI ajanları ve dijital ikizleri kullanmak istiyor.

Bu haftaki Cisco Live konferansı sırasında, Dr. Vince Kellen, tekrarlayan görevleri ve gece yarısı acil durumları ele almak için deneyimli IT personelinin dijital ikizlerini ve AI ajanlarını kullanmayı önerdi. Bu durum ilk olarak The Register tarafından bildirildi.

Yoğun bir dinleyici kitlesine hitap eden Kellen, “Her yol, olabildiğince yüksek otomasyon seviyelerine çıkıyor,” diye belirtti, The Register rapor ediyor.

Üniversite, her gün 100.000’den fazla kişiyi ağırlarken, azalan öğrenci kaydı ve sınırlı finansal kaynaklarla başa çıkmak zorunda olduğu için küçük bir şehir olarak işler.

Kellen, gelecekteki artan talepleri yönetmek için AI sistemlerinin teknoloji çalışanlarından bilgi edineceğini tahmin ediyor. The Register tarafından bildirildiği gibi, “Ağ politikası konusunda insanlarda olan tüm bu bilgiyi bir nevi damlama sulama yöntemiyle aklından çıkarıyoruz,” dedi.

Kellen, bu bilgiyi yavaşça AI’ye aktarmanın, IT ekiplerinin iş yüklerini azaltmasına ve ağ performansını artırmasına olanak sağlayacağına inanıyor.

UCSD’deki Oşinografi Enstitüsü de ulusal güvenlik tehditleriyle karşı karşıya. “Sonarı suya koyduğunuzda, balıktan daha fazlasını keşfedersiniz ve diğer ülkeler bunu bilmek ister,” diye uyardı, The Register tarafından bildirildiği gibi.

Yabancı destekli siber saldırılar daha karmaşık hale geliyor, bu da personelin daha tehlikeli tehditlere odaklanabilmeleri için temel savunmaları otomatikleştirmelerini gerektiriyor.

Kellen, Yapay Zekanın “sorunları proaktif olarak tespit etme potansiyeline” sahip olduğuna inanıyor ve dijital klonları, personel uzmanlığını korurken onların yükünü hafifletme yolu olarak görüyor. “Sonra, başka bir olay olduğunda bu kişi eziyet çekmek zorunda kalmaz. Bir sonraki sefer aranmazlar,” diye ekledi. Bu bilgi, The Register tarafından bildirildi.

Onun fikri, kışkırtıcı bir soru gündeme getiriyor: Daha az stresli çağrılar anlamına geliyorsa, işvereninizin sizin uzmanlığınızı dijital olarak klonlamasına izin verir miydiniz? Otomasyon arttıkça, insan ve makine işi arasındaki çizgi belki bulanıklaşabilir, ancak IT ekipleri için bu, çok ihtiyaç duyulan bir rahatlama anlamına gelebilir.

Ancak, artan otomasyon aynı zamanda siber güvenlik endişelerini de gündeme getirir. Otomatik IT çalışanları ve AI ajanları tarafından işletilen sistemler, bu sistemlere yapılan bir saldırının geniş kapsamlı aksaklıklara yol açabileceği için, hackerlar için cazip hedefler sunar.

Aslında, güvenlik protokollerini atlatmak ve zararlı yazılımları insan operatörlerden daha hızlı yaymak için tehlikeye atılmış bir dijital ikiz kullanılabilir.

Dünya Ekonomi Forumu’nun bir raporu, saldırganların AI eğitim verilerini kirletebileceğini veya AI modellerindeki açıklıkları bulabileceğini ve bunun sonucunda sistem hataları veya yanlış çıktı üretimi ile sonuçlanabileceğini iddia ediyor.

Bu “veri zehirleme” ve model sömürme saldırıları genellikle gerçekleştirmesi kolay ancak savunması zor olup, mevcut güvenlik önlemleri yetersiz kalmaktadır. Bu durum, ITPro tarafından da belirtilmiştir.

Bu risklere rağmen, ZDNet’in raporlarına göre, IT profesyonellerinin %96’sı AI ajanlarını bir güvenlik tehdidi olarak kabul ediyor, ancak çoğu organizasyon onları uygun kontroller veya politikalar olmadan hızla uygulamaya koymaya acele ediyor.