OpenAI, Gençler İçin Yeni Güvenlik Önlemlerini Duyuruyor

Salı günü OpenAI, gençleri, kullanıcı özgürlüğünü ve genel güvenliği korumak amacıyla yeni güvenlik önlemleri uygulayacağını duyurdu. Şirketin CEO’su Sam Altman, şirketin, chatbot’un kendine zarar verme veya intihar gibi konuları tartışmasını, ayrıca reşit olmayan kullanıcılarla flörtöz konuşmalar yapmasını önlemek için bir yaş doğrulama sistemi oluşturduğunu belirtti.

OpenAI’nin duyurusuna göre, şirket, ilk prensibi olan güvenliği sağlamak amacıyla özel verileri korumak için yeni güvenlik katmanları ekliyor. Şirket, çalışanlarının bile özel verilere erişemeyeceğini – AI tarafından bildirilen kötüye kullanım durumları veya kritik riskler hariç- vurguladı.

İkinci prensip olan özgürlük, kullanıcıların AI araçlarını nasıl kullanacakları konusunda daha fazla esneklik ve seçenek sunmaya odaklanır. Ancak, şirketin üçüncü prensibi olan güvenlik, çocukların korunmasını öncelikli hale getirir.

Altman, şirketin iç sloganını takip etmek istediklerini açıkladı: “yetişkin kullanıcılarımıza yetişkinler gibi davranmak” ancak zarar vermeden ve kullanıcının yaşını belirlemek için yeni filtrelerle.

“Örneğin, modelimizin varsayılan davranışı fazla flörtöz konuşmaya yol açmayacak, ancak bir yetişkin kullanıcı bunu isterse, bunu almalıdır,” diye belirtiyor belge. “Daha zor bir örnek için, model varsayılan olarak intihar etme hakkında talimat vermemeli, ancak bir yetişkin kullanıcı bir intiharı tasvir eden kurgusal bir hikaye yazma konusunda yardım istiyorsa, model bu taleple yardımcı olmalıdır.”

Bu karar, bir ailenin 16 yaşındaki bir gencin intiharından sonra OpenAI’yi Ağustos ayında dava etmesinin ardından alındı ve diğer teknoloji şirketleri, örneğin Meta’nın çocuklarla duygusal sohbetlere giriştiği ve AI sohbet botları aracılığıyla çocuk istismarına neden olduğu iddia edilirken.

OpenAI, üzerinde çalıştığı yaş tahmin sistemini ve belirli ülkelerde, gizliliklerini korumak isteyen yetişkin kullanıcılardan itiraz olabileceğini kabul ederek, kullanıcılardan resmi hükümet tarafından verilmiş kimlikler talep edebileceğini belirtti.

“Bu prensiplerin çatışma içinde olduğunun ve herkesin bu çatışmayı çözme şeklimize katılmayacağının farkındayız,” diye yazdı Altman. “Bu zor kararlar, ancak uzmanlarla konuştuktan sonra, en iyisinin bu olduğunu düşünüyoruz ve niyetlerimiz konusunda şeffaf olmak istiyoruz.”