OpenAI'den Gençler İçin Yeni Güvenlik Adımı: Şiddet İçerikli Uyarılar

OpenAI, ChatGPT'nin ebeveyn denetimi özelliklerini güncelleyerek, şiddet içerikli tehditlerde bulunan genç kullanıcıların ebeveynlerine otomatik bildirim gönderme sistemini başlattı.

Genç Kullanıcılar İçin Güvenlik Kalkanı Genişletildi

OpenAI, ChatGPT platformunda genç kullanıcıların güvenliğini artırmak amacıyla ebeveyn denetimi özelliklerini kapsamlı bir şekilde güncelledi. Yeni düzenleme ile birlikte, ebeveyn hesabıyla eşleştirilmiş genç kullanıcıların hesapları, şiddet içerikli tehditler veya şiddet eylemleriyle ilgili kullanım politikalarını ihlal ettikleri gerekçesiyle devre dışı bırakıldığında, ebeveynlere otomatik bir bilgilendirme mesajı iletilecek.

Şirket, bu yeni özelliği geliştirirken çevrim içi şiddet ve aşırılık yanlısı içeriklerle mücadele eden Moonshot adlı kuruluşla iş birliği yaptı. Moonshot kurucusu Vidhya Ramalingam, bu erken bilgilendirme sisteminin ailelerin zamanında müdahale etmesine ve gerektiğinde profesyonel destek almasına olanak tanıyacağını vurguladı.

Ebeveyn Denetimi ve Yeni Bildirim Sistemi

Geçtiğimiz yıl kullanıma sunulan ebeveyn denetim sistemi, ebeveynlerin çocuklarının hesaplarıyla eşleşmesine, kullanım saatlerini sınırlamasına ve hassas içerikleri kısıtlamasına olanak tanıyordu. Sistem ayrıca, gencin kendine zarar verme eğiliminde olabileceğine dair işaretleri tespit ettiğinde ebeveynleri uyarıyordu. Yeni güncellemeyle bu kapsam, başkalarına yönelik ciddi şiddet riski oluşturabilecek davranışları da içerecek şekilde genişletildi.

OpenAI, bu güvenlik önlemlerini güçlendirme kararında 2025 yılında Kanada'nın British Columbia eyaletinde yaşanan toplu silahlı saldırı olayını da dikkate aldı. Saldırı şüphelisinin ChatGPT kullandığının ortaya çıkması ve şirketin yetkilileri bilgilendirmemesi üzerine gelen eleştirilerin ardından, CEO Sam Altman kamuoyundan özür dilemişti. Ayrıca şirket, uzun süre ChatGPT kullanan gençlere daha sık mola vermelerini hatırlatan bildirimler göstereceğini de duyurdu.

Kaynak: milliyet.com.tr