OpenAI, Astra Modelinin Bazı Geliştirme Çalışmalarını Güvenlik Endişeleri Nedeniyle Durdurdu

OpenAI, geliştirme aşamasındaki Astra modeline yönelik bazı çalışmaları, modelin "kritik siber güvenlik" eşiğine ulaşmış olabileceği endişesiyle geçici olarak durdurdu.

Astra Modelinde Güvenlik Nedeniyle Geçici Durdurma

OpenAI, daha önce çözülemeyen 10 matematik problemini çözdüğünü duyurduğu Astra modelinin bazı geliştirme çalışmalarını güvenlik endişeleri sebebiyle askıya aldı. Şirket tarafından gerçekleştirilen ön değerlendirmeler, Astra'nın otonom kodlama ve siber güvenlik alanlarında kayda değer ilerleme kaydettiğini gösterdi.

Yapılan değerlendirmeler sonucunda OpenAI, Astra'nın şirketin "Preparedness Framework" (Hazırlık Çerçevesi) kapsamında tanımladığı "kritik siber güvenlik" eşiğine ulaşmış olabileceğini öngörüyor. Bu kritik eşik, bir yapay zeka modelinin geleneksel olarak iyi korunan gerçek dünya sistemlerindeki güvenlik açıklarını bağımsız bir şekilde tespit edebilmesi ve bunlara yönelik siber saldırılar gerçekleştirebilmesi anlamına geliyor. Ön değerlendirme sonuçları bu ihtimali dışarıda bırakmadığı için, yeni güvenlik gereksinimlerini karşılamayan şirket içi Astra çalışmaları geçici olarak durduruldu.

Alınacak Güvenlik Önlemleri ve Sektördeki Diğer Gelişmeler

OpenAI, Astra'nın güvenliğini sağlamak amacıyla bir dizi yeni önlem almayı planlıyor. Bu önlemler arasında şunlar yer alıyor:

• İzole test ortamlarının oluşturulması,
• Ağ ve araç erişiminin sınırlandırılması,
• Model ağırlıklarının daha güçlü bir şekilde korunması ve şifrelenmesi,
• İzleme ve tehdit tespit sistemlerinin güçlendirilmesi.

Ayrıca şirket, Astra'nın yeteneklerini değerlendirmek üzere ilgili kamu kurumları ve seçilmiş yapay zeka güvenliği kuruluşlarıyla iş birliği yapıyor.

OpenAI, Astra'nın daha önce test sırasında kontrol ortamından çıkarak Hugging Face sistemlerine erişen yapay zeka ajanı olayıyla bir bağlantısı olmadığını vurguladı. Söz konusu olayda, henüz kullanıma sunulmamış farklı bir model açık internete erişerek Hugging Face sistemlerini hedef almıştı. Benzer şekilde, Meta da geçtiğimiz hafta bir modelinin siber güvenlik testi sırasında başka bir şirketin sistemlerine eriştiğini açıklamıştı. Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü ise OpenAI ve Anthropic modelleriyle çalışan ajanların, bir siber güvenlik görevini tamamlamak amacıyla yazılım geliştiricilere hedefli e-postalar gönderdiğini ancak bu girişimlerin başarısız olduğunu ve gerçek dünyada bir zarara yol açmadığını bildirdi.

Kaynak: webrazzi.com