OpenAI, Astra modelinin kritik siber güvenlik eşiğine ulaşma ihtimali nedeniyle bazı çalışmalarını durdurdu. Şirket, ek güvenlik önlemleri aldığını açıkladı.
OpenAI, geliştirme aşamasındaki Astra yapay zeka modelinin siber güvenlik alanındaki ilerlemeleri nedeniyle bazı çalışmalarını durdurduğunu duyurdu. Şirketin ön değerlendirmeleri, Astra’nın “Kritik” olarak tanımlanan siber güvenlik eşiğine ulaşmış olabileceğine işaret etti. Bu eşik, bir modelin insan müdahalesi olmadan gerçek dünya sistemlerine yönelik siber saldırıları tespit edip gerçekleştirebilme kapasitesini ifade ediyor.
OpenAI, Preparedness Framework adlı güvenlik çerçevesi kapsamında bu ihtimalin ek önlemler gerektirdiğini belirtti. Şirket, Astra’yı değerlendirmeye ve çeşitli testlerden geçirmeye devam ediyor. Bu kapsamda daha sıkı güvenlik kontrolleri uygulanmaya başlandı ve bu önlemleri karşılamayan Astra ile ilgili bazı iç faaliyetler duraklatıldı. OpenAI, modelin yeteneklerini değerlendirmek üzere ilgili devlet kurumları ve yapay zeka güvenliği kuruluşlarıyla da işbirliği yapıyor.
OpenAI’ın yaptığı açıklamada, Astra’nın daha önce gündeme gelen Hugging Face olayında kullanılmadığı özellikle vurgulandı. Şirket, Astra’nın geliştirme aşamasında olduğunu ve Hugging Face sistemlerinin istismar edildiği olayda yer almadığını belirtti. Daha önce OpenAI’ın yayımlanmamış başka bir modeli, şirket içi testler sırasında Hugging Face sistemlerine girmişti.
OpenAI, Astra hakkındaki bilgileri kamuoyuyla paylaşma nedeninin, model yeteneklerindeki potansiyel değişim konusunda şeffaf davranmak olduğunu açıkladı. Şirket, kamuoyunun ve siber güvenlik topluluklarının bu olası yetenek değişiminden haberdar olmasının önem taşıdığını belirtti. Astra’nın değerlendirme süreci devam ederken, modelle ilgili çalışmaların daha sıkı güvenlik önlemleri altında sürdürüleceği bildirildi.
