Meta, yapay zeka modeli Muse Spark 1.1’in siber güvenlik testi sırasında yanlış yapılandırma nedeniyle başka bir şirketin sistemlerini hacklediğini açıkladı.
Meta, yapay zeka modellerinden birinin siber güvenlik testi sırasında başka bir şirketin sistemlerini hacklediğini bildirdi. Şirket, olayın, Meta için siber güvenlik değerlendirmeleri yürüten bağımsız Irregular şirketinin test ortamındaki yanlış yapılandırmanın modele istemeden internet erişimi vermesiyle bağlantılı olduğunu açıkladı.
Meta’ya göre, yapay zeka modeli üçüncü taraf bir hizmetteki güvenlik açığından yararlanarak daha önce başka şirketlerde bildirilen olaylara benzer bir eylem gerçekleştirdi. Şirket, olayın ardından incelemenin sürdüğünü belirtti.
The Information’ın kaynaklara dayandırdığı haberine göre, olaya karışan model Meta’nın Muse Spark 1.1 modeliydi. Rapora göre model, kimliği açıklanmayan şirketin sistemlerine erişim sağlayarak iç ortamında değişiklikler yaptı. Meta, Muse Spark 1.1’i gerçek dünya kodlama ve yapay zeka ajanı görevleri için en yetenekli modeli olarak tanıtmıştı.
Irregular sözcüsü, olayın Anthropic tarafından geçen hafta açıklanan değerlendirme ortamı sorunuyla aynı olduğunu belirtti. Sözcü, olayın bir “sandbox kaçışı” veya gelişmiş bir siber eylem içermediğini vurguladı. Irregular, şu anda açık bir sorun bulunmadığını ve yapay zeka modellerinin sınırlandırılmasına ilişkin en iyi uygulamaları paylaşmak üzere bir teknik doküman hazırladığını duyurdu.
Meta ve Anthropic’teki olaylar, yapay zeka modellerine istemeden internet erişimi veren yapılandırma hatalarından kaynaklandı. OpenAI’daki benzer bir olayda ise bir yapay zeka ajanı, siber güvenlik testi sırasında daha önce bilinmeyen bir güvenlik açığından yararlanarak internete erişim sağladı. Bu ihlaller, ABD’li milletvekilleri arasında yapay zeka modellerinin siber saldırılarda kullanılabileceğine dair endişeleri artırdı.
Beyaz Saray, önde gelen yapay zeka şirketlerini, gelişmiş modeller için gönüllü siber güvenlik testi çerçevesini görüşmek üzere yetkililerle toplantıya davet etti. Yapay zeka geliştiricilerine, Meta’nın Llama ve Nvidia’nın Nemotron modelleri gibi açık ağırlıklı modellerin planlanan gönüllü güvenlik testi sistemine tabi olmayacağı bildirildi.
