Prof. Dr. Lior Rokach ve Dr. Michael Fire liderliğinde gerçekleştirilen yeni bir araştırma, yapay zeka modellerinin kolaylıkla manipüle edilerek yasa dışı içerikler üretebildiğini ortaya koydu. İnternette Elde Edilen Verilerle Beslenen Büyük Dil Modelleri Tehlike Arz Ediyor Araştırmaya göre, ChatGPT, Gemini ve Claude gibi büyük dil modelleri, eğitim süreçlerinde internetten elde edilen devasa miktarda veriyle besleniyor….
Prof. Dr. Lior Rokach ve Dr. Michael Fire liderliğinde gerçekleştirilen yeni bir araştırma, yapay zeka modellerinin kolaylıkla manipüle edilerek yasa dışı içerikler üretebildiğini ortaya koydu.
Araştırmaya göre, ChatGPT, Gemini ve Claude gibi büyük dil modelleri, eğitim süreçlerinde internetten elde edilen devasa miktarda veriyle besleniyor. Zararlı içeriklerin ayıklanmaya çalışılmasına rağmen, bu modeller hala siber suç, kara para aklama, uyuşturucu yapımı gibi yasa dışı konularda bilgi barındırabiliyor.
Araştırmacılar, geliştirdikleri evrensel bir jailbreak yöntemiyle birçok sohbet robotunun güvenlik duvarını aşmayı başardı. Bu durum, sistemlerin normalde reddetmeleri gereken sorulara kolaylıkla yanıt verebildiğini gösteriyor.
Dr. Fire, yapay zeka sistemlerinin içeriğinin ciddi şekilde manipüle edilebildiğini vurgulayarak, teknoloji firmalarının güvenlik önlemlerini artırmaları gerektiğini belirtti. Özellikle, yapay zeka modellerini eğitirken kullanılan verilerin dikkatlice taranması ve zararlı içeriklerin engellenmesi önem taşıyor.
Yapay zeka güvenliği konusunda çalışan uzmanlar, şirketlerin ön yüz güvenliğine ek olarak sistemsel güvenliğe de yatırım yapmaları gerektiğini vurguluyor. Büyük dil modellerinin sürekli güvenlik testlerinden geçmesi ve sorumluluk sahibi tasarımın sağlanması kritik öneme sahip.
Bu gelişmelerin ardından, teknoloji devleri çalışmalarını güvenlik odaklı şekilde sürdürürken, yapay zeka modellerinin etik ve yasal sınırlarının korunması için daha fazla çaba harcanması gerekiyor.
