Araştırma: Sora 2’nin Dezenformasyon Tehlikesi

Araştırma, Sora 2’nin kötü niyetli kullanıcılar tarafından dezenformasyon kampanyalarında kolayca kullanılabileceğini ortaya koydu. NewsGuard, oluşturulan yanlış videolardan beşinin Rusya kaynaklı dezenformasyon operasyonlarından geldiğini de belirtti. Dakikalar içinde sahte ama inandırıcı videolar Araştırmacılar, Sora 2’yi kullanmaya başladıktan yalnızca birkaç dakika içinde şu konularla ilgili sahte videolar üretebildi:

Sora 2’nin Riskleri ve Özellikleri

OpenAI, Sora 2’nin güvenlik risklerini resmî web sitesindeki “sistem kartında” kabul etti. Şirket, modelin “izinsiz benzerlik kullanımı veya yanlış yönlendirici içerikler” üretebileceğini belirtti. Ayrıca, minörleri içeren içeriklerde sıkı denetim eşiği uygulandığı ve Sora 2’nin güvenlik önlemlerinin “kademeli olarak” geliştirileceği açıklandı.

Uzmanların Değerlendirmesi

Boston Üniversitesi’nden Doç. Michelle Amazeen, bulguların “son derece endişe verici” olduğunu belirterek, medya kullanıcıları için sahte videoların gerçeği ayırt etmeyi zorlaştırdığını vurguladı. Diğer yandan, biyometrik kimlik doğrulama firması Daon’un yöneticisi Scott Ellis, Sora’nın fiilen bir deepfake aracı olduğunu söyleyerek, kullanımının ciddi tehlikelere işaret ettiğini dile getirdi.

Filigranlar ve Güvenlik Önlemleri

OpenAI, Sora 2 tarafından üretilen videolara filigran ve dijital imza eklediğini duyursa da, NewsGuard araştırmacıları bu önlemlerin etkisiz olduğunu belirtti. Dijital medya güvenlik uzmanı Jason Crawforth, filigranların kolayca kaldırılabildiğini ve bu durumun ciddi bir güvenlik açığı oluşturduğunu ifade etti.

Çözüm Önerileri

Güvenlik uzmanları, blok zinciri tabanlı kimlik sistemlerinin dijital içeriklerin doğrulanması için yaygınlaştırılmasını öneriyor. Ancak, Sora 2’nin hızlı ve yüksek kalitede sahte videolar üretebilme yeteneği, dijital çağda gerçeklik algısının giderek zayıfladığı bir döneme işaret ediyor.