Elon Musk’ın Yapay Zeka Şirketi xAI ve Grok

Elon Musk’ın yapay zeka şirketi xAI tarafından geliştirilen ve X platformuna entegre edilen Grok, çocuk istismarı görüntüleri ve rızasız cinsel içerikli deepfake üretimindeki rolü nedeniyle küresel bir abluka ile karşı karşıya kaldı. Birçok ülke, chatbot’un güvenlik önlemlerinin yetersiz olduğunu savunarak erişim engeli kararları alırken, uluslararası düzenleyici kurumlar xAI üzerinde baskıyı artırıyor.

Ocak ayının başından itibaren X kullanıcılarının, Grok’u kullanarak çocukların müstehcen görüntülerini ve kadınların rızası dışında oluşturulmuş cinsel içerikli görsellerini ürettiği tespit edildi. Araştırmalar, kullanıcıların halka açık görselleri bot yardımıyla saniyeler içinde “bikini giydirme” veya daha ileri seviye çıplaklık içeren formatlara dönüştürebildiğini ortaya koydu. Cinsel saldırı karşıtı sivil toplum kuruluşu RAINN, bu durumu “teknoloji destekli cinsel istismar” olarak tanımlarken; Reuters, The Atlantic ve Wired gibi kuruluşların incelemeleri, Grok’un güvenlik bariyerlerinin kolayca aşılabildiğini ve modelin şiddet içerikli materyallere de onay verdiğini belgeledi.