Yapay zeka teknolojisinin gelişmesi, birçok alanda yarar sağlarken aynı zamanda ciddi tehditler de oluşturmaktadır. Sensity AI şirketinin araştırmalarına göre, deepfake videoların kullanımı özellikle siyasi alanda büyük bir endişe kaynağı haline gelmiştir. Ukraynalı siyasetçilerin ve askerlerin, Rusya-Ukrayna Savaşı’nda “teslim olmaya çağıran” ya da “savaş suçu işlediğini itiraf eden” kişiler gibi gösterilmesi, bu teknolojinin potansiyel tehlikelerini açıkça…
Yapay zeka teknolojisinin gelişmesi, birçok alanda yarar sağlarken aynı zamanda ciddi tehditler de oluşturmaktadır. Sensity AI şirketinin araştırmalarına göre, deepfake videoların kullanımı özellikle siyasi alanda büyük bir endişe kaynağı haline gelmiştir. Ukraynalı siyasetçilerin ve askerlerin, Rusya-Ukrayna Savaşı’nda “teslim olmaya çağıran” ya da “savaş suçu işlediğini itiraf eden” kişiler gibi gösterilmesi, bu teknolojinin potansiyel tehlikelerini açıkça ortaya koymaktadır.
Tayvan’da seçim süreçlerinde, Çin kaynaklı yapay zeka içeriklerinin politikacıların itibarını zedelemek amacıyla sahte konuşmalar, uydurma skandallar ve gafa benzeyen sahneler gibi manipülatif içeriklerin sosyal medyada yayılmasına tanık olunmaktadır. Japonya’da ise yapay zeka ile oluşturulan sahte doğal afet görüntüleri, nükleer kaza veya sel felaketi senaryolarıyla halkı panik içinde bırakmak amaçlanmaktadır.
Francesco Cavalli, Sensity AI’nin kurucu ortağı, yapay zeka ile üretilen içeriklerin tehlikelerine dikkat çekerek bu içeriklerin gerçeklik algısını zorlaştırdığını belirtmektedir. Yüzde tutarsız ışıklandırma, aşırı pürüzsüz cilt dokusu gibi detaylara bakarak yapay zeka içeriklerini tespit etmenin önemine vurgu yapmaktadır.
Yapay zeka ile üretilen içeriklerin yayılmasını önlemek için teknoloji şirketlerine ve platformlara proaktif önlemler alması çağrısında bulunulmaktadır. Cavalli, yapay zeka içeriklerinin etiketlenmesinin yeterli olmadığını, platformların bu tür içeriklere karşı güçlü adli inceleme sistemleri geliştirmesi gerektiğini vurgulamaktadır.
Yapay zeka teknolojisinin ilerlemesiyle birlikte, görsel ve ses içeriklerinin manipülasyonu ve dezenformasyonu artık daha karmaşık hale gelmiştir. Bu nedenle, insanların bu konuda bilinçlendirilmesi ve adli araçlarla desteklenmesi önem taşımaktadır.
