Güney Kore'de, yapay zekâ teknolojisi kullanılarak oluşturulan "sahte cinsel içerikli görüntüler" nedeniyle büyük bir endişe yaşanıyor. Son günlerde ortaya çıkan "deepfake" skandalları, ülkenin savunma ve güvenlik sistemlerini de etkiledi. Güney Kore Savunma Bakanlığı, askerlerin ve bakanlık yetkililerinin fotoğraflarının, sahte içerikli görüntülerin üretiminde kullanılma riskine karşı kurum içi iletişim ağından kaldırıldığını duyurdu.
Sahte içerik üretiminde kullanılma riski
Savunma Bakanlığından yapılan açıklamada, askeri personelin ve ordu yetkililerinin fotoğraflarının, sahte cinsel içerikli görüntülerin oluşturulmasında kullanılma tehlikesi nedeniyle bu adımın atıldığı belirtildi. Bu fotoğraflara artık sadece yetkili kişiler erişebilecek, böylece güvenlik önlemlerinin güçlendirilmesi hedefleniyor.
Ülke genelinde "Deepfake" krizi
Güney Kore'de son dönemde "deepfake" teknolojisinin kötüye kullanıldığı birçok olay yaşandı. Özellikle okul ve üniversite düzeyindeki bazı sohbet gruplarında, çoğunluğu kadın ve kız çocuklarından oluşan mağdurların manipüle edilen ses ve görüntülerinin yayıldığı tespit edildi. Bu durum, ülkede geniş çaplı bir infiale neden oldu.
Ulusal Soruşturma Ofisi Başkanı Woo Jong-soo, söz konusu görüntülerin yayıldığı Telegram platformuna "suça yataklık etme" suçlamasıyla ön soruşturma açıldığını duyurdu. Bu süreçte Telegram'ın, platformdaki 25 sakıncalı içeriği kaldırdığı bildirildi.
