Güney Kore'de yapay zeka ile üretilen sahte cinsel içerikli görüntülerin artışı, toplumsal tepkilere yol açmışken, bu görüntülerin yayıldığı Telegram uygulaması da inceleme altına alındı. Seul merkezli Yonhap ajansının haberine göre, Güney Kore İletişim Standartları Komisyonu (KCSC) yetkilileri, Telegram temsilcileri ile geçen hafta yüz yüze bir toplantı gerçekleştirdi.
Toplantıda, "Koreli kadınların değiştirilmiş görüntülerinin" yayılmasına ilişkin endişeler dile getirildi. Telegram, yasa dışı içerikler arasında yer alan sahte cinsel görüntüleri platformdan kaldırma taahhüdünde bulundu. Telegram yetkilileri, bu tür yasa dışı materyallere karşı sıkı önlemler ve "sıfır tolerans politikası" uygulanacağını vurguladı.
Toplumsal sorun olarak değerlendirildi
KCSC Başkanı Ryu Hee-lim, düzenlediği basın toplantısında, "Telegram, cinsel deepfake içeriklerin önemli bir toplumsal sorun haline geldiği Güney Kore'deki durumu anladı" diyerek, bu konuda katı tedbirler alacaklarını belirtti. Komisyonun talebi doğrultusunda yeni "sıfır tolerans" politikası, fuhuş, uyuşturucu ve kumar içeriklerinin kaldırılmasını da kapsıyor.
Telegram, ülke genelindeki güvenlik makamları ile işbirliği yapacak ve KCSC ile düzenli toplantılar gerçekleştirecek. Ayrıca, içerik ihlallerine müdahale sürecini hızlandırmak amacıyla KCSC ile yeni bir iletişim hattı oluşturulacak.
Önceki müdahale ve deepfake sorunu
Yonhap ajansının bildirdiğine göre, Telegram, KCSC'nin talebi üzerine 3-25 Eylül tarihleri arasında platformdan toplam 148 cinsel istismar materyali dosyasını kaldırmıştı. Ülkede, okul ve üniversitelerle bağlantılı bazı sohbet gruplarında, çoğunluğunu kadın ve kız çocuklarının oluşturduğu birçok mağdurun, "deepfake" yöntemiyle manipüle edilen ses ve görüntüler içeren cinsel içerikli videolarının yayıldığı tespit edilmişti. Ulusal Soruşturma Ofisi Başkanı Woo Jong-soo, bu görüntülerin yayıldığı Telegram’a "suça yataklık etme" gerekçesiyle ön soruşturma açıldığını bildirmişti.
