【本报讯】 近年来，随着人工智能技术的发展，使用“深度伪造”技术制作的色情影像在韩国社交媒体上肆意传播，韩国青少年特别是年轻女性深受其害。为从根本上清除这一社会毒瘤，韩国正不断加大打击“深度伪造”犯罪的力度。去年10月，韩国政府表决通过了三部相关法律，保存、收看“深度伪造”淫秽影像将受到处罚。然而，韩国涉及深度伪造的“数字性犯罪”依旧存在，AI版“N号房”近日被曝出访问量急剧增加。
成都红星新闻报道，韩国一个网站被曝出利用人工智能技术，可将女友、妻子等女性熟人的形象合成裸体手办并在网上展示，每日吸引超过10万名男性用户。随着生成式AI的扩散，该平台不仅公然运作，还大量出现利用女性照片制作的“裸体手办”图像，甚至使用特定提示语生成“深度伪造”色情内容。
数据显示，去年韩国“深度伪造处罚法”实施前，该网站日访问量约为6万人，而在法律生效一年后，访问量不仅未下降，反而增长约60%。
所谓“深度伪造”，是指利用人工智能，将他人的声音、面部表情和身体动作合成虚假影像的技术。
据统计，去年4月至5月，该网站月访问用户超过52万人。
自上月以来，“深度伪造”色情内容急剧增加，用户以“最近试着跟潮流做一个”“我也来玩一下流行的前女友手办制作”为名，不断制作并展示手办，并附上受害女性个人信息。
针对该网站利用人工智能进行大规模色情内容生成的行为，由72个韩国市民团体、大学组织及约200名个人组成的“深度伪造性犯罪OUT联合行动”，去年曾在首尔举行抗议活动，公开谴责该网站的性剥削活动。而这样的抗议活动已举行多次。尽管如此，该平台利用AI技术生产色情内容的情况仍在持续。
专家指出，应尽快修法，防止“裸体手办”等经由AI加工生成并传播的色情内容逃脱处罚。
