秘密的、专属于男性会员的Telegram聊天室,充斥着大量被“深度伪造”(Deepfake)的女性色情图像。这些男生,很多仍是初高中的学生;而这些女性,大多是他们的熟人,同学、老师,甚至还有家人。在这里,她们的脸,被嫁接到各种不堪入目的合成图像中。
近期,一起大规模的深伪危机,席卷了整个韩国,也让全世界为之震惊。
据韩国教师工会估计,有200多所学校都受到了影响,但根据一些韩国学生自发在社交媒体X上创建的受害学校清单,截至9月初,涉及的学校数量超过500所。
想要进入这些聊天室很简单,只需要使用Telegram聊天室搭载的“机器人程序”制造10张“深度伪造”的照片,而生成一张裸体照片甚至花不了3秒钟。
“深度伪造”群聊频道截图
但在某些特殊聊天室中,管理者更是表明,只有提交女性家庭成员的全身照片,或是上传自己“不恰当地触摸妹妹或母亲”的照片或视频后,才被允许进入。
目前,已知存在两个被广泛使用的“机器人程序”(也就是工具bot),一个拥有22万余名用户,另一个则涉及40多万人。据报道,这类工具bot可以识别上传照片的性别,且只能合成女性的色情图像。
直到社交媒体X上名为@Queenarchive1的账户开始曝光此事,更多人才得知这些聊天室的存在,很多女性才意识到自己早就成了“深度伪造”的受害者。
事实上,这起“新N号房”事件,距离上一次韩国“深度伪造”犯罪引发关注,仅仅过去了四个月。
韩国社会到底怎么了?虽然人们对韩国低生育率问题与严峻的性别战争早已习以为常,但仍震惊于这起事件背后令人胆寒的恶意。
网络流传的受影响学校名单已经超百所,且在持续增加
目前,韩国总统尹锡悦表示要“彻底调查和解决这些数字性犯罪”,但考虑到他在女性议题上的不作为,很多韩国女性对此并不抱期望。
感到绝望的韩国女性,试图通过跨国渠道来扩散信息,将事件的进展翻译成多种语言,在各国社交平台进行分享。面对层出不穷的性别暴力问题,在这个让她们怒哄着“韩国女性是没有国家”的地方,她们只能尽可能地将信息传得更远。
撤下你的照片
“赶快撤下你所有的露脸照片。”
在kakaotalk(韩国聊天软件)上收到朋友发来的消息时,住在水原市的18岁华人学生小慧(化名)还没反应过来发生了什么事。紧接着,朋友发来了关于Telegram聊天室的信息,以及受害者学校名单。
小慧在名单上看到了自己所在中学的名字。她还未来得及消化这件事带来的冲击,便一刻不停地删除了社交媒体上自己所有的照片。
小慧告诉南风窗记者,她从来没想过这样的事,会发生在自己身边。在和朋友的后续交流中,她才知道,自己的同学就在制造这些“深度伪造”色情图像。
她不知道自己是否在学校中与这些人擦肩而过,也不确定是否和对方在ins上成了互关好友,但只要想到学校里存在着这样的人,就让她和她的朋友感到生理不适。
按高校区分的聊天室
目前,唯一让她们松了一口气的是,还没有看到和自己相关的图像,但她也明白这种“安全”很可能只是暂时的,因为当Telegram聊天室的影响范围如此之大时,“每个女性都是目标”。
在这段时间内,“女性安全如何保障”,成为了小慧和朋友们每天都在谈论的问题。她们并不满意学校的处理方式,也对邻近的学校只是进一步提醒在校女生多注意自身安全的做法感到讽刺。
“他们只是让女生在操场上集合,告诉她们要更小心,而男生在一旁踢足球”,小慧气愤地说道,“为什么不去警告男生呢?”
在小慧和朋友们看来,问题的重点,从来不是女性应该“更小心”,只是在正常生活的她们,没有义务更小心地生活,而“更小心”未必可以换来安全的生存环境。
到底要多小心?这次Deepfake事件爆发后,很多韩国女生纷纷站了出来,讲述自己被家中哥哥、弟弟侵犯或偷拍的遭遇。在社交媒体X上,有不少女生分享自己曾被家里人侵犯的经历——被自己的哥哥/弟弟偷拍,照片发到网上卖钱。
偷拍者趁妹妹睡觉掀起她的裙子
还有女生爆料称,自己和哥哥的关系一直很不错。当她在哥哥手机中发现被偷拍的照片时,她哥哥刚带她吃了烤肉。在手机相册中以她名字命名的文件夹里,有她睡觉的照片,换衣服的照片,还有她的大腿照。
她花了很长时间去疗愈自己,但看到长得像自己哥哥的男生时,还是会下意识地感到害怕。而与此同时,已经知道发生了什么事的父母,却还敦促她赶快与哥哥和好。
此外,还有一位女生在X上连发三十多条推文,讲述自己午睡时被小一岁的弟弟抚摸并偷拍的经历。她将事情告知母亲后,还担心弟弟会不会被打得太狠,但结果却是自己多虑了。
“你也有问题,谁会在家里穿这么短的睡衣”,她的母亲这样说道。她想不明白为何会这样,还在评论区发了睡衣样式,“我穿着普通的睡衣,就在家里安心地睡着了。这是我的错吗?”她表示,自己大约有一年的时间都无法过上正常的生活。
这些案例中,被亲人偷拍的照片,有没有流入聊天室、成为深伪合成的素材,还属未知,但它们却引发了广泛共鸣,这起Deepfake事件,影响之深远,几乎摧毁了受害者的信任体系和社交网络。随着这些故事不断被讲述,有关Deepfake更多不为人知的细节,也被勾勒了出来。
韩国女性在微博发出求助
就像目前案件已提交首尔法庭一审的受害女性在法庭上说的那样,她认识被告人,她和对方是校友,她们的关系不仅涉及上课,还包括在学生餐厅用餐,完成学习小组作业等方方面面,她整个校园生活几乎都绕不开被告人。
这也是为什么当她得知罪犯是谁时,她受到的冲击比最开始知道自己的照片被“深度伪造”时还要大。
“只是在开玩笑”
当受害者仍在苦苦挣扎时,很多涉事男性并没有意识到严重性。
不少男生表示,这么做“只是觉得有趣”,或是“只是在开玩笑”,更有甚者,在聊天室中留下了“我不知道为什么这些女的觉得自己有人权”“女的居然想要被当做人来看待”等触目惊心的言论。
聊天室中触目惊心的言论
当然,也有加害者不再满足于语言上的宣泄。有人选择直接联系受害者,还在聊天室分享她们的反应,以此进一步折磨她们;也有人毫不犹豫地公布受害女性的身份,并向对方索要封口费。
虽然从表面上看,这些罪行已经显而易见,但在实际运作中,打击数字犯罪并不容易。一方面,参与深度伪造的加害者大多是未成年人;另一方面则在于打击数字性犯罪存在立法缺口问题。
近几年,与“深度伪造”相关的犯罪数量,以及青少年犯下此类犯罪的比例,都呈上升趋势。
韩国警方表示,今年受理的深度伪造性犯罪案件已激增至297起。而在2021年,即他们首次整理这方面数据时,这一数字仅为156。在这其中,大多数受害者和加害者都是青少年。
韩国妇女人权研究所公布数据显示,受害者超三成为未成年人
具体来讲,在2023年,韩国75.8%的深度伪造性犯罪嫌疑人是青少年。在2021年,这一数字是65.3%,2022年则为61%。
但即便问题已经如此严峻,想要让这些加害者为自己的行为付出代价却并不容易。这不仅是韩国面临的问题,如何追踪和证实数字犯罪,在全世界范围内都是一个难题。这对执法机构提出了很高的技术要求。
当然,更重要的问题,来自薄弱的法律框架。虽然韩国在2020年修订了《信息通信网络法》等相关法律,但对何为“深度伪造”以及“未经同意”的细节界定还不够明确,对使用深度伪造技术的处罚力度也较低。
首先,与很多国家一样,韩国法律在未成年人犯罪的问题上并没有设置明确的量刑标准,这使得法官在判决时具有较大的自由裁量权,且往往会采取轻罪处理。
根据韩国国家统计局的数据,在2020年,韩国有超过60%的未成年人犯罪案件被判处了非监禁类的惩罚,包括社区服务、警告和心理辅导等。对于重复犯罪或情节严重的案件,法院可能会判处短期的少管所拘留,但长期监禁的情况非常罕见。
此外,在韩国,即便犯下“深度伪造”罪行的是成年人,也很少有人被判入狱,大多数人都是被判处罚款与缓刑。
在首尔韩国犯罪学与司法研究所的研究员张多慧看来,之所以会出现这一情况,是因为在多数情况下,法官都倾向于认为,数字性犯罪造成的伤害,没有涉及直接身体接触的性暴力那么严重。
尹锡悦的承诺
与其他国家相比,韩国的数字性犯罪问题一直都更为严峻。
根据美国初创公司Security Hero在2023年发布的全球深度伪造报告,在全球所有涉及深度伪造色情内容的案例中,有53%的受害者是韩国的歌手和女演员。
而在近期Telegram聊天室再次进入公众视野之前,很多人都还记得在2019年底逐渐曝光的“N号房”事件。
当时,主要嫌犯赵主彬(网名“博士”)通过社交平台Telegram建立多个秘密聊天室,将被威胁的女性(包括未成年人)作为性奴役的对象,并在聊天室内共享非法拍摄的性视频和照片。
“N号房”事件主犯赵主彬
这一事件的曝光,让韩国社会一片哗然。时任韩国总统文在寅对此表示了严厉谴责。他指示韩国警方和检察机关要彻底调查此案,不仅要严惩直接参与犯罪的人,还要追究所有间接参与或帮助传播的人。
在任期内,他推动了《信息通信网络法》的修订,以加大对数字性犯罪的惩罚力度,特别是针对涉及未成年人的犯罪行为;并支持通过《儿童青少年性保护法》修正案,进一步强化对未成年受害者的保护。
与此同时,文在寅还积极推动加强对社交媒体平台的监管,要求这些平台对非法内容的传播承担更大的责任。
只是,这些事项在尹锡悦上台后被暂缓,或是不再作为优先事项进行处理。
当然,这种变化可能部分源于新政府的不同政策优先级,以及在数字监管和个人自由之间的政策平衡。但考虑到尹锡悦在2022年韩国总统大选期间采取的“反女权主义”性别策略,他的政策选择并不令人意外。
只是,当如此猖獗的犯罪行为再次出现时,尹锡悦也不得不再次正视这一问题。
8月27日,尹锡悦就“深度伪造”犯罪行为发表讲话,呼吁警方彻查,根除此类犯罪
目前,尹锡悦总统办公室称,尹锡悦已在内阁会议上呼吁当局彻底调查和解决这些数字性犯罪,并承诺要进一步加强对违法内容的打击力度,同时提升网络平台的监管能力,以“彻底根除它们”。
但尹锡悦仍倾向于将此次深度伪造事件视作独立事件。即便数字性犯罪行为的性别特征如此显著,尹锡悦仍强调,深度伪造技术的恶意,会让“任何人都可能成为受害者”。
迄今为止,尹锡悦未曾提到这一问题背后折射出的结构性矛盾。事实上,他曾多次表示,他不认为韩国存在系统性的性别歧视问题。
-END-
值班主编 | 赵靖含
排版 | 阿车
南风窗原创城市文旅栏目
《城市出圈》
城市观察计划 | 开启文化探索之旅
南风窗新媒体 出品
未经授权 禁止转载
欢迎分享至 朋友圈
投稿、投简历:newmedia@nfcmag.com
广告、商务合作:
Wang838645293
本内容观点仅代表发布作者本人观点立场,欣文网平台只做信息内容展示和存储。发布作者:全网转载,转转请注明出处:https://www.xinenw.com/41287.html