Tag: 韩国,社会新闻
偷拍女性事件为何频频上演?
文 | 李厚辰特朗普与哈里斯的美国大选辩论结束,辩论会后,流行天后Taylor Swift在Instagram公开表态支持哈里斯。在她的文章中,她专门提及了一起AI事件: “最近我得知,有人在特朗普的网站上发布了由AI模拟的‘我’支持他竞选总统的内容。这件事唤起了我对AI的恐惧,尤其是它在散布虚假信息方面的危险性。这使我意识到,我需要对自己作为选民在这次选举中的实际计划保持透明。对抗虚假信息的最简单方式就是用真相来回应。”Taylor Swift在自己社交平台上的分享这件事成为最近AI犯罪领域又一个引发全球关注的事件。在AI技术大踏步改变我们生活后,AI的暗面也逐渐呈现。技术对现实生活的冲击恐怕只是开始。01.骇人听闻的韩国Deepfake事件在AI生产图片领域,最近最严重的事件绝不是Taylor Swift,而是韩国的Deepfake事件,也被称为N号房2.0事件。上次的N号房事件,是加密女性偷拍群组,而这一次是购买者上传女性照片,有人通过AI技术进行脸部与身体的拼贴,制作成Deepfake色情照片或视频。此事件可以追溯到2021年之久,到今年被大规模曝出。受害者从小学生、中学生、大学生一直到工作人士,牵涉200多所学校,以及多起军队事件。根据韩国人权团体统计,仅今年,就有781名Deepfake受害者求助,其中36.9%未成年。这些聊天室规模之大骇人听闻,其中一个人数高达22万人。不仅受害者很多涉及未成年,最引人瞩目的是加害者竟然有更高比例为未成年人。根据韩国当局数据,在2024年,被指控犯罪的178人中,131人的年龄为10到19岁,青少年嫌疑人的比率高达73.5%。《女巫》除了未成年引发关注外,另一个典型的特征为熟人犯罪。与偷拍属于陌生人侵犯不同,Deepfake的换脸对象集中在同学、同事、军队同侪、师长、甚至家人中。这种犯罪不仅侵犯隐私与身体权力,还会大幅度摧毁人与人的信任关系,打破一个人日常生活的安全感。让身边的所有人都具有潜在侵犯的潜能。这种犯罪对学生团体、军人团体等男性团体具有集体侵蚀的作用。首尔市青少年文化中心负责人Lee Myung-hwa就向《BBC》指出,Deepfake在青少年间早已“像是一种娱乐文化般蔓延”,“他们倾向于将其视为同侪之间的恶作剧或玩乐。”甚至加入与否成为同侪间获得互相认可和被圈子接纳的一种信号。这当然不仅是韩国的问题,此前被BBC纪录片起底覆盖中日韩的偷拍性侵犯网络,由中国人“猫咪”管理,其团队大部分成员都在国内进行偷拍,而其网站的超过1万名付费会员中,大部分都是中国男性。除了这些极端的偷拍与深伪外,男性群体以分享色情内容作为社交的恶习,早已经是各个游戏群、运动群的常态。这种分享到Deepfake与偷拍网络,不过是一步之遥。技术首先构成了分发网络,形成在线群组,现在AI进一步与进入生产环节,让性侵犯变得更加肆无忌惮。02.你手中的暗网在以上这些事件中,有一款软件一直处于风暴的核心——Telegram,而它的创始人兼CEO Pavel Durov也在8月24日被法国警方逮捕。这款长期以隐私和自由为核心卖点的聊天软件,也成为各种非法活动的温床,并被戏称为“你手中的暗网”。不管是N号房事件,最近的Deepfake事件,或是台湾的“创意私房”事件,甚至上述“猫咪”经营的偷拍网络,都以Telegram作为主要的平台。这已经是一个在全球拥有10亿注册用户的巨型app,其加密特征确实让各式各样的活动在缺乏监管的情况下运营。非英语的使用也让监管更加困难,Telegram的官方政策明确禁止这些违法活动的进行,但显然缺乏足够的人手和算法来监管非英语内容。因此韩语和中文的犯罪活动,在其上甚至可以更加安全地运营。正是出于这些原因,Durov在法国被逮捕,当时法国正在调查与该应用程序有关的儿童色情、贩毒和欺诈交易等罪行。此次逮捕行动源于法国警方对Telegram平台缺乏监管的调查。《东城梦魇》Durov被逮捕后Telegram开始作出部分改变,Durov表示,Telegram已经删除“附近的人”功能,这项功能让使用者可以查看附近的其他使用者,不过他表示,“只有不到0.1%的Telegram使用者使用这项功能,却存在机器人和诈骗的问题”。Telegram将推出”附近企业”作为代替,可以展示“合法、经过验证的商家”。Telegram还更改了其用户规则,在私人聊天与群组聊天中,用户首次可以“举报非法内容”以供平台审查。同一页面已被移除的旧版本中写道,“所有Telegram聊天和群聊都是参与者之间的私密聊天。我们不处理与它们相关的任何请求。”但不安的迹象同时出现,在刚刚过去的8月,Telegram的月活跃用户为347万人,与前一个月相比增加了 31万人。这一增幅是自2021年3月开始统计安卓和苹果应用程序市场以来的最大规模。增长的用户大多来自十几岁的青少年,月活跃用户从7月的41万名增加到了8月的51万名,增加了10万名。占总增幅的 32.1%,占最大比重。可以想象这10万名青少年是被什么吸引到这个平台的,韩国性犯罪1级公认专门检察官出身的朴贤珠律师指出:“与因N号房事件而广为人知的非法拍摄物相关犯罪相比,存在犯罪的重大性和严重性并不严重的错误认识”,“最近使用者剧增,也担心会发生模仿犯罪。”作为一个聊天软件,大量用户在Telegram上进行广泛的互联网行为。它不应该作为犯罪温床而存在。03.解决技术,还是解决人的恶意引入Telegram的讨论是因为现在这个平台似乎成为了监管和解决问题的中枢。这是一个很自然的策略,在网络犯罪中,犯罪者、小型技术提供商、分销网络都非常分散。其唯一集中的核心就是Telegram这样的软件,所以从Telegram开始,似乎可以最有“效率”地解决问题。但这里遭遇两个严重的困境,首先是监管与自由的张力。平台监管的强度与用户可以享受的自由之间,确实存在明显的张力,这方面自不必多言。另外一点是,犯罪者从Telegram转移到另一个更小众的加密信息频道,并不是一件多麻烦的事。堵住了Telegram,未必真的可以解决问题。一旦他们进入更小众的平台,只会让这些犯罪变得更加隐蔽。这是监管和透明之辩,有时候监管太强力,反而让轻中度犯罪变得隐蔽,社会表层秩序看上去井井有条,实际暗流涌动。较少的监管,反而容易让问题变得相对透明。如果无法从平台入手,解决方案似乎就是严惩。根据韩国法律,制作非法Deepfake色情影片可处五年以下有期徒刑、韩币5000万元罚金(约人民币26万元)。现在研拟加重刑罚,如比照“非法拍摄”的标准,将最高刑期提高至七年。另外,考虑到未成年犯罪者大增,预计也将调整“未成年人”(10~14岁不受刑事处罚)的标准。但需要对重罚保持警惕和疑虑,如果一味重罚就可解决问题,恐怕很多社会困境就好解决了,重罚确实“解气”,但很多时候适得其反。轻罪重罚可能激化犯罪行为,或加剧犯罪行为的隐匿,惩罚过度会加剧社会不公的感觉。在很多国家,性别冲突,性侵犯犯罪同时也与社会公平失衡有很大关系(并非为其辩护,社会公平失衡也可能导致对失衡错误的感受和理解,迁怒社会失衡到女性身上),轻罪重罚可能会加重此种不公的感受,进而产生抗拒。《日本之耻》说到这里,问题从AI,从Telegram再次回到了人。也许确实更应该从这个角度看待问题,在有Telegram和AI之前,这个社会的性别犯罪并不罕见。从直接的性侵犯,到公共场合的偷拍与痴汉行为,到Deepfake犯罪,事情没有变得更轻微,但变得更间接和隐匿。走到这一步,可能有些问题难以逃避。首先是教育,我们现在的教育中有足够的性教育、两性关系教育、性别平等意识的教育吗?如果这三个问题的答案都是否定(韩国这方面优于我们但与其他国家比还有很大差距),出现青少年性别侵犯犯罪就不可能是偶然;第二方面,当下人们对社会的塑造不仅仅来源于学校,更来源于互联网,对于互联网极右翼浪潮和Incel文化,尤其是男性群体,落后的良心观念在游戏与体育等男性社群非常泛滥,并嫁接陈腐的“兄弟文化”在人群中加剧,广大男性对于这些文化是采取拥抱的态度、事不关己,还是明确拒绝呢?如果在学校及互联网,我们都无法对社会阐释和观念塑造投入足够精力和时间,甚至在互联网还强化这种错误的性别意识,仅仅依靠对平台的监管和严惩,这个问题就变成了一种新的刻舟求剑。我明白很多人会认为这两者并不矛盾,我们可以既监管平台,又对犯罪者严惩,还加强学校教育,还努力在互联网塑造文化。四管其下,这个问题才可以解决。尾声.三个现成与一个责任但上述方案之间,并不是平行的关系。有三个都不需要我们做任何事情,平台监管、犯罪者严惩、学校加强教育,我们都只用“提要求”,监管、司法、教育部门就应该自动完成这些工作。提出这样的要求和期待当然是一种权力,也并不是问题。唯有最后一个,需要每一个人的努力。这或许是一个有互联网时代的困境,大量问题变得间接、隐匿、跨国、因为技术自动化,且在背后由分散而数量庞大的人共同推动,这让传统的点对点的行政和司法变得困难。这一切与高度原子化的社会结合,变成一个庞大的结构性问题。也让传统行政和司法手段难以快速应对。最后这不得不成为一个拷问社会,也拷问我们每个人的问题,你是否期待问题在“呼吁”下由他人帮你快速解决?如果这个预期落空,你能做什么?面对性别犯罪,这个问题尤其要问男性,毕竟男性与所有这些互联网社群和文化更接近,也许你就在这样传播色情GIF的游戏群组,在论坛面对厌女言论,目睹Incel理论传播,是守着“反正我一直挺尊重女性,这事儿和我无关”的态度,还是站出来制止这种文化的传播?《日本之耻》这可能是一个过高的要求,所以我们寄望于监管、司法、教育部门可以快速响应、解决问题,还是期待少数媒体或个人以英雄主义揭露问题?韩国在N号房事件后,在Kpop明星出现性丑闻被打击后,竟然还可以有如此大规模的Deepfake风潮,也在提示我们性冲动与厌女文化带来此种需求的旺盛和强烈,这不是一个治安问题,而是严重的社会问题。 以治安的思路,我们恐怕会在这个泥潭中越陷越深。我们每个人与其是什么关系?这是个严肃问题,在缺乏公民参与与公民责任的社会,这些问题可能将永远无法解决。或只剩一个最终的解决方案——因为悲观而堕入犬儒,变成自己讨厌的样子,无望、风凉话、怨气与仇恨。参考资料:1.https://www.gvm.com.tw/article/1156032.https://is.gd/0x6E6k3.https://abmedia.io/telegram-faq-changed4.https://www.donga.com/cn/article/all/20240906/5155315/1*本文原标题《韩国Deepfake性犯罪,恐怕不是个治安问题》,声明:文章观点仅代表作者本人,不代表看理想平台立场,欢迎提供不同意见的讨论。封面图来源:《东城梦魇》,编辑:z,策划:看理想新媒体部。更多「李想主义」专栏文章👇美国大选黑马,她能逆风翻盘吗?查看更多往期内容请在公众号后台回复「李想主义」商业合作:bd@vistopia.com.cn投稿或其他事宜:linl@vistopia.com.cn