深度伪造（Deepfake）铺张正在成为针对妇女暴力的新前沿。近日，韩国多起涉案嫌疑东说念主在未经女性知情或答应下，附近东说念主工智能时刻合成真实东说念主脸与空幻体魄，伪造色情影像，并在多个外交媒体群组无为传播。据韩联社报说念炫耀，连年来成人xfplay，韩国Deepfake性作恶案件数目一直呈上涨态势，从2021年的156起增至2023年的180起，本年仅前七个月致使仍是累计报酬297起。其中，案件受害者以年青女性为主，主要包括学生、熟练和士兵，且近三分之二的受害东说念主都是青少年。
这次激增的Deepfake性作恶激励全球多国网民恐慌。但这并不是一次一刹的爆发。
本体上，早在本年事首，好意思国知名歌手泰勒·斯威夫特（Taylor Swift）的深度伪造色情图片就曾在外交媒体无为传播，在平台方作念出删除管理前，该图片已被累计浏览超4700万次。缺憾的是，这次事件仅在粉丝群体里面引起震憾。好意思国有线电视新闻网还曾在本年1月末成心刊发挑剔著作，称“咱们最大的空幻即是，礼服这种伤害只发生在公世东说念主物身上”。而在更早些的2019年，网络安全公司“深度跟踪”（Deeptrace）曾经发布过一项调研，成果炫耀其时96%的在线深度伪造视频都黑白自发情色内容。“这不是一个小众问题。”
这次激励暖和的Deepfake案件，指向了网络性作恶仍是到了一个全新的阶段。当咱们梳理围绕Deepfake案件的相关筹谋时会发现，这种看似非体魄的暴力之是以激励如斯无为的担忧，人人确凿牵挂的是一种更无为的、充满敌意的网络环境渗透真实寰球。
东说念主工智能器具可能会导致新一代年青东说念主产生“我的愿望即是东说念主工智能的命令”的心态。“如果咱们不防备，不仅会创造新一代的受害者，还会创造新一代的施虐者。”这些筹谋也再度教唆咱们，对于性别的偏见——这一生界上最陈腐的偏见并未远去，怎样竣事两性之间的确凿对等仍然任重说念远。而时刻一直隐含风险，它是器具却从来不是谜底。
Deepfake案件回溯：
挫折性的色情？
从某种进程来说，Deepfake（深度伪造）之于视频，就像Photoshop之于图片。两者都直不雅冲击了真实和臆造之间的界限。在深度伪造时刻流行之前，东说念主们对“低价伪造”应该都不生分。后者指的是对现成素材进行管理，且管理方式仅限于放慢或加速视频中部分段落的播放速率，或者采选性地编著拼贴内容。好意思国众议院议长南希·佩罗西（Nancy Pelosi）就曾深受其害。相较而言，深度伪造的变形制作则不错将一张脸与另一张脸互换、或将一张脸上的神采换到另一张脸上，在这个基础上再伙同配音或者声息克隆等方式，这项时刻就能够竣事以极低的本钱制作出全都虚构但极其传神的视频。早年间海外外交媒体曾流传过好意思国总统尼克松针对登月糟糕的演讲，即是深度伪造的成果。
在韩国深度伪造性作恶激励无为暖和之前，全球多家主流媒体对这项时刻的报说念大多皆集在政事范畴。东说念主们牵挂它可能会导致空幻信息的传播、制造社会政事不合进而极地面玩忽民主。这些担忧都不无有趣，但媒体报说念视角的筛选机制过滤了这项时刻更为本体的影响。
英国《卫报》2018年刊发的对于深度伪造的报说念，聚焦政事范畴。
据欧洲一家科技接洽公司Sensity近日发布的报酬炫耀，现时全网传播的深度伪造视频中与政事相关的内容占比不到5%，其中朝上95%的内容波及非自发的色情内容。该报酬还发现，部分深度伪造网站的视频不雅看量朝上1亿次，这类网站的内容主要对于女明星和普通女性的体魄。另外一项针对Telegram（通信软件）上生成的空幻裸照的造访则发现，朝上68万名女性的像片被从其外交媒体或私东说念主对话中窃取。
在此之前，深度伪造激励皆集筹谋是在本年事首。好意思国知名歌手泰勒·斯威夫特的深度伪造像片在外交媒体上飞速传播，在平台方删除像片前，该像片在全网已有约4700万次浏览。据相关统计炫耀，其时全网已有朝上9500 个网站“成心制作非自发亲密图像”。在泰勒·斯威夫特成为最受暖和的受害者之前，这项时刻其实仍是颠覆了许多东说念主的活命。
《恋东说念主：泰勒·斯威夫特巴黎演唱会》剧照。
作者劳拉·贝茨（Laura Bates，Men Who Hate Women）在书中线路，曾有男性给她发过相关图片或视频，影像中的她看上去好像在进行各式性步履。她说，东说念主们很难理会这种作念法的影响，即使东说念主们知说念这些都不是果真。“在别东说念主顶点厌女的幻想中看到我方超实践的形象，这让东说念主很惧怕。”贝茨曾形容说：“那果真很有辱东说念主格，非凡难看。它会一直留在你心里。”贝茨还补充说，那些内容可能会被数百万东说念主看到。
“这是放荡女性的新方式。”贝茨觉得，这一滑为的主义是让女性闭嘴。诚然男性也不成避免于其他花样的东说念主工智能生成图像的侵害，但深度伪造色情作品绝大大宗针对的仍然是女性。一项相关标明，与处于相怜悯况的女性受害者比拟，男性受害者对所发生的事厚谊到的羞耻感更少，自责感也更少。且男性受害者在报案时暗示，警方积极恢复的比例高于女性。当女性举报相关步履时得到的恢复也更负面，现时通行的社会不雅念仍然觉得女性应该作念更多事情来避免摧残，也即是所谓的“受害者责问”。尤其是当泰勒·斯威夫特也遭到深度伪造攻击时，这似乎在向扫数女性开释一个信息：不论你是谁，不论你有多宏大，有多告捷，当下所处的这个寰球都仍然会找到一种方式来轻侮你。
夙昔六年间，深度伪造与东说念主工智能群众亨利·阿杰德（Henry Ajder）曾深入不雅察过这项时刻使用者的特质，以及他们相互互动的方式。“不错详情的是，绝大大宗东说念主都是男性。我觉得许多针对名东说念主的东说念主都是为了性骄矜。他们频频会使用非凡厌恶女性的谈话——这可能是为了性骄矜，但同期也伴跟着一些对女性非凡可怕的意见。”阿杰德称，这些图像和视频制作东如若四肢“挫折性色情”技能。“它也被用来针对女性政客，试图让她们保握千里默、勒诈她们。它如实体现了女性仍是濒临的许多挑战，但提供了一种全新的、非凡有劲的火器，使女性失去‘东说念主性’并被物化。”
图片：ic photo.
跟着东说念主工智能时刻的约束发展，问题正在变得愈加严重。好意思国有线电视新闻网刊发专题挑剔指出，这种攻击并不仅指向公世东说念主物。试想这么一个情境，一个被暗恋对象远离的男性可能会邀请其他东说念主统统不雅看暗恋女孩的深度伪造视频。这一假定在近日曝出的多起韩国深度伪造性作恶案件中被反复印证，大多案件波及熟东说念主作案，“一些受害者致使即是加害者的母亲、姐妹、表亲或熟东说念主”。另有韩国媒体发现，某个制作与传播深度伪造色情内容的Telegram群组有简短22万名成员，其传播范围之广被觉得是第二次“N号房事件”。
乔治华盛顿大学讲授玛丽·安妮·弗兰克斯博士成心相关民权、科技和言论解放。她在该著作中提醒读者：这类应用设施和东说念主工智能器具可能会导致新一代年青东说念主产生“我的愿望即是东说念主工智能的命令”的心态。在这些网络空间中，男性对女性体魄的特权感通常全都不受抵制。用户们相互依赖，营造出一种错觉——即他们是寰宇之王，他们无需听命于任何东说念主。他们致使觉得制作和传播被算法火器化的挫折性色情内容仅仅一种个东说念主心疼。“如果咱们不防备，咱们不仅会创造新一代的受害者，还会创造新一代的施虐者。”
网络性作恶的升级：
当仇恨与欲望并存
早在韩国曝出相关案件前，韩国女性的安全感就永恒处于低位。有记者整理韩国有观看厅公布的统计数据，指出2018年韩国性作恶发生数1370件，但从2022年已冲破1万件；在总体性作恶型态的排名与比例中，网络性作恶也从2018年名次第5位、仅占4.5%，上涨到2022年的第2位，占27.2%，仅次于性报怨。越来越多女性远离投入传统的父权制式家庭，反馈西洋流行的#boysober（编者注：直译为“男孩默契”，指女性给我方设按时限，不跟男性蚁合，不跟男性发素性步履，让我方处于脱离男性性缘关系的环境）激越。韩国互联网上保守化潮水日益较着，不少男性为“非自发独身者”（Incel，Involuntary celibate），他们在日常活命中大多与女性莫得太多斗殴，但会在臆造寰球匿名发表带有侮辱性的言论。
深度伪造性作恶的激增被觉得与近些年握续流行的这波“非自发独身”文化密切相关。该词的流行还要顾虑到2014年，好意思国别称自称“非自发独身者”的22岁后生，在加利福尼亚州拉维斯塔发动恶性事件，最终导致六东说念主亏欠，十四东说念主受伤。他在随后留住的一封长达137页的宣言中抒发了我方从未发生过性步履的大怒与归罪。这股心理成为如今网络厌女的源流，部分言论将女性视为应该驯顺男性的性对象，觉得女性低于男性，并隐含对性和女性体魄的“惊东说念主职权感”。
尽管近些年激励暖和的这些性别案件大都以互联网为序言，但总体上并未脱离由来已久的厌女逻辑，致使在东说念主工智能等时刻的加握下，日益显现出对源流的复兴。爱尔兰作者杰克·霍兰（Jack Holland，《厌女简史》）梳理历史时发现，这一偏见延续千年深重，主要与女性和男性之间关系的复杂性关系。男性鄙弃女性的内核在于男性对女性的懦弱，这种懦弱着手于他们相识到两性间的互异，且觉得这种互异存在潜在胁迫。“对男性而言，女性是原初的‘他者’——‘非我’。东说念主们常有一种倾向，将任何被归类为他者的东说念主变成替罪羊……但与此同期，女性还牵连一个更复杂的问题——她是一种永不成被摈斥在外的‘他者’。”
这种相得益彰的二元不雅念早在古希腊、罗马时候就形塑了其时社会对男女关系的慌张。柏拉图和亚里士多德先后让性别偏见得到玄学和科学上的招供。以柏拉图为例，他本东说念主的性别不雅念逻辑复杂且格格不入。柏拉图一生单身，他珍贵男东说念主对男东说念主的“纯”爱，觉得这要高于男东说念主对女东说念主的爱，后者更接近于兽欲。这为基督教的东说念主类靡烂据说提供了径直的玄学基础，在这套推演下，恰是因为四肢女性的夏娃的干豫，才玩忽了男性与天主之间的谐和关系。其中确凿的懦弱在于，他们不得不相识到“东说念主根柢不是自主自治的，而是有所依附的”。
当仇恨与欲望以这么一种花样并存时，它诬陷了其后许多男性对女性的意见。在维多利亚期间，这一偏见曾以一种相配阴毒的方式外化。其时流行的不雅念将女性奉为“无性”的天神，同期贬黜女性的天性。不少维多利亚期间的男性对幼女十分狂热，在杰克·霍兰看来，这其实代表着男东说念主无法与成年女性配置闲居的两性关系，于是这种深刻的性欲分歧不可阻扰地导向了另一个出口。而后群众熟知的几位性别偏见的坚实拥趸，如希特勒、叔本华、尼采等东说念主，险些都是与社会疏离且在性关系方面莫得安全感的男性，他们从未与女性配置老练且褂讪的亲密关系，也从未领有过闲静的家庭活命。
然则，这种根源于古希腊、罗马的性别偏见近些年却运转在网络空间复兴。在好意思国第五大网站Reddit上，最有影响力的男性论坛“红药丸”（The Red Pill）引诱了数十万名男性成员入驻。这些男性将“发现寰球对男性事实上何其不公的念念想更动历程”，描画为“吞下《黑客帝国》中通往真相的红药丸”。正如多娜·扎克伯格断言：“在21世纪，对于古代希腊罗马历史遗产最有争议况兼最迫切的筹谋，不在体裁、戏剧、学术这些传统范畴中发生，而在互联网上。”这些躲在“男性空间”匿名牌之后的男性，正在以多种方式使用、致使铺张古典寰球的念念想资源，从中寻找字据扶助他们的逻辑。
电影《黑客帝国》（1999）剧照。
“柏拉图是一个期间之子，这一期间依旧与咱们同在。”英国玄学家卡尔·波普尔曾如斯预言。当年，在饥馑、弹压、审查和公民流血事件的社会配景下，柏拉图曾意欲在感官寰球以外寻找一个更“高”的寰球。千年之后，那些无法在真实寰球与异性配置健康关系的男性，沿着雷同的逻辑作念出了顶点的“采选”。好意思国专注流行文化与政事的新闻网站《逐日野兽》（The Daily Beast）发布挑剔称，在东说念主工智能生成器具流行之前，非自发独身文化就仍是存在，现在它们正在成为主流。“与其说是东说念主们礼服这些图片是真实的，不如说即是隧说念的归罪。”
对此，在网上长大的年青一代男性能够咨嗟更深。好意思国一份由加州大学欧文分校学生创办的寂静刊物《蚁读者》（The AntReader）发文觉得，这波回潮的确凿问题在于，年青男性并莫得接管设施配置公说念的社会——他们堕入了一种带有偏见的念念维方式，这种念念维方式会给他们带来一种社区感。这反过来又为女性创造了一种充满敌意的网络环境，最终可能导致（真实的）暴力作恶。
尾声：
时刻是器具，却不是谜底
导向真实作恶的可能性是深度伪造性作恶激励如斯大范围恐慌的原因。维也纳大学玄学系博士后凯斯·雷蒙·哈里斯（Keith Raymond Harris）扫视分析了这类内容怎样让东说念主们产生脸色祈望。“当学生对同学进行深度伪造时，这可能会改动他们对对象的意见，并在实践活命中酿成进一步的不尊重、报怨致使摧残。当这些对特定女性产生的脸色祈望，导致对扫数女性的祈望时，偏见就会进一步强化。”
女性遭受相关“挫折性色情”的后续碰到也值得暖和。在 BBC 一档名为“她说”（The She Word）节目中， 两名津巴布韦女性证实了她们成为色情挫折受害者的故事——一东说念主被褫夺了家庭关系，因此无法完成学业；另一东说念主则失去了使命。在印度，别称记者曾为一个八岁女孩伸张正义后，遭到了深度伪造色情降低。这些报说念散见于多个国度。此外，还有不仙女性受访者称，在成为这些网络性暴力筹划后，她们很难看护或找到使命。
图片：ic photo.
现时的逆境在于，时刻发展的速率仍是远远朝上立法的速率。以韩国为例，现存法律对出于传播主义制作深度伪造内容的东说念主、以及试图通过传播这些内容来获取经济利益的东说念主都有一定的惩治条例，但现时并莫得相关法律不容购买、存储或不雅看深度伪造的内容。造访东说念主员需要赢得法院批准智商用微妙身份投入深度伪造聊天室，况兼，他们仅仅在收到未成年东说念主遭到性摧残的举报后智商进行这类造访。这个历程也可能很慢。
“你在假期发现了一个聊天室，但等你得到法院批准后，它仍是隐藏了，”韩国国度侦察局网络作恶高档造访员咸永玉在接受《纽约时报》采访时暗示。
杜伦大学法学讲授、图像铺张群众克莱尔·麦克格林（Clare McGlynn）这些年也在与同业握续号召修改图像作恶相关法律，“但咱们基本上是在向虚空高唱”。麦克格林诠释说，这些年，政府方面一直观得空幻图片和影像长途的危害不大，莫得确凿与受害者交谈。立法的逻辑更暖和性步履是否真实发生，而不太介怀受害者的感受。“这些网络性作恶步履莫得被肃穆对待，东说念主们如故莫得相识到这种伤害可能是深入且废弃性的——它不会一刹发生，你也许不错试着克服它，继续活命，但它总有可能再行出现在网上。”
麦克格林还指出，现存法案的设定大都忽略了平台的包袱。尽管平台方暗示对相关深度伪造内容接管“零容忍”，但在一份深度伪造图像或视频被删除前，仍是罕有千万次浏览量时，这么的态度就显得有些“迷糊”。
回到本岁首泰勒·斯威夫特的碰到。其时平台方以“优先谈判安全”为名，片时屏蔽了全平台对于“Taylor Swift”的搜索成果，暂时让她“隐形”。这一举动被觉得传递了一个危急的信号：“如果现时世上最有影响力的女性之一都必须要在网上隐藏，智商保证安全，那这对其他东说念主而言意味着什么？”
当互联网时刻迭代约束将东说念主类举座带向一个愈加互联互通的畴昔时，从“红药丸”的出现到深度伪造性作恶的激增，这似乎在突显另一种相反的趋势。正如“脸书”创办东说念主马克·扎克伯格的妹妹多娜·扎克伯格所看到的另一面：这可能冉冉加深对女性界限的骚动。两性对等怎样完结这一生界上最陈腐的偏见？较着时刻自身不会天然则然提供谜底。
本文参考汇聚：
1.Inside the Taylor Swift deepfake scandal: ‘It’s men telling a powerful woman to get back in her box’
https://www.theguardian.com/technology/2024/jan/31/inside-the-taylor-swift-deepfake-scandal-its-men-telling-a-powerful-woman-to-get-back-in-her-box
2.Opinion: The Taylor Swift AI photos offer a terrifying warning
https://edition.cnn.com/2024/01/31/opinions/taylor-swift-deepfakes-ai-segall/index.html
3.Why Mainstream Media Overlooks the Gendered Impacts of Deepfake Tech
https://endcyberabuse.org/why-mainstream-media-overlooks-the-gendered-impacts-of-deepfake-tech/
av论坛4.Deepfakes as a Security Issue: Why Gender Matters
https://wiisglobal.org/deepfakes-as-a-security-issue-why-gender-matters/
5.How Artificial Intelligence Is Fueling Incel Communities
https://www.thedailybeast.com/how-artificial-intelligence-is-fueling-incel-communities
6.Cyberbullying girls with pornographic deepfakes is a form of misogyny
https://theconversation.com/cyberbullying-girls-with-pornographic-deepfakes-is-a-form-of-misogyny-217182
7.Incel culture and misogyny online affects everyone
https://theantreader.org/2024/03/13/incel-culture-and-misogyny-online-perverts-everyone/
8.《韩国深伪色情作恶激增，厌女文化孕育网络性暴力》
https://cn.nytimes.com/asia-pacific/20240913/south-korea-deepfake-videos/
作者/申璐
编著/走走
校对/薛京宁