文 | 李厚辰

特朗普与哈里斯的好意思国大选议论收尾，议论会后，流行天后Taylor Swift在Instagram公开表态援助哈里斯。在她的著作中，她罕见说起了一都AI事件：

“最近我得知，有东说念主在特朗普的网站上发布了由AI模拟的‘我’援助他竞选总统的内容。这件事唤起了我对AI的懦弱，尤其是它在漫步演叨信息方面的危急性。这使我封闭到，我需要对我方手脚选民在这次选举中的实际盘算保捏透明。扞拒演叨信息的最简便形貌即是用真相来恢复。”

Taylor Swift在我方酬酢平台上的共享

这件事成为最近AI违纪领域又一个激勉全球暖热的事件。在AI本领大踏步改变咱们生存后，AI的暗面也逐步呈现。本领对现实生存的冲击或许只是启动。

01.

稠浊视听的韩国Deepfake事件

在AI坐褥图片领域，最近最严重的事件毫不是Taylor Swift，而是韩国的Deepfake事件，也被称为N号房2.0事件。

前次的N号房事件，是加密女性偷拍群组，而这一次是购买者上传女性像片，有东说念主通过AI本领进行脸部与形体的拼贴，制作成Deepfake色情像片或视频。

此事件不错清雅到2021年之久，到本年被大规模曝出。受害者从小学生、中学生、大学生一直到职责主说念主士，牵扯200多所学校，以及多起部队事件。

字据韩国东说念主权团体统计，仅本年，就有781名Deepfake受害者求援，其中36.9%未成年。这些聊天室规模之大稠浊视听，其中一个东说念主数高达22万东说念主。

不仅受害者好多波及未成年，最引东说念主细心标是加害者果然有更高比例为未成年东说念主。字据韩国当局数据，在2024年，被指控违纪的178东说念主中，131东说念主的年事为10到19岁，青少年嫌疑东说念主的比率高达73.5％。

《女巫》

除了未成年激勉暖热外，另一个典型的特征为熟东说念主违纪。与偷拍属于生分东说念主侵略不同，Deepfake的换脸对象连合在同学、共事、部队同侪、师长、致使家东说念主中。这种违纪不仅侵略秘籍与形体权利，还会大幅度坑害东说念主与东说念主的信任关系，突破一个东说念主日常生存的安全感。让身边的悉数东说念主都具有潜在侵略的潜能。

这种违纪对学生团体、军东说念主团体等男性团体具有集体侵蚀的作用。首尔市青少年文化中心庄重东说念主Lee Myung-hwa就向《BBC》指出，Deepfake在青少年间早已“像是一种文娱文化般膨胀”，“他们倾向于将其视为同侪之间的开顽笑或玩乐。”致使加入与否成为同侪间得到相互认同和被圈子选拔的一种信号。

这虽然不仅是韩国的问题，此前被BBC记载片起底隐讳中日韩的偷拍性侵略汇注，由中国东说念主“猫咪”不休，其团队大部分红员都在国内进行偷拍，而其网站的高出1万名付费会员中，大部分都是中国男性。

除了这些极点的偷拍与深伪外，男性群体以共享色情内容手脚酬酢的恶习，早也曾是各个游戏群、露出群的常态。这种共享到Deepfake与偷拍汇注，不外是一步之遥。

本领当先组成了分发汇注，酿成在线群组，当今AI进一步与进入坐褥门径，让性侵略变得愈加明火执仗。

02.

你手中的暗网

在以上这些事件中，有一款软件一直处于风暴的核心——Telegram，而它的首创东说念主兼CEO Pavel Durov也在8月24日被法国警方逮捕。

这款持久以秘籍和目田为核心卖点的聊天软件，也成为种种犯罪步履的温床，并被戏称为“你手中的暗网”。无论是N号房事件，最近的Deepfake事件，或是台湾的“创意私房”事件，致使上述“猫咪”谋划的偷拍汇注，都以Telegram手脚主要的平台。这也曾是一个在全球领有10亿注册用户的巨型app，其加密特征如实让多样各样的步履在费力监管的情况下运营。

非英语的使用也让监管愈加清贫，Telegram的官方策略明确退却这些坐法步履的进行，但表露费力富余的东说念主手和算法来监管非英语内容。因此韩语和汉文的违纪步履，在其上致使不错愈加安全地运营。

恰是出于这些原因，Durov在法国被逮捕，那时法国正在访问与该应用范例关联的儿童色情、贩毒和诈骗交往等短处。这次逮捕行动源于法国警方对Telegram平台费力监管的访问。

《东城梦魇》

Durov被逮捕后Telegram启动作出部分改变，Durov默示，Telegram也曾删除“隔邻的东说念主”功能，这项功能让使用者不错查看隔邻的其他使用者，不外他默示，“只消不到0.1%的Telegram使用者使用这项功能，却存在机器东说念主和应用的问题”。

Telegram将推出”隔邻企业”手脚代替，不错展示“正当、历程考据的商家”。Telegram还改动了其用户法例，在私东说念主聊天与群组聊天中，用户初度不错“举报犯罪内容”以供平台审查。归并页面已被移除的旧版块中写说念，“悉数Telegram聊天和群聊都是参与者之间的玄机聊天。咱们不处理与它们联系的任何肯求。”

但不安的迹象同期出现，在刚刚昔日的8月，Telegram的月活跃用户为347万东说念主，与前一个月比较增多了 31万东说念主。这一增幅是自2021年3月启动统计安卓和苹果应用范例市集以来的最大规模。增长的用户大多来自十几岁的青少年，月活跃用户从7月的41万名增多到了8月的51万名，增多了10万名。占总增幅的 32.1%，占最大比重。

不错遐想这10万名青少年是被什么诱导到这个平台的，韩国性违纪1级公认罕见检察官建立的朴贤珠讼师指出：“与因N号房事件而广为东说念主知的犯罪拍摄物联系违纪比较，存在违纪的要紧性和严重性并不严重的无理相识”，“最近使用者剧增，也操心会发收效法违纪。”

手脚一个聊天软件，大批用户在Telegram上进行平常的互联网步履。它不应该手脚违纪温床而存在。

03.

惩办本领，如故惩办东说念主的坏心

引入Telegram的斟酌是因为当今这个平台似乎成为了监管和惩办问题的核心。这是一个很当然的策略，在汇注违纪中，违纪者、微型本领提供商、分销汇注都十分分别。其惟一连合的核心即是Telegram这么的软件，是以从Telegram启动，似乎不错最有“成果”地惩办问题。

但这里遇到两个严重的窘境，当先是监管与目田的张力。平台监管的强度与用户不错享受的目田之间，如实存在显然的张力，这方面自毋庸多言。

另外少量是，违纪者从Telegram滚动到另一个更小众的加密信息频说念，并不是一件多破坏的事。堵住了Telegram，未必果真不错惩办问题。一朝他们进入更小众的平台，只会让这些违纪变得愈加荫藏。

这是监管和透明之辩，有时候监管太强力，反而让轻中度违纪变得荫藏，社会上层法度看上去井井有条，实际感叹万千。较少的监管，反而容易让问题变得相对透明。

要是无法从平台出手，惩办决策似乎即是重办。字据韩法则律，制作犯罪Deepfake色情影片可处五年以下有期徒刑、韩币5000万元罚款（约东说念主民币26万元）。当今研拟加重刑罚，如比照“犯罪拍摄”的圭臬，将最高刑期普及至七年。另外，接头到未成年违纪者大增，展望也将疏浚“未成年东说念主”（10～14岁不受刑事处罚）的圭臬。

但需要对重罚保捏警惕和疑虑，要是一味重罚就可惩办问题，或许好多社会窘境就好惩办了，重罚如实“解气”，但好多时候浑家当军。轻罪重罚可能激化违纪步履，或加重违纪步履的隐退，处分过度会加重社会不公的嗅觉。

在好多国度，性别冲突，性侵略违纪同期也与社会平允失衡有很大关系（并非为其辩说，社会平允失衡也可能导致对失衡无理的感受和意会，迁怒社会失衡到女性身上），轻罪重罚可能会加重此种不公的感受，进而产生不平。

《日本之耻》

说到这里，问题从AI，从Telegram再次回到了东说念主。也许如实更应该从这个角度看待问题，在有Telegram和AI之前，这个社会的性别违纪并不苛刻。从平直的性侵略，到人人地点的偷拍与痴汉步履，到Deepfake违纪，事情莫得变得更狭窄，但变得更曲折和隐退。走到这一步，可能有些问题难以隐秘。

当先是评释，咱们当今的评释中有富余的性评释、两性关系评释、性别对等封闭的评释吗？要是这三个问题的谜底都是抵赖（韩国这方面优于咱们但与其他国度比还有很大差距），出现青少年性别侵略违纪就不可能是随机；

第二方面，当下东说念主们对社会的塑造不单是开始于学校，更开始于互联网，关于互联网极右翼海浪和Incel文化，尤其是男性群体，过期的良心不雅念在游戏与体育等男性社群十分泛滥，并嫁接腐败的“兄弟文化”在东说念主群中加重，深广男性关于这些文化是选用拥抱的格调、事不关己，如故明确远离呢？

要是在学校及互联网，咱们都无法对社会阐释和不雅念塑造干涉富余元气心灵和时期，致使在互联网还强化这种无理的性别封闭，只是依靠对平台的监管和重办，这个问题就变成了一种新的陈陈相因。

我剖析好多东说念主会合计这两者并不矛盾，咱们不错既监管平台，又对违纪者重办，还加强学校评释，还费力在互联网塑造文化。四管其下，这个问题才不错惩办。

尾声.

三个现成与一个遭殃

但上述决策之间，并不是平行的关系。有三个都不需要咱们作念任何事情，平台监管、违纪者重办、学校加强评释，咱们都只用“提条款”，监管、司法、评释部门就应该自动完成这些职责。疏远这么的要乞降期待虽然是一种权利，也并不是问题。

唯有临了一个，需要每一个东说念主的费力。这简略是一个有互联网时间的窘境，大批问题变得曲折、隐退、跨国、因为本领自动化，且在背后由分别而数目巨大的东说念主共同鼓吹，这让传统的点对点的行政和司法变得清贫。这一切与高度原子化的社会团结，变成一个巨大的结构性问题。也让传统行政和司法妙技难以快速搪塞。

临了这不得不可为一个拷问社会，也拷问咱们每个东说念主的问题，你是否期待问题在“敕令”下由他东说念主帮你快速惩办？要是这个预期破灭，你能作念什么？

面临性别违纪，这个问题尤其要问男性，毕竟男性与悉数这些互联网社群和文化更接近，也许你就在这么传播色情GIF的游戏群组，在论坛面临厌女言论，目睹Incel表面传播，是守着“归正我一直挺尊重女性，这事儿和我无关”的格调，如故站出来制止这种文化的传播？

《日本之耻》

这可能是一个过高的条款，是以咱们钟情于监管、司法、评释部门不错快速反馈、惩办问题，如故期待少数媒体或个东说念主以枭雄观点揭露问题？韩国在N号房事件后，在Kpop明星出现性丑闻被打击后，果然还不错有如斯大规模的Deepfake风潮，也在指示咱们性冲动与厌女文化带来此种需求的新生和激烈，这不是一个步骤问题，而是严重的社会问题。

以步骤的念念路，咱们或许会在这个泥潭中越陷越深。咱们每个东说念主与其是什么关系？这是个严肃问题，在费力公民参与与公民遭殃的社会，这些问题可能将持久无法惩办。或只剩一个最终的惩办决策——因为悲不雅而陷入犬儒，变成我方敌视的神志，泄劲、寒冷话、怨气与仇恨。