在这个善恶交织的时代，我们面临着前所未有的挑战。从众神栖息的奥林匹斯山，到二战中挣扎求存的敦刻尔克，再到如今隐藏在虚拟世界的网络攻击和反攻击，善恶之间的斗争从未停歇。然而，这场战斗的本质正在被“工具”悄然改变。

促进恶发生和传播的机制最初被设计出来时是中性的，甚至可能是出于好意的，但最终却“事与愿违”，反而造成了恶果。例如，“艾莎门”事件中，流量经济与智能推荐算法成为了侵害儿童的帮凶。对于这种无主之恶，大多数人没有应对和处理的经验，因此当类似事件发生时，总是阴谋论满天飞、粗暴的“一刀切”大行其道。

因此，是时候跳出“打Boss”的认知框架了。在新型的恶面前，我们必须找到新的对抗方式。在讨论“无主之恶”之前，我们先来了解一下“艾莎门”事件的来龙去脉。（请注意，如果您还未阅读过关于“艾莎门”事件的详细信息，以下内容可能让您感到不适，请谨慎阅读。）1月16日，一篇翻译自外网的微博长文《一群变态锁定观看YouTube的孩童，我以前为他们工作》将一个名为“Elsagate”（艾莎门）的事件公之于众。这些充斥着针管、怀孕、尸体、血腥、性暗示等令人极度恶心、变态的内容的视频，尽管它们被YouTube等平台标注为“儿童”、“母婴”等标签，但却被推荐给孩子们。在这里，艾莎公主怀孕是家常便饭。面目可憎的小丑会割下天线宝宝的头。昆虫和粪便被当作食物。这些视频的危害性远不止于“吓到孩子”。

Elsagate类型的视频通常使用鲜艳的颜色，如红、蓝、绿、黄、粉红等，这些色彩强烈地刺激儿童大脑，加深不良行为的印象，甚至可能导致成瘾。视频中出现的主角，如孩子们熟悉的Elsa（《冰雪奇缘》的女主角）、蜘蛛侠、米老鼠等卡通形象，一方面使这类视频被算法归类并推荐至儿童频道，另一方面也极大地刺激了孩子们的模仿行为。美国著名心理学家班杜拉曾进行过一项名为“波波玩偶”的实验：他将48名孩子分为A、B两组，在A组面前，成人会对波波玩偶进行殴打、侮辱、锤击等行为；而在B组则不观看这些场景。当孩子们进入一个带有相同玩偶的房间时，A组的孩子会非常高兴地按照成人的样子对玩偶进行殴打，而B组的孩子则很少表现出攻击性行为。Elsagate类型的视频具有“波波玩偶”效应：知乎上有许多网友提到，他们在观看Elsagate类型视频后，出现了成瘾反应甚至暴力倾向。专门研究儿童暴力、儿童性虐待现象的Judith Reisman博士表示，这些视频完全是为了引导儿童走向性、暴力、物、虐待等领域。在过去的几十年里，她见过许多令人痛心的案例，但这些Elsagate类型的视频却让她感受到了前所未有的“恶毒、残忍、卑鄙”。如今，这种空前恶毒和残忍的Elsagate视频在YouTube上的单个最高点击量已经超过两千万，总点击量更是达到了数百亿。在我国主流的视频平台上，如爱奇艺、腾讯、优酷，都发现了大量类似的视频，甚至还有蔓延至今日头条和快手的趋势。

在家中沙发上、地铁里、电梯间等地方，您可能会发现孩子目不转睛地盯着屏幕，他们可能在观看Elsagate类视频。无主之恶的第一层意义在于：让家长、视频和全球监管部门头疼的Elsagate，其传播量巨大且难以追踪单一来源。YouTube在11月删除了超过15万个视频，并封禁了270多个相关账号。然而，即便如此，我们仍然时常看到类似视频不断涌现。这种情况类似于15年前科幻经典《攻壳机动队》剧场版中所描述的信息社会新型犯罪：“Stand Alone Complex（孤立个体集合体）”。在这个概念下，一些原本并无关联的孤立个体，由于某种原因而采取相似行为，使得整个事件看似是有组织阴谋，但实际上却又找不到罪魁祸首。这种现象起源于《攻壳机动队》中的“笑脸男事件”，一名顶级黑客为了正义入侵了一位高官的大脑，使其在电视前揭露某个秘密。在逃离过程中，该黑客用笑脸图标遮挡自己，成功地从整个网络中消失。自“笑脸男”事件之后，出现了许多模仿其行为的犯罪分子，他们自称“笑脸男”，并试图暗杀警方要员，从而引发了巨大的社会反响。当前的Elsagate儿童邪典视频事件，正是这类“笑脸男”式行动的一个典型例子：大量的“母版”不明副本充斥网络。

您提供的

你无法看到面目统一的“坏蛋”，恶意此起彼伏地涌现——到目前为止，在这场被一些人称为大规模“儿童恐袭”的事件背后，居然找不到一个明确的“恐怖分子头目”。最初被《卫报》、《纽约时报》等媒体爆出具有不良诱导内容的YouTube频道叫“webs and tiaras”，但今天，仍能在YouTube上搜出大量仿号，成立时间从2016年、2017年到最近，不一而足。除视频外，一些游戏平台和应用商店甚至App Store均发现了大量与该类视频画风雷同的游戏软件。全球范围内的模仿者更难抑制。在我国，一些人最初只是搬运YouTube上的内容，加中文配音，接着开始有公司生产本土邪典视频。例如以下这种让孩子参与拍摄的真人秀。优酷、快手上都有大量类似内容。动画形象也从Elsa、蜘蛛侠扩展到儿童更熟悉的“光头强”等。这些账号背后是否有关联？现在不得而知。可能是有组织的行为与无组织的模仿的混合体。Stand Alone Complex还有一个特点：在模仿和跟风中，初始动机变得十分模糊。最直接的猜想是经济利益。这些制作邪典视频的公司很可能瞄准了点击量和广告分成的收益。一些视频中甚至会直接推广玩具，似乎是为了带动销量。在相关部门下令整改后，曾在国内平台发布大量相关视频的“欢乐迪士尼”（现改名为“深海5万米”，表示自己只是想要冲击点击量。

如果您只为金钱而战,很难解释这种奇怪的工作状态,收益似乎也难以弥补成本:让人难以置信的是,一贯重视版权的迪士尼和漫威公司,在面对这样大规模的侵权行为时,至今仍未采取有力的措施。这正是《 Stand Alone Complex》的恐怖之处:如果邪恶只是一个单独的人或一个单一的组织,我们就有明确的目标进行对抗;然而,当邪恶的根源分散为无数个体,并逐渐在网络上蔓延时,我们很难及时做出反应。等到这些微小而隐蔽的邪恶力量累积到一定程度时,它们就变得难以控制。在一万片沙漠中的游击队员,其破坏力可能比一个强大的“本拉登”还要大。“无主之恶”的第二层含义是我们习以为常的事物,可能无意间成为了邪恶的帮凶。其中的一部分参与者是无意识的。在Elsagate事件中,帮凶是智能推荐算法和流量经济。这套机制最初被发明出来的时候,任何参与其中的人都不会想到自己的智慧有一天会被用来侵犯儿童。如今备受争议的YouTube、Facebook、今日头条、微博等公司,可能会无辜地认为自己只是想,这在商业社会再正常不过了。如何?-尽可能地吸引流量,增加用户的停留时间,从而通过流量赚取广告收入。如何以更低的成本、更高的效率来吸引流量?-采用智能推荐算法,让计算机学习用户对内容的偏好,你越喜欢什么,就越会被推荐给你。在过去十年中,这套机制变得越来越熟练,也许您的男友都不知道您在情人节想要什么,但亚马逊却一清二楚。

YouTube拥有据称世界上最复杂的推荐系统。这个系统简单来说分为两层：第一层，从后台视频库中选取数百万个相关视频进入“候选视频生成层”；第二层，根据用户的观看历史抽取几百个视频传输至“排名层”，再根据综合打分选出十几个视频推荐给用户。我国的其他视频也采用了类似的推荐方法。Elsagate巧妙地利用了这个推荐系统：通过大量动漫角色的名字以及打上搞笑、儿童等标签被算法自动判定为儿童视频，并经常在推荐顺序中靠前。儿童只需点击一个，就会推荐同类型的视频一个接一个地播放。Elsagate是流量经济和算法恶果的极端体现。实际上，即使是成年人，每天也在受到更多“无伤大雅”却实实在在的损害和困扰。《连线》杂志的马特·霍楠（Mat Honan）曾做过一个试验，他计划在自己的Facebook上连续点赞48小时，只要系统推荐就点赞，想看看最后Facebook会给他展示什么。然而短短一小时后，马特的信息流里已经没有人类了：全是品牌推广和广告。睡觉之前，他尝试点赞了一条支持以色列的消息。次日早上，他的信息流内容完全转向极右。后来崛起的今日头条更是将这种智能推荐、分发的杀手锏发挥到极致。同一个APP，却千人各不相同。张一鸣创业时引以为傲的“一整层”工程师，大部分时间都在研究精准推荐算法。如果你喜欢看八卦，就会天天给你推送八卦；如果你想了解汽车知识，就会每条消息都是老司机分享的内容；只要你爱国或者热衷于红色主题，就会满屏都是热血新闻。

知名互联网评论家Keso曾说过：“准确地抓住人性弱点并不等同于创造用户价值，吸引用户花费大量时间在层出不穷的无聊事物上，并不意味着创造了用户价值，这只是一种通过现代化传播手段制造的价值幻象。”无论你是谁，你将成为何种人都不重要，重要的是你所消费的内容。这种价值观支撑了今日头条和Facebook等市值超过百亿美元的公司，但这些公司往往忽视了身处网络中的用户，他们被困在“回音室效应”中，所获取的信息都在强化他们的已有知识和观点，使他们无法拓宽视野，反而陷入自我封闭的状态。互联网曾设定的愿景是将世界连接成一个“地球村”，然而如今却以“个性化”的名义划分出一块块孤立的空间。在整个互联网发展的历程中，流量加算法的机制就像当初夏娃吃下的一颗苹果——从那时起，互联网离开了伊甸园，来到了人间，各种巨头崛起，高墙竖立。这并非技术承诺给我们的开放和自由。新技术环境下出现了新型无主之恶，我们也必须采用新的方式进行反击。

监管是必不可少的。由于公司本身就是以商业利益为导向的，依赖于流量和广告生存，如果没有外力推动，它们很难自我消除自身的利益来源。专注于视觉计算的泛化智能公司CEO王汉洋在接受采访时告诉「甲子光年」，尽管视频识别技术能够准确识别Elsagate类视频，但如果监管没有强制要求，不会主动采取措施，因为这样会减少盈利。然而，仅仅依靠监管是不够的。从长期来看，不可能一劳永逸地解决所有问题。

针对作恶源头在时空上的分散性，"甲子光年"认为，最佳的解决方式是：做好“多层防护漏斗”——在整个内容生产、分发、传播的过程中多点着力，融合技术和人力，且做好动态预警、应对的准备。第一道关卡是视频平台的审核。许多人了解Elsagate事件后，第一反应是：难道没有审核机制吗？当然有，但仅在YouTube上，目前全球平均每分钟就有长达400小时的视频被上传，人工审核是绝对审核不完的。因此，视频的大部分审核由程序根据文字描述和截图识别完成。如果发布人员在提交视频时精心伪装，很容易就能蒙混过关。而技术将扮演越来越重要的角色，因为机器可以不断“学习”。视频识别技术，是通过深度学习，对标注好的图片的特定内容进行分类学习，训练出可以识别特定特征的模型。在应用时将视频截帧，识别出每一帧内容，最终便可转化为整个视频的识别结果。理论上来说，只要标注清晰，数据足够，识别率就会相应较高。例如，“鉴黄”这个例子，机器就经历了自我学习的过程：一开始，机器只能通过识别图片中特殊颜色的面积进行鉴别，想蒙混过关的人只需加大图片上下黑边的面积就能通过审核；后来，通过学习海量标注过的黄色图片，鉴黄的准确率才慢慢提升，时至今日，多家主流公司都宣称已经达到了99%以上的准确率。然而，识别Elsagate比“鉴黄”更具挑战性，因为机器很难判断“边界”。

在“鉴黄鉴暴”领域，图普科技的运营负责人姜泽荣表示，部分明确画面特征如断头、血腥和特定人物形象怀孕等，可以有效地被识别。然而，对于一些场景，例如注射器使用过程，由于难以与正常医疗行为区分开来，机器辨别的难度较大。云从科技研究院院长周翔认为，这种情况下，计算机无法理解人类社会经验和图片视频的内在含义。

在机器审核的道路上，目前还处于初级阶段。第二道关卡涉及视频的传播和分发，这需要改进整个智能推荐算法。近十年来，流量经济和推荐算法的发展带来了一系列问题，如“标题党”和虚假新闻的出现。针对这些问题，张一鸣和扎克伯格曾一致表示，他们是技术公司而非媒体，所有事情都由算法完成，无需人工干预。然而，随着Facebook面临国会听证会被要求提高可信新闻源排名以应对假新闻问题，这一立场发生了变化。

第三道关卡是在视频发布后对其进行识别和删除。当前，上传阶段视频识别存在一个难题：深度学习需要基于现有数据进行学习，但在Elsagate事件之前，没有人能告诉机器这类视频是不恰当的。因此，可以通过收集早期用户反馈，为发布的视频添加标签，以便及时发现并处理不良视频，从而防止其扩散。

「甲子光年」提出，平台可以设计一套创新的激励制度，以便及时识别上传的有害视频。例如，当用户首次发现某个不良视频时，可以为其添加标签。当用户的标签得到其他用户的认可和支持后，用户可以根据自己的贡献获得相应的流量收益。这将激励所有用户参与内容环境的监管，使内容在实时更新中保持健康并经过筛选。当某个视频最终被认定为不良视频时，发布者将会受到罚款和惩罚。

起初，可能导致不良后果的事物可能看起来合理且不容质疑。就像现在的混乱难以归咎于最初塑造流量经济和推荐算法的相关人或组织。机制的力量在于，一旦被创建出来，它便具有了某种不受人为控制的独立性。

在交通事故中，有时会有司机因碾压伤者致死的情况。如果伤者不幸身亡，司机只需一次性支付赔偿金；但如果伤者受重伤需住院治疗，司机则需要承担一生的护理费用。过长的产假原意是为了保障妇女权益，然而现在却成为一些用人单位拒绝雇佣已婚未育妇女的原因。所有看似无害的机制，都可能带来危险的后果。

一个典型的例子是「盲井」。在2013年底，我国山西省一家煤矿发生了一起悲剧，一名工人在矿难中丧生。然而，当矿主看到前来处理丧事的家属时，却感到惊讶，因为他们只是简单地查看了一下尸体的状况，就开始商讨赔偿事宜。这揭示了一个震惊人心的案件：原来这个犯罪团伙一直在诱骗人们去煤矿工作，然后在井下杀害受害者，再伪装成受害者的家属向矿主索取赔偿。他们共进行了12起类似的谋杀抢劫案，只有一次行动失败。

哪怕一种机制再必要和完备,作恶的人总是想尽办法钻漏洞。在技术赋能每个人的时代,这更加提醒机制的设计者和每一个使用者:手握利器,杀心自起。面对系统中不断涌现的恶,面对分散在各处的“ Stand Alone Complex”,不要忘记我们自己也是可以行动的个体。联合起来,积累力量,在新的善恶交锋中,不会有最终的胜利,只有持续的战斗。从这个意义上讲,唯有“无主之善”,才能真正全面动态地对抗“无主之恶”。