虚假信息如何运作以及如何应对

您是否知道去年夏天肆虐夏威夷的野火是由美国武装部队测试的秘密“气象武器”引起的，而且美国非政府组织正在非洲传播登革热？乌克兰第一夫人奥琳娜·泽连斯卡(Olena Zelenska ) 在曼哈顿第五大道疯狂购物 110 万美元？或者印度总理纳伦德拉·莫迪 (Narendra Modi) 在一首新歌中得到了 2008 年去世的印度歌手马亨德拉·卡普尔 (Mahendra Kapoor) 的认可？

当然，这些故事都是假的。它们是虚假信息的例子：旨在欺骗的谎言。这些荒唐的故事正通过日益复杂的活动而在世界各地传播。巧妙的人工智能（ai）工具和错综复杂的社交媒体账户网络被用来制作和分享令人难以置信的令人信服的照片、视频和音频，混淆了事实与虚构。今年，世界上一半的国家都在举行选举，这加剧了人们的担忧，即技术将使虚假信息变得无法对抗，从而致命地破坏民主。你应该有多担心？

只要争论双方存在，虚假信息就一直存在。拉美西斯二世在公元前1274年的卡迭石战役中并未获胜。最好的情况下，这只是一场平局；但你永远不会从法老为纪念他的胜利而建造的纪念碑中猜到这一点。尤利乌斯·凯撒对高卢战争的描述既是历史叙述，也是政治宣传。印刷时代也好不到哪儿去。 1640 年代的英国内战期间，新闻控制崩溃，引发了人们对“粗俗和虚构的小册子”的担忧。

互联网使问题变得更加严重。虚假信息可以在社交媒体上以低成本传播；人工智能还降低了生产成本。关于虚假信息的很多内容都是模糊的。但在一个特殊的科学与技术部分，我们追踪了它通过社交媒体帐户和网站网络传播和传播的复杂方式。例如，俄罗斯针对泽连斯卡女士的运动最初是在 YouTube 上发布的一段视频，然后通过非洲假新闻网站传播，并得到其他网站和社交媒体帐户的推动。其结果是表面上看似合理，但具有欺骗性。

传播者账户通过发布有关足球或英国王室的信息来吸引追随者，在掺入虚假信息之前获得信任。许多关于虚假信息的研究往往集中在特定平台上使用单一语言的特定主题。但事实证明，大多数活动的运作方式都是相似的。例如，中国在中东的虚假信息行动中诽谤韩国公司所使用的技术，与俄罗斯领导的在欧洲各地传播谎言的行动所使用的技术非常相似。

许多行动的目标不一定是让您支持一个政党而不是另一个政党。有时，其目的只是为了污染公共领域，或者在媒体、政府以及真相可知这一观念上播下不信任的种子。因此，中国关于夏威夷气象武器的传说，或者俄罗斯试图通过宣传几种相互竞争的叙述来掩盖其在击落马来西亚客机中所扮演的角色。

所有这些都引发了人们的担忧，即技术使虚假信息变得无与伦比，从而威胁民主本身。但有一些方法可以最小化和管理这个问题。

令人鼓舞的是，技术既是一种行善的力量，也是一种作恶的力量。尽管人工智能使虚假信息的生产成本大大降低，但它也可以帮助跟踪和检测。即使活动变得更加复杂，每个传播者帐户的语言都各不相同，足以显得可信，人工智能模型也可以检测到看似相似的叙述。其他工具可以通过识别伪造的音频或寻找真实心跳的迹象（如人们额头肤色的细微变化所揭示的那样）来发现可疑视频。

更好的协调也有帮助。在某些方面，这种情况类似于 20 世纪 80 年代的气候科学，当时气象学家、海洋学家和地球科学家可以判断正在发生的事情，但每个人只能看到图片的一部分。只有将它们放在一起，气候变化的全部范围才变得清晰起来。同样，学术研究人员、非政府组织、科技公司、媒体和政府机构无法独自解决虚假信息问题。通过协调，他们可以共享信息并发现模式，使科技公司能够标记、限制或删除欺骗性内容。例如，Facebook 的母公司 Meta 在收到谷歌的举报后，于 2023 年底关闭了在乌克兰的虚假信息业务。

但更深入的理解还需要更好地访问数据。在当今算法提要的世界中，只有科技公司才能知道谁在阅读什么。根据美国法律，这些公司没有义务与研究人员共享数据。但欧洲新的数字服务法案强制要求数据共享，并且可以成为其他国家的模板。担心共享秘密信息的公司可以让研究人员发送要运行的程序，而不是发送数据进行分析。

这种协调在某些地方比其他地方更容易实现。例如，台湾被认为是处理虚假信息活动的黄金标准。国家虽小，对政府的信任度很高，而且来自敌对外国势力的威胁是显而易见的，这很有帮助。其他国家的资源较少，对机构的信任也较弱。唉，在美国，两极分化的政治意味着，协调一致地打击虚假信息的努力被描述为左翼在网上压制右翼声音的巨大阴谋的证据。

一个人的事实...

需要认真对待并仔细研究虚假信息的危险。但请记住，他们仍然不确定。到目前为止，几乎没有证据表明虚假信息本身就能影响选举结果。几个世纪以来，一直有人兜售虚假信息，也有人愿意相信这些信息。然而，社会通常会找到应对方法。如今，虚假信息可能呈现出一种新的、更复杂的形式。但它还没有表现出前所未有的、无懈可击的威胁。