大型语言模型将颠覆人类的仪式

经济学人：

亚瑟·C·克拉克 (RTHUR C. CLARKE)写过一个故事，故事中整个宇宙的诞生是为了让僧侣们能够按照仪式写出上帝的九十亿个名字。僧侣们买了一台电脑，以便更快更好地完成这项工作，但结果却给我们其他人带来了不幸的后果。故事的最后一句话是：“头顶上，没有任何喧嚣，星星正在熄灭。”

仪式不仅关乎上帝，还关乎人与人之间的关系。日常生活依赖于仪式表现，例如礼貌、着装得体、遵循正确程序和遵守法律。仪式的细节因时间、空间和社会的不同而变化，而且往往大相径庭。但它们是所有正式和非正式机构的基础，使人与人之间的协调变得毫不费力。它们似乎是无形的，只是因为我们把它们视为理所当然。

没有仪式，组织就无法运作。当你为前同事写推荐信或在员工感谢日赠送或收到小玩意儿时，你就是在举行一场仪式，强化这样一个世界的基础：每个人都知道规则，并希望他们遵守规则——即使你有时会偷偷翻白眼。仪式还为组织追踪事情留下了纸质和电子记录。

就像克拉克的僧侣一样，我们最近发现了更有效的执行仪式的引擎：大型语言模型（LLM）。它们的主要用途是在组织内部，LLM被用来提高内部流程的效率。人们已经使用它们来编写样板语言、编写强制性声明和年终报告或撰写常规电子邮件。针对组织的外部用途（例如为大学申请撰写个人陈述）也在快速增长。即使LLM没有进一步改进，它们也会改变机构生活的这些方面。

严肃的宗教涉及自我反省和怀疑，但对于许多仪式而言，陈词滥调的乏味重复才是关键。许多组织语言是静态的而不是动态的，目的不是激发原创思想，而是让所有人对内部规则和规范达成共识。当共和党全国委员会的准员工被问及 2020 年美国总统大选是否被窃取时，他们并没有被邀请去思考这个问题，而是被要求以表演的方式宣誓对预定候选人唐纳德·特朗普的忠诚。

因为LLM没有内在的心理过程，所以他们非常适合回答这种仪式化的提示，将所需的陈词滥调稍作改动。正如作家丹·戴维斯所说，他们倾向于重复“最不令人惊讶的结果”。我们第一次有了非人类、非智能的过程，它们可以高速、工业化地制定仪式，并根据需要对其进行调整以适应特定情况。

有了LLM，组织仪式（例如可能导致员工晋升或解雇的年度绩效评估）可以更快、更轻松地进行。经理所要做的就是启动 ChatGPT，输入一些剪切粘贴数据的简短提示，然后就大功告成了！稍加调整，一小时的工作只需几秒钟即可完成。效率提升可能非常显著。

也许，有时我们只关心效率。如果执行仪式只是为了确认组织的口号，那么机器的语言可能同样适合，甚至更好。

不过，如果每个人都怀疑其他人都在假冒LLM，事情可能会变得很尴尬。正如社会学家欧文·戈夫曼所说，相信他人的真诚——以及仪式化地履行这种信念——是社会生活的基石之一。当人们失去信心时会发生什么？如果你认为经理为此付出了艰辛的努力，那么糟糕的绩效评估是一回事，但如果你怀疑他把评估交给了算法，那就完全是另一回事了。一些经理可能会感到羞愧，但这真的能阻止他们长久这样做吗？

更有害的可能是将组织仪式与真实知识的产生“脱钩”。科学知识看似不具人性，但它依赖于人类管理的评估和复制基础设施。同行评审等机构充斥着非理性、嫉妒和马虎行为，但它们对科学进步至关重要。即使是像伊桑·莫里克这样的人工智能乐观主义者也担心他们无法承受法学硕士的压力。推荐信、同行评审甚至科学论文本身将变得不那么可信。它们可能已经变得不那么可信了。

正是因为LLM不需要动脑，他们才能比好奇和探索的人类更有效地、有时更令人信服地制定组织仪式。出于同样的原因，他们可以将仪式与深思熟虑、判断与知识分开。看看头顶。星星并没有全部熄灭。但没有任何喧嚣，有些星星正在摇摇欲坠，开始褪色。