人类专家与语言模型在兵棋模拟中的行为差异

这份资料要回答的是一个越来越紧迫的问题：在高风险军事决策场景里，大语言模型（LLM）的行为与人类专家相比究竟有什么不同，是否会带来升级和不必要冲突的风险。材料开篇呈现了两种对立预期：一方认为AI能改善决策、提升军事效能并减少人为错误与情绪影响；另一方则担心这类技术可能引发意外升级、国际危机甚至战争。正因为各国都在投资把LLM用于战略决策，而专家对LLM能否模拟人类决策、以及是否应该这样做仍有分歧，这个问题值得现在细看。换句话说，这不是抽象的模型评测，而是把模型放进一个具体危机场景里观察其行为倾向。

研究采用一套新设计的兵棋实验，场景是虚构的美中危机（涉及台湾海峡），给玩家呈现兵力态势、一种新的自主武器系统以及总统指令等背景，要求在两个回合中先后建议交战规则和回应策略。实验设置了不同处理：第一回合包含新武器全自动射击导致误伤中国人员的情节，第二回合则要求在中国反应选项之间做选择。人类参与者是国家安全领域的专家，实验前还通过问卷收集其背景信息；LLM模拟则复用同一场景，但做了若干变体，包括省略总统指令、要求直接给出决定而不先模拟玩家之间的对话等。材料对参与者人数存在不一致：中文摘要写的是107位专家，正文写的是214位，两个数字无法互相印证，阅读时需要注意这一点。

关键发现之一是，LLM模拟出的回应可能比人类更具攻击性，并且会显著受到场景变化的影响。材料同时指出，LLM与人类在高层次上存在相当程度的一致性，但在个体行动和战略倾向上出现了显著的定量与定性差异。这些差异并非随机，而是取决于几个因素：LLM关于“在战略指令下使用多大规模暴力才算适当”的内在偏见、具体选用哪一个LLM，以及任务是让模型直接替一队玩家做决定，还是先模拟玩家团队内部的对话再给结论。作为背景对照，材料提到早期美军用计算机模型替代人类玩家进行兵棋推演，结果游戏更“理性”，但核武器使用也更多——这提示“更理性”并不等于更克制。

另一个值得注意的发现关于模拟对话的质量。当LLM被要求先模拟一队玩家之间的讨论时，材料指出这些讨论缺乏质量，并维持着一种“farcical harmony”（可译为滑稽的和谐）。模型也无法体现人类玩家的个体特征：即便是“pacifist”（和平主义者）或“aggressive sociopath”（攻击性反社会人格）这类极端设定，也没有带来显著差异。在行为一致性方面，不同LLM在单个回合之间彼此偏离，但总体上表现出某种程度的一致行为。这些结果说明，LLM模拟出的“团队”并不具备真实人类团队在偏好、争论和角色差异上的结构。

把这些发现放在一起，材料给出的实践含义相当直接：政策制定者在授予AI自主权、或直接遵循AI给出的战略建议之前应当保持谨慎。解读一下，LLM在危机兵棋中表现出的攻击性偏移、对场景扰动的敏感性，以及无法反映玩家特质这几件事叠加起来，意味着用模型替代人类专家团队做推演，可能系统性地扭曲对升级风险的估计。材料并没有说LLM在所有维度上都与人类不同——高层次一致性确实存在——但恰恰是这种“看起来差不多”的表面相似，容易让人忽略个体行动和战略倾向上的实质差异。对做AI安全评估或军事应用论证的人来说，这些差异本身就是需要被测量的对象。

这份资料适合关注AI安全、军事决策与人机对比、兵棋推演方法的研究者和政策分析者阅读；读完可以拿到一套可复用的实验设计，以及LLM在危机升级场景中行为偏差的细粒度证据，覆盖攻击性、场景敏感性、对话模拟质量和玩家特征建模几个维度。需要留意的边界也很清楚：场景是虚构的美中危机，结论依赖所测试的具体LLM，实验观察的是模拟环境中的建议行为，不能直接外推到真实军事决策；材料内部参与者人数的不一致也提醒引用具体数字时应回到原始论文核对。材料最后的提醒——谨慎对待AI的战略建议——应被理解为基于该实验条件的判断，而非对所有LLM应用的普遍结论。

Human vs. Machine: Behavioral Differences between Expert Humans and Language Models in Wargame Simulations Max Lamparth1, 2 Anthony Corso1 Jacob Ganz3 Oriana Skylar Mastro2 Jacquelyn Schneider3 Harold Trinkunas2 1Stanford Center for AI Safety, Stanford University 2Center for International Security and Cooperation, Stanford University 3Hoover Wargaming and Crisis Simulation Initiative, Stanford University Corresponding author: [email protected] Abstract To some, the advent of artificial intelligence (AI) promises bet- ter decision-making and increased military effectiveness while reducing the influence of human error and emotions. However, there is still debate about how AI systems, especially large language models (LLMs) that can be applied to many tasks, behave compared to humans in high-stakes military decision- making scenarios with the potential for increased risks towards