人工智能辅助决策中信任的时间演化

人工智能正在进入传统上保留给人类的决策空间，接手一部分原本由人完成的任务。随之而来的问题是：当人类决策者与AI系统交互、面对AI生成的信息时，往往难以围绕这些信息形成稳定的信任。这份研究把决策理解为证据积累的建构过程，并指出这个过程会因交互方式的设计不同而走出不同的轨迹。值得现在看的地方在于，它没有把信任当作一次问卷测出的静态态度，而是当作随时间演化、可以被建模的动态量——这恰好是人机协同从演示走向实际部署时最容易被忽略的一环。

这是一篇美国海军研究生院（Naval Postgraduate School）信息科学的博士论文，作者 Scott A. Humr，完成于 2023 年 9 月，导师为 Mustafa Canan。研究范围聚焦于信任在时间维度上的演化机制，特别是中间判断如何介入这一过程。方法上采用在线实验，样本量为 N=192，参与者在AI提供建议的条件下进行决策，并在过程中给出中间判断。理论工具方面，论文引入量子认知与量子决策理论的框架，尝试用开放量子系统建模，把信任表示为时间的函数、以单一概率分布刻画。关键词涵盖人工智能、人在回路（human-in-the-loop）、信任、决策、量子认知与量子决策理论。

第一个值得注意的发现是，信任在实验中并非单调累积，而是随时间出现振荡。这与常见的直觉不同——如果信任只是随着AI建议的准确率线性上升，那么交互设计的重点只需放在提高准确率上；但振荡意味着信任在交互过程中会反复起落，中途的判断、反馈与等待都会改变它的相位。论文据此提出，对AI提供的建议引出一次中间判断，会产生一种“支撑效应”（bolstering effect）。换句话说，让人在中途对AI建议表态，并不是中性的测量动作，它会反过来改变信任的走向。

第二个发现涉及建模层面。实验参与者表现出对全概率（total probability）的违反，而论文指出，现有的建模技术无法捕捉这种违反。作为替代，论文展示了使用量子开放系统建模的效果：把信任表示为时间的函数、用单一概率分布来描述，在刻画人对AI系统的信任上优于传统的马尔可夫技术。这里的关键判断是，人的信任更新并不总是按照经典概率的路径推演，中间判断的介入会改变后续判断的概率结构；这也解释了为什么单纯叠加准确率指标的模型会失灵。

这些结论的实践含义指向AI系统行为的设计。论文认为，相关结果应有助于改进AI系统的行为方式，从而可能把人的偏好引导向更接近贝叶斯最优理性的方向，这在复杂任务环境中时间关键的决策场景里尤其有用。换个说法，交互界面与建议呈现的节奏不只是体验问题，它会实质性地影响人最终做出什么判断、以及这个判断离理性最优有多远。对于需要人在压力下快速采纳机器建议的场景，这一点的价值可能超过模型精度本身的提升。

这份资料适合研究人机协作、信任机制与决策建模的读者，也适合需要设计AI建议呈现方式的人。读完可以拿走的，是一个把信任视为振荡的时间过程而非静态评分的视角，以及一条用开放量子系统替代马尔可夫链来建模信任的路径。边界同样需要说明：结论建立在单一在线实验（N=192）之上，论文摘要给出的证据范围就是这些；量子建模在信任研究中的适用性、以及实验环境向真实复杂任务迁移的效果，材料没有提供更多数据。论文本身也声明，其中的观点属于作者，不代表美国国防部或美国政府的官方政策或立场。

TEMPORAL EVOLUTION OF TRUST IN ARTIFICIAL INTELLIGENCE-SUPPORTED DECISION-MAKING Title TEMPORAL EVOLUTION OF TRUST IN ARTIFICIAL INTELLIGENCE-SUPPORTED DECISION-MAKING Item Type Thesis Authors Humr, Scott A. URI https://hdl.handle.net/10945/73603 Publisher Monterey, CA; Naval Postgraduate School Date Issued 2023-09 Rights This publication is a work of the U.S. Government as defined in Title 17, United States Code, Section 101. Copyright protection is not available for this work in the United States. Download date 2026-11-04 22:57:54 Link to Item https://hdl.handle.net/10945/73603 Downloaded from NPS Archive: Calhoun NAVAL POSTGRADUATE SCHOOL MONTEREY, CALIFORNIA DISSERTATION TEMPORAL EVOLUTION OF TRUST IN ARTIFICIAL INTELLIGENCE-SUPPORTED DECISION-MAKING by Scott A. Humr September 2023 Dissertation Supervisor: Mustafa Canan Approved for public release. Distribution is unlimited.