搜索结果

人工智能正在进入传统上保留给人类的决策空间，接手一部分原本由人完成的任务。随之而来的问题是：当人类决策者与AI系统交互、面对AI生成的信息时，往往难以围绕这些信息形成稳定的信任。这份研究把决策理解为证据积累的建构过程，并指出这个过程会因交互方式的设计不同而走出不同的轨迹。

这份资料要回答的是：把大语言模型用于农业咨询时，如何保证事实准确、又不牺牲对话质量。作者指出，未经领域适配的模型有三个系统性毛病——编造看似可信的推荐、给泛泛之谈而非可操作细节、语气过于正式难以建立信任。

端到端学习正在改变高度自动驾驶汽车的研发路径，深度学习的进展让从感知到控制的整条链路可以联合优化。但这份资料把注意力引向另一面：当实时决策由当代学习方法生成时，缺乏可解释性会妨碍用户信任，并削弱这类车辆的广泛部署与商业化。

端到端自动驾驶把感知、预测、规划压缩进一个模型，用数据驱动的方式直接输出驾驶动作，省掉了传统多模块级联的累积误差。但这项研究指出的问题同样直接：这类模型的 black-box property 让人难以判断它为什么做出某个动作，而自动驾驶对安全的要求极高，缺乏透明度会削弱信任、限制落地。

机器学习在制造业已经承担预测性维护、流程自动化这类任务，但结果难以解释仍是落地的主要障碍：用户往往说不清某个输出是怎么产生的，也就难以信任它、据此行动。传统 XAI 的应对方式本身也有门槛——特征重要性常用 Shapley 值表达，数学上精确，对非专家却不友好；

信任还是崩溃：确保自主武器系统的可信性，由arXiv 作者发布（2024-10）。arXiv公开论文，可免费下载全文PDF，属于军事AI/无人系统方向，适合做政策解读/论文解读类内容；具体结论以原文为准。

基于3,488名美国成人调查：多数人希望医疗机构告知AI使用（含后台事务），希望人类复核AI并做最终决定，约半数认为AI会损害医患关系与健康信息安全。