背景
选择从心理学角度切入，不仅是因为自己擅长，更因为人类对 AI 的感知既取决于AI的功能和效率，还深受社会文化、情感反应和社交行为模式的影响。
“AI 设计” 逐渐成为当下的新的设计挑战与重点，AI 的设计者需要考虑这些人类心理因素，了解系统是如何被人们接受与感知的。
如果我们要创建一个完整的人工智能系统，
我们需要了解这样的系统将如何被人们 接受 和 感知 。
近两年 AI 的发展很快，人与 AI 的关系从工具的使用关系转向紧密协作关系，信任是其中的关键因素。
尽管 AI 技术提供了许多好处，但人们对彻底的新技术往往会抵触。Fred Davis 于 1989 年，基于行为心理学提出的 TAM 技术接受模型，解释和预测了用户接受新信息技术的理论模型。
AI 时代，信任成为激活传统 TAM 评估流程的必要条件，是用户感知有用性和易用性的前置认知基础。AI 本质上就是概率性、不确定、会犯错的，意味着我们需要花更多的精力去帮助用户克服这道心理门槛。如果缺乏基本信任，用户将终止后续评估。
AI 交互中，信任的本质是什么？
为什么用户一开始难以信任 AI ？
如何建立用户与 AI 之间的信任？
AI 交互中，信任的本质是什么？
传统的人际信任：信任是一种心理状态 —— 基于对他人意图或行为的积极期望，而愿意接受其脆弱性。麦肯锡公司的咨询顾问们提出的一个信任公式，去解释和量化信任的构成。将信任“解剖”为四个核心组成部分：
AI时代，人与 AI 的信任发生了改变，学术上的定义是——
无论是否意识到 AI 算法的存在，
认为对方能帮助自己实现特定目标，
在互动过程中接受对方的不确定和脆弱性，
并愿意为之承担相应风险。
其中指出了关键的 2 点：
- AI 技术具有隐蔽性，信任关系可能存在于用户未明确感知 AI 参与的场景
- 信任角色也发生了转变，既包括用户作为委托者，对 AI 能力的信任，也涵盖 AI 对用户输入的依赖
再对照信任公式，AI 时代的信任，背后的评估角度是这样的 ⬇️
为什么用户难以信任 AI
如何建立用户对 AI 的信任
难以信任 AI 的原因有以下 5 个，接下来逐一展开解释，并探讨对应的设计解法。
REASON01
不透明性
人类天生对不可见的东西充满怀疑与恐惧，例如黑夜与深海。AI “黑箱” 的特性，使得用户难以理解和预测AI的行为，从而引发不信任。[4]
SOLUTION01
可解释性
相应的对策是可解释性。黑箱的反义词是透明。在人工智能的语境下，这直接转化为可解释性。让用户知道知道：TA 在做什么？为什么这样做？以及能做到什么程度？
REASON02
无情感
尽管如今认可 AI 提供的情绪价值，平均认可度依旧认为 AI 在情感上是无法超越人类的。这限制了它们在需要情感理解的任务中的接受度，人们更倾向于信任那些能够展示情感共鸣的人类决策者。[4]
人类的情感由个体的生活经历、文化背景、社会关系、生理反应等多种因素交织而成的。人类的情感体验包括喜怒哀乐、同情、共鸣等，这些情感往往是深刻且微妙的。[5]
相比之下，AI只能根据数据和算法进行情感模拟，缺乏真正的内在体验。
因此，尽管 AI 能够识别和生成与情感相关的文本或语音，它所展现的“情感”依然是表面的，而不是内在的、自发的、感同身受的。
REASON03
群体成员身份
人们将 AI 视为非人类群体成员，这种 “物种主义” 使得人们更偏好人类，而非 AI。[4]
情感支持挑战 —— 来源偏见：让参与者接收一段情感支持类回复，并告知这些话是：来自“人类” 或 来自“AI”。内容完全一致，只改“来源标签”。结果被标记为“人类”的回复，被认为更具共情性、更暖心，并引发更多积极情绪；而且，当参与者自己主观怀疑背后是 AI 写的，也会降低其对共情程度的感受。[6]
这说明了共情不止是内容，更是身份。即便 AI 写得再感人，人们也更愿意相信“人类懂我”。
SOLUTION03-1
情感对齐
当人类与 AI 系统互动时，他们往往会不自觉地将社交规则和社会期待应用到这些系统上。例如，人类会对 AI 说谢谢，尽管 AI 并不需要这些礼貌、互惠的社交规则。在我们表达赞赏后，AI 如果同样礼貌地回应我们的赞赏，用类情感的表达，再表示愿意进一步支持，可以起到情感对齐的效果。
社会心理学中的镜像神经元理论指出：人类通过模仿他人情感建立共鸣。AI 同样可以学习、模拟这一过程。面对用户不同情绪的语气，调节AI的语速语调。当用户语气低落，AI 可以模拟，通过语调调整，语速放缓至120词/分钟，和共情回应（如“听起来你很辛苦”），激活用户大脑的镜像神经元，增强亲密感。
SOLUTION03-2
活人感
SOLUTION03-3
个性化
讨论人际信任的领域，有个经典的 ABI 模型——能力 Ability、仁慈 Benevolence、正直 Integrity [4] 。个性化 AI 会被视为更有能力、更具仁慈性，也更容易被拟人化，从而提高了用户使用意愿和信息披露意愿。
每个人都有独特的性格、背景和说话风格。如果 AI 要做到拟人，同样可以有个性化的设定。这种差异能让用户感受到 AI 的拟人化、个性化，激发 “社交联结感” 而促进人机互动意愿，
SOLUTION03-4
记忆管理
真人聊天是有记忆的，朋友不会忘记你昨天说的话，也能偶尔回忆起你们共同的过往经历。而用户输入与模型回应，同样可共同构成语境，「上下文」完全可类比为人的记忆。
flowith 则直接提供 composer 功能，用户可以选中 AI 输出的内容，一键添加到独立的工作区，即时沉淀，而后在工作区继续编辑和延展，打通对话和后续工作的衔接。
REASON04
僵化
AI 难免会犯错误，但 AI 被认为从错误中恢复和学习新情况上，不如人类灵活。[4]
AI 出错的几种类型，先是系统内的:
- 理解错误：误解用户意图或上下文缺失
- 推理错误：任务规划逻辑不对，步骤遗漏或顺序错
- 调用错误：工具输入参数缺失、格式不符
- 结果错误：输出与事实不符或无法满足用户要求
这里应该由系统具备 “发现错误 + 自我反思 + 重试修复 + 验证结果” 的闭环，进行自我消化，先从根本避免错误，但现阶段的模型能力确实不太可能做到 100% 的正确。
SOLUTION04-1
用出色的用户体验来吸纳错误
90/10 UX设计原则：构建 2 层架构，分别针对 0 → 90% 场景的基础用户体验，针对最后 10% 场景的上下文细化界面
- 针对 0→90% 场景的基础用户体验：目标是帮助用户快速输出满意的答复。这部分应该感觉像魔法一样: 高效的、高质量的、也是可预测的。90%的时间它都能准确命中，或者足够接近。
- 剩余 10% 就是不可避免的错误：修复功能必须在用户需要的确切时刻和地点出现。是上下文相关的、轻量级的，并且感觉像是用户意图的原生扩展。让用户感受到一切都是可控的、可恢复。
这种两层设计策略的关键在于认识到用户对AI的期望，其实是动态的。
在初始交互中，用户希望获得快速、高质量的结果。但当事情出错时，他们需要的是控制感和快速恢复的能力。
SOLUTION04-2
用户行为与反馈 → 产品进化的燃料
REASON05
自主性
AI 的高度自主性可能会威胁到用户的控制感；引发对失去决策权的担忧，造成心理抗拒。
人与 AI 的互动中，AI 辅助决策有 3 种范式，通过对比不同的用户参与程度，实验得出的结论是：
- 让用户参与决策过程，可增强对 AI 的信任
在 SDM 分担决策 和 CDM 协作决策中，被试同意 AI 建议的可能性，比 PDM 并行决策高出很多
- 用户更深入地参与决策，对 AI 的评价就越高
被试在 CDM 范式中对 AI 的知识水平评价最高（4.11），显著高于 SDM 范式（3.75）
被试在 CDM 和 SDM 范式中对与 AI 合作的团队体验评价显著高于 PDM，分别是 3.71、3.21、2.36
所以显而易见的是，用户的参与度越高，对 AI 的接受度也越高。
SOLUTION05-1
输出前：让用户参与决策
让用户参与决策，例如明确的问题范围、知识范围、权重占比等，能提高结果与用户期望的契合度。
SOLUTION05-2
输出中：可随时介入的调整
如果用户不能根据额外信息采取行动，透明度则失去了价值。保持可随时接入的控制权，避免 “输出结果与预期偏离” 的焦虑。
我们可以允许用户调整表述或设置来优化结果，而无需重新运行整个任务；或是在用户发现 AI 的输出开始不太符合预期时，就马上停止。
SOLUTION05-3
输出后：让用户审批
保持对自动化的控制，让用户拥有最高决策权。这种监管与审批，可以让用户了解到系统的运作方式，并在出现问题时可及时接手，让任务流畅进行。
信任校准
信任是一个连续体。过渡信任，会让用户依赖AI，对于不标准的输出也过渡信任地用在重要决策上。不信任，那就是激活和启动与AI交互的第0道门槛也没有跨过去。需要把用户拉到“校准”信任的黄金中间地带。
信任是动态的。
当用户对系统性能的期望与实际产品能力相符时，就会产生适当的信任水平，这种一致性需要持续的参与。
- 当过渡信任时：可以用到以上提到的置信度评估、免责声明提醒、追问、情境预设选项等方式，把曲线拉回正比的平衡水平。
- 当缺乏信任时：可以通过展示清晰的推理路径、情感对齐、渐进引导等方式，恢复正常，校准信任。
小结
信任是逐渐建立起来的，它来自用户在 AI 能力中体验到的每次互动、每次洞察、每次 AI 协助下的决策。AI 交互中要做到的是：
参考文献
- [1] Crowder, J. A., & Friess, S. (2012). Artificial psychology: The psychology of AI. People, 2(3), 4-5.
- [2] Silva, P. (2015). Davis' technology acceptance model (TAM)(1989). Information seeking behavior and technology adoption: Theories and trends, 205-219.
- [3] QI Yue, CHEN Junting, QIN Shaotian, DU Feng. (2024). Human-AI mutual trust in the era of artificial general intelligence. Advances in Psychological Science, 32(12), 2124-2136.
- [4] De Freitas, J., Agarwal, S., Schmitt, B. et al. Psychological factors underlying attitudes toward AI tools. Nat Hum Behav 7, 1845–1854 (2023)
- [5] Perry, A. AI will never convey the essence of human empathy. Nat Hum Behav 7, 1808–1809 (2023).
- [6] Rubin, M., Li, J.Z., Zimmerman, F. et al. Comparing the value of perceived human versus AI-generated empathy. Nat Hum Behav 9, 2345–2359 (2025).
- [7] Catalina Gomez, Mathias Unberath, Chien-Ming Huang, Mitigating knowledge imbalance in AI-advised decision-making through collaborative user involvement, International Journal of Human-Computer Studies, Volume 172, 2023, 102977, ISSN 1071-5819
- [8]《How can AI UI capture intent?》—— Medium：UX Collective
- [9]《Building and calibrating trust in AI》—— Medium：UX Collective
- [10] 《Trust +Explanations Help users calibrate their trust in your AI》—— People + AI Research (PAIR)