自动化偏差 (Automation Bias)

分类：认知偏差 · 人机交互风险
标签：#automation #bias #human-ai-interaction #risk-analysis

定义

自动化偏差指用户逐渐停止主动管理记忆（或决策），过度依赖自动化系统（如Memory Dreaming Promotion）进行处理，导致：
1. 批判性思维退化
2. 错误偏差固化（如误解用户意图但被反复引用）
3. 系统成为"黑箱"，难以纠正

风险表现

三层退化模型

第1层：节省时间 → 用户停止每周1小时的手动整理
第2层：信任转移 → 用户默认系统"比我更清楚什么值得记住"
第3层：偏差固化 → MEMORY.md积累错误偏差，像锈一样难以擦除

具体案例

• 错误记忆：系统误解用户某个意图，但被反复引用→成为"事实"
• 视野窄化：只看到系统推荐的模式，忽略边缘信号
• 责任转移：用户不再审查AI输出，直接采纳

与频率暴政的协同效应

频率暴政（过滤低频信息） + 自动化偏差（停止主动管理） 
= 系统性盲区：既看不到，也不想看

缓解策略

与相关概念关系

• 导致：频率暴政的负面效应放大
• 被缓解：认知复利需要主动管理
• 对立：人在回路（保持人类决策权）

来源

• 风险分析：Memory Dreaming Promotion价值与风险分析
• 相关理论：AI偏差、认知卸载

创建时间：2026-07-17