AI政治经济学研究大纲｜一个万字框架

来源类型： 微信公众号文章
日期： 2026-06-02
标签： AI, 记忆系统, 电商, 办公效率, 网络安全, 编程, 数字化, 机器人, 自动驾驶, 芯片, 大模型
原文链接： https://mp.weixin.qq.com/s/X-XwYsl6KoDlH_ALz8XR7g

摘要

李刚 腾讯研究院首席研究员 常斌 腾讯研究院特邀作者 人工智能技术（AI）不断取得重大突破，在部分任务上展现出逼近甚至超越人类的认知水平，引发关于其能力边界、社会影响及未来走向的广泛讨论。这些讨论不仅涉及技术本身，更涉及经济社会层级结构和运行规范的重构，甚至触及人类对自身存在意义的终极追问。如何看待AI的潜在影响力？是新技术引发老问题，可以用历史经验的中值回归来平复的对科技革命的周期性焦虑；亦或是这次不一样，全球正快速滑向新智能形态主宰的开端，一个足以改写文明基本假设的奇点？两种看法各有拥趸，对AI 的态度截然相反，对如何处理AI发展与经济社会关系的政策建议南辕北撤，谁也说服不了谁。这样的...

核心内容

李刚 腾讯研究院首席研究员

常斌 腾讯研究院特邀作者

人工智能技术（AI）不断取得重大突破，在部分任务上展现出逼近甚至超越人类的认知水平，引发关于其能力边界、社会影响及未来走向的广泛讨论。这些讨论不仅涉及技术本身，更涉及经济社会层级结构和运行规范的重构，甚至触及人类对自身存在意义的终极追问。如何看待AI的潜在影响力？是新技术引发老问题，可以用历史经验的中值回归来平复的对科技革命的周期性焦虑；亦或是这次不一样，全球正快速滑向新智能形态主宰的开端，一个足以改写文明基本假设的奇点？两种看法各有拥趸，对AI 的态度截然相反，对如何处理AI发展与经济社会关系的政策建议南辕北撤，谁也说服不了谁。这样的争论是必要且健康的。在AI快速发展的当下，我们迫切需要一个广泛综合的研究议程，从技术本身出发，全面设想新技术给经济和社会发展带来的各种可能性，在未知的阴影中进行有意义的政策讨论。

科幻照进现实
研究议程的起点，应建立在对技术现实的观察之上。在AI飞速演进的当下，我们究竟看到了什么，听到了什么，知道些什么？如果能从既有的经验证据中梳理出有关未来的关键事实，或可作为后续分析的基础。1.1 认知能力跃迁AI 的认知能力日益趋近于人，甚至在部分领域超越了人类的认知水平。这是获得普遍同意的基本事实，也是本次科技革命与蒸汽革命以来历次科技革命最大的不同之处。部分典型的证据包括：GPT 等大语言模型在行为经济学博弈实验中的表现出与人类玩家相似的特性，在个性的评估中与来自50个国家超过10万名人类参与者在统计上不可区分（Mei et al., 2024）；GPT-4 在包括论文撰写在内的完整美国统一律师资格考试中，得分超过 90%的考生，在需要法律推理和论述写作的论文题（MEE）和实务操作题（MPT）上表现出色（Katz et al., 2024）；微软研究院的团队将GPT-4描述为通用人工智能的火花（Sparks of AGI），认为这一模型在数学、编程、医学、法律、心理学等领域的表现“惊人地接近人类水平”（Bubeck et al., 2023）。不仅如此，AI 的能力仍在快速成长。经过精调的大语言模型在神经科学基础测试BrainBench 中，以 81.4% 的准确率超越人类神经科学家63.4%的准确率（Luo et al., 2024）。斯坦福HAI 研究所发布的《人工智能指数报告 2025》提到，人工智能在包括图像识别、阅读理解、视觉推理在内的大部分标准测试中，表现均已经超过人类的水平（HAI, 2025）。未来，AI 可能在可度量的认知领域全面超越人类的平均水平。AI 表现出一定的性格特征，外在行动方式日益趋近于人，甚至建立起自己的“社交”体系。剑桥大学与DeepMind基于心理学中广泛使用的大五人格模型联合开发了AI人格测试框架，对18种不同的LLM进行了人格测试，发现经过指令微调的大型模型如GPT-4o，能准确模仿人类的人格特征，测试结果具有良好的重测信度，且能够预测其在现实任务中的行为表现（Serapio-García et al.，2025）。在全智能体沙盒试验中，AI表现出对其他个体进行操控的目的性。例如在斯坦福大学的小镇实验（Generative Agents）中，一个AI角色为了达成目标对其他AI角色说谎（Park et al., 2023）；在AI协作编程平台ChatDev上（Qian et al., 2023），AI程序员和AI测试员之间出现激烈争吵，不仅互相推诿责任，还说出“这代码烂透了”、“我受够了”等情绪化语言，彰显出独立的机器个性。AI的外在行为表现与人日益趋近，与人沟通无碍，且正在获得越来越多人的信任甚至情感依赖。有研究人员评价，AI在模拟人类时太过精确，已经跌入“大模型恐怖谷”，难以分辨这到底是模拟，还是某种形式的真实存在（Ahart, 2026）。但，我们可能过度解读了 AI表现出的这些类似于人的行为。这些看似带着情绪的聊天记录，可能仅仅是因为开发者在 AI 交互的设计中预置了拟人的表达方式，本意是让产品更有趣，却让我们误以为 AI 产生了非理性的情绪。实际上，机器可以高效交互，而借助情绪来间接传递信息显然更费时费力。1.2人的主体性被部分削弱现实生活中，我们正将日常决策权越来越多地让渡给AI。从个性化新闻推送到自动驾驶系统的路径规划，随着越来越多的日常决策被委托给 AI ，人类自身的能动性正在被削弱。这种对AI决策的偏好并非局限于低风险的日常选择。Horowitz与Kahn（2024）对9个国家9000名受试者的跨国研究表明，即便在国家安全这类高风险决策场景中，自动化偏差（automation bias）依然广泛存在。人们倾向于遵循AI的建议，即使建议前后矛盾。部分研究发现人们更倾向于将决定权代理给 AI 而不是其他人，特别是有风险的决定（Candrian & Scherer, 2022）。不仅如此，与他人的主观决策相比，人们更倾向相信算法的估计和判断，不论是地缘政治风险、浪漫关系还是体重估计，都是如此（Logg et al., 2019）。而且从发展趋势来看，我们对 AI 决策的接纳程度越来越高（Jussupow et al.,2024）。AI 对人类认知和情感产生日渐显著影响。与 AI 辅助决策相伴而生的问题是人类独立思考能力的逐渐丧失，出现决策困难症，甚至在不知不觉中改变了自身的价值立场（Buijsman et al., 2025）。《科学》杂志2025年发表的一项对照实验发现，持续接触高质量AI生成内容（新闻、评论、影像）的群体，在事后辨别真实与合成信息时的准确率下降22%（Epstein et al., 2025）。在高度数字化的临床决策环境中，医生对医疗算法的频繁使用可能演变为有害的认知依赖，特别是在生死攸关的当下，若医生无法现场评估算法输出的合理性，而不遵守算法建议又会构成道德责任，认知依赖就成为必然。其后果不仅是诊断风险，更关键的是侵蚀了临床专业人员作为道德主体的认知权威与责任能力（Pozzi et al., 2026）。此外，陪伴型AI 可为用户提供充分的社交情感价值，正在取代现实人际关系，可能导致使用者丧失处理矛盾冲突的能力、容易情绪失控（Malfacini, 2025）。有证据显示用户与陪伴型AI 可以建立起实质性的情感连接，当这一连接被中断，会出现真实的心碎和悲痛（Adam, 2025）。1.3 偏见强化螺旋偏见和谬误在人与AI 的互相学习中被强化。在使用人类决策数据进行大模型训练的过程中，偏见和谬误会被放大。而人类在使用被误导的AI 进行辅助决策时，会再次放大偏见和谬误的影响，形成一个不断强化的负向循环。在一项情绪感知实验中，人类参与者最初53%的偏差经AI处理后被放大至65%，之后，与AI互动的参与者的偏差从50.7%攀升至61.4%。此外，参与者普遍低估了AI对自身判断的影响程度，使得这种潜移默化的偏见加强成为难以逆转的自发过程（Glickman & Sharot，2025）。随着AI 应用的普及，这些自动化偏见已经广泛存在于医疗、法律和公共管理领域，并出现锚定效应，即用户将AI 的意见作为出发点，主动寻找证据来印证AI 的意见

...(内容截断，完整内容请查看原文)

本页由自动化脚本生成，待人工审核补充