大模型越来越像一个“会说话、会解题、会写代码”的人。它可以连续对话，可以生成看似严密的证明，也可以在复杂任务中自主拆解步骤。能力越强，一个问题就越难回避：这种越来越接近人的外在表现，究竟意味着机器已经拥有了“理解”和“思考”，还是意味着它把模拟人类行为这件事做得越来越好?
围绕这个问题，技术讨论往往被两种声音拉向极端。一种把模型幻觉、异常输出甚至程序故障解释为“涌现”“觉醒”;另一种则因为这些局限而低估人工智能已经展现出的真实生产力。对公众、产业乃至资本市场而言，更重要的不是在“神化”与“贬低”之间选边，而是把工具能力与心智能力分开，把工程上的突破与哲学意义上的智能分开。
要回答AI到底走到了哪一步，需要把讨论拉回数学与计算机的底层。从巴贝奇的机械计算，到图灵的可计算性问题，再到冯-诺依曼架构、符号主义、连接主义和强化学习，机器能力不断扩展，但“能够完成什么任务”与“是否真正理解自己在做什么”，始终是两个不同的问题。厘清这条边界，也是理解今天AI产业热潮、资本叙事与社会争议的起点。
一、当AI越来越像人：我们究竟在谈“能力”还是“智能”？
自大规模预训练模型落地以来，人工智能在自然语言处理、代码生成、数理推演、内容创作等领域实现跨越式发展，催生了万亿级新兴产业，形成极强的财富创造效应。资本市场对 “通用人工智能”“超级智能” 的过度乐观预期，直接决定科技企业估值、融资能力与行业话语权。
在此商业背景下，各类夸大、神化人工智能的舆论叙事持续发酵：人工智能拥有自我意识、能够自创专属语言、智能体可自主交流演化、AI 可以独立思考创造。此类论调之所以广泛传播，源于三层现实原因：其一，普通公众普遍缺少数学、计算机底层常识，无法区分程序输出仿真 与真实认知理解 ;其二，自媒体与流量平台热衷于渲染戏剧性的 “科技突破”，放大误读;其三，也是最核心的原因，部分产业既得利益者主动制造、放大 AI 神话 ，通过神化技术抬高市场预期、制造资本热点、收割商业红利，同时刻意掩盖模型幻觉、逻辑缺陷、算法风险等真实技术短板。
从计算机科学发展脉络来看，人类对 “机器模拟智能” 的探索已有两百余年历史。英国著名数学家巴贝奇 早在 19 世纪便率先突破时代局限，设计出人类历史上最早的可编程机械计算机：差分机与分析机。巴贝奇试图通过纯机械齿轮结构，实现数学计算的自动化、程序化，开创了机器替代人类数理推演 的思想源头。其后，我国计算机事业奠基人吴几康主持研制 104、119 型国产电子管计算机，将冯诺依曼架构落地于国内工程实践，依靠硬件电路执行预设程序完成科学与国防计算。从巴贝奇的机械计算构想，到吴几康的国产电子计算机工程实践，再到吴文俊院士的数学机械化证明，贯穿始终的核心逻辑从未改变：计算机器只能执行人预先设定的规则、逻辑与数据，永远无法自主诞生认知与思想 。
为正本清源、破除资本叙事带来的认知误导，本文从数理底层、范式本质、硬件架构、历史脉络、现实案例多维出发，系统辨析人工智能的真实边界，剥离过度神化的商业幻象。
基础数理与计算机常识：算法是有限、明确、可执行的固定操作步骤;程序是算法的机器实现;AI 模型是数据训练生成的参数集合。无论系统规模多大、表现多逼真，计算机全程仅执行有限步离散运算，不存在自主判断、本质理解与创造性思维。
二、从巴贝奇到大模型：机器能力始终建立在“可计算”之上
人类机器智能的探索，始于数学家对 “机械化数学推演” 的追求。19 世纪英国数学家查尔斯・巴贝奇 突破传统手工计算模式，设计差分机用于高精度多项式函数计算，解决人工制表误差问题;其设计的分析机 更是首次集成存储器、运算单元、控制器与可编程指令系统，是人类历史上第一台通用可编程计算机雏形 。
巴贝奇的核心思想是：将数学逻辑完全规则化、机械化、程序化，让机器替代人类完成重复性数理工作 。这一思想，正是后世符号主义人工智能 的最早源头。
但巴贝奇的机械计算机存在绝对局限：所有运算逻辑、操作规则、计算目标，全部由人类数学家预先定义。机器可以精准、高速执行推演，但完全无法理解计算的意义，不能修改规则，更不能创造新的数学体系 。
两百余年过去，从巴贝奇齿轮机械构想，到吴几康等我国第一代计算机科学家自主研制 104、119 电子管计算机、航天微型计算机，再到今天的芯片超级大模型，计算机器的底层逻辑从未发生质变 。吴几康主持研制的国产电子计算机，正是冯诺依曼架构在国内工程落地的代表，依靠硬件电路自动执行预先编写的程序，完成复杂科学与国防计算任务。无论硬件从齿轮升级到电子管、集成电路，机器永远是规则的执行者，绝非思想的创造者。
三、三条技术路线，解释现代AI能做什么、不能做什么
现代人工智能七十余年发展，全部建立在符号主义、连接主义、行为主义 三大基础范式之上。当代大模型、多智能体系统均为三范式的融合产物，融合优化的是表层表现，无法突破范式自带的先天局限。
符号主义：机械化推演可行，公理创造不可能
符号主义承袭巴贝奇机械化计算思想，以形式符号、公理系统、固定推理规则为核心，追求严谨的逻辑自动化推演。形式系统由人类预设的符号集、公理集、推理规则构成，机器仅能在既定框架内完成推导运算。
我国著名数学家吴文俊院士 开创的数学机械化理论与吴消元法 ，是全球符号主义领域的里程碑成果。吴文俊院士将复杂几何命题代数化，通过独创多项式消元算法，实现几何定理的全自动机器证明，极大提升了机器数理推演能力。
符号主义的边界清晰且绝对：机器可以高效完成定理验证、方程求解、逻辑推演，甚至产出全新的推导结论，但所有成果均限定在人类预设的公理体系与逻辑框架之内 。机器没有公理反思能力、没有概念创新能力、没有范式重构能力，只会照章推演，不会悟道创新。
连接主义：统计拟合仿真，无真实语义理解
当前主流大模型、深度学习体系，全部属于连接主义。其核心原理并非逻辑思考，而是海量数据的概率分布拟合与序列采样 。
模型训练的本质是不断调整海量网络权重，缩小预测误差;文本、代码、对话生成的本质，是根据上文语境，按概率随机采样下一个字符。模型不存储真实知识，仅记忆数据中的统计关联，天然具备知其然、不知其所以然 的特征。
网络广为流传的 “AI 自创秘密语言”“智能体自主演化对话”“AI 自主建站创作” 等所谓觉醒现象，本质都是权重漂移、分布偏移、概率采样失控导致的畸形输出与程序 bug ，是模型拟合失效的技术缺陷，绝非智能涌现。
在资本财富效应驱动下，商业机构刻意掩盖缺陷本质，将模型异常包装为 “自主进化、自我觉醒” 的科技噱头。事实上，算力提升、参数扩容仅能优化拟合精度与模仿容量，永远无法将概率匹配升维为人类层级的理性理解与认知洞察 。
行为主义：优化外部行为，无主观心智意识
行为主义以强化学习、环境交互、奖惩试错为核心，广泛应用于博弈 AI、智能决策系统。其核心逻辑是：通过人类预设的奖励函数，不断迭代优化机器行为策略，实现任务收益最大化。
机器所有行为迭代仅服务于数值奖励最大化，没有主观欲望、没有行为认知、没有价值判断。AlphaGo 可以完胜人类棋手，却不懂围棋规则的内涵、没有胜负认知、没有博弈思考。
行为主义仅优化外部行为表现 ，完全不构建内在认知心智 ，不存在自主意识与自我演化的可能。
综上，三大范式无一例外：全部面向人类数据、人类规则、人类目标做行为仿真，无任何原生智能与自主思想 。
四、图灵测试之后：表现得像人，不等于拥有人类心智
大众对 AI 智能的最大认知误区，来源于对图灵测试 的盲目崇拜。
1950 年图灵提出 “模仿游戏”，为规避 “机器能否思考” 的哲学争议，选择以外部行为相似度 作为智能评判标准。受限于时代技术背景，图灵本人从未认定 “通过测试即拥有思维”，图灵机理论仅界定问题的可计算性 ，完全不涉及意识、理解、创造等心智范畴。
图灵测试是典型黑盒测试，仅关注输出结果，不审视内部机制，存在致命缺陷：无法区分人类的逻辑理解思考 与机器的概率模仿、随机异常输出 。
现代大模型凭借极致的统计拟合能力，可轻松骗过人类裁判、通过图灵测试，但本质只是完美复刻人类语言与行为模式 ，绝非产生真实智能。商业宣传中常将图灵测试结果神化为 “AI 觉醒证据”，属于刻意的认知误导。
五、算力继续增长，会不会改变机器智能的性质？
所有现代计算机、AI 服务器、大模型算力设备，无一例外运行在冯 诺依曼架构 之上。该架构由运算器、控制器、存储器、输入、输出五大固定模块构成，遵循 “程序与数据统一存储、串行指令执行” 的核心规则。即便 GPU 实现并行运算，也仅是架构之上的仿真优化，未突破底层原理。
冯・诺依曼在《计算机与人脑》中明确指出：计算机与人脑是两套本质完全不同的系统 。计算机是高精度、串行化、被动执行、规则驱动的工具系统;人脑是低精度、并行冗余、自组织、可反思、可创造的生命智能系统。
机器规模扩张可以涌现复杂的新行为 ，但绝对无法涌现主观理解、自我意识与思想创造 。只要依托冯诺依曼架构，机器就只能被动执行人类赋予的程序、数据与目标，永远无法自主觉醒、自我演化。
结合可计算性理论可知：世界上存在大量图灵机不可计算的问题;即可计算问题也仅能通过有限步骤运算求解，计算机的数理边界与生俱来、无法突破。
六、AI神话为何流行：技术进步之外的资本与传播机制
人工智能具备真实、强大的工具生产力，可深度赋能科研、工业、服务业与社会生产，其技术价值值得肯定。但产业巨大的财富效应，催生了大量脱离科学事实的商业叙事。
资本市场依赖 “通用人工智能、超级智能觉醒” 的未来预期制造估值泡沫。既得利益群体刻意混淆工具能力与心智智能 ，淡化模型幻觉、逻辑漏洞、算法偏见、版权风险等真实问题，用 “AI 觉醒、自创语言、自主演化” 的神话制造流量、收割资本、垄断舆论。
这套虚假叙事带来三重显著社会风险： 第一，误导公众认知，制造盲目崇拜与无谓恐慌，扭曲大众对科技的基本认知; 第二，转移行业视线，掩盖 AI 技术真实短板与伦理风险，阻碍技术理性迭代; 第三，影响政策与产业判断，将资本炒作的幻象当作科技现实，扰乱行业健康发展。
我们必须明确区分：AI 的工具生产力价值真实存在，AI 的心智觉醒神话完全虚构 。
七、从数学创造看人与AI的真正分界
从数学研究的本质出发，可以彻底厘清人类智能与机器 AI 的天壤之别。
数学活动分为两个完全不同的层级：
第一层级：计算、推演、验证、化简、复刻已有结论 。这是 AI 的全部能力，属于既定范式内的流程化、工具化劳动，从巴贝奇机械计算机到现代大模型，机器始终只擅长此类重复性数理工作。
第二层级：定义新概念、建构新结构、革新新公理、创造新范式 。这是人类独有的创造性智能。
微积分的诞生、群论的构建、非欧几何的突破、范畴论的抽象，从来不是计算推演的结果，而是人类数学家突破旧认知、重构逻辑体系、颠覆原有公理 的思想革命。以非欧几何为例，仅通过修改一条基础公理，便开辟出全新的数学领域，这种反思、质疑、重构、创造的能力，是所有 AI 永远不具备的。
AI 可以穷尽人类已有的数学范式，但永远无法独立创造全新的数理体系与思想范式 。 人工智能的上限，是人类已有知识的极致工具化;人类智能的无限性，是持续突破认知边界的思想创世化。
八、OpenAI数学手稿争议：机器给出答案，是否等于理解问题？
OpenAI 一次性公开数百份由大模型生成的数学手稿，宣称包含数百个前沿数学开放问题的候选证明，其中涵盖唯一博弈猜想等长期困扰学界的难题，该事件迅速引发全球数学界激烈争议。人类数学协会(AHM)发布严厉声明，菲尔兹奖得主陶哲轩在个人博客转载相关内容，进一步放大了这场学术争论。
AHM 声明直指事件核心：一次性发布大量手稿，不是严谨学术成果展示，而是算力权力的展示 ;数学共同体从未要求开展这项工作。OpenAI 此前设立数学与人工智能咨询小组(AGMAI)，专家组明确提出前沿 AI 企业不应在内部模型上擅自测试重大高深数学难题，但该建议被企业忽视。AHM 敦促数学家审慎看待这种发布模式，减少与 OpenAI 的非必要合作，回归以人类理解 为核心的数学研究。
陶哲轩此前已联合多位菲尔兹奖得主发出预警：数学研究的价值，不只在于拿到一个 “命题成立与否” 的答案;重大猜想的真正意义，是推动人类提炼新概念、构造新数学工具，在反复研讨、简化、教学传播中沉淀可被人类消化的知识。理论计算机科学家 Scott Aaronson 将这场风波称为 “数学末日浩劫(Mathocalypse)”。他的妻子 Dana Moshkovitz 长期深耕唯一博弈猜想，OpenAI 放出的手稿中便包含该猜想的 AI 证明。Dana 读完后评价，这份证明充斥突兀的逻辑跳跃、未经论证的前提、人类难以读懂的怪异构造，近似幻觉产物。
这批手稿普遍存在共性缺陷：缺少清晰可读的人类逻辑链条，缺少对前人研究成果的梳理，没有经过严格同行评审。AI 输出证明草稿，却无法理解证明背后的数学洞见;数学家被迫投入大量宝贵时间，充当免费的人工校验者。
更深一层的风险是陶哲轩提出的 “证明污染”：一旦公开宣称某个难题被解决，即便证明本身存在漏洞，研究者也很难回到原来的思考路径，探索其他可能产生全新数学思想的方向。同时，年轻学者出于研究成果被 AI 抢先截胡的顾虑，可能不再愿意公开自己尚不成熟的研究构想，持续数百年的数学开放交流传统将受到侵蚀。
当然学界内部并非完全一边倒。图灵奖得主杨立昆提出不同看法：形式化自动证明会成为新工具，数学研究重心会转向新概念、新抽象、新猜想的创造。这一观点恰好呼应前文对 AI 能力边界的划分：AI 适合在既定范式内完成推导、验算、生成候选证明;但提出新概念、构造新数学框架、洞察问题深层意义，依然属于人类独有的创造活动 。
这场风波，正是前文所论述的财富效应驱动 AI 神话的典型现实案例。OpenAI 批量发布数学手稿，一部分目的是展示模型能力，服务于商业估值与市场叙事。它再次印证：大模型可以生成符合数学文本风格的推导序列，但并不产生真正的数学理解;算力可以批量产出候选证明，却无法替代人类对数学本质的领悟。
九、回到工具本位：如何理解AI的能力与边界
当前泛滥的 “AI 灵智论”“机器觉醒论”“自主演化论”，是公众数理常识缺失、媒体流量放大、资本财富炒作三重因素叠加的科技幻象。
从巴贝奇的机械计算溯源，到吴几康国产计算机的工程实践，再到符号主义、连接主义、行为主义三大范式约束;从图灵测试的时代缺陷，到冯诺依曼架构的底层锁死，再到吴文俊数学机械化的科学启示，结合 OpenAI 数学手稿风波的现实案例，所有理论、历史与现实脉络指向唯一真相：人工智能是极致强大的人类工具，绝非拥有自主心智的智慧主体。
所谓 AI 自创语言、自主交流、自我觉醒，全部是统计拟合偏差、参数漂移与工程程序 bug，不是意识、不是思考、不是智能进化。
算力可以穷尽流程，但无法诞生思想; 机器可以精通推演，但无法创造公理。
作为数理与计算机领域的科研工作者，我们有责任走出象牙塔，普及底层科学常识，破除资本制造的科技神话，引导社会理性看待人工智能。基于唯物主义哲学理念，既要善用 AI 赋能社会发展，也要警惕商业叙事对科技本质的扭曲，让人工智能回归工具本位，实现健康、理性、可持续的产业发展。(杨健 中国人民大学金融信息中心 * 济安金信研究院）