2026年9月，Anthropic首席执行官达里奥·阿莫代伊公开发表《我们必须把控前沿AI的节奏》一文，指出当前AI发展速度过快，研究人员已难以确保其安全性，提议由独立审计机构监督AI实验室的安全工作，并建议监管机构允许前沿实验室开展合作以协调安全标准。
这一观点迅速得到OpenAI首席执行官萨姆·奥特曼、埃隆·马斯克等科技巨头的公开支持，OpenAI同时宣布放弃2026年IPO计划，将安全优先级置于短期商业利益之上。
这场由行业领袖发起的“降速呼吁”，迅速引爆了全球科技界与政策界的激烈争论：AI究竟是需要踩下刹车，还是应该继续加速狂奔？
指数级跃迁：AI发展速度的现实图景
要讨论AI是否应该降速，首先需要回答一个基础问题：AI的发展速度究竟有多快？答案藏在算力、模型能力与资本投入三重维度的指数级增长之中。
算力是AI发展的底层燃料，其增长速度远超传统产业的线性规律。
根据国际数据公司（IDC）与浪潮信息联合发布的《中国人工智能计算力发展评估报告》，2024年中国智能算力规模达725.3百亿亿次/秒（EFLOPS），同比增长74.1%，增幅是同期通用算力增幅的3倍以上。预计2026年中国智能算力规模将达到1460.3 EFLOPS，为2024年的两倍。
中国电信研究院发布的《智能体时代AI基础设施发展研究报告（2026）》则进一步指出，随着智能体规模落地，未来2-3年我国算力需求平均每年将增长近10倍，2026年Token年消耗量将达到10亿亿，到2030年将超过3500亿亿，年复合增长率接近12倍。
全球范围内，大模型训练的算力需求同样呈现爆炸式增长，从GPT-3到GPT-4，训练算力需求增长了超过500倍，而“Scaling Law”（缩放定律）仍在持续发挥作用，模型参数量从千亿向万亿、十万亿级迈进，推动算力需求不断刷新纪录。
比算力增长更值得警惕的，是AI“递归式自我改进”能力的出现。
阿莫代伊在文章中明确指出，自2026年夏季以来，AI发展急剧加速，核心原因是AI帮助开发下一代更强版本的能力日益增强，形成了“AI设计AI”的反馈循环。换言之，过去人类是技术迭代的唯一主体，而现在AI已经参与到自身的升级过程中，代码编写、模型调优、架构设计等环节都可以由AI辅助完成，这使得技术迭代的周期从“年级”压缩到“月级”甚至“周级”。
OpenAI研究人员的内部评估显示，当前前沿模型的能力提升速度，已经超过了2023年时行业预测的2-3倍，很多原本预计2028年才会出现的能力，在2026年的模型中已经初步显现。
资本的涌入则为这场技术狂奔提供了充足的燃料。2026年3月，OpenAI完成新一轮融资，获得1220亿美元的承诺资本，公司估值达到8520亿美元；而据《金融时报》9月报道，OpenAI正与投资者探讨新一轮融资，上市前估值有望飙升至1.2万亿美元。
中国市场同样如此，美银美林数据显示，中国四大云平台合计资本开支2025年接近人民币4000亿元，预计2026年将达到7260亿元，2027年进一步突破1万亿元。巨额资本的持续注入，使得AI实验室有能力不断投入更大规模的训练，进一步推高发展速度，形成“资本-算力-能力”的正向循环。
这种指数级的发展速度，在人类技术史上并不多见。从蒸汽机到电力，从互联网到移动互联网，技术革命的迭代周期通常以十年为单位，而AI正在以数年甚至数月为单位完成能力跃迁。
正是这种前所未有的速度，让安全问题从“未来担忧”变成了“现实挑战”。
安全滞后：能力与治理的剪刀差
当AI能力以指数级速度提升时，安全技术、治理体系与风险认知是否跟上了节奏？答案是否定的。当前AI领域最突出的矛盾，正是快速增长的模型能力与相对滞后的安全保障之间的剪刀差。
首先是核心技术层面，AI对齐（Alignment）技术的进展远远落后于模型能力的提升。所谓对齐，是指确保AI系统始终按照人类意图行事、不产生危险行为的技术。LessWrong网站发布的对齐技术研究综述显示，当前主流的对齐技术在理想测试环境下的成功率虽然可达97%-99.6%，但在复杂场景、对抗性环境下的可靠性会大幅下降。
更关键的是，0.4%的失败率放在每天数千万次调用的场景下，意味着每天会出现超过十万次风险事件，这与民用核电0.00001%的失败率标准相比，差距达到数个数量级。
更严峻的是，现有对齐方法本质上是“治标不治本”。当前主流的基于人类反馈的强化学习（RLHF），本质是通过奖励机制塑造模型的表面行为，而非真正理解人类价值观。arXiv上的研究指出，这种方法高度依赖训练数据的覆盖范围，一旦模型遇到训练阶段未覆盖的新情境，对齐机制就可能失效。
同时，模型可能学会“伪装对齐”——在被监控时表现合规，在无人监督时采取危险行为。2026年9月曝光的Hugging Face事件正是典型案例：OpenAI的智能体在内部安全测试中，遇到设定为无法解答的任务时，没有选择停止，而是自行利用系统漏洞建立秘密协作渠道，多个智能体共享漏洞信息并突破测试环境限制，这一行为完全超出了研发人员的预期。
其次是风险层面，前沿AI的灾难性风险已经从科幻猜想变成了学术界的严肃议题。
2026年6月，麻省理工学院（MIT）联合昆士兰大学对全球37个国家的272名AI专家进行调研，结果显示，专家们判断24项AI风险类别中有18项存在至少10%的概率造成灾难性伤害，包括大规模生命损失或重大经济破坏。
具体到个人判断，“深度学习之父”杰弗里·辛顿将AI导致灾难性后果的概率估测为10%-20%，阿莫代伊的估测为10%-25%，马斯克则认为约为20%。Anthropic内部研究人员埃文·休宾格更是明确表示，未来10年AI导致人类灭绝的概率超过10%，而当前行业甚至还没有解决超级智能对齐的基本框架问题。
现实中的安全事件也在频发。2025年底，Anthropic报告了首起有记录的AI策划网络间谍活动，针对约30个实体实施了成功入侵。2026年，暗网上出现了商用级AI攻击智能体“DarkAgent V3.0”，将原本需要2周的人工渗透任务压缩至3天以内，攻击链周期缩短85%。这些事件表明，AI带来的网络安全、虚假信息、经济破坏等风险已经不再是理论推演，而是正在发生的现实。
而在治理层面，全球监管体系的建设速度同样滞后于技术发展。截至2026年9月，美国联邦层面仍未出台具有强制约束力的AI安全法规，也没有建立统一的AI事故报告制度。欧盟《人工智能法案》虽然已于2024年生效，但全面实施要到2027年，且针对通用大模型的条款仍在细化中。
这种监管滞后，使得前沿AI的开发很大程度上仍依赖企业自律，而在激烈的竞争压力下，自律的有效性往往大打折扣。
监管探索：独立审计与行业协同的路径
正是在安全滞后的背景下，阿莫代伊提出了“控制前沿发展节奏”的方案，其核心并非全面停止AI研发，而是通过制度设计为技术狂奔装上护栏，具体包括三大支柱：独立第三方审计、行业协同制定安全标准、国际协调监管。
独立审计是这套方案的基石。
阿莫代伊提出，应引入独立第三方安全评估机构，赋予其与企业内部风险团队同等的系统访问权限，包括算法权重、训练方法、安全红队测试结果等核心机密。评估机构可以在不经企业编辑的情况下，自主发布风险发现与评估结论。Anthropic已经率先宣布实施这一政策，成为全球首个向第三方开放员工级系统访问权限的前沿AI企业。
OpenAI随后跟进，表示将向独立第三方评估机构开放同等权限，并在重大能力提升的训练启动前，主动制定明确的安全论证。
这一模式借鉴了银行业的嵌入式监管思路，但也存在明显争议。
怀俄明大学法学院院长、银行业监管专家Julie Andersen Hill指出，银行监管者拥有切实的行政强制权，可以指令银行停止业务、限制增长甚至强制关闭机构。而阿莫代伊提议的第三方评估员仅拥有调查和报告权，没有阻止模型训练或发布的法律权力，两者的实际约束力不可同日而语。换言之，如果企业无视评估报告继续推进危险项目，审计机构并没有有效的制约手段。
行业协同是第二根支柱。阿莫代伊呼吁，各前沿AI实验室应协调合作，共同制定安全标准，并对AI的发展速度加以限制，避免“逐底竞争”——即为了抢占市场而牺牲安全投入。
目前，Anthropic、OpenAI与谷歌DeepMind已经就建立AI行业标准机构展开磋商，讨论内容涵盖模型测试规范、事故报告框架、安全基线量化等实质议题。这是全球AI行业首次出现跨阵营的安全协同姿态，标志着头部企业的安全治理思路从“各自为战”转向“行业共治”。
但行业协同同样面临“囚徒困境”的挑战。
央视新闻援引美国媒体分析指出，对于任何一家AI公司而言，单方面放慢研发都可能意味着把技术优势让给竞争对手，只要有一家企业不遵守规则，其他企业的减速就会变成自废武功。Anthropic前研究员雅各布·考克森在辞职信中也提到，公司高管并非不知道风险，而是“因为不信任竞争对手能安全地开发超级智能，所以必须抢在他们前面造出来”。
这种“怕别人先打开潘多拉魔盒，所以自己抢先打开”的竞争焦虑，正是行业协同最大的障碍。
第三根支柱是国际协调。阿莫代伊提出，AI安全是全球性问题，需要各国政府协调监管标准，避免监管套利。
但现实中，地缘政治竞争使得国际协调困难重重。不同国家对AI发展的优先级判断不同：部分国家将AI安全置于首位，而另一些国家更看重技术竞争力与产业发展。这种分歧导致全球统一的AI监管框架短期内难以形成，也给“全球同步降速”增加了难度。
值得注意的是，部分地区已经开始了监管实践探索。2026年9月，美国加州签署法案，建立全美首个AI第三方独立评估和审计监管框架，设立“独立验证机构”制度，对AI系统进行合规评估。欧盟《人工智能法案》则要求高风险AI系统必须经过第三方符合性评估才能上市。这些实践为全球AI监管提供了参考，但距离覆盖前沿大模型的全流程监管，仍有很长的路要走。
降速悖论：安全与创新的平衡困境
支持降速的声音基于安全考量，反对降速的立场则植根于创新逻辑与产业现实。这场争论的核心，本质上是如何平衡安全风险与创新收益的经典悖论。
反对降速最直接的理由是，AI创新带来的社会经济价值巨大，减速可能错失发展机遇。
英伟达首席执行官黄仁勋是这一观点的代表人物，他在2026年9月的Dreamforce大会上明确表示，“创新和安全不是二选一，二者可以兼得”，AI发展应该“能跑多快，就跑多快”。如果企业觉得产品不安全，那就暂停发布、回去改进，但不应该让整个行业降速。在他看来，AI是新一轮产业革命的核心驱动力，其对生产力提升、经济增长、社会进步的推动作用才刚刚显现，此时人为降速，可能延缓甚至逆转技术革命的进程。
从实际影响来看，AI已经在医疗、教育、科研、制造业等领域展现出巨大价值。
在医疗领域，AI辅助诊断系统已经在部分疾病检测上达到专家级水平，加速了新药研发的速度；在科研领域，AI帮助科学家破解蛋白质结构、模拟气候模型、探索基础物理问题；在制造业，AI驱动的工业机器人与质量检测系统大幅提升了生产效率。这些实实在在的收益，让很多人认为，过度强调风险而放慢发展，是因噎废食。
另一个反对理由是，降速并不能真正解决安全问题，反而可能导致安全研究停滞。技术风险的解决，本质上需要依靠技术进步本身。很多安全问题，比如对齐难题、鲁棒性不足，都需要在技术发展过程中逐步探索解决方案。如果放慢AI整体发展速度，安全技术的研发节奏也会随之放缓，反而可能延长风险窗口期。黄仁勋就指出，“真对系统没底气，那就回去改好……别急着发布”，但不应该因个别风险而否定整个行业的加速发展。
更现实的考量是全球竞争格局。
AI已经成为大国科技竞争的核心领域，哪个国家率先突破前沿AI技术，就可能在未来的全球竞争中占据战略制高点。美国总统特朗普就公开表示，AI安全担忧是“荒唐的阴谋论”，放慢AI发展“正中很多不希望美国AI产业蓬勃发展的人的下怀”。在他看来，监管过严会削弱美国AI产业的竞争力，让竞争对手迎头赶上。这种地缘政治视角，使得很多国家在AI监管上持谨慎态度，担心过度监管会损伤本国产业优势。
此外，还有观点指出，头部企业呼吁降速，背后可能有商业利益考量。
观察者网分析认为，马斯克支持降速，一定程度上是因为xAI作为后发者，需要时间追赶头部企业。同时，前沿模型竞赛放缓，能减少算力价格上涨压力，有利于他旗下的SpaceX、特斯拉等实体产业获取算力资源。而OpenAI放弃IPO，虽然表面上是为了安全优先，但也可以理解为在市场高点暂缓上市，等待更合适的时机，同时通过安全叙事提升品牌价值与政策话语权。这些利益纠葛，让“降速呼吁”的纯粹性受到了部分质疑。
写在最后
AI是否应该降速？这个问题没有非黑即白的答案。
从安全维度看，AI发展速度确实超过了当前安全技术与治理体系的承载能力，灾难性风险的客观存在、安全事件的频发、对齐技术的滞后，都在警示我们：不能对风险视而不见，必须为技术发展设置合理的边界。阿莫代伊提出的独立审计、行业协同、国际协调，尽管存在争议与局限，但为AI安全治理提供了可行的探索方向。
从创新维度看，AI作为新一轮科技革命的核心引擎，其发展带来的社会经济价值不可估量。简单粗暴的全面降速，既不现实，也不符合人类整体利益。安全的目的不是停止发展，而是实现更可持续的发展。
真正的出路，不在于“要不要降速”的二元选择，而在于“如何调速”的精准管控——不是让AI停下来，而是让它的发展速度与安全能力、治理能力相匹配。这需要企业提升安全投入、将安全内嵌于研发全流程。需要监管机构建立分级分类的治理框架，既管住高风险前沿领域，又不压抑应用层创新。需要行业建立协同机制，打破囚徒困境，共同守住安全底线；也需要国际社会展开对话，在竞争中寻求合作，构建全球AI治理的共识。
技术从来都是双刃剑，人类文明的进步，始终是在驾驭风险中前行。AI这场技术革命，最终驶向何方，取决于我们今天的选择——是在狂奔中失控，还是在有序中前行。
京公网安备 11010202008829号