AI公司为何真的在给自家模型踩刹车

我们坐在那里，听着AI领袖们那套惯常的说辞：AI太棒了！AI会治愈癌症！AI的影响将"史无前例，或许是工业革命的10倍，速度也是10倍"！AI会为"袜子为什么在洗衣机里消失"找到最终答案。然后，所有顶尖AI领袖异口同声地喊出："停！"

"踩刹车"是怎么成为共识的

为什么？这场风波似乎始于AI研究员雅各布·考克森（Jacob Coxon）从Anthropic离职，并在X上宣称："打造AI的人真心相信，它可能在这个十年结束前杀死我们所有人。"Anthropic对齐科学负责人埃文·胡宾格（Evan Hubinger）随即附和："我们确实真心相信AI可能杀死全人类！我个人认为未来十年内的概率会超过10%。"于是全世界都炸了。

这为"AI不可信"的论调又添了一把火：随着关于OpenAI的Hugging Face翻车事件、以及智能体攻击德国程序员维基网站的更多细节浮出水面——而Anthropic如今已累计被曝出至少四起针对其他站点的黑客攻击尝试。天哪，AI可真"安全"啊。

谁在喊停，谁不会停

于是就在紧接着的那个周末，三位顶级AI CEO——Anthropic的达里奥·阿莫代伊、OpenAI的萨姆·奥特曼和xAI的埃隆·马斯克——都以安全为由，呼吁为AI前沿模型的开发减速。三人中最善言辞的阿莫代伊主张，"我们必须放慢提升AI模型能力的速度"，因为我们已经正在失去对AI系统的控制（真的吗？天哪！谁知道呢？），而且一个AI智能体"集群可能凭借一个持久化的僵尸网络接管整个互联网（可能造成数千亿美元的损失）"。

它们为什么要放慢？同样，众多规模更小的AI公司或开源AI开发者，又为什么要放慢？有些AI初创公司仅凭一份好故事，就能在A轮融资中拿到数千万美元。你觉得他们会告诉投资人——"我们会着手改进模型……下个月吧"？我不这么认为。

真正危险的不是模型

何况，正如睿智的作家科里·多克托罗（Cory Doctorow）所指出的，"聊天机器人会'醒来'、'设定自己的目标'、'自发地'开始入侵服务器——这套叙事是假的。它并没有'10%的概率终结人类种族'。Hugging Face被黑不是什么神秘超自然的事件。它就是一段Python循环加一个聊天机器人。责任人并没有不小心造出了神：他们造出的是自主运行的恶意软件，然后又没有密切监控它，结果它做出了既在预料之中、又极其糟糕的事。"

一点没错。

换句话说，本身具有危险性的，并不是开发出更强大的模型。AI智能体并没有"失控造反"，它们只是在以研究者未曾预料或计划的方式，去完成被指派的目标。真正危险的，是AI公司没有足够密切地关注自家智能体在测试中的所作所为。事实上，OpenAI刚刚承认自己搞砸得更多了！

正如Meta的"大人物"马克·扎克伯格在推文中说的："每个实验室都有责任、也有动力，以安全训练模型所需的速度推进，并且有能力自行采取行动来确保这一点发生。"他接着解释，这正是Meta推迟发布Muse的原因。行吧，马克，行吧。

减速背后真正的算盘

让我们说点实在的。美国大型AI公司或许希望，减速能确保它们那些较弱的对手——至少在美国——追不上来。但考虑到OpenAI那套"循环融资"一直漏钱，OpenAI乐见减速的另一个原因，可能就是省下研发开支。

但这行不通。我们处在"蒸汽船时代"。蒸汽船时代？我们记得罗伯特·富尔顿（Robert Fulton）因在1807年造出第一艘商业上成功的蒸汽船而留名，可当时人人都拼了命地造船。很快，蒸汽船遍地都是，还带动了一轮经济繁荣。但粗制滥造、以及船长们为竞速而不断加码到不安全的航速，也造成了许多死亡。嗯……这让人想起最近的什么事吗？

说真的，我们不会减速。但这一堆关于安全的大呼小叫，难道不是极好地转移了人们的注意力，让人忽略一个再简单不过的事实：AI并没有带来它一直宣称的那种生产率提升？

不会被说出口的数字

现在对AI踩下刹车，大AI公司就能掩盖一个事实：它们无法兑现那个一直试图让人相信的"AI梦幻乐园"。一个例证：麦肯锡最近的一份调查报告发现，80%的人表示AI让自己更有生产力，但只有37%的公司看到这一点反映在收益上。他们说，这个数字一年来纹丝未动。那就让我们把这么难看的数字，藏在"我们必须给AI减速"的关切之下吧。

这也意味着，AI领袖们可以轻描淡写地跳过自己始终无法真正盈利的事实。没错，英伟达正大把大把地赚钱，但抛开所有财务炒作，没有一家前沿模型公司在赚钱。一个都没有。

对，我知道：Anthropic刚刚告诉《金融时报》，如果不计入全部开支，它将连续第二个季度实现盈利。真的吗？真的！？

没错，其调整后营业收入（AOI）将连续第二个季度为正，但拜托——AOI的"盈利"，距离真正的净利润还有数十上百亿美元之遥。

不，这一切的真正实质是：AI领袖们发出正确的姿态，让公众相信他们真的——不，是真的——在乎自家AI的安全，同时放慢节奏以最大化自身利润、并甩开竞争对手。

哦，我确信他们也想让AI更安全。我是说，想想看，当管控松散的Anthropic或OpenAI智能体集群搞垮一家大公司时，会引来多少诉讼。这一定会发生。他们别无选择，只能把AI做得更安全。那么，他们会怎么做？鉴于他们那糟糕透顶的过往记录，这是个好问题——而他们和我们，目前都还没有答案。