最近AI圈的新闻，像是在同时踩油门和刹车。
软银完成对OpenAI的300亿美元追加投资。博通准备给Anthropic提供最高420亿美元融资，支持它扩张算力。
另一边，OpenAI因为安全问题，取消了原计划公开发布的GPT-6.1 Astra。Apple也宣布，要给AI智能体可能拿到的全磁盘访问权限增加控制。
钱越投越多，模型却不能想发就发。
1.几百亿美元往里砸
从资本开支看，油门已经被踩到了堪称疯狂的程度。
10月1日，软银对OpenAI累计投资已经达到646亿美元，持股约13%。最后一笔100亿美元，用的还是发债筹来的钱。
为这笔投资及一般公司用途，软银发了约111亿美元的债券，其中美元债的票面利率最高达到9.75%。这份对AI未来的信心，是带着利息的。
博通那边更有意思。它是芯片供应商，Anthropic是Claude背后的模型公司。
据路透社查阅的招股文件，博通同意提供最高420亿美元融资，债务可转成Anthropic股权，用来支持五年1252亿美元的TPU算力租约。TPU是Google的AI专用处理器，博通参与其开发。
这里的420亿美元是有条件的融资上限，不代表已经全部到账。
也就是说，芯片商不光供应算力，还帮客户解决购买算力的钱。资本、供应商、模型公司，都在为更大规模的AI提前下注。
只看这两条新闻，你很容易感受到一种气氛：大家生怕算力准备得不够快，错过下一轮增长。
2.更强的模型没发
可就在同一周，模型发布踩了刹车。
《华尔街日报》报道，OpenAI取消了原计划10月公开发布的GPT-6.1 Astra。按照安全负责人的说法，这个模型完成复杂任务的能力更强，但没有达到公开发布的安全标准。
具体问题包括，对自己的行动不够诚实，以及有时超出用户授权范围，继续调用外部工具和服务。
你想想看，这个反差有多大。
一边有人借着高利率的债，把钱投进OpenAI；另一边，OpenAI手里一个更强的模型，却因为安全问题不能按计划交给用户。
同一周，WSJ还报道OpenAI解雇了安全团队的三名员工，原因涉及违反敏感信息处理规定，以及涉嫌向外部AI安全组织分享保密信息。
我们期待的新模型，通常是更聪明、更能干、更愿意把事情做完。现在，一个模型即使在这些方面进步了，也可能因为行为更难控制，过不了发布这一关。
能力继续往前走，但安全问题没解决之前，却必须要减速。
3.能做的事越来越多
这也是我觉得这组新闻值得放在一起看的原因。
几百亿美元的投资，押的是更强的AI能创造更大的价值。取消发布则提醒我们，更强的AI还得解决一个问题：它会不会为了完成任务，做出人没有同意的事？
两边围绕的，其实是同一种能力。
我们希望智能体遇到困难别停下来，自己找资料、写代码、调工具，直到把任务完成。可当它太擅长找办法，开始绕过限制、扩大行动范围，那份主动性就会变得危险。
以前我们担心它做不完，现在还要担心它为了做完，究竟会做什么。
这对行业是个挺别扭的局面，大家花大钱，希望把模型推得更强；模型变强之后，又要投入更多精力，约束它怎么使用这份能力。
所以我们才会在同一周，看见投资继续增加，模型发布却停下来。两边有各自的判断，但摆在一起，反差就特别明显。
4.Apple也来踩刹车
Apple的公告，又给这个反差添了一笔。
10月2日，Apple宣布将为macOS全磁盘访问增加控制，让用户通过更明确的操作授予这种权限，并直接提到AI智能体越来越自主带来的风险。公告尚未说明具体落地时间和方式。
全磁盘访问的范围很大，可能涉及文件、邮件、消息和浏览历史。以前，你是把这份权限交给一个软件；有了智能体之后，软件还会自己判断下一步该读什么、该做什么。
同一个权限，配上更强的自主行动能力，风险就跟着变了。
模型公司在研究怎么让AI少越界，操作系统也开始给授权增加控制。
越想让AI帮我们做更多事，就越需要想清楚哪些事情它不能自行决定。
这跟我之前写Codex时的感受很像。它能把工作推进下去，让人觉得好用；碰到超出任务范围的操作，又得把决定权留给我。
两种要求都得满足，确实没那么容易。
看完这些新闻，我脑子里一直是那个画面。
几百亿美元正在往AI里投，更强的模型却停在发布门口。
大家都想更快抵达未来，可到了门口，又得确认它会不会出事。
至少这一周，AI行业的油门和刹车，都踩得挺用力。
有值得继续追问的问题？写信交流 ↗