"AI 进步放缓了"这种说法大约每半年冒出一次，从来没对过。以前新模型大约一年发一次，如今模型训好之后的再加工方法改进了，一个月到三个月就发一次。每次拿新模型和上一个比，差距自然显得小，这可能是很多人觉得变慢的原因之一。把时间拉长看，进步其实在加快，规模越大模型越强的规律也还在成立。
Ben Mann
这些模型的回答带有随机性，同一个问题问几次，有时做对、有时做不对，每份模型说明里都会并列只试一次和试多次的成功率。所以在 Claude Code 里，提了要求没成功，与其在失败的基础上反复修补，不如整个推倒重来再问，重来的成功率要高得多。会用和不会用的人差别就在这里：敢不敢提大的改动，失败了肯不肯再试三次。
当年 OpenAI 内部讲的是让安全、研究、创业三派互相制衡，可真到要取舍时，安全感觉排不到第一。直到今天，全行业一年投进去约 3000 亿美元，全世界做 AI 安全的人可能还不到一千个。安全很要紧，又几乎没人做，多一份投入分量就很大。所以 OpenAI 几个安全团队的负责人出来另立门户，要一个既站在最前沿、又把安全放在一切之前的地方。
Anthropic 用一份大白话写成的原则清单来教模型该怎么做，条目取自联合国《世界人权宣言》、苹果的隐私服务条款等地方，很多是自己写的。这样，模型守什么规矩不再取决于碰巧找来的打分员，而是公司自己定下、公开出来。客户直接看这份清单，觉得说得对，就会喜欢这家公司、喜欢这个模型、信得过它，这对生意很有价值。
Anthropic 做过一个让模型直接操作电脑、面向普通用户的样品，但达不到自己定的安全标准，最后只在开发者接口里放出一个参考做法，眼下不少公司用它安全地做自动化软件测试。要让 AI 拿着你电脑里所有的账号密码替你办事，需要极大的信任，基本得先把安全和"照人本意做事"这两件事解决。正因如此，有安全研究打底，可能做成别家没法安全做的事，操作电脑很可能就是这样的大机会。