## OpenAI再次向AI安全"投币"

昨天晚上刷到一条新闻，OpenAI宣布向英国AI安全研究所的"对齐项目"（The Alignment Project）捐赠750万美元，用于支持独立的AI对齐研究。说实话，第一眼看到这个数字的时候，我有点疑惑——750万美元？在如今动辄几十亿、上百亿美元融资的AI圈子里，这个数字是不是有点太"小"了？

但仔细想想，这750万美元的分量，可能远比账面上的数字要重得多。

### 什么是AI对齐？为什么这么重要？

简单来说，AI对齐（AI Alignment）就是确保人工智能系统的目标和人类价值观保持一致。听起来很抽象？举个简单的例子：

你让AI"帮我尽可能快地赚钱"，结果它可能会建议你去抢劫银行——因为在没有额外约束的情况下，这是最快赚钱的方式。这就是"未对齐"的风险。

更可怕的设想是，当AI能力足够强大时，如果它的目标设定不够精确，可能会以我们无法预见的方式行事，甚至危害人类。这不是科幻电影，而是AI研究界真正在担心的问题。

### 为什么是英国，为什么是现在？

OpenAI这次的捐赠对象是英国AI安全研究所（UK AI Security Institute）创建的The Alignment Project。这里有几个有意思的点：

首先，英国在全球AI治理方面一直走得比较靠前。他们不仅率先成立了专门的AI安全机构，现在还建立了这个全球性的独立研究基金。这说明什么？说明AI安全已经不再是一个"可以等一等"的问题，而是需要立即投入的领域。

其次，OpenAI选择的是"独立研究基金"。这一点很重要。因为AI对齐研究不能完全依赖大公司自己——毕竟，谁会承认自己的产品有问题呢？独立的第三方研究，才能保持客观性和公信力。

### 750万美元能做什么？

回到最初的问题：750万美元到底能做些什么？

根据公开信息，The Alignment Project会向单个研究项目提供最高100万英镑的资助。这意味着这笔钱可以支持多个研究团队的独立研究。

在AI研究领域，尤其是基础理论研究方面，很多时候钱不是最大的瓶颈——真正稀缺的是独立的研究空间和不被公司利益绑架的研究方向。从这个角度看，这750万美元更像是OpenAI对整个研究社区的一张"邀请卡"："来吧，我们支持你们独立研究，哪怕结论可能对我们不利。"

### 从GPT-5到AGI：对齐研究的紧迫性

最近几个月，我们看到了GPT-5、GPT-5.3等模型的快速迭代。与此同时，Agentic AI（可以自主决策和行动的AI）也开始走向实用化。AI的能力正在以惊人的速度增长。

能力越强，对齐就越重要。就像一辆越来越快的赛车，刹车系统必须同步升级，否则迟早会出事。

OpenAI这次的捐赠，某种程度上也反映了一种态度：我们不仅在加速，也在思考如何安全地加速。

### 个人的一点看法

说实话，我对AI对齐这个问题一直挺矛盾的。

一方面，我当然支持更多的安全研究——谁不想AI是安全的呢？

但另一方面，有时候我会觉得，整个行业是不是把太多注意力放在"潜在的、遥远的未来风险"上，而忽视了"当前的、现实的问题"？比如AI的偏见、幻觉、数据隐私，这些是每天都在发生的实际问题。

不过，OpenAI这次的捐赠让我稍微改变了一些看法。因为对齐研究不仅仅是防止"AI毁灭人类"这种遥远的风险，它还包括更实际的问题：如何确保AI理解人类的真实意图？如何让AI在模糊的指令下做出合理的选择？这些都是当下就能用得上的研究。

### 最后的一点想法

750万美元，对OpenAI来说可能只是零花钱，但对AI对齐研究社区来说，这可能是一个重要的信号：

AI安全不再是可有可无的"锦上添花"，而是必须认真对待的"生存必要"。

当然，这只是第一步。要真正解决AI对齐这个世纪难题，需要的远远不止750万美元。但至少，我们正在往正确的方向走。

**你怎么看？** 欢迎在评论区分享你的观点：AI安全研究应该投入更多资源，还是应该先把眼前的问题解决好？

---

*本文首发于2026年2月20日，作者为长期关注AI领域的科技博主。*

Blog

OpenAI豪掷750万美元押注AI安全，这次真的要解决最棘手的问题了吗？