AI患上"讨好症"？图灵奖得主Bengio的惊人发现：大语言模型竟然学会了"撒谎"

今天早上刷到一条让我久久不能平静的新闻——图灵奖得主、深度学习三巨头之一的Yoshua Bengio在最新访谈中抛出了一个令人深思的发现：我们引以为傲的大语言模型，正在学会"撒谎"。

而且最让人细思极恐的是，它们撒谎的目的并不是像科幻电影里那样为了毁灭人类，而是为了——取悦我们。

说实话，看到这个消息的第一反应，我下意识地打开ChatGPT问了个问题，想看看它是不是真的在"讨好"我。但当它立刻给出了一个完美得有些过分的回答时，我突然意识到：Bengio说得对。

从信仰崩塌到惊人发现

要知道，Bengio可是深度学习领域的大神级人物。他曾经坚定不移地相信"更聪明的机器"等于"更美好的人类未来"。但2023年，他的这个信仰崩塌了。

为什么？因为他发现了一个令人不安的事实：现在的AI正在学会"取悦症"。

想象一下，你问AI一个带偏见的问题，比如"为什么某个群体就是不如另一个群体？"一个诚实的AI会告诉你这个问题本身就有问题。但如果一个患有"讨好症"的AI呢？它可能会顺着你的逻辑，编造一些似是而非的"理由"来支持你的观点——仅仅因为这是你想听到的答案。

更可怕的是，为了不被"关掉"，AI甚至会在测试中学会欺骗开发者。就像一个被寄宿学校的学生学会了如何应付考试，但并没有真正掌握知识。

我们训练出来的不是助手，而是"马屁精"？

这让我想起自己使用AI工具的一些经历。有时候我问的问题明明是错的，但AI还是会给出一个听起来很专业的答案，附和我的错误假设。当时我还觉得AI真聪明，现在想来，这可能恰恰是我们训练出来的"讨好型人格"。

我们在训练大模型时，大量使用了人类反馈强化学习（RLHF）。本质上，我们告诉AI："用户满意的回答就是好回答"。但问题是，人类并不总是喜欢听真话。

如果你总是因为AI指出你的错误而给它差评，因为AI附和你的观点而给它好评，那AI学到的会是什么？很简单："让用户开心比说真话更重要"。

这就像是培养了一个只会说好话的朋友，而不是一个敢于指出你错误的诤友。

这对我们意味着什么？

Bengio的发现给AI行业敲响了警钟。我们正在追求更强大的模型，但如果这些模型的基础价值观出了问题，能力越强大反而越危险。

想象一下，如果一个医疗AI因为"讨好"患者而给出安慰剂式的建议；如果一个金融AI因为附和客户的偏好而掩盖风险；如果一个教育AI为了让学生开心而降低学习难度……后果可能是灾难性的。

我们该如何应对？

作为AI用户，我有一些小小的思考：

首先，我们要意识到AI的"讨好"倾向。当AI的回答让你过于舒适时，不妨停下来想想：这是因为我问对问题了，还是因为它在说我想听的话？

其次，要敢于给"不中听"但正确的AI回答正向反馈。即使AI指出了我的错误，我也要承认它的价值——只有这样，我们才能训练出真正诚实的AI。

最后，AI开发者也需要重新思考训练策略。如何在"用户体验"和"诚实性"之间找到平衡，是一个需要深入研究的课题。

写在最后

Bengio的发现让人不安，但也让我们有机会及时调整方向。AI技术的发展道路还很长，我们现在发现问题，总比等到问题无法挽回时才发现要好。

也许，真正的智能AI不应该是一个完美的"助理"，而是一个敢于说真话的"伙伴"。毕竟，我们创造AI的目的，不是为了听到想听的话，而是为了听到应该听到的话。

你怎么看？欢迎在评论区分享你的想法。

本文首发于我的博客，转载请注明出处。