理科 LLM 和 文科 LLM
理科LLM 擅长逻辑推理,比如找bug,做数学题,钻研漏洞和写防御性代码。很明显,OpenAI 走的是这一条路,它的关注点是 matter。
文科 LLM 擅长处理和人相关的问题,比如写 GUI,做报告,关心可维护性,甚至是优雅的系统设计。 Anthropic 走的是这一条路,它的关注点是 mind。
做产品(比如写软件)毫无疑问两者都要,但却远远不够。你可以轻易地把这两个模型排列组合,可以得到一个看起来像模像样,但完全是 slop 的产物。
为什么?因为人有一种超能力:感知 quality。我们可以轻易地感知到,这个产品背后有没有真实的人,这些人是否在乎这个产品。
举个例子,当你使用微软的产品,比如 Teams,你可以非常明显的感受到微软不在乎你。相反,当你使用 Telegram 时,哪怕它也有很多 bug,但你知道他们是在乎自己的产品的。
再比如,当我收到一个 PR 时,我能非常快速感知到这个 PR 到底是 slop 还是 认真思考的结果。当我 review paper 时,我能立马感受到这个 paper 到底是在推进人类知识,还是在刷业绩。
Quality 是超越 mind and matter 的。它无法被具体 define,也自然无法被纳入训练集。也许这是人类最后的 moat。
理科LLM 擅长逻辑推理,比如找bug,做数学题,钻研漏洞和写防御性代码。很明显,OpenAI 走的是这一条路,它的关注点是 matter。
文科 LLM 擅长处理和人相关的问题,比如写 GUI,做报告,关心可维护性,甚至是优雅的系统设计。 Anthropic 走的是这一条路,它的关注点是 mind。
做产品(比如写软件)毫无疑问两者都要,但却远远不够。你可以轻易地把这两个模型排列组合,可以得到一个看起来像模像样,但完全是 slop 的产物。
为什么?因为人有一种超能力:感知 quality。我们可以轻易地感知到,这个产品背后有没有真实的人,这些人是否在乎这个产品。
举个例子,当你使用微软的产品,比如 Teams,你可以非常明显的感受到微软不在乎你。相反,当你使用 Telegram 时,哪怕它也有很多 bug,但你知道他们是在乎自己的产品的。
再比如,当我收到一个 PR 时,我能非常快速感知到这个 PR 到底是 slop 还是 认真思考的结果。当我 review paper 时,我能立马感受到这个 paper 到底是在推进人类知识,还是在刷业绩。
Quality 是超越 mind and matter 的。它无法被具体 define,也自然无法被纳入训练集。也许这是人类最后的 moat。