巴黎的人工智能行动峰会刚刚结束，Anthropic的联合创始人兼CEO达里奥·阿莫迪认为这是一个“错失的机会”。他在周二的声明中指出，“鉴于技术进步的速度，需要更多的关注和紧迫感。”
Anthropic与法国初创公司Dust合作，在巴黎举办了一场面向开发者的活动，并且TechCrunch有幸在会上采访了阿莫迪。他解释了自己的观点，并提出了一个既非纯粹乐观也非纯粹批判的新路径。
“我曾是一名神经科学家，研究真实的脑部结构。现在我们正在研究人工智能的‘大脑’。在未来几个月内，我们在可解释性方面将取得一些激动人心的进步——我们开始真正理解这些模型是如何运作的。”阿莫迪对TechCrunch表示。
“但这是一个竞赛。这是关于让模型更强大的竞赛，对我们来说进展非常快，对其他人来说也是如此——你不能放慢脚步，对吧？……我们的理解必须跟上我们构建东西的能力。我认为这是唯一的方法。”
自从英国布莱切利园的第一场AI峰会以来，围绕AI治理的讨论基调已经发生了显著变化。这在一定程度上是由于当前的地缘政治格局。
“今天早上我不是来讨论AI安全的，这在过去几年的会议上是主题。”美国副总统杰德·范斯在巴黎的人工智能行动峰会上说，“我在这里谈论的是AI的机会。”
有趣的是，阿莫迪试图避免将安全与机会对立起来。事实上，他认为对安全的关注本身就是一种机会。
“在最初的布莱切利园峰会上，有很多关于各种风险测试和测量的讨论。我认为这些事情并没有减缓技术的发展速度。”阿莫迪在Anthropic活动上表示，“实际上，进行这种测量帮助我们更好地理解我们的模型，最终有助于我们生成更好的模型。”
每次阿莫迪强调安全时，他也会提醒大家Anthropic仍然非常专注于构建前沿AI模型。
“我不想降低这种潜力。我们每天都在提供人们可以构建并用于做非凡事情的模型。我们绝对不应该停止这样做。”他说。
“当人们谈论风险时，我有点生气，并说：‘哦，天哪，还没有人真正解释过这项技术有多伟大’”他在对话中补充道。
DeepSeek的训练成本“不准确”
当话题转向中国LLM制造商DeepSeek最近发布的模型时，阿莫迪淡化了技术成就，并表示公众反应显得有些不自然。
“老实说，我的反应很小。我们在去年12月看到了V3模型——这是DeepSeek R1的基础模型——那是一个令人印象深刻的表现。”他说道，“12月发布的模型处于我们和其他模型的成本降低曲线中。”
值得注意的是该模型不是来自美国的几个前沿实验室之一。他列举了谷歌、OpenAI和Anthropic等实验室作为通常推动新模型发布的前沿实验室。
“这对我来说是一个地缘政治问题。我不希望专制政府主导这项技术。”他说。
至于DeepSeek声称的训练成本问题，他否定了训练DeepSeek V3的成本比美国低100倍的说法：“我认为这并不准确，并没有基于事实。”
即将推出的具有推理能力的Claude模型
虽然阿莫迪没有在周三的活动中宣布任何新的模型发布计划，但他透露了一些公司即将推出的产品——确实包括推理能力。
“我们一般专注于尝试制作自己独特的推理模型，并使其更加差异化。我们需要确保有足够的容量、让模型变得更聪明，并关注安全性问题。”阿莫迪说道。
Anthropic正在解决的一个问题是模型选择难题。例如，在拥有ChatGPT Plus账户的情况下，在下一条消息的消息选择弹出窗口中选择哪个模型会变得困难。
Image Credits:ChatGPT截图对于使用大型语言模型（LLM）API进行自己应用开发的人来说也是如此。他们希望平衡准确性、答案速度和成本之间的关系。
“我们在某种程度上困惑于普通模型和推理模型之间存在差异的想法。”阿莫迪说，“如果你与我交谈，你不会有两个大脑：一个立即回应而另一个等待更长时间。”
据他所说，根据输入的不同内容，在预训练如Claude 3.5 Sonnet或GPT-4o等和通过强化学习训练并能生成链式思维（CoT）如OpenAI o1或DeepSeek R1之间应该有平滑过渡。
“我们认为这些应该作为一个单一连续体的一部分存在。尽管我们现在可能还没有达到这个目标，但Anthropic真的希望朝着这个方向前进。”阿莫迪说，“我们应该从预训练到预训练模式有一个平滑过渡——而不是‘这里有A事物和这里有B事物’”他补充道。
大AI公司将继续释放更好模式的机会
大AI公司将继续释放更好模式的机会
大AI公司将继续释放更好模式的机会
大AI公司将继续释放更好模式的机会
大AI公司将继续释放更好模式的机会
大AI公司将继续释放更好模式的机会
大AI公司将继续释放更好模式的机会
大AI公司将继续释放更好模式的机会
大AI公司将继续释放更好模式的机会
大AI公司将继续释放更好模式的机会
总结：
本文介绍了巴黎人工智能行动峰会后的一些重要观点和讨论内容。达里奥·阿莫迪认为需要更多的关注和紧迫感来应对技术进步的速度，并提出了一个既非纯粹乐观也非纯粹批判的新路径。
此外他还强调了对安全的关注是机会的一部分，并分享了Anthropic正在努力的方向以及其在医疗、法律、金融等领域应用中的进展。
文章还提到了对DeepSeek声称的成本优势表示质疑的观点。
总的来说，文章展示了人工智能领域的持续发展及其对未来各个行业的潜在影响。
