微软最近公布了其Phi家族最新的人工智能生成模型。
名为Phi-4的模型在多个方面有所改进,特别是在解决数学问题方面,微软声称。
这主要得益于更好的训练数据质量。截至周四晚上,Phi-4仅在微软新推出的Azure AI Foundry开发平台上以有限的访问权限提供,并且仅用于研究目的,需遵守微软的研究许可协议。
这是微软最新推出的小型语言模型,参数量为140亿,将与GPT-4o mini、Gemini 2.0 Flash和Claude 3.5 Haiku等其他小型AI模型竞争。
这些较小的AI模型通常运行速度更快、成本更低,并且在过去几年中性能逐渐提升。据微软称,Phi-4性能的提升得益于使用了“高质量合成数据集”与高质量的人工生成内容数据集相结合,并且还有某些未指明的后训练改进。
目前,许多AI实验室都在密切关注合成数据和后训练方面的创新。
Scale AI的CEO Alexandr Wang在周四的一条推文中表示,“我们已经达到了预训练数据的瓶颈”,这与过去几周内关于该话题的多份报道一致。值得一提的是,Phi-4是Sébastien Bubeck离职后发布的首款Phi系列模型。
Bubeck曾是微软AI副总裁,并且是公司Phi模型开发的关键人物。他于今年10月离开微软加入OpenAI。