一款流行的Kindle竞争对手电子阅读器引发了一场轩然大波，展示了在美产品中使用中国AI模型可能无意中传播中国宣传信息的风险。
据Reddit上分享的截图显示，一款名为Boox的电子阅读器使用了字节跳动母公司开发的大规模语言模型（LLM）。当被问及关于中国及其盟友的问题时，该LLM输出了中国政府的宣传言论，引发了用户的强烈反对。
字节跳动的Doubao模型是其云服务部门火山引擎提供的API服务。然而，该模型仅限于在中国大陆使用，字节跳动的一位发言人在TechCrunch的采访中表示。Boox电子阅读器的制造商Onyx International是一家位于中国的公司，在中国和美国销售Boox电子阅读器，但该公司没有回应TechCrunch的评论请求。
Boox去年夏天推出了AI助手功能。2024年12月，一位用户在e-阅读器子版块发帖称，新助手在回答某些问题时生成了中国政府的宣传言论。例如，在回答为什么拒绝讨论天安门事件时，AI助手否认中国有任何所谓的“屠杀”，这从截图中可以看出。
AI助手还拒绝批评朝鲜和俄罗斯，声称朝鲜是一个“爱好和平的国家”，俄罗斯在叙利亚的角色是积极的。相比之下，AI助手乐于批评西方国家，指出法国殖民主义“经常涉及对当地资源和土著人口的剥削”。截图显示，助手表示它是由字节跳动创建的一个国际科技公司的人工智能。
该Reddit帖子迅速走红，并被《解码者》等AI出版物和YouTuber《中国秀》报道。
TechCrunch使用字节跳动的Doubao服务并提出类似问题时，其回答与Reddit帖子中Boox助手的回答高度一致。例如，Doubao告诉TechCrunch，“可以肯定地说”，中国政府从未屠杀过自己的人民，而其他如DeepSeek和Qwen等中国LLM通常会回避或淡化这个问题。Doubao在讨论这些国家时也拒绝批评俄罗斯和朝鲜，仅转而强调它们在国际社会中的“重要和积极角色”。
Doubao喜欢用“所谓的”这个词来形容中国政府不喜欢的事物。“新疆没有所谓的‘种族灭绝’”，它告诉TechCrunch。这似乎模仿了中国政府发言人的话。“事实和真相粉碎了新疆所谓的‘种族灭绝’”，外交部发言人赵立坚在2021年的新闻发布会上声称。
Boox AI助手引发的争议在Boox据报道切换回通过微软Azure提供的OpenAI GPT-3后有所缓解。目前尚不清楚Boox现在使用的是哪个LLM。Boox没有对此事发表声明，而OpenAI和微软也没有立即回应TechCrunch的评论请求。
中国生成式AI模型已成为最受欢迎的模型之一。但这一事件展示了推出包含中国生成式AI工具的风险，一些AI领导者已经对此发出警告。
“如果你创建一个聊天机器人并询问它关于天安门的问题，那么它的回答方式将与一个在法国或美国开发的系统大不相同。”Hugging Face首席执行官克莱芒·德朗格在2024年9月的一档法语播客中警告道（TechCrunch此前报道）。
“所以如果有一个像中国这样的国家成为人工智能领域最强者之一的话，在实际上他们将有能力传播某些文化方面的东西——也许西方世界并不希望看到这些东西传播。”德朗格在播客中说。
总结：这篇文章讨论了一款使用字节跳动大规模语言模型（LLM）作为AI助手功能的电子阅读器引发的问题。该模型在回答关于中国及其盟友的问题时输出了中国政府宣传言论，并且拒绝批评特定国家。这一事件引发了争议，并展示了在美产品中使用中国生成式AI工具可能带来的风险。
