英伟达推出NIM微服务,为企业AI代理增强安全控制

NVIDIA 最近推出了一套新的 NIM(Nvidia Infrastructure Microservices),这是对 NeMo Guardrails 开源工具包的扩展,旨在为企业 AI 代理应用提供更多精细的安全控制功能。这套新服务各有特色:第一个专注于内容安全,防止生成有害或有偏见的内容;第二个确保对话仅限于经过批准的主题;第三个则防止 AI 代理绕过系统限制或进行“越狱”。

英伟达推出三大AI安全工具,助力控制聊天机器人

最近,英伟达在其NeMo Guardrails平台上新增了三项安全功能,旨在帮助企业更好地管理和控制AI聊天机器人。这些微服务针对AI安全和内容审核中的常见挑战,提供了多种实用解决方案。其中,内容安全服务可以在AI回复用户之前审查内容,检测任何潜在的有害信息。这项服务有助于防止……