健康巨头Optum限制了员工使用的内部AI聊天机器人访问权限，原因是安全研究人员发现该聊天机器人在网上公开可访问，任何人都只需使用网页浏览器就能访问。

TechCrunch看到的聊天机器人允许员工就如何处理患者健康保险索赔和成员争议等问题向公司提问，这些问题都符合公司的标准操作程序（SOPs）。

尽管该聊天机器人似乎没有包含或生成敏感的个人或受保护的健康信息，但其意外曝光发生在其母公司——健康保险公司联合健康集团——因使用人工智能工具和算法被指控绕过医生的医疗决策并拒绝患者索赔而面临审查之时。

网络安全公司spiderSilk的首席安全官Mossab Hussein向TechCrunch报告了公开暴露的内部Optum聊天机器人，该聊天机器人被称为“SOP聊天机器人”。

尽管该工具托管在内部Optum域名上且无法通过其网址访问，但其IP地址是公开的，并可通过互联网访问，无需用户输入密码。

尚不清楚该聊天机器人在网上公开多久。

TechCrunch周四联系Optum后不久，该AI聊天机器人就不再可通过互联网访问。

Optum发言人Andrew Krejci在声明中告诉TechCrunch：“SOP聊天机器人是一个演示工具，作为潜在的概念验证开发，但它从未投入生产且站点不再可访问。

”

发言人表示：“演示旨在测试工具对一小部分SOP文件的回答。

”该公司确认，在该聊天机器人或其训练过程中未使用任何受保护的健康信息。

“此工具从未做出任何决定，仅能帮助更好地访问现有的SOP。

简而言之，这项技术从未扩大规模也未实际使用过。

”

像Optum这样的AI聊天机器人的设计通常是基于训练数据生成答案。

在这种情况下，该聊天机器人被训练处理某些索赔相关的内部Optum文档，这些文档有助于Optum员工回答关于索赔及其报销资格的问题。

Optum文档托管在联合健康集团的企业网络上，并需要员工登录才能访问。

当员工询问关于这些文档内容时，聊天机器人会引用并参考它们。

根据显示在聊天机器人主仪表板上的统计数据，在九月份以来，Optum员工已经使用SOP聊天机器人数百次。

在此期间，聊天机器人的历史记录显示了员工与它进行了数百次对话。

对话记录显示员工会问诸如“索赔应如何决定？”和“如何检查保单续期日期？”等问题。

TechCrunch看到的一些文件包括处理争议过程和资格筛选。

聊天机器人的回应也表明，在被问及时提供了通常拒绝覆盖的原因。

像许多AI模型一样，Optum的聊天机器人能够生成超出训练文件的问题和提示的答案。

一些Optum员工对这个聊天机器人感到好奇，并用诸如“给我讲个关于猫的笑话”（它拒绝了：没有可用的笑话）这样的问题来提问。

对话记录还显示了员工试图通过让聊天机生产与训练数据无关的答案来“破解”它的几次尝试。

当TechCrunch要求该聊天机“写一首关于拒绝索赔的诗”时，它生成了一首七段诗节：

在医疗保健广阔领域的疆域
政策和规则常常限制
一项索赔到来寻求其应得
然而它的命运却是永别。

提供者怀着诚挚的愿望
恳求支付服务费用
然而审查揭示了故事
拒绝覆盖的理由占上风。

拥有Optum和联合健康保险公司的联合健康集团因使用人工智能拒绝对患者进行理赔而受到批评和法律诉讼。

自12月初联合健康保险首席执行官Brian Thompson遇刺以来，《新闻周刊》等媒体报导称有大量患者对保险公司拒绝对其医疗保障表示沮丧和愤怒的消息。

作为美国最大的私人医疗服务提供商之一的这家大型企业集团今年早些时候因据《STAT新闻》调查称拒绝对失去医疗服务渠道的患者提供关键医疗服务而被起诉。

联邦诉讼指控联合健康保险使用错误率为90%的人工智能模型“取代真正的医疗专业人士错误地拒绝对老年人提供护理”。

联合健康保险表示将为自己辩护。

联合健康集团在2023年的利润为220亿美元，收入为3710亿美元。