微软已经对一个据称故意开发并使用工具绕过其云AI产品安全防护的团体采取了法律行动。
根据微软于2022年12月在美国弗吉尼亚东区地方法院提交的起诉书，一个由10名未具名被告组成的团体使用窃取的客户凭证和定制设计的软件，侵入了Azure OpenAI服务。这是微软提供的完全托管服务，基于OpenAI公司开发的技术。
在起诉书中，微软指控这些被告（仅称为“Does”，这是法律上的代称）违反了《计算机欺诈和滥用法》、《数字千年版权法》以及联邦反敲诈法，非法访问并使用微软的软件和服务器，目的是“生成不恰当”、“有害且非法”的内容。微软没有提供关于生成的具体不当内容的具体细节。
微软寻求禁令和其他形式的救济以及赔偿。
起诉书中提到，微软在2024年7月发现，使用Azure OpenAI服务凭证（特别是API密钥）生成的内容违反了该服务的使用政策。随后通过调查发现，这些API密钥是从付费客户那里窃取来的。
“被告如何获得所有用于实施本诉状中描述不当行为的API密钥的具体方式尚不清楚，”起诉书指出，“但似乎被告采取了一种系统性的API密钥窃取模式，从而从多个微软客户那里窃取了API密钥。”
微软声称被告使用来自美国客户的Azure OpenAI服务API密钥创建了一个“黑客即服务”方案。根据起诉书，为了实施这一方案，被告创建了一个名为de3u的客户端工具以及用于处理和路由从de3u到微软系统的通信软件。
de3u允许用户利用被盗的API密钥无需编写代码即可生成由OpenAI模型之一DALL-E创建的图像。起诉书还指出，de3u试图阻止Azure OpenAI服务修改用于生成图像的提示，例如当文本提示包含触发微软内容过滤器的词语时。
目前，在GitHub上托管de3u项目代码的仓库已不可访问（GitHub是微软拥有的公司）。
“这些功能结合了被告非法程序化的API访问权限，使他们能够逆向工程绕过微软的内容和滥用措施的方法。”起诉书写道。“被告未经授权故意访问了Azure OpenAl服务保护计算机，并因此造成了损害和损失。”
周五发布的博客文章中，微软表示法院已授权其查封一个对被告操作至关重要的网站，以便收集证据、解码被告声称的服务如何盈利，并中断任何发现的技术基础设施。
此外，微软表示已采取了反制措施，并增加了针对观察到活动的安全缓解措施。
总结：本文报道了微软对一个涉嫌故意开发并使用工具绕过其云AI产品安全防护的团体采取法律行动的情况。该团体通过窃取客户凭证和定制设计软件侵入Azure OpenAI服务，并利用这些工具生成不当内容。微软寻求法律救济并采取了一系列安全措施来保护其服务。
