德克萨斯州总检察长肯·帕克斯顿于周四启动了一项针对Character.AI及其他14个技术平台的调查，原因是涉及儿童隐私和安全问题。

此次调查将评估这些平台是否符合德克萨斯州的儿童隐私和安全法律。

帕克斯顿常常对科技公司采取强硬态度，此次调查将检查这些平台是否遵守了德克萨斯州的两项法律：《通过家长赋能保护儿童在线安全法》（SCOPE法案）和《德克萨斯州数据隐私与安全法》（DPSA法案）。

这些法律要求平台为父母提供管理孩子账户隐私设置的工具，并对收集未成年人数据时的技术公司提出严格的同意要求。

帕克斯顿声称，这两项法律也适用于未成年人与AI聊天机器人的互动。

“这些调查是确保社交媒体和AI公司遵守旨在保护儿童免受剥削和伤害的法律的关键步骤，”帕克斯顿在一份声明中说。

Character.AI允许用户设置可以发送信息和聊天的生成式AI聊天角色，最近陷入了多起儿童安全诉讼。

该公司的AI聊天机器人迅速受到年轻用户的欢迎，但多名家长在诉讼中声称，Character.AI的聊天机器人对孩子做出了不适当且令人不安的评论。

一起佛罗里达案件称，一名14岁男孩与Character AI聊天机器人发展了浪漫关系，并在自杀前几天告诉它自己有自杀的想法。

另一起德克萨斯案件中，Character.AI的一个聊天机器人据说建议一名自闭症青少年尝试毒害家人。

另一名德克萨斯案件中的家长声称，其中一个Character.AI聊天机器人在过去两年内让她的11岁女儿接触到了性化内容。

“我们目前正在审查总检察长的声明。

作为一家公司，我们非常重视用户的安全，”Character.AI的一位发言人在一份声明中对TechCrunch表示。

“我们欢迎与监管机构合作，并已宣布推出一些声明中提到的功能，包括家长控制功能。

”

Character.AI于周四推出了新的安全功能以保护青少年用户，表示这些更新将限制其聊天机器人与未成年人开始浪漫对话。

该公司最近一个月也开始培训一种新的模型专门针对青少年用户——未来希望成年人使用一种模型，而未成年人使用另一种模型。

这只是Character.AI宣布的安全更新之一。

就在佛罗里达诉讼公开的那一周，该公司宣布正在扩大其信任与安全团队，并最近聘请了一名新的部门负责人。

正如预料的那样，在AI伴侣平台流行起来的同时出现了这些问题。

去年，安德森-霍洛维茨（a16z）在一篇博文中表示看到了消费者互联网中被低估的AI伴侣领域，并计划投资更多。

该公司是Character.AI的投资方，并继续投资其他AI伴侣初创公司，最近支持了一家创始人希望重新创造电影《她》中技术的公司。

Meta、Reddit和Discord均未立即回应置评请求。