生成式人工智能工具的出现，让人们几乎无需付出努力就能高效地创作出新颖且详细的在线评论，这使得商家、服务提供商和消费者进入了前所未有的领域。

监管机构和研究人员表示，这种现象让虚假评论的问题变得更加复杂。

长期以来，许多流行的消费者网站，如亚马逊和Yelp饱受虚假评论的困扰。

这些评论通常在假评论经纪人和愿意付费的企业之间通过私人社交媒体群组交易。

有时，企业会提供激励措施，如礼品卡，以换取正面反馈。

然而，根据科技行业专家的说法，融入了人工智能的文本生成工具（如OpenAI的ChatGPT）使得诈骗者能够更快、更大量地生成虚假评论。

这种欺诈行为在美国是违法的，并且一年四季都在进行，但在节假日购物季期间尤其成为一个大问题，因为许多人依赖这些评论来帮助他们购买礼物。

AI生成的评论出现在哪里？ 假评论遍布各行各业，包括电子商务、住宿、餐饮服务以及家庭维修、医疗服务和钢琴课程等服务。

透明公司是一家使用软件检测假评论的科技公司兼监管机构，在2023年中开始发现大量AI生成的评论，并且这一数量自那时起一直在增加。

本月发布的报告中，《透明度公司》分析了来自三个领域的7300万条评论：家居、法律和医疗服务。

几乎有14%的评论可能是假的，并且该公司表示非常有信心有230万条评论部分或完全由AI生成。

“这真是一个非常非常棒的工具，”科技初创公司的投资者兼顾问马修·布莱克曼说。

他审查了《透明度公司》的工作，并将在1月1日接任该组织的领导职务。

8月时，软件公司DoubleVerify报告称观察到越来越多由生成式AI撰写的移动电话和智能电视应用程序中的评论。

该公司表示，这些评论常被用来欺骗客户安装可能劫持设备或不断播放广告的应用程序。

次月，联邦贸易委员会起诉了一家名为Rytr的人工智能写作工具和服务生成器公司，并指控其提供的服务可能污染市场并散布虚假评论。

今年早些时候禁止销售或购买假评论的联邦贸易委员会表示，Rytr的一些订阅者使用该工具为车库门修理公司、仿冒设计师手袋卖家和其他企业生成了数百甚至数千条评论。

Max Spero是AI检测公司Pangram Labs的CEO，《Pangram Labs》使用的软件几乎可以肯定地检测到一些在亚马逊上发布的AI生成评估已上升到搜索结果顶部——因为它们非常详细且似乎经过深思熟虑。

然而，确定哪些是假的或不是假的是有挑战性的。

外部方可能会因为没有访问表明滥用模式的数据信号而未能做到这一点，《亚马逊》曾表示。

由于保密协议，《Pangram Labs》为一些知名在线平台进行了检测工作（Spero拒绝透露名称），他独立地评估了亚马逊和Yelp。

密歇根州立大学市场营销教授谢丽·何研究过假评论，并表示技术平台应该关注不良行为者的行为模式——这是主流平台已经做到的事情——而不是阻止合法用户使用AI工具。

“确实如此。

”Spero说，“许多在Yelp上的AI生成评论似乎是由试图发布足够多以获得‘精英’徽章的人发布的——这个徽章旨在让用户知道他们可以信任内容。

”该徽章还提供了与当地企业主参加独家活动的机会。

“诈骗者也想让他们的Yelp个人资料看起来更真实。

”前联邦刑事调查员凯·戴恩说。

她经营着一个名为“假评论监控”的监管机构。

当然，并非所有由AI生成的评论都是假的。

一些消费者可能会尝试使用AI工具来生成反映他们真实感受的内容。

“如果出于好意的话，它可以有助于撰写评价并使其更加信息丰富。

”密歇根州立大学市场营销教授谢丽·何说。

“技术平台应该关注不良行为者的模式行为——这是主流平台已经做到的事情——而不是阻止合法用户使用AI工具。

” 公司在做什么 一些知名公司在制定政策以确定如何将生成式内容纳入其系统中以移除虚假或恶意评论方面做出了努力。

例如，《亚马逊》和《信任点》发言人都表示将允许客户发布由AI辅助但反映他们真实体验的评价。

《Yelp》则采取了更为谨慎的方法，并要求评审者自己撰写内容。

“随着消费者对人工智能工具采用率的增长，《Yelp》已大幅投资于方法以更好地检测并减轻平台上此类内容的影响。

”该公司在一份声明中表示。

《值得信赖评价联盟》，包括《亚马逊》、《信任点》、求职网站《Glassdoor》以及旅行网站《Tripadvisor》、《Expedia》和《Booking.com》，去年成立时称尽管欺骗者可能将人工智能用于非法用途，但这项技术也提供了一个反击那些试图通过评价误导他人的人的机会。

“通过分享最佳实践并提高标准——包括开发高级人工智能检测系统——我们可以保护消费者并维护在线评价的真实性。

”该组织表示。

今年10月生效的新规禁止虚假评价的行为允许联邦贸易委员会对参与此类行为的企业和个人处以罚款。

根据美国法律，在平台上发布内容的人士不对托管此类评价的技术公司的内容负责。

包括《亚马逊》、《Yelp》和《谷歌》在内的科技公司已起诉被指控在其网站上兜售假冒评价的人工智能代理。

“我们的技术已成功阻止或删除了大量的可疑评价和可疑账户。

”这些公司表示。

然而，一些专家认为他们可以做得更多。

“迄今为止的努力远远不够。

”“假评审监控”的凯·戴恩说，“如果这些科技公司真的致力于消除其平台上虚假评审欺诈行为的话，为什么我一个人每天就能找到数百甚至数千条虚假评审？” 如何识别虚假的人工智能生成评审 研究人员指出消费者可以通过观察几个潜在警告信号来尝试识别虚假评审：过于热情或负面的评审就是其中之一；重复产品全名或型号编号的专业术语也是另一个潜在线索。

关于人工智能的研究表明，《耶鲁大学组织行为学教授巴拉兹·科瓦奇的研究显示人们无法区分人工智能生成与人类撰写的评审之间的差异；一些人工智能检测器也可能被常见于在线评审中的较短文本所愚弄；然而，在线购物者和服务寻求者应留意一些人工智能特征：Pangram Labs指出由人工智能撰写的评审通常较长、结构化且包含诸如通用短语和属性之类的空洞描述；写作也倾向于包含诸如“给我最初的印象”之类的陈词滥调以及“游戏改变者”。