摘要：监督组织和研究人员表示，生成式人工智能工具的出现使人们几乎无需付出任何努力就能高效地生成新颖、详细的在线评论，这让商家、服务提供商和消费者进入了未知领域。

（美联社）监督组织和研究人员表示，生成式人工智能工具的出现使人们几乎无需付出任何努力就能高效地生成新颖、详细的在线评论，这让商家、服务提供商和消费者进入了未知领域。

虚假评论长期以来困扰着许多受欢迎的消费者网站，例如亚马逊和 Yelp。虚假评论通常在虚假评论经纪人和愿意付费的企业之间通过私人社交媒体群组进行交易。有时，此类评论是由企业发起的，这些企业会向客户提供礼品卡等奖励，以换取正面反馈。

但科技行业专家表示， OpenAI 的ChatGPT所推广的人工智能文本生成工具使欺诈者能够更快、更大量地产生评论。

这种欺骗行为在美国是违法的，一年四季都在发生，但在节日购物季，消费者的问题变得更加严重，因为很多人依靠评论来帮助他们购买礼物。

——人工智能生成的评论出现在哪里？

虚假评论遍布各行各业，从电子商务、住宿和餐饮，到房屋维修、医疗保健和钢琴课程等服务。

透明公司 (Transparency Company) 是一家使用软件检测虚假评论的科技公司和监督组织，该公司表示，它将在 2023 年中期开始看到大量人工智能生成的评论出现，并且自那以后数量成倍增加。

透明公司本月发布的一份报告分析了家居、法律和医疗服务三个领域的 7300 万条评论。近 14% 的评论可能是假的，该公司表示“高度确信”230 万条评论部分或全部由人工智能生成。

“对于这些评论骗子来说，这真的是一个非常好的工具，”科技初创公司投资者和顾问莫里·布莱克曼说，他审查了透明公司的工作，并将于 1 月 1 日开始领导该组织。

8 月，软件公司 DoubleVerify 表示，它观察到手机和智能电视应用中使用生成式人工智能撰写的评论“显著增加”。该公司表示，这些评论通常被用来欺骗客户安装可能劫持设备或不断播放广告的应用程序。

次月，联邦贸易委员会起诉了名为 Rytr 的人工智能写作工具和内容生成器公司，指控其提供的服务可能通过虚假评论污染市场。

美国联邦贸易委员会今年禁止出售或购买虚假评论，该委员会表示，Rytr 的一些订阅用户使用该工具为车库门维修公司、“仿制”名牌手袋卖家和其他企业制作了数百甚至数千条评论。

——它可能也会出现在知名的在线网站上

人工智能检测公司 Pangram Labs 的首席执行官马克斯·斯佩罗 (Max Spero) 表示，他公司使用的软件几乎可以肯定地检测到，亚马逊上发布的一些人工智能生成的评价会浮现在评论搜索结果的顶部，因为它们非常详细并且看起来是经过深思熟虑的。

但确定哪些是假的可能具有挑战性。亚马逊表示，外部各方可能无法做到这一点，因为他们无法“获取表明滥用模式的数据信号”。

Pangram Labs 已经对一些知名在线网站进行了检测，但 Spero 因保密协议而拒绝透露这些网站的名称。他表示，他独立评估了亚马逊和 Yelp。

Spero 表示，Yelp 上许多由人工智能生成的评论似乎都是由那些试图发布足够多的评论以获得“精英”徽章的个人发布的，该徽章旨在让用户知道他们应该信任这些内容。

有了徽章，人们就可以参加当地企业主举办的独家活动。欺诈者也希望获得徽章，这样他们的 Yelp 个人资料看起来会更真实，前联邦刑事调查员、管理着一个名为“虚假评论观察”的监督组织的凯·迪恩 (Kay Dean) 说。

可以肯定的是，评论是人工智能生成的并不一定意味着它是假的。一些消费者可能会尝试使用人工智能工具来生成反映他们真实情感的内容。一些非英语母语人士表示，他们求助于人工智能来确保他们在撰写的评论中使用准确的语言。

密歇根州立大学市场营销学教授 Sherry He 曾研究过虚假评论，她说：“如果评论是出于善意，它可以帮助评论，（并且）使评论更具参考价值。”她表示，科技平台应该关注不良行为者的行为模式，知名平台已经这样做了，而不是阻止合法用户使用人工智能工具。

——企业正在做什么

知名公司正在制定政策，以将人工智能生成的内容纳入其系统，从而删除虚假或辱骂性评论。一些公司已经采用算法和调查团队来检测和删除虚假评论，但也为用户提供了使用人工智能的一定灵活性。

例如，亚马逊和 Trustpilot 的发言人表示，只要客户的真实体验得到反映，他们就会允许客户发布人工智能辅助评论。Yelp 则采取了更为谨慎的做法，称其准则要求评论者自己撰写评论。

该公司在一份声明中表示：“随着近期消费者对人工智能工具的采用不断增加，Yelp 已投入大量资金来更好地检测和缓解我们平台上的此类内容。”

亚马逊、Trustpilot、就业评论网站 Glassdoor 以及旅游网站 Tripadvisor、Expedia 和Booking.com去年成立的可信评论联盟表示，尽管欺骗者可能会将人工智能用于非法用途，但该技术也提供了“一个机会来反击那些试图利用评论误导他人的人”。

该组织表示：“通过分享最佳实践和提高标准，包括开发先进的人工智能检测系统，我们可以保护消费者并维护在线评论的完整性。”

美国联邦贸易委员会于 10 月生效的禁止虚假评论的规定允许该机构对从事此类行为的企业和个人进行罚款。提供此类评论的科技公司不受处罚，因为根据美国法律，它们不对外部人士在其平台上发布的内容承担法律责任。

亚马逊、Yelp 和谷歌等科技公司已起诉虚假评论中介，指控他们在自己的网站上兜售虚假评论。这些公司表示，他们的技术已屏蔽或删除了大量可疑评论和可疑账户。然而，一些专家表示，他们还可以做得更多。

“他们迄今为止的努力还远远不够，”虚假评论观察组织的迪恩说。“如果这些科技公司如此致力于消除其平台上的评论欺诈，那么为什么我这样一个没有使用自动化工具的人，每天都能发现数百甚至数千条虚假评论呢？”

——识别人工智能生成的虚假评论

研究人员表示，消费者可以通过留意一些可能的警告信号来识别虚假评论。过于热情或负面的评论都是危险信号。重复产品全名或型号的术语也是潜在的线索。

谈到人工智能，耶鲁大学组织行为学教授 Balázs Kovács 开展的一项研究表明，人们无法区分人工智能生成的评论和人类撰写的评论。该研究称，一些人工智能检测器还可能被较短的文本所欺骗，而较短的文本在网上评论中很常见。

然而，网上购物者和寻求服务的人应该记住一些“人工智能提示”。Panagram Labs 表示，用人工智能撰写的评论通常较长、结构严谨，并包含“空洞的描述”，例如通用短语和属性。这些评论还往往包含陈词滥调，例如“给我留下深刻印象的第一件事”和“改变游戏规则的事物”。

来源：书香盈袖