监督组织和研究人员表示,生成式AI工具的出现,让人们几乎不用工作就能有效地产生新颖而详细的在线评论,这将商家、服务提供商和消费的人置于未知的领域。
虚假评论长期困扰着许多流行的消费者网站,如亚马逊和Yelp。他们通常在私人社交媒体群上在虚假评论经纪人和愿意付费的企业之间交易。有时,这种评论是由企业发起的,这一些企业为顾客提供奖励,如礼品卡,以获得积极的反馈。
但科技行业专家这样认为,由OpenAI的ChatGPT推广的人工智能文本生成工具,使欺诈者能够更快、更大规模地制作评论。
这种欺骗行为在美国是非法的,全年都在进行,但在假日购物季,许多人依靠评论来帮他们购买礼物,这对消费的人来说是一个更大的问题。
从电子商务、住宿和餐馆,到家庭维修、医疗保健和钢琴课等服务,各行各业都有虚假评论。
使用软件检测虚假评论的科技公司和监督管理的机构Transparency Company表示,它在2023年年中开始看到AI生成的评论大量出现,自那以来它们已经成倍增长。
在本月发布的一份报告中,透明公司分析了三个领域的7300万条评论:家庭、法律和医疗服务。近14%的评论可能是假的,该公司表示“高度相信”230万条评论部分或全部是AI生成的。
“对于这些审查骗子来说,这是一个非常非常好的工具,”投资者、科技初创公司顾问莫里·布莱克曼(Maury Blackman)说,他审查了透明公司的工作,并将于1月1日开始领导该组织。
今年8月,软件公司DoubleVerify表示,它观察到手机和智能电视应用程序的“明显地增长”,这些应用程序的评论由生成式人工智能撰写。该公司表示,这些评论经常被用来欺骗客户安装可能劫持设备或不断运行广告的应用程序。
接下来的一个月,美国联邦贸易委员会起诉了开发人工智能写作工具和内容生成器Rytr的公司,指控其提供的服务可能会通过欺诈性评论污染市场。
美国联邦贸易委员会今年禁止销售或购买虚假评论,称Rytr的一些用户使用该工具为车库门维修公司、“复制品”设计师手袋卖家和别的企业制作了数百甚至数千条评论。
人工智能检验测试公司Pangram Labs的首席执行官Max Spero表示,他的公司使用的软件几乎能肯定地检测到,亚马逊上发布的一些人工智能生成的评估出现在评论搜索结果的顶部,因为它们非常详细,似乎经过了深思熟虑。
但是确定什么是假的还是有挑战性的。亚马逊表示,外部各方可能会有所欠缺,因为他们无法“获得表明滥用模式的数据信号”。
Pangram实验室已经对一些著名的在线网站进行了检测,由于保密协议,Spero拒绝透露这些网站的名称。他说他独立评估了亚马逊和Yelp。
Spero说,Yelp上许多人工智能生成的评论似乎是由试图发布足够多评论以获得“精英”徽章的个人发布的,这旨在让用户知道他们应该信任这些内容。
该徽章可让您参加当地企业主的专属活动。前联邦刑事调查员凯·迪恩(Kay Dean)说,欺诈者也希望这样做,以便他们的Yelp档案看起来更真实,她经营着一个名为“虚假评论观察”(Fake Review Watch)的监督组织。
能确定的是,仅仅因为一篇评论是AI生成的,并不一定意味着它是假的。一些消费者可能会尝试人工智能工具来生成反映他们真实情感的内容。一些非英语母语者表示,他们求助于人工智能,以确保他们在撰写的评论中使用准确的语言。
密歇根州立大学市场营销学教授Sherry He对虚假评论进行了研究,他说:“如果评论出于好意,它会有助于评论,并使其提供更多信息。”。她说,技术平台应该关注坏演员的行为模式,这是知名平台已经在做的,而不是阻止合法用户转向人工智能工具。
一些知名公司正在制定政策,让AI生成的内容融入他们的系统,以消除虚假或辱骂性的评论。一些公司已经使用算法和调查团队来检测和删除虚假评论,但给用户一些使用人工智能的灵活性。
例如,亚马逊和Trustpilot的发言人表示,他们将允许客户发布人工智能辅助的评论,只要它们反映了他们的真实体验。Yelp采取了更为谨慎的方式,称其指导方针要求评论者自己撰写文章。
该公司在一份声明中表示:“随着最近消费者对人工智能工具的采用率上升,Yelp已经在更好地检测和缓解我们平台上此类内容的方法上进行了重大投资。”
亚马逊、Trustpilot、就业评论网站Glassdoor以及旅游网站Tripadvisor、Expedia和年发起的可信评论联盟(Coalition for Trusted Reviews)表示,尽管骗子可能会非法使用人工智能,但该技术也提供了“一个反击那些试图利用评论误导他人的人的机会”
“通过分享最佳实践和提高标准,包括开发先进的人工智能检测系统,我们可以保护消费者并维护在线评论的完整性,”该组织表示。
联邦贸易委员会禁止虚假评论的规定于10月生效,允许该机构对从事这种行为的企业和个人进行罚款。主持此类评论的科技公司免受处罚,因为根据美国法律,它们不对外人在其平台上发布的内容承担法律责任。
包括亚马逊、Yelp和谷歌在内的科技公司起诉了虚假评论经纪人,指控他们在其网站上兜售虚假评论。这些公司表示,他们的技术已经阻止或删除了大量可疑评论和可疑账户。然而,一些专家说他们可以做得更多。
“到目前为止,他们的努力还远远不够,”假货审查观察的迪安说。“如果这些科技公司如此致力于消除他们平台上的评论欺诈,为什么我,一个在没有自动化的情况下工作的人,可以在任何一天找到数百甚至数千条虚假评论?”
据研究人员称,消费者可以通过留意一些可能的警告信号来识别虚假评论。过度热情或负面的评论是危险信号。重复产品全名或型号的行话是另一个潜在的漏洞。
谈到人工智能,耶鲁大学组织行为学教授Balázs Kovács进行的研究表明,人们无法区分AI生成的评论和人类撰写的评论。该研究称,一些人工智能检测器也可能被较短的文本所愚弄,这在在线评论中很常见。
然而,有一些“人工智能告诉”,网上购物者和服务寻求者应记住它。Panagram Labs表示,用人工智能编写的评论通常更长,高度结构化,并包括“空描述符”,如通用短语和属性。文章也倾向于包含一些陈词滥调,比如“第一件让我震惊的事”和“游戏规则改变者”。
船长在公海遭杀害抛海?威海海警已立案!他原定7月参加女儿婚礼,家属:已请律师,涉事船只预计4月初靠岸
近日,网友小星在社会化媒体上发布信息称,其身为船长的父亲在印度洋公海海域被船员杀害,并称该案已获威海海警立案。
“千禾0”零添加酱油背后:食品专家称零添加剂既不更安全,也不更营养健康
超市内的千禾酱油。图据视觉中国今年3月,《消费者报道》向第三方权威检验测试的机构送检了13款宣称“零添加”的酱油,12款检出镉,7款检出总砷。这13款酱油包括加加、海天、千禾等多个品牌。
远洋渔船船长在公海被船员杀害抛海?威海海警:案件正办理,家属称已请律师,船只已被通知回港。
数万人加入抗议活动 前首席官警告:以色列或爆发内战 #巴以冲突 #以色列 #内战风险
四川泸州叙永县突发4.9级地震 女幼师“教科书”式疏散学生 不忘折返带离最后一个小朋友 #暖心 #正能量 #幼儿园
#大同订婚案明日开庭,男方母亲:双方都提交了新证据,案发至今,儿子从始至终坚持自己无罪
福耀科技大学公布了:首届招100人以内,年学费5460元!大四到境外名校学习一年,与剑桥、牛津、斯坦福等合作
据《福州晚报》3月22日消息,今年该校计划招收100名以内学生,学费每年5460元,采取本硕博贯通培养模式,本科阶段将获得双学位。
开展警示教育,不能千篇一律、照本宣科,要增强针对性、实效性,用好身边人身边事“活教材”,教育引导党员干部真正把自己摆进去。
椰树集团声明“发现一瓶造假奖100万”,业内揭秘:一升椰子水卖9块9有猫腻
3月24日,椰树集团官网发文称,椰树牌真百分百原汁原味椰子水,绝不用废料椰子水生产,敢承诺发现一瓶造假重奖100万元。
当其他城市的商场还在“卷”豪华装修时,深圳的商场,慢慢的开始“卷”公园了。
韩国民主劳总全北支部等市民团体于3月24日声明,若韩国在26日前不确定尹锡悦弹劾案判决日程,将从27日起举行总罢工和全面斗争,这一事件反映出韩国当前复杂的政治局势和社会矛盾。