转发: 新闻实验室会员通讯(917)当AI冒充你给人改文章

136 字
1 分钟

发件人: noreply=newsletter.newslab.info@mg.newslab.info <noreply=newsletter.newslab.info@mg.newslab.info>代表新闻实验室Newsletter <noreply@newsletter.newslab.info>
已发送: 2026年3月26日星期四 00:29:07 (UTC+08:00) Beijing, Chongqing, Hong Kong, Urumqi
收件人: edwinsui@outlook.com <edwinsui@outlook.com>
主题: 新闻实验室会员通讯(917)当AI冒充你给人改文章

新闻实验室Newsletter

新闻实验室Newsletter

新闻实验室会员通讯(917)当AI冒充你给人改文章

By 方可成 • 2026年3月25日

View in browser

Photo by Mohamed Nohassi / Unsplash

生成式AI工具的普及,正带来许多新鲜的问题。本期新闻实验室会员通讯想要介绍的,就是最近的一个案例,它测试着版权、知情同意、合理使用、商业模式等议题的边界。

专家名人“现身”做你的编辑

相信对于新闻实验室的不少读者来说,写作辅助工具Grammarly并不是一个陌生的名字——它是人们用来纠正拼写和语法的老朋友。

在AI浪潮的推动下,Grammarly的母公司去年更名为Superhuman,推出了一系列以AI为核心的产品。其中,Grammarly的一个名为“Expert Review”(专家评审)的功能,在2025年8月悄然上线,直到几个月后被广泛报道和批评。

据《连线》杂志 报道 ,专家评审功能的运作方式是:用户将自己的文章提交给Grammarly后,系统不再只是给出一条由AI生成的泛泛建议,而是列出一系列真实存在的学者和作家的名字,声称可以提供“受其作品启发”的修改意见。这些被列出的专家包括畅销小说家Stephen King、天体物理学家Neil deGrasse Tyson,甚至已故科学家Carl Sagan和已故编辑William Zinsser。而这些人对此毫不知情,当然也从未给予过任何授权。

专家评审功能上线后很长一段时间并未引起关注,直到科技媒体纷纷介入。The Verge的记者Stevie Bonifield亲自 测试 这一功能,发现事态远比预想的更严重——AI生成的修改建议竟然标注着她自己上司和同事的名字——The Verge主编Nilay Patel、资深编辑Sean Hollister和Tom Warren、编辑总监David Pierce,以及大量科技记者的名字赫然在列,包括Casey Newton、Joanna Stern、Lauren Goode、Mark Gurman、Kashmir Hill等数十位知名媒体人。尼曼实验室的Joshua Benton也 发现 ,当他把自己编辑的文章输入系统后,“Jay Rosen”、“Marty Baron”、“Margaret Sullivan”等新闻学界业界的知名人物纷纷“现身”,给出各种AI编造的修改建议。

伯明翰大学副教授Vanessa Heggie在LinkedIn上 指出 ,Grammarly的这个新功能也包括了去年1月刚刚去世的英国历史学家David Abulafia,凭借爬取的数据,用他的名义为用户提供写作建议。Heggie称,这种做法“令人发指”(obscene)。

Superhuman方面最初的回应颇为强硬。公司高级传播经理Jen Dakin对《连线》杂志 表示 :专家评审agent并没有声称获得了这些专家的背书或直接参与;它提供的只是受专家作品启发的建议,并将用户引向有影响力的学术声音,供他们进一步深入探索。

换言之,公司认为自己只是在做引用和总结,而非冒充。

“粗劣的替身”:AI以你的名义胡说八道

如果说使用他人名字已经越界,那么AI生成内容的质量之低劣,则将这场争议推向了另一个维度。

著名的调查记者Julia Angwin在《纽约时报》发表的 评论文章 中,详细描述了自己被AI代言的荒诞经历。她说,Grammarly以她的名义给出的编辑建议包括:“Meta是否可能在悄悄利用这些私密信息来优化广告定位,或以不可见的方式为其庞大的商业利益服务?”Angwin评价说,这样的建议根本就不可能是她会给出的,因为这种大而化之、含糊不清的说法或许适合高中生作文,但在重点要描述事实发现的调查报道中完全没有立足之地。

更离谱的是,AI版的“Julia Angwin”建议将一篇新闻报道的开头替换为一个虚构的故事:一个名叫Laura的患者在医院网站上预约看诊,她的私人医疗信息在不知情的情况下被发送给了Facebook。Julia Angwin愤怒地指出,用虚构故事替代事实性的开头,不仅是糟糕的编辑建议,更是一种欺骗,足以毁掉任何新闻记者的职业生涯。她在文章中写道:“AI分不清真实与虚构,分不清调查报道与随手评论。它将所有内容碾平为词汇之间的关联。”

Julia Angwin提到,作家Ingrid Burrington在Bluesky上为这种现象 创造 了一个精妙的新词——sloppelgänger(粗劣的替身),即AI垃圾内容伪装成某个真实的人。

The Verge主编Nilay Patel邀请Superhuman的CEO Shishir Mehrotra做了一场颇有火药味的 播客对话 。他在对话中也直接质疑了这个功能的质量——系统以他的名义给出的建议是“通过添加情感性或高风险词汇来提高标题的紧迫感”。Nilay Patel说,他做了十五年以上的编辑,从未说过这样的话。

《The Verge》的报道还发现,该功能提供的所谓“来源链接”经常指向垃圾网站的抄袭页面或毫不相关的链接,有时甚至完全不是专家本人的作品。这意味着,以某人名义给出的建议实际上可能基于另一个人的文章。许多专家的职务信息也已过时——如果Superhuman事先征求过当事人的意见,这些错误本可以轻易避免。

法律战和“榨取性”的拷问

Juila Angwin在写下批评文章的同时,也发起了法律行动。

她作为首席原告,在纽约南区联邦地方法院对Superhuman提起了 集体诉讼 。诉讼援引的是纽约州已有百年历史的“公开权”(right of publicity)法律,该法律禁止在未经本人同意的情况下将其姓名或肖像用于商业目的。加利福尼亚州也有类似法规。诉讼主张原告群体的损害赔偿金额超过500万美元。

Julia Angwin在《纽约时报》的评论文章中解释了她选择这条法律路径的逻辑:尽管人们通常呼吁制定新法律来应对AI带来的新型伤害,但在这个案例中,一部旧法律完全胜任。美国至少有25个州拥有类似的公开权法规。她的律师Peter Romer-Friedman 表示 ,仅在提起诉讼后的24小时内,就有超过40位作家主动联系他们。

Julia Angwin同时指出了现有法律框架的不足。无论是参议员Amy Klobuchar等人提出的《No Fakes Act》(禁止未经同意的AI数字复制品),还是针对学生运动员的《SAFE Act》,覆盖范围都过于狭窄,无法涵盖Grammarly这种基于文本的姓名使用方式。她甚至提到丹麦正在推动的一项创新立法,允许人们对自己的身体特征、面部和声音注册版权,以防范AI深度伪造。

但她也指出,所有这些提案都建立在两个有缺陷的假设之上:第一,AI内容会是视觉上的复制品;第二,它会好到难以与真人区分。而Grammarly恰恰相反——它既没有制造视觉复制品,其建议也糟糕到足以损害当事人的声誉。

Superhuman方面则坚持认为诉讼缺乏法律依据。CEO Shishir Mehrotra在与Nilay Patel的播客对话中也反复强调,这项功能所做的是标准的attribution(引用和署名),与“冒充”(impersonation)有本质区别——每一条建议旁都清楚标注了“受某人某部作品启发”的字样。

但Nilay Patel毫不留情地回应道:“这不是署名。你们凭空编造了一些东西,然后贴上了我的名字。这不是我说过的任何话,也不是我会说的话。”他三次追问同一个问题:“你觉得你应该付我多少钱来使用我的名字?”Mehrotra始终没有给出直接回答。

3月12日,Superhuman 宣布 下线专家评审功能,Shishir Mehrotra在LinkedIn上 发帖 道歉。并描绘了一个理想化的未来图景——专家们主动选择加入平台,自行控制其知识的呈现方式和商业模式,通过Superhuman的agent平台与粉丝建立深层连接,并从中获得收入。他在播客中表示,公司已经建立了一个70/30的分成模式,类似于苹果应用商店的抽成惯例。

但这套愿景依然遭到了质疑。在Nilay Patel与Shishir Mehrotra长达一小时的播客对话中,两人围绕AI的“榨取性”(extractive nature)展开了激烈交锋。这里面有一个背景是:Shishir Mehrotra曾担任YouTube的首席产品官,至今仍是Spotify的董事会成员。他亲身经历过互联网历史上最重要的版权案之一——Viacom诉YouTube案,并领导团队开发了Content ID这一里程碑式的版权保护工具。Nilay Patel正是利用这段历史,将对话从一个具体的产品争议升维到了一个更宏大的命题:AI的榨取型本质。

他援引一项NBC新闻民调指出,美国公众对AI的好感度甚至低于美国移民和海关执法局(ICE),仅略高于民主党。他认为原因在于AI产业的本质——“你们拿走了互联网上所有人的全部工作成果,现在要用它来取代人类和他们的工作,而不给予任何经济补偿。”

他进一步指出,历史上几乎每一次重大技术变革都带有榨取性,但消费者几乎都站在了技术一边,因为实用价值压倒了社会成本。YouTube上传了Viacom的版权内容,但公众不站在好莱坞大公司一边;Napster让音乐免费流通,但没人同情唱片公司;Uber的劳动成本争议从未阻止人们叫车;社交媒体是否伤害青少年的审判正在进行,但人们仍然在用那些平台。“伟大的消费产品凭借巨大的实用价值克服了社会成本。”而AI呢?人们目前感受到更多的是榨取,消费者所获得的利益却远不够清晰。

Shishir Mehrotra则以自己在YouTube的经历类比,认为公司应主动超越法律要求来保护创作者利益。他以YouTube的Content ID系统为例,说明如何将版权争议转化为对创作者有利的工具——如果有人上传了你的视频,你可以通过Content ID找到它,并选择从中获利。但Patel尖锐地指出,Content ID的核心正是追踪原作者并确保他们获得报酬,“我不认为YouTube会说‘我们让MKBHD(著名Youtuber)免费帮你剪视频’。这在那个生态系统中根本不可能存在。“

对话的最后,Shishir Mehrotra试图将话题引向一个更乐观的方向:创作者可以在Superhuman平台上构建自己的AI agent,以“1000个忠实粉丝每人每年付100美元”的模式建立可持续的商业模式。“AI将让你不仅仅出现在别人的收件箱里,还能带着红笔和蓝笔坐在他们旁边,在他们工作的时候实时帮助他们。”

但要实现这一点,创作者需要“做一些工作”——写下自己的编辑风格、设定触发规则、在系统给出糟糕建议时进行纠正训练。Mehrotra将其比作培训一名新员工:“你会坐下来写一些东西,然后观察他们执行,再纠正他们。”

但Patel的回应一针见血——“你是在说我必须这样做,因为我整个职业生涯中产出的所有作品,已经被AI公司在没有任何补偿的情况下拿走,其价值被压缩到了零。这可真是个很难接受的推销。”

虽然专家评审功能草草下线,但类似的问题一定会再次出现。这里面的核心张力在于:生成式AI的发展到底有没有为让创作者受到尊重、得到激励,又为普通用户创造足够多的价值?从这个案例看来,可能两者都没有做到,有的只是营销手段产生的“权威加持”幻觉。

(本期下载包可以 点此 获取)

Comment

新闻实验室Newsletter © 2026 – Unsubscribe

Powered by Ghost

目录与工具

从右向左滑动可关闭