首页 头条 电报 财讯 研报 企业 专家&对话NEW 人才 展会
给AI生成的文章打上水印,怎么不算文艺复兴呢?
来源:36kr 2 小时前

上个月我在重庆的机场的特产店看到了一个蓝色的小老虎钥匙挂,上面有非常精致的刺绣,写着「吉祥如意」,标价68。 

这标价不俗啊,我问店员:这是手工的吗?店员小姐姐带着恰到好处的微笑:机器绣的,手工的不是这个价格。 

我大为震撼,不是因为68的价格已经买不来手工了,而我惯常的用价格判断是否手搓的标准已经不顶用了。

同理,在这个AI横行的时代,我们该如何鉴别一篇稿子是AI深度创作,还是人工手搓? 

典型的「不是,而是」句式可能是个办法,但并不准确。 

日前,美国人工智能企业Anthropic宣布,8月2日及以后发布的新Claude模型将从上线起为生成内容加入机器可读的标记。 

也就是说,生成的文本将会嵌入人眼无法察觉的隐形水印。目前,这套标记 只针对 Claude 原生输出,并不支持识别其他大模型生成的内容 。 

好家伙,用AI鉴别AI,怎么不算是一场文艺复兴呢? 

01.「大聪明」Anthropic

AI如何鉴别AI?当然不能是在文章末尾加一句「本文由AI生成」,Anthropic的办法是将水印直接「编织」进了文本生成的底层选择过程中,让水印成为文本的一部分。 

这可能有些晦涩,莫不是文字里藏着摩斯密码? 

我们可以分三步来理解这件事儿: 

AI写文章就像做选择题,是一个一个词来筛选的。比如写道「今天天气寒冷且……」时,它脑子里会出现几个意思差不多的候选词,比如「阴沉的」、「灰暗的」,没有水印的时候,选择哪个词就像「扔骰子」,完全随机。

加入水印后,AI选词的规则变了。不再是扔骰子,而是拿着一本「暗号本」,上面写着「遇到这种情况,优先选择【阴沉的】」。

如果只有一个词和暗号本一样,那可能是巧合,但如果一篇文章几千个词都贴合暗号本,那相当于扫中了「水印」,判定为「AI写作」。 

所以,这其实不是一道作文题,而是一个概率题。明白了这个原理,你就知道水印是怎么藏在文字中,而且无论你下载还是复制粘贴,都无法去除。 

妙也是真挺妙的,但是「大聪明」 Anthropic没想到的是,隐形水印上线仅24小时, 开发者便在GitHub上发布了名为「watermarks-remover」的破解工具。 

思路简单粗暴:既然水印藏在Token的统计规律里,那就用另一个无水印的大模型对文本进行大幅度改写、同义词替换。虽然这种「洗稿」操作可能会损失原文的修辞美感,但它证明了在开源力量面前,任何试图用单一算法锁死内容的尝试,最终都会演变成一场没有终点的猫鼠游戏。

技术极客们发现了有趣的战斗锚点,然而作为一个写作者,我的内心却充斥着复杂的安全与不安。 

安全感在于,当AI代笔将写作的门槛一降再降,一段提示词就可以批量生产文本的时代,理想状况下,水印就像一道筛子,倒逼内容市场回归对原创力的尊重。 

不安则在于,这项技术最大的Bug,在于它无法区分「AI原创」与「AI辅助」,如果我们只是用AI进行校对与润色,思路是自己的,但文本却仍会被打上AI的烙印。倘若检测工具被滥用,误伤也必然存在。 

02.创作者的「悖论」

「这文章【AI味】太冲了」,近半年来,无论是看小说、刷公众号文章,这样的评价开始越来越频繁地出现,AI深度参与到了几乎每个人的创作中。 

典型的AI表达,被很多人认定为非常「油腻」,因此也特别好辨别。 

诸如「这反而更稳」;「不是因为你错了,是因为你太对了」——有着一种努力说人话却反而更AI的「恐怖谷效应」。 

但另一方面,所有写作者都避不开一个问题:你的写作中,100%没有AI介入吗?大部分人使用AI查资料、顺思路、润色稿子,AI在辅助写作的过程中,无处不在。 

好用,且用起来很丝滑,这让很多人忍不住想要去安利一下。譬如郝景芳。 

我的印象中,她是第一个因为AI写作引发广泛讨论的作家,在一次采访中,她坦诚自己的新作《银河学院》AI参与比重占到了一半,在引起轩然大波后,她又澄清说AI只是参与了世界观的设定、查资料、提供灵感等环节,但「每一行字都是我写的」。 

是不是真是这样,无从考证,AI在辅助写作的过程中必然有成型的段落,如果这段话本身已经写得很好了,是否有必要为了避免用AI的原话,而强行改写呢?

莫言曾于去年7月发文分享了自己与AI对话的经历。他用5次对话测试了AI的古诗词创作能力,认为单就写「赋」来看,99%的作家不如它。 

无独有偶,在海外,以严谨风格著称的英国侦探小说家安东尼·霍洛维茨公开承认自己在创作中使用了ChatGPT,他坦言使用AI获取即时知识非常方便,但他也很不安,「像是参加考试时作弊了」。 

写作者到底该如何在创作与AI辅助之间找到一个平衡点,似乎是一个从AI诞生之初就难以回答的「原罪」命题。 

不过还是乐观点,就像现在纯手工的刺绣昂贵异常,也许在不远的将来,「手搓」写作也能成为「非遗」。 

最后,留个思考题:你猜这篇稿子,我有没有用AI?