Claude开始给文字“打水印”：它能解决AI论文与科研诚信问题吗？
SciAiTech · 公众号文章归档
在微信阅读原文与图表该图由GPT生成
2026年8月13日，《Nature》报道，Anthropic开始为Claude生成的文本加入不可见水印，并为部分图像加入可验证的来源信息。
表面上看，这是一项模型产品功能的更新；从科研诚信和学术出版的角度看，它提出了一个更值得讨论的问题：当AI已经进入论文写作、代码、图像处理、同行评议等科研环节之后，我们究竟应该检测“是不是AI写的”，还是建立一套更完整的内容来源与责任机制？
https://www.nature.com/articles/d41586-026-02503-7
Anthropic此次调整并非孤立事件。
欧盟《人工智能法案》有关生成内容透明度的要求自2026年8月2日起进入实施阶段；Google此前已经将SynthID用于Gemini等生成内容；中国《人工智能生成合成内容标识办法》也已于2025年9月1日起施行。
一条越来越清晰的技术路线正在形成：
AI治理正在从“事后判断文本像不像AI”，逐步转向“在内容生成时留下可验证的来源信息”。
但对于科研诚信来说，水印能够解决的问题与不能解决的问题，都需要被准确区分。
01 从“判断AI文风”到“标记内容来源”：AI检测逻辑正在变化
过去几年，学术界讨论较多的是AI文本检测器。
这类工具的基本逻辑是：拿到一段已经完成的文字以后，根据语言概率、困惑度、词汇选择、句法特征等信息，估计它由大语言模型生成的可能性。
本质上，它是一种事后推断。
水印则采用另一种思路。
在大语言模型逐个生成token的过程中，模型原本就需要在多个候选词之间进行概率选择。水印技术可以对这种选择机制进行轻微调整，使最终文本保留某种统计规律，而普通读者通常无法察觉。
因此，两种方法解决的问题不同：
AI检测器试图回答：“这段文字像不像AI生成？”
而水印试图回答：
“这段内容是否来自一个设置了特定标记的模型？”
从科研治理角度看，这是一个重要区别。
https://www.ithome.com.tw/news/165662
Google DeepMind在2024年发表于《Nature》的SynthID研究，曾在接近2000万条Gemini真实回答中测试文本水印。结果显示，加入水印前后，用户点赞率和点踩率的变化分别约为0.01和0.02个百分点，差异并不显著。
在Gemma 7B-IT的一项测试中，采用较复杂水印方法后，每个token的生成延迟从15.527毫秒增加到15.615毫秒，增幅约0.57%。
这组结果至少说明：
在不明显影响用户体验的情况下，为生成内容加入机器可识别标记，在工程上已经具备一定可行性。
因此，Anthropic此次跟进，与其说是推出一种新的“AI检测工具”，不如说是生成式AI基础设施开始增加一层内容来源标识机制。
02 水印能够提供线索，但不能直接等同于学术不端证据
水印进入学术场景以后，首先需要避免一个简单化判断：
有水印=论文由AI完成； 没有水印=论文完全由人完成。
这两个结论都不能成立。
Anthropic指出，检测到水印，只能说明相关文字可能经过Claude生成或处理，但无法判断模型具体承担了什么任务。
例如，研究者可能：
- 自己完成论文后，让Claude进行语言润色；
- 将中文摘要翻译成英文；
- 将较长内容进行压缩；
- 调整文章结构或表格格式。
这些情况下，输出文本都可能包含模型标记，但论文的研究问题、实验设计、数据分析和核心判断仍然可能主要来自作者。
反过来，没有检测到水印，也不能证明研究过程中没有使用AI。
原因包括：
- 文本经过重新改写；
- 经过另一模型重新表述；
- 进行了翻译；
- 人工进行了较大幅度修改；
- 文本长度过短；
- 模型、文件格式本身并不支持相应标记。
因此，水印更适合被理解为一种来源信号，而不是一个“作者身份判断器”。
这一点对于高校、期刊和科研机构尤其重要。
早期AI检测工具已经提供了一个值得借鉴的经验。
10.1016/j.patter.2023.100779
2023年，Stanford研究团队对7种AI检测器进行了测试。在91篇非英语母语者撰写的TOEFL作文中，有18篇被7种工具同时判定为AI生成；91篇中有89篇至少被一种工具判定为AI文本。
这说明，当检测工具的语言特征判断被直接用于学术评价时，存在误判风险。
当然，也需要看到另一面。
近年来AI检测算法本身持续改进，新的研究并未在所有语言环境和所有新型检测器中重复观察到同样程度的偏差。
因此，更准确的判断并不是“AI检测没有价值”，而是：
检测结果可以用于筛查和调查，但不宜直接替代科研诚信认定。
尤其是在论文撤稿、学生处分、基金评价等后果较大的场景中，单一技术指标应当与作者说明、过程记录、数据证据和人工核查结合使用。
03 ICML 2026提供了一个现实案例：技术最适合识别明确的流程违规
水印是否具有实际价值？
ICML 2026的同行评议实验提供了一个值得观察的案例。
当年的ICML允许审稿人选择两种评审规则。
一种允许在一定范围内使用LLM，例如辅助理解论文、检索相关工作或者润色评审意见；
另一种则要求审稿人承诺在评审过程中不使用LLM。
为了验证后一组规则是否得到遵守，会议组织者在分发给审稿人的PDF中加入了人眼不可见、但大模型可以读取的隐藏文本。
具体方法是：
从大约17万个特殊短语组成的词库中，为每篇论文随机抽取两个短语，并通过隐藏指令要求LLM在生成评审意见时使用它们。
如果一份评审报告同时出现这两个特殊词组，那么随机出现的可能性非常低。
最终，ICML识别出：
795份评审意见存在违规使用LLM的迹象，约占全部评审的1%；涉及506名审稿人。
其中51名审稿人的一半以上评审意见都被检测到相应信号。
后续处理过程中，会议最终拒绝了497篇投稿，涉及398名承担互惠评审义务的投稿作者，约占全部投稿的2%。
值得注意的是，ICML并没有把算法检测结果直接作为最终判断，而是对相关案例进行了人工复核。
这个案例说明，技术工具在一种情况下尤其有效：
规则本身非常明确，而且违规行为留下了可验证的过程痕迹。
审稿人已经主动选择“不使用LLM”这一规则，在此基础上仍然将论文提交给模型生成评审，这属于相对清晰的流程违规。
但它同时也说明技术存在边界。
如果使用者发现隐藏文本；
如果重新改写模型输出；
如果采用另一模型进一步加工；
或者只是使用AI辅助理解论文，而最终由本人独立完成评审；
单一的水印或隐藏指令就难以准确判断实际使用程度。
因此，ICML案例最值得借鉴之处，并不是证明“AI违规可以被完全识别”，而是说明：
当制度边界清晰、技术记录明确、并辅以人工复核时，来源标识可以提高科研流程治理的可执行性。
04 真正需要解决的不是“AI有没有参与”，而是“AI参与到了什么程度”
这也是水印技术进入学术出版以后最关键的问题。
随着生成式AI能力提高，“是否使用AI”正在逐渐成为一个过于粗略的问题。
例如：
- 使用AI修改一个英文介词；
- 使用AI翻译摘要；
- 使用AI生成Python代码；
- 使用AI总结50篇文献；
- 使用AI设计研究假设；
- 使用AI生成实验数据；
这些行为都可以被归入“使用AI”，但其科研伦理性质显然不同。
因此，如果未来学术治理仍然主要围绕一个问题展开：
“这篇论文有没有使用AI？”
很可能无法有效覆盖现实中的复杂情况。
更可操作的问题应该是：
AI参与了科研流程中的哪一个环节？
例如可以进一步区分：
第一类：一般辅助
包括语言修改、拼写检查、翻译、格式转换等。
这类使用通常不直接改变研究的学术贡献，但需要作者对最终内容负责。
第二类：实质性研究辅助
包括：
文献综合；代码生成；统计分析；图像处理；研究设计辅助；数据解释。
这类行为已经开始进入研究方法本身，因此更需要记录使用方式，并进行人工验证。
第三类：替代研究者核心责任
例如：
生成不存在的数据；
伪造图像；
生成未经核验的参考文献；
在明确禁止AI的同行评议中由AI直接完成审稿意见；
或者让模型代替研究者对无法验证的研究结果作出判断。
这类问题的核心已经不再是“是否使用工具”，而是：
研究者是否将本来应由本人承担的科学判断、验证和责任转移给了模型。
从这个角度看，ICML 2026的案例就比较清楚。
问题并不是审稿过程中任何AI参与都不被允许。
ICML甚至专门设置了允许使用AI的评审通道。
真正被处理的是：
审稿人在主动选择“不使用LLM”的规则后，仍然违反了相应承诺。
因此，AI时代的科研诚信规则可能需要从单一的“允许/禁止”，逐步转向更加细化的使用场景分级管理。
05 水印真正值得关注的方向，是科研过程的“可追溯性”
把Anthropic此次调整放到更长的时间尺度看，一个更明显的趋势正在形成：
AI内容治理正在从Detection——检测，向Provenance——来源追踪发展。
欧洲正在推进生成内容机器可读标识；
Google持续推广SynthID；
Anthropic开始给Claude文本加入不可见水印；
图像、音频领域则越来越多采用C2PA等来源认证标准。
中国的制度设计也体现了类似方向。
2025年9月1日起施行的《人工智能生成合成内容标识办法》，同时设置了显式标识和隐式标识：
一方面，让用户能够直接看到AI生成提示；
另一方面，在文件元数据等位置记录生成合成属性、服务提供者等信息，并鼓励采用数字水印等技术。
这些规则主要针对网络信息服务，不能直接套用到科研诚信治理。
但其中的“可追溯”思路值得学术出版借鉴。
未来，科研诚信系统可能不应该只关注最终PDF，而需要逐步形成更完整的研究证据链。
例如：
数据从哪里来；
代码如何生成和修改；
哪些图像经过AI处理；
哪些文本由模型辅助生成；
模型输出是否经过人工核验；
论文最终版本由谁确认；
关键科学判断由谁承担责任。
假设未来编辑收到一篇论文，系统发现摘要中包含Claude水印，而作者声明“使用Claude进行语言润色”。
这时候，真正需要判断的并不是：
“检测到了AI，因此论文有问题。”
而应该进一步核查：
- 研究思想是否来自作者；
- 数据是否真实；
- 方法是否可复现；
- 引用是否经过核实；
- 语言模型是否改变了研究结论；
- 作者是否对最终文本承担责任。
这与COPE等出版伦理机构近年来关于AI使用的基本原则也是一致的：
AI不能成为作者，也不能承担作者责任，最终责任仍然属于人类研究者。
因此，从科研诚信治理角度看，未来真正重要的可能不是寻找一个精度越来越高的“AI文本识别器”，而是建立三个更基础的制度条件：
使用可披露、过程可追踪、责任可确认。
结语
Anthropic为Claude加入文本水印，并不能直接解决AI生成论文、虚假内容或低质量论文问题。
它能够提供的是另一种能力：
为部分AI生成过程留下可以被验证的来源信息。
这种能力对于明确规则下的流程治理具有现实价值，例如同行评议政策执行、内容来源核验和风险筛查。
但对于更加复杂的科研活动，单纯回答“这段文字是不是AI写的”，已经越来越难以对应实际的科研诚信问题。
AI正在进入语言修改、代码、数据分析、图像、文献综合甚至研究设计等多个环节。
在这种情况下，更重要的问题将逐渐变成：
AI做了什么？
研究者做了什么？
哪些结果经过验证？
谁对最终内容负责？
从这个意义上看，Claude水印值得关注的地方，并不只是一种新的检测技术。
它提醒学术界：
AI时代的科研诚信治理，可能需要逐步从“识别机器生成”，转向“记录科研过程、界定学术贡献并明确责任”。
这或许才是AI水印进入学术出版之后，最值得继续观察的变化。
主要资料来源
- Gibney, E. (2026). Can Anthropic’s invisible watermarks curb ‘AI slop’? Researchers remain sceptical. Nature, 13 August 2026.DOI：10.1038/d41586-026-02503-7
- Anthropic. (2026). How Claude marks AI-generated content. Claude Help Center.
- European Commission. (2026). Guidelines on transparency obligations for providers and deployers of certain AI systems under Article 50 of the AI Act.
- ICML. (2026). On Violations of LLM Review Policies. ICML Blog, 18 March 2026.
- Dathathri, S., See, A., Ghaisas, S., et al. (2024). Scalable watermarking for identifying large language model outputs. Nature, 634, 818–823.DOI：10.1038/s41586-024-08025-4
- Liang, W., Yuksekgonul, M., Mao, Y., Wu, E. & Zou, J. (2023). GPT detectors are biased against non-native English writers. Patterns, 4(7), 100779.DOI：10.1016/j.patter.2023.100779
- Chen, E. (2026). ‘Humanizer’ tool can erase signs of AI-written text — alarming scientists. Nature, 655, 556–557.DOI：10.1038/d41586-026-02105-3
- 国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局. (2025).《人工智能生成合成内容标识办法》.
- Committee on Publication Ethics (COPE). (2023). Authorship and AI tools.
往期推荐
科研诚信，为什么被总书记放到了"指挥棒"的高度？——从两院院士大会讲话读懂科研生态治理的新信号
本文按原发布日期保留。所述数据、工具和期刊状态反映发表时的信息。
继续浏览文章