清华等高校推出首个开源大模型水印工具包MarkLLM支持近10种最新水印算法
发布日期：2024-10-22 点击次数：
Christ 家族：在打分向量⽣成后，⽤伪随机数⼲预采样过程★◆◆★■，使⽔印⽂本与该随机数更相关，以此植⼊⽔印★◆◆。
KGW 家族：通过⼲预打分向量添加⽔印◆★★■，将词表分为红绿列表，给绿⾊词加偏置，使输出偏好绿⾊词汇；
⼤模型⽔印算法的底层机制相对复杂■◆◆■◆，涉及对⼤模型⽣成⽂本过程中打分向量⽣成以及采样过程的⼲预，不便于研究者和⼤众理解。
⼀致、⽤⼾友好的顶层调⽤接⼝：1 ⾏代码实现添加⽔印■■◆■◆★、检测⽔印等各类操作。
针对刚才提到的 3 个问题，作者设计并实现了⾯向⼤语⾔模型⽔印技术的⼯具包 MarkLLM■◆。
⽬前主流的⼤模型⽔印算法是在⼤模型推理阶段植⼊⽔印■■★★◆◆，这类⽅法主要分为两⼤算法家族：
作者衷⼼希望 MarkLLM ⼯具包在为研究⼈员提供便利的同时◆■，提⾼⼤众对⼤语⾔模型⽔印技术的理解和参与度，促进学术界和公众之间就该技术达成共识，推动⼤语⾔模型⽔印研究和应⽤的进⼀步发展，为⼤语⾔模型使⽤安全贡献⼒量。
⼤模型⽔印是近期新兴的⼀项技术，通过在模型⽣成⽂本过程中植⼊特定的特征，来实现机⽣⽂本的辨别和来源追溯。它可⽤于虚假新闻检测、维护学 术诚信◆◆★★■、数据和模型版权保护等场景。
统⼀的⼤模型⽔印算法实现框架：⽀持两个关键⽔印算法家族（KGW 家族和 Christ 家族）的 9 种具体算法★◆★。
本⽂介绍由清华等⾼校联合推出的⾸个开源的⼤模型⽔印⼯具包 MarkLLM★◆■★。MarkLLM 提供了统⼀的⼤模型⽔印算法实现框架、直观的⽔印算法机制可视化⽅案以及系统性的评估模块，旨在⽀持研究⼈员⽅便地实验、理解和评估最新的⽔印技术进展。通过 MarkLLM，作者期望在给研究者提供便利的同时加深公众对⼤模型⽔印技术的认知，推动该领域的共识形成，进⽽促进相关研究的发展和推⼴应⽤。
然⽽，就像所有新兴技术⼀样，⼤语⾔模型⽔印技术在使⽤和理解上也⾯临⼀些挑战★★◆。
本文由清华大学、上海交通大学、悉尼大学、UCSB◆■★★、香港中文大学、香港科技大学◆★★■◆、香港科技大学（广州）联合完成★◆■★■。主要作者包括：潘乐怡（第一作者）★◆◆，清华大学本科生，研究方向为大模型水印等◆■★◆◆■；刘瑷玮◆★◆■，清华大学博士生，研究方向为安全可信大模型等；何志威◆◆■★，上海交通大学博士生◆★★★■■，研究方向为大模型水印、大模型智能体等;高梓添，悉尼大学本科生■■★◆■，研究方向为大模型水印；赵宣栋，UCSB博士生★★■，研究方向为可信生成式AI等；胡旭明◆◆■◆■◆，香港科技大学/香港科技大学（广州）助理教授◆◆★■★，研究方向为安全可信大模型◆◆★■■、信息抽取等；闻立杰， 清华大学长聘副教授，研究方向为流程挖掘，自然语言处理 。
全⾯■■、系统的⼤模型⽔印算法评估模块：包含覆盖 3 个评估⻆度的共 12 个评估⼯具，以及两类⾃动化评估流⽔线■★■■◆◆. 设计⻆度：模块化■★■■、松耦合架构设计，具有极⾼的可扩展性和灵活性◆■★★◆。
各类⼤模型⽔印算法不断涌现。然⽽它们的实现⼤都基于作者⾃⾝的需求，缺乏统⼀的类和调⽤接⼝设计，使得研究⼈员和⼤众需要投⼊⼤量精⼒去使⽤和复现这些算法。
评估⻆度和指标多样（包含可检测性、鲁棒性、对⽂本质量的影响等），且⼀次评估涉及多步骤■■■★，全⾯快速评估算法性能极具挑战。
