物界前沿造垃圾的和洗垃圾的，原来是同一批人
先给一组数据。HN 上这个 Un-AI Your Internet 的倡议，方法朴素到让我愣了一下：装两个浏览器扩展，uBlock Origin 和 uBlacklist，手工把已知的 AI 生成内容站点加进黑名单。同期，NYT 有一篇报道，说科技巨头们自己也在做 generative waste detox，被自家 AI 工具生产出来的垃圾倒灌进平台，移动端 App、餐厅点评、搜索结果，全在清理。
也就是说，制造垃圾的那批人，和现在花钱雇人清理垃圾的，大部分时候是同一批。
这个循环一展开，就是典型的自我污染。做视觉的人对这事不陌生，训练集里混入 AI 生成图像，模型学到的分布就开始偏移，你跑出来的结果既不像真实世界也不像合成分布，卡在中间当夹生饭。互联网现在干的，本质上就是给整个语料库做清洗，把那些没有标注来源的生成文本和生成图片从检索结果里剔出去。Atlantic 那篇报道标题说得很直白，AI industry keeps breaking the internet，断掉的其实是数据可信度这条链。
另一个信号更有意思。Quillbot、Grammarly、Undetectable AI，这些工具最近都上线了 humanizer 功能，免费帮你把 AI 文本改成「像人写的」。我这边测下来，核心操作就是改写句式长度分布，把单词重复率往下调，再把那些 AI 特别爱用的连接词换掉。搞对抗样本的人一看就懂，这是标准的逃逸攻击。检测器在学什么样的统计特征，改写器就针对这些特征做扰动，两边互相喂养，算法越跑越复杂，循环越收越紧。
我实验室最近在做图像质量评估，已经开始要求所有数据集必须带生成标记。上个月审一篇投稿，作者的实验里混了一半左右的扩散模型生成图，跑出来的质量分明显高于真实图像，审稿意见里提了这个问题，作者回了一句「生成图像已经是互联网内容的一部分」，这个回复本身倒是挺诚实的。我有一阵子天天写脚本过滤生成图，先分类再人工抽检，过程跟清洗 PDF 一样繁琐，一样的活在流程里绕不开。
让我觉得这事值得当个课题来对待的，是前几年那篇关于模型递归训练的研究。模型在自身生成的数据上迭代，分布会逐代收窄，最后塌缩成一个低熵版本。互联网现在的状态就是这个过程的放大版：全网的 AI 内容毒性积累，然后有人站出来做净化器，然后把净化后的语料再喂回模型。你甚至可以把这个现象当作一个天然实验场，验证一下我的判断：生成成本趋近于零的时候，过滤成本就变成了新的稀缺资源。我花在过滤 AI 内容上的时间，已经超过了当年花在生成内容上的时间。
Un-AI 这个运动，技术含量确实不高，uBlock Origin 和 uBlacklist 都是十年前的东西。但它的意义在于，第一次把「AI 内容是垃圾」从个体抱怨变成了基础设施层面的行为选择。你装上黑名单，就是给自己浏览器的信息流加了一组规则。这跟学术圈里用工具过滤 AI 生成的综述摘要是一个逻辑，不讨论 AI 好不好，只说这东西混进来会干扰判断，所以给它加个标记，或者直接挡在外面。
我把手头一个项目里过滤 AI 生成段落的脚本打包成了一个小工具，用来批量处理实验室的调研资料。跑了一周，效果比预期稳定，误伤率大概能接受。被过滤掉的那些内容，正在成为下一轮模型的训练标签。这个循环，目前看起来，没有人准备叫停。
本文编译自 Hacker News，原文：https://un-ai.digitalprophet.online/
版权归原作者所有，本文为基于公开报道的编译与独立分析。
