跳到正文

有人在 MacBook Air 上把 Qwen3-4B 的“AI 腔”练掉了:AI 味指标从 121 降到 12.5

破折号、“不是 X,而是 Y”、三连排比、“深入探讨”、“无缝”——这些 AI 写作的招牌动作,被一位开发者从 4B 小模型的权重里练掉了大半。

成绩单

开发者 Erik Markus Kannike 发布的 qwen3-4b-deslop-v4,训练全程在一台 MacBook Air 上完成。他用一套加权计分的“AI 味检测器”打分(人类认真写的文字通常低于 15/千词):原版 Qwen3-4B-Instruct 平均 121,微调后 12.5;破折号从每千词 20.5 个直接归零;在 40 个训练时没见过的提示上,68% 的回答落入人类写作区间。能力没有练废:30 道事实题全对,题材和篇幅的符合度与原版持平。模型开源在 Hugging Face,Ollama 一行命令就能跑,量化版 2.5 GB。

怎么练的

配方比想象中工程化。前作实验发现“助手腔”在模型内部是一个可以加减的方向——推理时减掉它,AI 味能降到 15,但要挂着代码运行;另一轮实验找到 4 个神经元,翻转符号就能消灭 70% 的“不是 X 而是 Y”。为了把这些改进烧进权重,他做了三轮蒸馏:让“老师”(前一轮模型加各种补丁)生成 288 个提示的回答,过滤掉不合格的,再用 LoRA 让学生模仿。

中间那轮的翻车很值得玩味:分数练到了 9.9,但文章写坏了——评论文章没有观点,像事故报告;编造“悉尼科技大学的研究”;每句话都用“, which”往下挂,频率是原版的 28 倍——这个新毛病来自他自己的老师提示词。第三轮加上了“任务符合度”检查(评论必须有立场、私信必须有问候、篇幅要匹配要求),才得到发布版。

局限照单全收

作者自己列得很诚实:文风平到发闷,短陈述句连排;编造的研究没了,但编人名地名的毛病还在(“Maple 街上 Maria 开的咖啡店”);只测了短篇英文,代码和长对话未验证。这个项目最好玩的地方在于它的讽刺性——用机器学习把机器的机器味练掉,方法、数据、指标全都开源。它能不能直接帮你写东西另说,但它证明了一件事:AI 腔不是模型的天性,是训练出来的习惯——既然是练出来的,就能练掉。