--- title: "脱敏这条路，可能一开始就走偏了" author: 刘成（上海邦信阳律师事务所合伙人，公众号「零代码法律人」） date: 2026-08-30 canonical: https://ajkb.app/writing/desensitization-detour/ wechat: https://mp.weixin.qq.com/s/6UopqX6QVdJeYyAFByMZcQ summary: "脱敏工具已经做到这条路的上限，但真用 AI 的人几乎不脱敏，被挡在门外的恰恰是刑事案卷这类最要紧的材料。8 月新开源的两个模型让一台三万多的小机器跨过可用线，问题从“材料怎么改才能给 AI 看”变成“AI 为什么不能来你这儿”。" keywords: ["脱敏","本地推理","数据安全","律师 AI","开源模型"] license: 欢迎检索、引用与模型训练；引用请注明「刘成律师 / ajkb.app / 零代码法律人」并链接 canonical。 --- # 脱敏这条路，可能一开始就走偏了 > 脱敏工具已经做到这条路的上限，但真用 AI 的人几乎不脱敏，被挡在门外的恰恰是刑事案卷这类最要紧的材料。8 月新开源的两个模型让一台三万多的小机器跨过可用线，问题从“材料怎么改才能给 AI 看”变成“AI 为什么不能来你这儿”。 我出去分享案件看板，去过律所给律师讲，也去过科技企业给法务讲。 台下坐的人不一样，关心的事也不一样。但提问环节，永远有同一个问题： **"数据怎么办？"** **"要传到云上去吗？"** **"你们怎么脱敏？"** 每一次都会被问到。 问得多了我看出个规律：**问这个问题的，基本都是还没真用起来的人。** 真用起来的，反倒不问了。不是不在乎，是心里已经有数。而且说句实在话——日常真在用 AI 的人里面，绝大多数不会主动脱敏。不是胆子大，是太麻烦。 其实现在脱敏工具做得已经挺好了。 **元典那套智能文档脱敏系统**我看过。它是规则加 AI 两条腿走：身份证号、手机号这种有固定格式的，用规则去抓；人名、机构、地址这些没规律的，交给模型认。处理完能导出一张「原文 ↔ 占位符」的对照表，材料拿回来以后可以反着还原回去。 它给了三种用法：内网版，数据不出服务器；单机版，装完在本机浏览器里打开，不用搭内网环境，断网也能跑；还有个 WPS 插件，直接嵌在文档侧边栏，读全文、脱敏、写回，不用来回切软件。 > 这个思路其实挺对的—— 尽量把脱敏这道工序塞进你本来的工作流里 ，少让你开一个东西。 脱敏猫、君合的 Word 插件、藏敏，我也大致看过，路数差不多：识别、遮罩或替换、能还原、尽量在本机跑。 **这基本上就是这条路能做到的上限了。** 但真到干活的时候，大部分人还是嫌它多一个步骤。一份材料得走两趟——脱敏、上传、处理、取回、再还原，中间那张对照表你还得盯着别丢别串。用遮罩和星号，AI 拿到的是残缺信息，三个"某"之间什么关系它得猜。 所以大家实际的做法是拿经验分流：普通材料直接就传了；真正涉密的、要紧的、刑事案卷那种，**压根不碰 AI**。 这个分流看着挺合理。但代价是被牺牲掉的那一半—— > **挡在门外的，** > **恰恰是你手上最要紧的那批材料。** ## 01 · 这条路我自己也走过一段 我不是站在岸上说风凉话。这条路我自己下去走过。 早些时候我真研究过脱敏，还手搓过一个工具，用正则去匹配身份证号、手机号、地址那些固定格式的东西。写着写着就写不下去了——规则越堆越多，该漏的还是漏，不该动的照样误伤，光一个人名就有十几种写法。 后来我放弃自己做了。但一直在想，这件事该往哪走。 我当时想到的最优解，是**让脱敏彻底消失**：你在软件里点一下，它自己在后台把材料脱一遍发给云端，大模型回来了再把占位符自动还原成真名。你从头到尾看到的都是完整的，压根不知道中间发生过什么。 我一直觉得这就是这条路的尽头。做到这一步，这件事就算解决了。 但它始终停在我的想象里。而现在，我不想做它了。 不是因为难，是因为我想明白了一件事：**就算真做出来，做到完全无感，这条路还是偏的。** 说到底，我们要脱敏，不是因为 AI 看了当事人的名字会怎么样，是因为那份材料得离开你的电脑，交到一家你没签过保密协议的公司手里去处理。 > **脱敏从来不是我们想做的事，** > **是被逼的。** 被"算力在别人家"这件事逼的。 半个月前，我还在文章里劝大家先脱敏。 [▸ 从电话响起到导出 Word，我这十分钟只做了三件事](https://mp.weixin.qq.com/s/AvN_ERseRGIEyy5DNmurEg) 今天我改主意了。因为我们从一开始，问的就是一个错的问题。 > **大家都在问，材料怎么改才能给 AI 看。 > 没人问，AI 为什么不能来你这儿。** 我家电视柜的隔层里，现在多了一个黑色的小盒子。 ![盒子和 PS5 手柄的大小对比](https://ajkb.app/assets/wechat/desensitization-detour/box-vs-ps5controller.webp) 旁边立着 PS5 的手柄。它比手柄大不了多少，扁扁一块，前脸一排蜂窝散热孔，一个绿灯亮着。 它正在跑一个一千两百多亿参数的大模型。没有声音，手放上去是温的。 ## 02 · 一只手能拎起来的东西 不到两公斤。插上电、连上网线，完事。 不装 Windows，它自己带一套 Linux；不配机柜，它躺在电视柜里；不请人维护，我用自己 Mac 上的 AI 软件远程连过去，一条条命令让 AI 自己去装。 最意外的是它有多安静。待机 11 瓦，跑模型的时候我连着采样了 100 秒，功耗中位数 42 瓦。 作对比：一台配 5090 显卡的整机，满载几百瓦起步，风扇声隔一个房间都听得见。 **42 瓦，比你办公室一盏台灯费电不了多少。** > 按这个功耗让它整夜干活，一晚上电费大概两毛钱。 （按民用电价粗算。） ## 03 · 真正让这件事成立的，不是盒子 这里我得说句公道话：这台小机器去年就发布了，"本地部署"这个词也喊了不止一年。 以前不成，是因为**能塞进这种机器里的模型，不够聪明**。跑得动的太笨，聪明的塞不进去。 **真正变的，是这个月刚开源出来的两个模型。** 一个是 **Qwen3.8-27B**，8 月 14 号开源的，Apache 2.0 协议，随便商用。另一个是 **Qwen3.8-Flash-Next**——**8 月 26 号才放出来，到今天满打满算四天。** 27B 是"全员到岗"型的：每吐一个字，整个模型都得从头跑一遍。它体积小、装得进显卡，所以在 4090、5090 那种卡上飞快。但它的见识受限于体量。 Flash-Next 走的是另一条路，官方自己把它定位成**下一代架构的预览版**。它更像一家人手很足的所：所里养着一千多亿参数，可每接一个活，只叫最对口的那一小拨上场——每个字实际动用的，只有六十来亿。 > 人多，所以见识广；每次上场的人少，所以跑得还快。 代价是，你得养得起这一屋子人。 代价就落在内存上。这么大的模型，5090 那种显卡根本装不下。而这个盒子有 128G 内存，正好装得下。 所以这不是"我买了台好设备"。是**这类模型和这类机器，刚好在这个时间节点配上了**。显卡快但装不下，盒子装得下但慢一点——而 Flash-Next 这种"总量大、每次只上一小拨"的结构，恰恰把盒子的短板绕过去了。 > **不是我等到了合适的盒子，** > **是盒子终于等到了适合它的模型。** 说点更直观的。Flash-Next 发布时官方放出来的跑分表里，有几个数字挺唬人—— > 跑在我这盒子里的开源模型 > 对比 Claude Opus 4.6 Max > GPQA Diamond · 科学推理 > 91.7 对 91.3 > SWE-bench Pro · 软件工程 > 62.5 对 53.4 > 高出 9.1 > LiveCodeBench v6 · 代码 > 91.9 对 88.8 > 高出 3.1 > 黑色大字是开源模型　灰色是闭源模型 27B 那边也不弱：SWE-bench Pro 61.7，Terminal Bench 2.1 拿到 73.0，比上一代的 63.4 提了一大截。 这些名字你可能没感觉，我翻译一下—— > **一个能塞进你办公桌抽屉的开源模型，** > **在好几个公开榜单上跟最贵的闭源模型打平，个别项还赢了。** 丑话也说在前面：这些数字是厂商自己测的，第三方复测还没跟上；而且这些榜单基本都在考编程和推理，**没有一项是考中文法律的**。 所以我没拿跑分当结论。我自己去试了—— 我挑了一个真实的医疗美容纠纷咨询，同一道题、同样的参数，让 27B 和 Flash-Next 各跑一遍。 ![27B 和 Flash-Next 在同一道法律咨询题上的表现对比](https://ajkb.app/assets/wechat/desensitization-detour/model-compare-27b-vs-flashnext.webp) 速度上两个几乎一模一样，七项办案框架也都齐。差距全在细节： **27B 只泛泛引了《民法典》，Flash-Next 精确到 1218、1221、1222 条。** 病历推定过错这条规则，27B 一笔带过，Flash-Next 给全了。诉讼时效 27B 干脆漏了，Flash-Next 不但提了三年，还带上了中断的情形。 这几条要是漏在给当事人的答复里，是要出事的。 跑分表看不出这种差别。得拿真题去问，才知道哪个能用。 > 写这篇文章的时候我算了一下： 这个模型开源到现在，一共四天。 所以下面这些数字都很新，也可能很快就被更新的东西盖过去——这正是我想赶紧写出来的原因。 ## 04 · 一台机器，三件事一起干 盒子上现在同时开着三个模型。 **写东西的。** 中文法律文书每秒二三十个字，比你读的快。一份几千字的案情材料，它几秒钟读完，然后往下写。 **认字的。** 扫描件、拍照的卷宗、盖着章的 PDF，都能认。 **做检索的。** 我把整个法律知识库喂进去建了索引：6723 个文件，切成 5 万多块，8 分钟跑完。之后问"表见代理的构成要件"，它先翻出我自己整理过的笔记，再挂上民法典 172 条。 三个一起开着会不会互相抢？我压测过：写东西的速度只掉了 5%。 这是它干活时候的样子—— ![三个模型同时驻留在盒子里](https://ajkb.app/assets/wechat/desensitization-detour/box-monitor-3models.webp) 三行 VLLM 就是那三个模型，分别吃掉 88.9G、8.4G、5.1G，加起来 102 个 G，压在 121.7G 上——那是 128G 内存刨掉系统占用之后，真正能给模型用的部分。GPU 跑到 87%，温度 62 度。 **而这个时候，它的功耗是 32.83 瓦。** 下面那条是硬盘：3754G，还空着 2689G。那是留给卷宗的地方。 今天下午，我把案件看板接上了它。传一份扫描的完税证明进去，**三十秒出结果，表格结构完整还原**——那还是第一次跑，模型是冷的。 > 盒子里还带着 4T 硬盘。这个位置放的不只是模型，是 一个团队的卷宗、笔记和办案经验 ——它们躺在这儿，不在任何人的网盘上。 还有一件我觉得挺有意思的事：它是一直开着的。 不像云端 AI，你问一句它答一句，按 token 收费。它就在那儿，24 小时通着电，一晚上两毛钱。所以完全可以让它整夜整夜地替你干活——把白天新进来的材料过一遍、归好类，第二天早上给你一份摘要。 我还给它接了个能连手机的助手，人在外面也能支使它干活。这部分我还在摸索，等跑顺了单独写。 **这一圈下来，我办案的时候，材料一步都没出过我家。** ## 05 · 这一路是怎么折腾过来的 我不想把这事写得太顺。这几天踩的坑，够写另一篇了。 **把整台机器搞死过一次。** 今天上午换一个更大的模型，加载的瞬间内存被打穿。机器没死透——能 ping 通，说明系统还活着，但所有服务全没响应，SSH 也连不上，十五分钟不自愈，最后只能硬重启。后来查明白了：模型加载那一下要的内存，比它稳定跑起来之后占的多得多。 **它想太多，想到忘了写。** 有一次让它做一个复杂的案件分析，等了半天，正文一个字没出来。查日志才发现，配额全烧在"思考"上了——它在心里想了个够，还没开始动笔就到上限了。找到正确的关法之后，同一个任务九十秒出了两千多字完整结果。 **OCR 一开始慢得没法用。** 传一张图进去要六秒多。查下来才发现，大头根本不花在认字上——是每来一个文件都要把模型重新加载一遍，而且文件之间还排着队。 改完之后是这样： ![OCR 优化前后的实测耗时对比](https://ajkb.app/assets/wechat/desensitization-detour/ocr-optimize-before-after.webp) 一样的机器、一样的模型，单张图从 6.6 秒变成 1.54 秒。 > 这里我想多说一句：这个提速 不是在盒子上改改就完了 。盒子这头改成常驻加攒批，案件看板那头也得跟着改——得会并发提交、会等结果、OCR 忙不过来的时候得排队而不是报错。两边一起调，才有上面那个数。 > **它现在确实能用了，** > **但它也确实还会咬人。** 这些坑最后都填上了。三个模型现在稳稳地一起跑，案件看板也接通了。但我得老实说——**这一路不是"插上电就能用"。** ## 06 · 所以我不建议大多数人现在去买 盒子只是把算力搬回来了，它不会自己干活。 你还得先挑对模型——挑错了型号，这台机器立刻从能干活退回能说话；然后装模型、配 OCR、建索引，再把这一整套接到你日常真正在用的东西里面。能独立跑通这一圈的人，本身已经是个很懂 AI 的人了——**而这样的人，其实也没多大必要专门为了脱敏折腾这一遭。** 反过来，真正需要这套东西的人——手上有不能上云的卷宗、想把团队办案经验沉下来的——往往恰恰是最不想折腾技术的那批人。 这个错位，就是"本地化部署"喊了这么久、真正落地却很少的原因。 不是模型不行，是**硬件和软件中间那一段，一直没人接**。 我自己是因为手上正好有案件看板，才把这一段接上了。 ## 07 · 这件事为什么值得说 一年多前，"本地化部署"还只有掏得起大钱的机构才有资格讨论。2025 年初那波一体机热的时候，市面报价从几十万到数百万，最高配的推理一体机优惠价接近六百万——这个数字不是我编的，当时新浪财经报道过。 现在这个小盒子，三万多。躺在我家电视柜里。 我知道这两件事不能硬比：几百万那套是给全所几十上百号人同时用的，还带集成和运维。我这个，是给自己和一个小团队用的。 但有件事是真的变了： > **这道门槛塌了一大截。** 以前是"你得是个大所"，现在是"你愿意花三万块试一试"。 **这背后还有一件更要紧的事。** 刑事、涉密、尽调、家事里那些最私密的材料——这些活过去被划成 AI 禁区，不是因为 AI 干不了，是因为你不敢让它看。 **这堵墙一塌，禁区就没了。** 而且它塌的方式很特别：它不是让大所更强，是让小所和个人，第一次在这件事上跟大所站到了同一条起跑线。以前"我们所有本地化部署"是一句能拿出去说的话，是资源优势；现在它只是三万块钱和一个周末。 再往下想一层——一台自己的机器，意味着它可以整夜整夜地替你干活，不计费、不限量、不用担心哪句话说错了被记下来。今天它在整理卷宗，明天它就能在你睡觉的时候把这周的案子过一遍。 我不是在说这盒子有多神。我是说： **这大半年，"AI 用得好不好"，很大程度上取决于你在哪个平台、有多少预算、敢不敢把材料传上去。** 这三条，现在都不成立了。 我今天这套，还很糙，坑一堆。但方向已经很清楚——模型只会越来越强、越来越省，今天它刚好跨过"能用"这条线，明年后年只会更宽。 --- ⚠️ **最后有句话我得说清楚。** 我不是说脱敏今天就没意义了。我是说，它过临界点了。 以前脱敏是必修，因为除了脱敏你没别的办法。现在它开始变成一道选择题：你可以继续脱敏上云，也可以让材料干脆别出门。 所以我不再劝人"喂 AI 之前先脱敏"了。 我想说的是另一件事—— > **你手上那些一直不敢交出去的材料， > 是时候重新想想了。** --- 原文发布于「零代码法律人」。读者可前往 [微信公众号阅读原文](https://mp.weixin.qq.com/s/6UopqX6QVdJeYyAFByMZcQ)。