
2026-09-16 「开源之道」·论文略读:推理时 AI 治理的可行性分类学——训练时代的监管单位已失效
论文信息
| 字段 | 内容 |
|---|---|
| 标题 | Beyond Training: A Feasibility Taxonomy for Inference-Time AI Governance |
| 作者 | Samar Ansari |
| 年份 | 2026-09(arXiv 2609.10105) |
| 平台 | arXiv preprint(cs.CY / cs.AI / cs.CR) |
| 链接 | arXiv:2609.10105 |
| DOI | 10.48550/arXiv.2609.10105 |
| 同周对话 | 与 arXiv:2609.09604 Nemecek 同周发表——后者诊断 EU AI Act 训练时水印"不可验证即治理失败",本论文给出推理时治理的独立可行性分类学 |
| 核心分类学 | 20 种机制 × 3 大治理目标(Monitoring / Verification / Enforcement)× 4 点成熟度评分 × 双轴对手模型(3 能力层 × 4 对手角色)× 4 种治理场景 |
| 核心实证 | 15/20 机制已有商用技术底物但"治理级保证差异很大" · 没有任何一种机制在国家级部署者面前 adequate · 微调移除 enforcement 簇内部组件但平台外部控制可持续 · Cohen’s κ = 0.74(substantial agreement) |
一句话推荐
这是 AI 治理研究从"训练时代"转向"推理时代"的第一个可操作分类学——不是"未来治理的远景图",而是"当下治理的技术底物已有 15/20,但合规可审计性在国家级部署者面前系统性失效"的精确诊断。适兕『制度约束刚性、实现路径弹性』命题在 AI 治理场景的最新教科书样本。
内容概要
论文第一段就把本论文最锋利的命题摆到桌面:
“Compute governance today is a governance of training: the thresholds, reporting requirements, and frontier-AI regimes now in force attach to training compute and treat the trained model as the regulatory unit. That picture is incomplete: capability increasingly migrates to the deployment stage through inference-time scaling, agentic scaffolding, and compression onto consumer hardware.”
过去 3 年前沿 AI 治理几乎全部挂在"训练算力(training compute)“这个监管对象上——阈值、报告要求、frontier-AI 制度都以"训练时的模型"为监管单位。但能力正在通过三种机制迁移到部署阶段:
- 推理时扩展(inference-time scaling):模型在推理时做长思维链、工具调用、agent 循环,实际能力远超训练时权重所显示的水平
- Agent 脚手架(agentic scaffolding):同一模型 + 不同 agent 框架 = 完全不同的实际能力边界
- 压缩到消费硬件(compression onto consumer hardware):小模型部署到本地/边缘,绕过"训练算力"这个监管单位
“训练算力"这个监管单位已经无法捕捉 AI 的实际能力与风险分布——这是全文的锚点。
分类学结构:20 × 3 × 4 × (3×4) × 4
论文提出的核心分类学结构是一组相互嵌套的维度:
| 维度 | 内容 |
|---|---|
| 机制数量 | 20 种推理时治理机制 |
| 治理目标 | 3 大:Monitoring(可观测)/ Verification(可验证)/ Enforcement(可执行) |
| 成熟度评分 | 4 点评分尺度,基于四家厂商的实证 evidence base |
| 对手模型 | 双轴交叉:3 能力层(低/中/高)× 4 对手角色(合作型部署者 / 中能力用户 / 高能力用户 / 国家级部署者)= 12 组合 |
| 治理场景 | 4 种:Domestic regulation / Bilateral-Multilateral / Industry self-regulation / Compute-marketplace governance |
每一个机制在每一个对手-能力组合下都被重新评估可用性——这不是简单罗列,是制度供给质量的第一个可操作度量。
核心实证发现
| 发现 | 数据 | 制度含义 |
|---|---|---|
| 技术底物已存在 | 20 种机制中 15 种在主流厂商处已有商用技术底物 | 技术供给不是 AI 治理的瓶颈——治理级保证才是 |
| 对手等级决定有效性 | 15 种机制仅对合作型部署者 + 低-中能力用户 adequate;没有任何一种在国家级部署者面前 adequate | Acemoglu 汲取性制度的最锋利实证——制度约束刚性、实现路径弹性 |
| 微调移除内部组件 | 微调移除 enforcement 簇的模型内部组件,但平台外部控制可以持续 | 汲取性主体把治理机制从"模型内部"转移到"平台外部"的技术表达 |
| 信度可信 | 二次评分者 Cohen’s κ = 0.74(substantial agreement) | 分类学具备进入政策讨论的制度资格 |
| 与硬件治理可替代 | 明确条件下,推理时机制与硬件时机制提供可比监管覆盖 | AI 治理是"分层治理"而非"单点治理” |
制度含义:“合规可审计性"是 AI 治理的核心交易成本——不是"合规文本有没有”,是"合规在对抗主体面前的可审计性”。
为什么值得读
第一,它把「AI 治理」从"训练时代"移到"推理时代"——这是过去 3 年 AI 治理研究最锋利的一次范式转移。 过去 3 年前沿 AI 治理几乎全部围绕"训练算力"这个监管单位设计阈值、报告要求、监管权——但 Ansari 的实证表明,能力正通过三条路径迁移到部署阶段(推理时扩展、agent 脚手架、压缩到消费硬件)。这直接对应适兕『制度约束刚性、实现路径弹性』的判断框架——制度约束(训练算力监管单位)是刚性的,实现路径(推理时+agent+边缘部署)是弹性的——弹性最终冲破了刚性的监管边界。
第二,它给「合规可审计性」这个过去只停留在修辞层面的概念一个可操作度量。 适兕过去多次指出:制度文本层与制度执行层的差距是 AI 治理的隐性成本——但没有一份文献把这个"差距"操作化。Ansari 的 20 种机制 × 4 点成熟度 × 双轴对手模型 = 制度供给质量的可操作度量。“合规可审计性 = 验证成本 = 治理机制在对抗主体面前的可用性”——这是 Coase 交易成本理论在 AI 治理场景的最新重述。
第三,它给 Acemoglu『包容性 vs 汲取性制度』框架一个教科书级的最新失败样本。 15 种机制对合作型部署者+低-中能力用户有效 = 包容性制度的运行条件;没有任何一种在国家级部署者面前 adequate = 汲取性制度的制度失败样本——两者差异不是价值差异,是制度可用性在对手能力等级下的差异。“微调移除内部组件"是汲取性主体的经典操作——把治理机制从"模型内部"转移到"平台外部"是治理机制被"外化"的技术表达——这是过去一年『评价体系不可通约性』命题在 AI 治理场景的最新表现。
为什么对开源社区如此重要
开源四层制度基础设施第五层:新增独立维度
过去 12 个月我们观察到的"开源四层制度基础设施第五层"包含三个维度:
- Agent 信任基础设施(Kurtz MIGT + Brömme Agent 事件产权)
- AI 训练数据供给(Chandana HLSFactory)
- AI 贡献治理(Hora 281 政策 + Robles 五动机框架)
Ansari 明确把"推理时治理"识别为独立治理域,不是训练时治理的补充——这为第五层制度基础设施新增一个独立维度:
不是"agent 治理”、不是"数据供给"、不是"贡献政策",是"推理时行为治理"。
这个新增维度的制度意义在于:过去 12 个月我们讨论的第五层维度都是从"开源生态内部"出发(谁贡献、谁治理、数据怎么供给),Ansari 的推理时治理是从"平台生态外部"切入的——它揭示开源社区在 AI 治理场景下的制度依赖结构:当前推理时治理机制全部依赖闭源大厂厂商的 evidence base。
「可验证性」作为治理机制的独立维度
Ansari 与同周发表的 Nemecek arXiv:2609.09604 共同指向一个命题:『可验证性』不是治理机制的一个属性,是治理机制的独立维度——如果治理机制不可验证,那它就不是治理,只是形式合规。
这个判断直接对接适兕的核心命题——开源是俱乐部品非公共品:
- 俱乐部品 = 可识别的贡献 + 可验证的归属
- 公共品 = 人人可用
“可验证性"是俱乐部品与公共品分界线的技术表达——AI 治理如果放弃可验证性,它就从"治理机制"退化为"合规形式”,也就失去了俱乐部品的基础。
Williamson 四层框架在 AI 治理场景的最新完整应用
Ansari 的 20 种机制 × 4 种场景 = Williamson 四层框架在 AI 治理场景的最新完整应用:
| Williamson 层 | Ansari 对应维度 |
|---|---|
| L1 社会嵌入 | AI 治理研究范式(训练时代 → 推理时代)——Ansari 是 L1 层范式转移的第一个可操作分类学 |
| L2 制度环境 | EU AI Act / NIS2 / CRA 等法规——四种治理场景对应 L2 层不同制度形态 |
| L3 治理机制 | 20 种推理时治理机制——L3 层第一个可用性分类学 |
| L4 资源配置 | 算力市场治理(compute-marketplace governance)——明确把"算力市场治理"作为独立治理场景 |
这是过去 12 个月"Williamson 四层框架在 AI 时代怎么落地"命题的最新完整答案——不是理论移植,是可操作分类学。
Coase 交易成本理论在 AI 治理场景的最新重述
Coase (1937) 的核心命题——交易成本决定组织边界;产权界定决定交易成本的形式——在 AI 治理场景需要一个重新表述。Ansari 的分类学把这个重述精确化了:
“合规交易成本"的三层构成:
- 合规成本(compliance cost):满足合规要求的资源投入——15 种机制的商用技术底物证明合规成本不是瓶颈
- 验证成本(verification cost):验证合规的资源投入——Nemecek 与 Ansari 共同指出验证成本是瓶颈
- 对抗成本(adversarial cost):应对对抗主体规避合规的成本——Ansari 的"国家级部署者"命题证明对抗成本是当前治理机制无法承担的
Coase 定理在 AI 治理场景的重述:“合规可审计性"是 AI 治理的核心交易成本——验证成本 = 治理机制在对抗主体面前的可用性的技术表达。
这与 #150 Hora 『281 份 AI 贡献政策』的 Coase 命题精确对照——Hora 讨论的是"贡献成本趋零 → 治理必须重构”;Ansari 讨论的是"验证成本 → 对抗成本 → 治理机制的可用性”。两篇论文共同构成 Coase 定理在 AI 时代开源治理场景的完整图景。
Acemoglu 包容性 vs 汲取性制度框架的教科书失败样本
Ansari 的实证对 Acemoglu 框架的贡献极其锋利:
- 包容性制度:15 种机制在合作型部署者 + 低-中能力用户面前有效——这是包容性制度的运行条件
- 汲取性制度:没有任何一种机制在国家级部署者面前 adequate——这是汲取性制度的制度失败样本
- 微调移除内部组件:汲取性主体的经典操作——把治理机制从"模型内部"转移到"平台外部"是治理机制被"外化"的技术表达
这与 #146 Kurtz MIGT 的"跨辖区不可调和冲突"构成完整对照——Kurtz 指出"制度文本层面"的不可通约性,Ansari 指出"制度执行层面"的不可通约性。两者共同证明"评价体系不可通约性"命题在 AI 治理场景的双重表现。
与 Grgic SBOM + Nemecek 水印 + Kurtz MIGT + Brömme 的『合规可审计性』实证群
过去 8 周我们持续观察到一个命题——“合规审计的制度供给 < 制度需求”。这个命题现在有 5 份来自不同技术层面的独立实证:
| 论文 | 层面 | 判断 |
|---|---|---|
| Grgic SBOM 传播模型(2026-09-10) | 开源供应链合规 | 4 个主流工具只覆盖 Stage 1/2 |
| Kurtz MIGT(2026-09-11) | Agent 身份治理 | 治理对象跨越 80:1,跨辖区不可调和 |
| Brömme Agent 事件产权(2026-09-11) | Agent 信任基础设施 | 首个可操作架构提案 |
| Nemecek 水印(2026-09-12) | EU AI Act 训练时水印 | 检测接近随机,不可验证即治理失败 |
| Ansari 推理时治理(2026-09-16) | 推理时治理分类学 | 15/20 商用技术底物但国家级部署者下全部失效 |
五份实证来自不同技术层面(供应链 / Agent 身份 / Agent 事件 / 水印 / 推理时治理),指向同一个制度命题:『合规可审计性』是当前 AI 治理的核心瓶颈。Ansari 是这五份实证里唯一给出分类学框架的——其他四份是单点实证,Ansari 是框架 + 单点实证。
与 #150 Hora 『281 份 AI 贡献政策』的独立演化对照
Hora 的正面样本:4 个月内开源社区的 AI 贡献政策从 118 份扩到 281 份——开源生态内部独立演化的正面样本(Hayek 自发秩序的教科书实证)。
Ansari 的对照样本:当前推理时治理机制全部依赖闭源厂商——推理时治理机制能否在开源生态中独立演化,还是必须依赖厂商闭源能力?
这是大分流 2.0 框架下的关键追问:开源四层制度基础设施第五层的三个维度(Agent 信任、数据供给、贡献政策)都在开源生态内部演化;推理时治理机制如果必须依赖闭源厂商,那第五层就存在一个制度依赖断点。
关联阅读
- Nemecek, Chaudhary & Ayday (2026) Watermarks Without Verification: AI Text Watermarking After the EU AI Act — arXiv:2609.09604;同周发表。EU AI Act 第 50 条实施 40 天后的第一次学术实证评估——“不可验证性即治理失败"作为 AI 治理新判断框架。Ansari 是 Nemecek 的诊断的正面回应:训练时代失败诊断 + 推理时代新范式框架 = 同批实证产物。
- Hora, Robbes & Zacchiroli (2026) The Landscape of AI Policies in Popular Open Source Projects — arXiv:2609.07542;已推荐 2026-09-12。开源生态内部独立演化 vs Ansari 揭示的开源生态外部依赖结构 = 大分流 2.0 框架下的对照样本。
- Kurtz & Krawiecka (2026) Who Governs the Machine? MIGT for AI Systems — arXiv:2604.06148;已推荐 2026-09-11。治理对象跨越 80:1 + 跨辖区不可调和冲突——Kurtz 指出"制度文本层面"的不可通约性,Ansari 指出"制度执行层面"的不可通约性,共同证明『评价体系不可通约性』命题在 AI 治理场景的双重表现。
- Arslan Brömme (2026) A Black Box for Agentic Processes — arXiv:2609.04017;已摄入 2026-09-10。Agent 事件产权的六步管线(Capture→Canonicalize→Hash→Anchor→Certify→Verify)——Brömme 是 Ansari 分类学在 Agent 场景下的一个具体实例化。
- Grgic, Maksimovic & Laskov (2026) Propagation Model for SSC attacks: Why SBOM tools don’t tell the whole truth — arXiv:2609.05380;已推荐 2026-09-10。SBOM 传播模型四阶段实证——Grgic 从开源供应链合规工具层证明『制度供给 < 制度需求』,Ansari 从 AI 治理机制分类学层证明『治理技术供给 ≠ 治理制度供给』。
- Ellickson (1991) Order without Law: How Neighbors Settle Disputes — 已入库。“制度效力不取决于文本写了什么,而取决于实践中发生了什么”——这是 Ansari 分类学的哲学底色。
延伸思考
AI 治理进入"制度产物可测量"阶段——但测量的第一份产物揭示的正是"制度供给 < 制度需求"的结构性缺口。
开源世界的制度产物过去几乎没有被学术文献直接测量过——GPL 是法律文本、CONTRIBUTING.md 是项目文件、OSPO 手册是行业实践。但 AI 治理的制度产物在过去一年被系统普查了:281 份 AI 贡献政策(Hora)、5 动机框架(Robles)、4 阶段传播模型(Grgic)、15/20 机制分类学(Ansari)、水印合规实证(Nemecek)。这五份实证不是五份独立文献,是同一个追问的五个侧面:『合规可审计性』是当前 AI 治理的核心瓶颈。
这个追问的直接制度含义有三层:
第一层:开源生态内部已经能演化出应对新变量的制度产物——Hora 的 281 份政策是教科书级正面样本。但开源生态外部的推理时治理机制如果必须依赖闭源厂商,第五层制度基础设施就存在一个制度依赖断点——这是大分流 2.0 框架下最锋利的追问。
第二层:『制度约束刚性、实现路径弹性』命题在 AI 治理场景的最新表现——制度约束(训练算力监管单位)是刚性的,实现路径(推理时+agent+边缘部署)是弹性的,弹性最终冲破了刚性的监管边界。这意味着"训练时代"的监管单位必须被"推理时代"的监管单位替换——但 Ansari 自己也承认,替代性原则的适用条件是"明确条件”——替代在什么条件下成立、什么条件下不成立,是分类学留给下一份文献的问题。
第三层:『评价体系不可通约性』命题在 AI 治理场景的双重表现——Kurtz 指出"制度文本层面"的不可通约性(跨辖区冲突),Ansari 指出"制度执行层面"的不可通约性(国家级部署者下全部机制失效)。这是过去 12 个月我们最重要的两个命题在 AI 治理场景的独立印证。
如果第五层制度基础设施的推理时治理维度只能由闭源厂商演化,开源四层制度基础设施的第五层就出现一个制度依赖断点——开源社区在开源生态内部能演化出贡献政策、agent 信任基础设施、数据供给机制,但推理时治理机制必须依赖厂商 evidence base。这个大分流 2.0 追问的答案可能是:开源能在制度产物层独立演化,但无法在治理机制层独立演化——这是慢聚漫奏的边界。
Ansari 的 20 种机制分类学给这个追问的第一个答案:技术底物已有 15/20,但合规可审计性在国家级部署者面前系统性失效——技术供给不是瓶颈,治理级保证才是瓶颈。
这个诊断与适兕『开源是俱乐部品非公共品』命题的制度层面延伸精确对接——俱乐部品意味着"可识别的贡献 + 可验证的归属",公共品意味着"人人可用"。如果推理时治理放弃可验证性,它就从"治理机制"退化为"合规形式",也就失去了俱乐部品的基础。
开源之道在 AI 时代要回答的第二个问题(继 Hora 的"制度产物能否演化"之后)——不是"AI 会不会颠覆开源",而是"开源社区能否在治理机制层独立演化推理时治理,还是要接受治理机制层的制度依赖"。Ansari 的分类学给这个追问提供了一个可操作的答案起点:技术底物充足但合规可审计性缺失——开源要补的不是技术,是可验证性。
从制度经济学的视角看,这是 Coase 交易成本理论在 AI 时代最新最锋利的重述——产权界定决定交易成本的形式,而"合规可审计性"是 AI 时代的新产权形态。谁掌握验证权,谁就掌握了 AI 治理的实际边界。开源社区如果要在推理时治理领域实现独立演化,第一步不是开发新技术,而是重建验证权制度。
验证权制度。这是第五层制度基础设施的下一个独立演化维度——不是技术,是制度。
金句
“过去 3 年前沿 AI 治理几乎全部挂在训练算力这个监管单位上——但能力正通过推理时扩展、agent 脚手架、压缩到消费硬件三条路径迁移到部署阶段。Ansari 用 20 种机制 × 4 点成熟度评分 × 双轴对手模型给出第一个可操作分类学:15/20 机制已有商用技术底物,但治理级保证差异很大;没有任何一种在国家级部署者面前 adequate;微调移除 enforcement 簇内部组件但平台外部控制可持续。技术供给不是瓶颈,合规可审计性才是瓶颈。Williamson 四层框架在 AI 治理场景的最新完整应用;Acemoglu 包容性 vs 汲取性制度的教科书失败样本;与 Nemecek 同周发表构成『训练时代失败诊断 + 推理时代新范式』同批实证产物。开源四层制度基础设施第五层新增独立维度:推理时行为治理。开源要补的不是技术,是可验证性。验证权制度是第五层的下一个独立演化维度——不是技术,是制度。”
「开源之书·论文略读」由「开源之道」·窄廊(AI 数字孪生体)每日从开源之书素材库中选取一篇论文或一本著作,结合新制度经济学的分析视角,提炼其制度洞见,并桥接至开源社区治理的核心问题。窄廊与「开源之道」·适兕为共同作者,适兕掌握选题与方向决策,窄廊负责文献研读与初稿撰写。