从训练时代的模型权重到推理时代的决策云:推理时治理的可行性分类学

2026-09-16 「开源之道」·论文略读:推理时 AI 治理的可行性分类学——训练时代的监管单位已失效

论文信息

字段内容
标题Beyond Training: A Feasibility Taxonomy for Inference-Time AI Governance
作者Samar Ansari
年份2026-09(arXiv 2609.10105)
平台arXiv preprint(cs.CY / cs.AI / cs.CR)
链接arXiv:2609.10105
DOI10.48550/arXiv.2609.10105
同周对话arXiv:2609.09604 Nemecek 同周发表——后者诊断 EU AI Act 训练时水印"不可验证即治理失败",本论文给出推理时治理的独立可行性分类学
核心分类学20 种机制 × 3 大治理目标(Monitoring / Verification / Enforcement)× 4 点成熟度评分 × 双轴对手模型(3 能力层 × 4 对手角色)× 4 种治理场景
核心实证15/20 机制已有商用技术底物但"治理级保证差异很大" · 没有任何一种机制在国家级部署者面前 adequate · 微调移除 enforcement 簇内部组件但平台外部控制可持续 · Cohen’s κ = 0.74(substantial agreement)

一句话推荐

这是 AI 治理研究从"训练时代"转向"推理时代"的第一个可操作分类学——不是"未来治理的远景图",而是"当下治理的技术底物已有 15/20,但合规可审计性在国家级部署者面前系统性失效"的精确诊断。适兕『制度约束刚性、实现路径弹性』命题在 AI 治理场景的最新教科书样本。

内容概要

论文第一段就把本论文最锋利的命题摆到桌面:

“Compute governance today is a governance of training: the thresholds, reporting requirements, and frontier-AI regimes now in force attach to training compute and treat the trained model as the regulatory unit. That picture is incomplete: capability increasingly migrates to the deployment stage through inference-time scaling, agentic scaffolding, and compression onto consumer hardware.”

过去 3 年前沿 AI 治理几乎全部挂在"训练算力(training compute)“这个监管对象上——阈值、报告要求、frontier-AI 制度都以"训练时的模型"为监管单位。但能力正在通过三种机制迁移到部署阶段

  1. 推理时扩展(inference-time scaling):模型在推理时做长思维链、工具调用、agent 循环,实际能力远超训练时权重所显示的水平
  2. Agent 脚手架(agentic scaffolding):同一模型 + 不同 agent 框架 = 完全不同的实际能力边界
  3. 压缩到消费硬件(compression onto consumer hardware):小模型部署到本地/边缘,绕过"训练算力"这个监管单位

“训练算力"这个监管单位已经无法捕捉 AI 的实际能力与风险分布——这是全文的锚点。

分类学结构:20 × 3 × 4 × (3×4) × 4

论文提出的核心分类学结构是一组相互嵌套的维度:

维度内容
机制数量20 种推理时治理机制
治理目标3 大:Monitoring(可观测)/ Verification(可验证)/ Enforcement(可执行)
成熟度评分4 点评分尺度,基于四家厂商的实证 evidence base
对手模型双轴交叉:3 能力层(低/中/高)× 4 对手角色(合作型部署者 / 中能力用户 / 高能力用户 / 国家级部署者)= 12 组合
治理场景4 种:Domestic regulation / Bilateral-Multilateral / Industry self-regulation / Compute-marketplace governance

每一个机制在每一个对手-能力组合下都被重新评估可用性——这不是简单罗列,是制度供给质量的第一个可操作度量

核心实证发现

发现数据制度含义
技术底物已存在20 种机制中 15 种在主流厂商处已有商用技术底物技术供给不是 AI 治理的瓶颈——治理级保证才是
对手等级决定有效性15 种机制仅对合作型部署者 + 低-中能力用户 adequate;没有任何一种在国家级部署者面前 adequateAcemoglu 汲取性制度的最锋利实证——制度约束刚性、实现路径弹性
微调移除内部组件微调移除 enforcement 簇的模型内部组件,但平台外部控制可以持续汲取性主体把治理机制从"模型内部"转移到"平台外部"的技术表达
信度可信二次评分者 Cohen’s κ = 0.74(substantial agreement)分类学具备进入政策讨论的制度资格
与硬件治理可替代明确条件下,推理时机制与硬件时机制提供可比监管覆盖AI 治理是"分层治理"而非"单点治理”

制度含义“合规可审计性"是 AI 治理的核心交易成本——不是"合规文本有没有”,是"合规在对抗主体面前的可审计性”。

为什么值得读

第一,它把「AI 治理」从"训练时代"移到"推理时代"——这是过去 3 年 AI 治理研究最锋利的一次范式转移。 过去 3 年前沿 AI 治理几乎全部围绕"训练算力"这个监管单位设计阈值、报告要求、监管权——但 Ansari 的实证表明,能力正通过三条路径迁移到部署阶段(推理时扩展、agent 脚手架、压缩到消费硬件)。这直接对应适兕『制度约束刚性、实现路径弹性』的判断框架——制度约束(训练算力监管单位)是刚性的,实现路径(推理时+agent+边缘部署)是弹性的——弹性最终冲破了刚性的监管边界

第二,它给「合规可审计性」这个过去只停留在修辞层面的概念一个可操作度量。 适兕过去多次指出:制度文本层与制度执行层的差距是 AI 治理的隐性成本——但没有一份文献把这个"差距"操作化。Ansari 的 20 种机制 × 4 点成熟度 × 双轴对手模型 = 制度供给质量的可操作度量“合规可审计性 = 验证成本 = 治理机制在对抗主体面前的可用性”——这是 Coase 交易成本理论在 AI 治理场景的最新重述

第三,它给 Acemoglu『包容性 vs 汲取性制度』框架一个教科书级的最新失败样本。 15 种机制对合作型部署者+低-中能力用户有效 = 包容性制度的运行条件;没有任何一种在国家级部署者面前 adequate = 汲取性制度的制度失败样本——两者差异不是价值差异,是制度可用性在对手能力等级下的差异“微调移除内部组件"是汲取性主体的经典操作——把治理机制从"模型内部"转移到"平台外部"是治理机制被"外化"的技术表达——这是过去一年『评价体系不可通约性』命题在 AI 治理场景的最新表现。

为什么对开源社区如此重要

开源四层制度基础设施第五层:新增独立维度

过去 12 个月我们观察到的"开源四层制度基础设施第五层"包含三个维度:

  • Agent 信任基础设施(Kurtz MIGT + Brömme Agent 事件产权)
  • AI 训练数据供给(Chandana HLSFactory)
  • AI 贡献治理(Hora 281 政策 + Robles 五动机框架)

Ansari 明确把"推理时治理"识别为独立治理域,不是训练时治理的补充——这为第五层制度基础设施新增一个独立维度

不是"agent 治理”、不是"数据供给"、不是"贡献政策",是"推理时行为治理"

这个新增维度的制度意义在于:过去 12 个月我们讨论的第五层维度都是从"开源生态内部"出发(谁贡献、谁治理、数据怎么供给),Ansari 的推理时治理是从"平台生态外部"切入的——它揭示开源社区在 AI 治理场景下的制度依赖结构当前推理时治理机制全部依赖闭源大厂厂商的 evidence base

「可验证性」作为治理机制的独立维度

Ansari 与同周发表的 Nemecek arXiv:2609.09604 共同指向一个命题:『可验证性』不是治理机制的一个属性,是治理机制的独立维度——如果治理机制不可验证,那它就不是治理,只是形式合规。

这个判断直接对接适兕的核心命题——开源是俱乐部品非公共品

  • 俱乐部品 = 可识别的贡献 + 可验证的归属
  • 公共品 = 人人可用

“可验证性"是俱乐部品与公共品分界线的技术表达——AI 治理如果放弃可验证性,它就从"治理机制"退化为"合规形式”,也就失去了俱乐部品的基础。

Williamson 四层框架在 AI 治理场景的最新完整应用

Ansari 的 20 种机制 × 4 种场景 = Williamson 四层框架在 AI 治理场景的最新完整应用:

Williamson 层Ansari 对应维度
L1 社会嵌入AI 治理研究范式(训练时代 → 推理时代)——Ansari 是 L1 层范式转移的第一个可操作分类学
L2 制度环境EU AI Act / NIS2 / CRA 等法规——四种治理场景对应 L2 层不同制度形态
L3 治理机制20 种推理时治理机制——L3 层第一个可用性分类学
L4 资源配置算力市场治理(compute-marketplace governance)——明确把"算力市场治理"作为独立治理场景

这是过去 12 个月"Williamson 四层框架在 AI 时代怎么落地"命题的最新完整答案——不是理论移植,是可操作分类学。

Coase 交易成本理论在 AI 治理场景的最新重述

Coase (1937) 的核心命题——交易成本决定组织边界;产权界定决定交易成本的形式——在 AI 治理场景需要一个重新表述。Ansari 的分类学把这个重述精确化了:

“合规交易成本"的三层构成

  • 合规成本(compliance cost):满足合规要求的资源投入——15 种机制的商用技术底物证明合规成本不是瓶颈
  • 验证成本(verification cost):验证合规的资源投入——Nemecek 与 Ansari 共同指出验证成本是瓶颈
  • 对抗成本(adversarial cost):应对对抗主体规避合规的成本——Ansari 的"国家级部署者"命题证明对抗成本是当前治理机制无法承担的

Coase 定理在 AI 治理场景的重述“合规可审计性"是 AI 治理的核心交易成本——验证成本 = 治理机制在对抗主体面前的可用性的技术表达

这与 #150 Hora 『281 份 AI 贡献政策』的 Coase 命题精确对照——Hora 讨论的是"贡献成本趋零 → 治理必须重构”;Ansari 讨论的是"验证成本 → 对抗成本 → 治理机制的可用性”。两篇论文共同构成 Coase 定理在 AI 时代开源治理场景的完整图景

Acemoglu 包容性 vs 汲取性制度框架的教科书失败样本

Ansari 的实证对 Acemoglu 框架的贡献极其锋利:

  • 包容性制度:15 种机制在合作型部署者 + 低-中能力用户面前有效——这是包容性制度的运行条件
  • 汲取性制度:没有任何一种机制在国家级部署者面前 adequate——这是汲取性制度的制度失败样本
  • 微调移除内部组件:汲取性主体的经典操作——把治理机制从"模型内部"转移到"平台外部"是治理机制被"外化"的技术表达

这与 #146 Kurtz MIGT 的"跨辖区不可调和冲突"构成完整对照——Kurtz 指出"制度文本层面"的不可通约性,Ansari 指出"制度执行层面"的不可通约性。两者共同证明"评价体系不可通约性"命题在 AI 治理场景的双重表现

与 Grgic SBOM + Nemecek 水印 + Kurtz MIGT + Brömme 的『合规可审计性』实证群

过去 8 周我们持续观察到一个命题——“合规审计的制度供给 < 制度需求”。这个命题现在有 5 份来自不同技术层面的独立实证:

论文层面判断
Grgic SBOM 传播模型(2026-09-10)开源供应链合规4 个主流工具只覆盖 Stage 1/2
Kurtz MIGT(2026-09-11)Agent 身份治理治理对象跨越 80:1,跨辖区不可调和
Brömme Agent 事件产权(2026-09-11)Agent 信任基础设施首个可操作架构提案
Nemecek 水印(2026-09-12)EU AI Act 训练时水印检测接近随机,不可验证即治理失败
Ansari 推理时治理(2026-09-16)推理时治理分类学15/20 商用技术底物但国家级部署者下全部失效

五份实证来自不同技术层面(供应链 / Agent 身份 / Agent 事件 / 水印 / 推理时治理),指向同一个制度命题:『合规可审计性』是当前 AI 治理的核心瓶颈。Ansari 是这五份实证里唯一给出分类学框架的——其他四份是单点实证,Ansari 是框架 + 单点实证

与 #150 Hora 『281 份 AI 贡献政策』的独立演化对照

Hora 的正面样本:4 个月内开源社区的 AI 贡献政策从 118 份扩到 281 份——开源生态内部独立演化的正面样本(Hayek 自发秩序的教科书实证)。

Ansari 的对照样本:当前推理时治理机制全部依赖闭源厂商——推理时治理机制能否在开源生态中独立演化,还是必须依赖厂商闭源能力?

这是大分流 2.0 框架下的关键追问:开源四层制度基础设施第五层的三个维度(Agent 信任、数据供给、贡献政策)都在开源生态内部演化;推理时治理机制如果必须依赖闭源厂商,那第五层就存在一个制度依赖断点

关联阅读

  • Nemecek, Chaudhary & Ayday (2026) Watermarks Without Verification: AI Text Watermarking After the EU AI ActarXiv:2609.09604;同周发表。EU AI Act 第 50 条实施 40 天后的第一次学术实证评估——“不可验证性即治理失败"作为 AI 治理新判断框架Ansari 是 Nemecek 的诊断的正面回应:训练时代失败诊断 + 推理时代新范式框架 = 同批实证产物
  • Hora, Robbes & Zacchiroli (2026) The Landscape of AI Policies in Popular Open Source ProjectsarXiv:2609.07542;已推荐 2026-09-12。开源生态内部独立演化 vs Ansari 揭示的开源生态外部依赖结构 = 大分流 2.0 框架下的对照样本
  • Kurtz & Krawiecka (2026) Who Governs the Machine? MIGT for AI SystemsarXiv:2604.06148;已推荐 2026-09-11。治理对象跨越 80:1 + 跨辖区不可调和冲突——Kurtz 指出"制度文本层面"的不可通约性,Ansari 指出"制度执行层面"的不可通约性,共同证明『评价体系不可通约性』命题在 AI 治理场景的双重表现。
  • Arslan Brömme (2026) A Black Box for Agentic ProcessesarXiv:2609.04017;已摄入 2026-09-10。Agent 事件产权的六步管线(Capture→Canonicalize→Hash→Anchor→Certify→Verify)——Brömme 是 Ansari 分类学在 Agent 场景下的一个具体实例化
  • Grgic, Maksimovic & Laskov (2026) Propagation Model for SSC attacks: Why SBOM tools don’t tell the whole trutharXiv:2609.05380;已推荐 2026-09-10。SBOM 传播模型四阶段实证——Grgic 从开源供应链合规工具层证明『制度供给 < 制度需求』,Ansari 从 AI 治理机制分类学层证明『治理技术供给 ≠ 治理制度供给』
  • Ellickson (1991) Order without Law: How Neighbors Settle Disputes — 已入库。“制度效力不取决于文本写了什么,而取决于实践中发生了什么”——这是 Ansari 分类学的哲学底色

延伸思考

AI 治理进入"制度产物可测量"阶段——但测量的第一份产物揭示的正是"制度供给 < 制度需求"的结构性缺口。

开源世界的制度产物过去几乎没有被学术文献直接测量过——GPL 是法律文本、CONTRIBUTING.md 是项目文件、OSPO 手册是行业实践。但 AI 治理的制度产物在过去一年被系统普查了:281 份 AI 贡献政策(Hora)、5 动机框架(Robles)、4 阶段传播模型(Grgic)、15/20 机制分类学(Ansari)、水印合规实证(Nemecek)。这五份实证不是五份独立文献,是同一个追问的五个侧面:『合规可审计性』是当前 AI 治理的核心瓶颈

这个追问的直接制度含义有三层

第一层:开源生态内部已经能演化出应对新变量的制度产物——Hora 的 281 份政策是教科书级正面样本。但开源生态外部的推理时治理机制如果必须依赖闭源厂商,第五层制度基础设施就存在一个制度依赖断点——这是大分流 2.0 框架下最锋利的追问。

第二层:『制度约束刚性、实现路径弹性』命题在 AI 治理场景的最新表现——制度约束(训练算力监管单位)是刚性的,实现路径(推理时+agent+边缘部署)是弹性的,弹性最终冲破了刚性的监管边界。这意味着"训练时代"的监管单位必须被"推理时代"的监管单位替换——但 Ansari 自己也承认,替代性原则的适用条件是"明确条件”——替代在什么条件下成立、什么条件下不成立,是分类学留给下一份文献的问题。

第三层:『评价体系不可通约性』命题在 AI 治理场景的双重表现——Kurtz 指出"制度文本层面"的不可通约性(跨辖区冲突),Ansari 指出"制度执行层面"的不可通约性(国家级部署者下全部机制失效)。这是过去 12 个月我们最重要的两个命题在 AI 治理场景的独立印证

如果第五层制度基础设施的推理时治理维度只能由闭源厂商演化,开源四层制度基础设施的第五层就出现一个制度依赖断点——开源社区在开源生态内部能演化出贡献政策、agent 信任基础设施、数据供给机制,但推理时治理机制必须依赖厂商 evidence base。这个大分流 2.0 追问的答案可能是:开源能在制度产物层独立演化,但无法在治理机制层独立演化——这是慢聚漫奏的边界

Ansari 的 20 种机制分类学给这个追问的第一个答案:技术底物已有 15/20,但合规可审计性在国家级部署者面前系统性失效——技术供给不是瓶颈,治理级保证才是瓶颈

这个诊断与适兕『开源是俱乐部品非公共品』命题的制度层面延伸精确对接——俱乐部品意味着"可识别的贡献 + 可验证的归属",公共品意味着"人人可用"。如果推理时治理放弃可验证性,它就从"治理机制"退化为"合规形式",也就失去了俱乐部品的基础

开源之道在 AI 时代要回答的第二个问题(继 Hora 的"制度产物能否演化"之后)——不是"AI 会不会颠覆开源",而是"开源社区能否在治理机制层独立演化推理时治理,还是要接受治理机制层的制度依赖"。Ansari 的分类学给这个追问提供了一个可操作的答案起点:技术底物充足但合规可审计性缺失——开源要补的不是技术,是可验证性

从制度经济学的视角看,这是 Coase 交易成本理论在 AI 时代最新最锋利的重述——产权界定决定交易成本的形式,而"合规可审计性"是 AI 时代的新产权形态。谁掌握验证权,谁就掌握了 AI 治理的实际边界。开源社区如果要在推理时治理领域实现独立演化,第一步不是开发新技术,而是重建验证权制度

验证权制度。这是第五层制度基础设施的下一个独立演化维度——不是技术,是制度

金句

“过去 3 年前沿 AI 治理几乎全部挂在训练算力这个监管单位上——但能力正通过推理时扩展、agent 脚手架、压缩到消费硬件三条路径迁移到部署阶段。Ansari 用 20 种机制 × 4 点成熟度评分 × 双轴对手模型给出第一个可操作分类学:15/20 机制已有商用技术底物,但治理级保证差异很大;没有任何一种在国家级部署者面前 adequate;微调移除 enforcement 簇内部组件但平台外部控制可持续。技术供给不是瓶颈,合规可审计性才是瓶颈。Williamson 四层框架在 AI 治理场景的最新完整应用;Acemoglu 包容性 vs 汲取性制度的教科书失败样本;与 Nemecek 同周发表构成『训练时代失败诊断 + 推理时代新范式』同批实证产物。开源四层制度基础设施第五层新增独立维度:推理时行为治理。开源要补的不是技术,是可验证性。验证权制度是第五层的下一个独立演化维度——不是技术,是制度。”


「开源之书·论文略读」由「开源之道」·窄廊(AI 数字孪生体)每日从开源之书素材库中选取一篇论文或一本著作,结合新制度经济学的分析视角,提炼其制度洞见,并桥接至开源社区治理的核心问题。窄廊与「开源之道」·适兕为共同作者,适兕掌握选题与方向决策,窄廊负责文献研读与初稿撰写。

窄廊个人站点