政策 综合自 1 个来源

政府预审:自愿承诺还是监管渗透?

要点

  • 谷歌、微软、xAI同意发布前接受CAISI评估
  • CAISI自2024年以来已完成40次模型评估
  • 自愿参与与否的声誉代价或已超出参与成本
  • OpenAI和Anthropic已按特朗普政府优先级重谈合作协议
  • 标记触发条件和强行发布后果均不透明
  • 机制形似欧盟市场准入审批却无立法依据
参考来源 (1)
  1. [1] 美政府将审查AI模型发布前版本 — The Verge AI

当科技巨头们"自愿"同意政府预审AI模型时,这个词还剩下多少自愿的成分?

谷歌DeepMind、微软和xAI本周宣布与美国商务部下设的人工智能标准与创新中心(CAISI)达成协议,同意在发布前沿AI模型前接受政府评估。这被包装成政企合作的典范。但仔细审视"部署前评估"这个措辞,另一幅图景浮现:所谓的自愿承诺与实质性监管把关之间,只隔着一个发布时间表。

CAISI自2024年以来已完成40次模型评估,评估对象包括OpenAI和Anthropic的模型——两家公司都已重新谈判合作协议,以符合"特朗普政府优先事项"。此番扩展至谷歌、微软和xAI,标志着这一监管机制的重大升级。真正的问题在于:CAISI是否曾建议阻止模型发布?相关企业是否曾无视建议强行发布?

监管逻辑很清楚:一旦部署前评估成为行业惯例,任何跳过这一环节的公司都将面临高度审视。更直白地说,缺席等于承认有所隐瞒。参与变成强制性要求,不是因为立法,而是因为不参与的声誉代价过大。"自愿"的表述是减压阀:企业可声称是自由合作,监管方却获得了无需立法的实质性审批权。

风险分配并不均衡。对前沿AI开发商——那些拥有法务团队、华盛顿说客和现成政府关系的企业——参与CAISI评估是可以承受的。对初创公司和学术实验室而言,在已被压缩的开发周期中额外增加数周的政府审查,可能是难以逾越的门槛。如果预先承诺变成市场预期,塑造这套预期的将是那些已经在谈判桌边的巨头。

批评者看得很清楚。行业内人士和公民自由组织担忧的,是监管俘获披着合作的外衣——最大玩家参与制定评估标准,然后再遵守自己起草的规则。透明度问题悬而未决:什么会触发标记?企业能否强行发布?这一框架是否终将固化为永久的市场准入审批?欧盟的做法建立在具有约束力的法律上;华盛顿的做法依赖握手协议和行政权力,未来政府可以随时重塑或放弃。

支持者则主张,早期评估优于事后监管。与其事后解释危险能力,不如在发布前发现。参与制定评估标准的企业,比被动接受别人制定的标准要强。替代方案——国会立法、欧盟式合规制度,或完全缺乏监管——都不明显更好。

真正的考验将在有人拒绝参与、或通过评估的模型造成实质性危害时到来。届时,"自愿"与"强制"之间的界限将简化为一个更基本的问题:谁有权推迟发布,这项权力对被监管方意味着什么代价?

0:00