A05 AI 公司作为准国家行为体
A05 AI 公司作为准国家行为体
当一家公司同时写规则（Constitutional AI、Model Spec、Usage Policy）、执行规则（封号、限流、拒答）、又裁定争议（申诉、Trust & Safety 工单、Oversight Board），它在功能上已经行使了立法、行政、司法三种权力。本节点要解决的问题不是”AI 公司有没有越界”,而是一个更精确的制度诊断问题：当三权集于一身且无外部分权制衡时，这个实体在制度结构上是不是已经构成一种”数字利维坦”——一个准主权者？本节的视角不是技术合规（“它有没有遵守 GDPR”），而是制度设计（“它的权力结构长什么样,缺了哪个零件”）。框架名：三权合一 + 缺失横向问责 = 准国家行为体。
§0 为什么用”准国家行为体”,而不是”平台""中介""服务商”
读者脑子里默认有三个框架,每一个都会让你看不见真正的问题,先逐一挡掉。
- “服务商”框架（最弱）：把 OpenAI/Anthropic 当成卖 API 的供应商,用户不满意可以换。问题：它把治理问题降维成市场问题。但当全球前沿模型只有三五家、且彼此的 Usage Policy 高度趋同时,“换一家”并不能换掉规则本身——你换的是供应商,换不掉”被治理”这件事。
- “中介/平台”框架（主流,Klonick/Gillespie）：把它当成内容的”看门人”(custodian),套用平台治理文献。这个框架对——但它是为 Facebook/Twitter 这种内容托管平台设计的,核心是”审核别人产生的内容”。AI 公司的权力机制不同：它不是审核你说的话,而是通过训练数据选择、对齐策略、系统提示,在生成的源头就决定了什么话能被说出来。这是前置的、结构性的,比事后审核更深。(详见 §3 与 内容治理作为准立法 的差异)
- “准国家行为体”框架(本节点采用)：借自国际关系与法理学的 quasi-state actor / private sovereign 概念。它的解释力在于：一旦你承认这个实体行使的是治理权力而非商业服务,你就必须问治理的合法性问题——授权从哪来?问责向谁负?这正是市场框架和平台框架都问不出来的问题。
选这个框架的赌注是：AI 公司的权力已经从”经济性的”滑变为”政治性的”,而我们还在用商业词汇描述它,这个词汇错配本身就是一种权力(话语权力)。 边界:这是一个类比,不是法律事实——AI 公司不是国家,没有领土、没有合法垄断暴力、没有税收强制力。类比的价值在诊断,不在定性(§判断主轴会展开这个边界)。
§1 三权的功能性识别:它到底行使了什么
把”准国家”这个大词拆成可证伪的功能清单。下表的每一格都是”功能等价”,不是”法律等价”。
| 国家权力 | AI 公司对应机制 | 可查证据(2024–2026) |
|---|---|---|
| 立法(定规则) | Constitutional AI 文本、OpenAI Model Spec、Usage Policy、Acceptable Use Policy | Anthropic 2023 公开 Claude 宪法全文;Constitutional AI 字面就叫”宪法” |
| 行政(执行) | 账户封禁、API 限流、内容拒答、模型行为约束 | 各家 Usage Policy 列举可封禁行为;违规后果”完全依赖公司自身判断”(arXiv:2407.01557,Priyanshu 等 2024) |
| 司法(裁定争议) | 申诉流程、Trust & Safety 工单、(社交平台侧)Meta Oversight Board | Meta Oversight Board 2020 成立,截至 2025 发布 200+ 决定、317 条政策建议(来源:Oversight Board 官网) |
| (类)外交 | OpenAI 倡议 IAEA 式国际监管机构;Frontier Safety Commitments(Seoul,2024) | 16 家公司 Seoul 2024 签署前沿安全承诺(来源:ailabwatch.org) |
[!note] 判断:三权”凑齐”不是修辞,是结构事实 Klonick “The New Governors”(Harvard Law Review 131, 2018)对 Facebook/Twitter/YouTube 的实证研究证明,这三家”在功能上构成私法体系(private law)“——有定期修订的规则、受训的人工决策者、类行政的申诉程序。AI 公司把这套”私人立法”前移到了模型训练阶段。这不是”会不会”的问题,是”已经如此”的问题。
但功能等价不等于权力等价。这正是下一节的命门。
§2 关键缺件:为什么是”准”国家,而非国家——分权制衡的真空
如果只看到三权合一,会得出”AI 公司是国家”的过度结论。真正的制度诊断在于:它凑齐了三权,却独缺了使三权”正当”的那个零件——横向问责(horizontal accountability)。
这里调度 奥唐奈(Guillermo O’Donnell)的**委任民主(Delegative Democracy)**框架(Journal of Democracy 5:1, 1994, pp.55–69,已核实)。O’Donnell 区分两种问责:
- 纵向问责(vertical):选举式问责,自下而上。AI 公司有微弱的纵向问责——用户可以用脚投票、App Store 打分、社交媒体声讨。
- 横向问责(horizontal):制度内部相互制衡(立法↔行政↔司法、独立监管机构、法院)。AI 公司这一维度近乎为零。
O’Donnell 的核心命题在此精确命中:委任民主”是一种民主形式,但不是代议制民主”——选民通过自由选举把权力全权委任给当选者,此后当选者可”为所欲为”,不受横向制衡。把”选民”换成”用户/社会”,“当选总统”换成”AI 公司 CEO”,结构同构:
| O’Donnell 委任民主 | AI 公司治理 |
|---|---|
| 选民全权委任,不设横向制衡 | 用户把数据/注意力”委任”给平台,无横向问责 |
| 总统以”人民意志”自居,凌驾党派议会 | CEO 以”AI 安全""技术使命”为由,超越股东、董事会、外部监管 |
| 纵向问责(选举)存在,横向问责缺位 | 用户投票/评分存在,监管/法院/同行的横向问责极弱 |
| 危机驱动权力集中 | ”前沿 AI 风险”紧急话语驱动企业权力集中,绕过民主审议 |
[!note] 跨域呼应:这不是空喊 O’Donnell O’Donnell 框架改变了本节点的一个具体判断:Anthropic 的 Long-Term Benefit Trust、OpenAI 的非营利母公司结构,常被宣传为”内部制衡”,但用委任民主透镜看,它们仍是纵向/内部的自我约束,不是横向问责。 真正的横向问责必须来自外部、独立、有否决权的机构——而 Meta Oversight Board 的命运证明了这有多脆弱:Klonick 本人给该董事会评分”勉强及格(C)“;Meta 2025 年 1 月废除美国事实核查项目时,Board 批评其”仓促、偏离常规程序”却无力阻止;Meta 更于 2026 年通知 Board 可能在 2028 年后停止资助(来源:Platformer;TechBrew 2026)。自己出钱设立、可随时断供的”司法机构”,不是分权,是装饰。 这是把 O’Donnell 的”横向问责真空”从政治学搬进 AI 治理后,得到的可证伪结论。
§3 跨域升级:施密特主权 + 秦晖秦制——两种”集权”的不同病理
本节点的不公平优势:把 AI 制度现象同时接到**施密特(主权决断)与秦晖(秦制结构)**两个框架。二者诊断的是同一现象的不同侧面,且彼此张力很有教益。
(a) 施密特:谁能决定例外,谁就是主权者。 施密特命题”主权者是决定例外状态的人”(Politische Theologie, 1922/1934,MIT Press 英译 1985,已核实)。映射到 AI 治理:谁有权 override 算法决策?谁能宣布”安全紧急状态”并据此单方面暂停服务、删号、拒答? 答案是 AI 公司自己。当 GPT-4 级能力突现、或某类用途被判定”高风险”时,公司可不经任何外部审议,瞬间改变全球数百万用户能做什么——这就是施密特意义上的”例外决断”。
但有一篇 2026 论文给了施密特一个反转,值得引入(破 echo chamber):Niu, “The Chancellor Trap”(arXiv:2602.18474, 2026)提出算法时代主权被”掏空”——正式权威(CEO)保留名义主权(auctoritas),但实际治理能力(potestas)转移给了不可解释的 ML 系统。主权者反而丧失了”识别例外”的能力,因为算法把例外自动处理成了常规。 这对本节点是个边界警告:AI 公司既是施密特式的主权决断者,又同时是被自己技术系统架空的”宰相陷阱”受害者。权力集中与权力失控,在这里诡异地共存。(来源:arXiv:2602.18474,WebSearch 确认标题与 auctoritas/potestas 论证)
(b) 秦晖:编户齐民——大共同体消灭小共同体。 0622 秦晖 的”秦制”框架(《传统十论》2014;《走出帝制》2015,已核实)核心是编户齐民:朝廷通过官僚体系直接控制每一户个体,彻底绕开宗族、村社、行会等”小共同体”——大共同体本位、小共同体缺位。这个框架照亮了施密特和 O’Donnell 都看不见的一个维度:AI 公司的准主权不只是”权力大”,更是”中间层消失”。
| 秦制特征 | AI 公司治理类比 |
|---|---|
| 编户齐民(国家直控个体) | 平台直接触达每个用户,绕过媒体、工会、行业协会 |
| 大共同体消灭小共同体自治 | 超级模型消解本地规范、开源社区、行业自律组织的自治空间 |
| 法、术、势三位一体 | 算法即”法”,对齐权重即”术”,数据/算力垄断即”势” |
| 行政安全至上,抑制异质性 | 内容审核同质化、RLHF 对异见内容的系统性压制 |
[!note] 三框架的张力(不是简单叠加) 施密特预设统一的主权意志;秦晖预设穿透一切的官僚结构;O’Donnell 诊断的是问责真空。三者不可同时为真——若主权被算法掏空(Niu),则施密特的”统一主权”已不成立;若中间层被算法重构为治理技术(而非消灭),则秦制的”消灭”要改成”吸纳”。本节点的赌注:在 2026 的现实里,AI 公司处在”秦制结构 + 委任民主问责真空 + 施密特例外决断”的叠加态,但哪一面占主导,取决于具体公司与具体监管环境(欧盟 vs 美国 vs 中国),不存在单一答案。 这是边界,也是后续 E 模块实例剖解要分案处理的原因。
§判断主轴:90% 的人在”准国家”这个类比上会犯的四个错
这是本节点最锋利的部分。每点带 症状 → 为什么会错 → 正确做法 → 真实反例。
错误一:把”准国家”当定性,而非诊断。
- 症状:“OpenAI 就是个数字国家""平台即政府”——把类比当字面事实,进而要求 AI 公司”像政府一样选举 CEO”。
- 为什么会错:AI 公司缺三个国家的本质要件——领土、合法垄断暴力、强制税收。Morozov 对 Zuboff/技术封建主义论的批评(New Left Review 133/134, 2022,已核实)正在此:把当代资本主义现象套上前现代政治标签(封建/主权),会用框架的戏剧性掩盖现象的真实机制。Alphabet 2017–2020 年均 R&D 投入 160–275 亿美元,不符合”懒惰食租者/封建领主”模型。
- 正确做法:“准国家”是问题发现器,不是结论。它的用途是逼出”合法性/问责”这组被商业框架遮蔽的问题,然后回到具体机制做经验分析。
- 真实反例:EU AI Act(2024-08-01 正式生效,分阶段适用至 2026-08-02 高风险义务;来源:artificialintelligenceact.eu)与 DSA(VLOP 义务 2023.8 生效)证明,国家依然能对 AI 公司施加有效的横向约束——欧盟称 DSA 已让 5000 万条内容审核决定获复审机会。把 AI 公司说成”国家”,反而看不见真国家正在反制它。
错误二:只看立法(规则文本),不看执法的不可问责性。
- 症状:盛赞 Constitutional AI”公开了宪法全文,很透明”——以为公开规则=有了法治。
- 为什么会错:法治的关键不在规则是否公开,而在违规后果是否由独立机构裁定。Priyanshu 等(arXiv:2407.01557, 2024)指出:无外部机构可核实 Claude 行为是否符合其宪法目标,无独立审计可接触训练过程,违规后果完全依赖 Anthropic 自身判断。规则公开但执法黑箱,是”有法无治”。
- 正确做法:评估一个准国家行为体的”法治成色”,查它的横向问责管道(有没有独立审计、外部申诉、可诉性),而不是查它发布了多少政策文档。
- 真实反例:有研究把 Anthropic 宪法分解为 205 条、OpenAI Model Spec 分解为 197 条原子化可测命题以供外部审计(来源:arXiv:2605.24229《How Well Do Models Follow Their Constitutions?》,WebSearch 确认)——这是好的方向。但”可被审计”≠“已被独立审计”,二者差着一整套问责制度。
错误三:把”AI 公司”与”社交平台”混为一谈,套错治理框架。
- 症状:直接拿 Klonick/Gillespie 的内容审核文献分析 OpenAI,以为机制相同。
- 为什么会错:社交平台的权力是事后审核(你发了帖,它删不删);AI 公司的权力是前置生成(它在训练时就决定了模型能不能生成某类内容)。前者是”看门人”,后者是”造物主”——后者的权力更深,因为它作用于”可能性空间”本身,且无”被删内容”这种可见的申诉对象。这一比较在现有文献中明显薄弱(研究空白)。
- 正确做法:区分”内容治理”(平台,事后,内容治理作为准立法)与”生成治理”(AI 公司,前置,本节点)。两者都是准立法,但 AI 公司的准立法没有可见的执法痕迹,因而更难问责。
- 真实反例:你能截图一条被 Facebook 删除的帖子去申诉;你无法截图一个”Claude 因对齐策略而从未生成的回答”——它在认识论上不可见。
错误四:把”南方/中国语境”当成西方框架的简单套用。
- 症状:用 Klonick(美欧中心)的私人治理框架,直接分析滴滴/99 这类发展中国家平台的准主权行为。
- 为什么会错:多数私人治理文献以”私人权力 vs 国家”为轴。但在中国/南方语境,平台准主权常与国家权力共生而非对抗(数据国家化压力、算法劳动控制、平台作为国家治理的延伸)。Farrell & Newman(2023)正指出:数据与算力控制同时强化国家与私人权力,非零和。
- 正确做法:对南方平台,框架要从”私人 vs 国家”换成”私人-国家共治复合体”。这正是 Rick 作为滴滴/99 安全 PM 的独特观察位:国际化产品在不同主权辖区,‘准国家’的剧本完全不同。
- 真实反例:Rick 经手的 CPF实名验证、明镜系统 等安全机制,在巴西语境是平台响应国家监管(国家在场),而非平台凌驾国家——这与 OpenAI 在监管真空中自定规则,是两种相反的准主权形态。
§产品 PM 视角补盲:工程之外的三个”看走眼”点
工程 PM 容易只盯技术合规。三个被忽略的维度:
- 用户心理:被治理而不自知。 用户对”被一家公司行使准国家权力”几乎无感知——因为它不像政府那样有可见的强制仪式(没有警察、没有法庭传票)。这种不可见性本身是最大的合法性来源(福柯式:最有效的权力是看不见的权力)。PM 做信任架构(p305 - 信任架构与可解释性设计)时,要意识到”让权力可见”会降低信任体验,但”让权力隐形”会累积合法性赤字。
- 商业模式:话语权力是免费的护城河。 Birhane 等(arXiv:2605.06806, FAccT 2026)的”监管俘获”研究发现,最主流的俘获叙事是”监管扼杀创新”(占 16%),“旋转门”出现在 24% 的高知名度案例。AI 公司通过定义术语(“对齐""安全""负责任”)、资助学术、主导专家咨询,在正式监管出台前就塑造了监管的可能性空间。这是比专利更便宜的护城河。〔arXiv 编号已核实（2026-06-12）；16%/24% 具体百分比仍待核实〕
- 合规边界:自愿承诺的历时性脆弱。 RSP(Responsible Scaling Policy)等自愿承诺,Campos(2023, via ailabwatch)批评其本质是”承诺备忘录”而非政策——竞争压力下实验室有激励放松阈值。高危行业惯例是”不证明安全不得上市”,RSP 恰恰相反:默认放行,直到触发阈值才约束。PM 评估对手/自家治理承诺时,要查”举证责任在哪一方”。
§对手框架回应:接受 + 边界
对手一:Knight First Amendment Institute(Armijo 等, 2018)——“现有框架够用,别造新权威概念”。 该文(《Meet the New Governors, Same as the Old Governors》)主张:现有第一修正案/法律框架仍适用且充分;平台调节更多是”可及性与透明度”问题,不构成新型权威。
- 接受:它对的部分——欧盟 DSA/AI Act 的有效执法证明,把平台说成”不受国家约束的主权者”是夸大;国家仍有实质边界约束力,尤其在欧盟。
- 边界:但在监管真空区(美国 2025 以 EO 14148 撤销拜登 EO 14110、再以 EO 14179 立去监管纲领;“州监管十年禁令”曾入《One Big Beautiful Bill》但 2025-07-01 被参议院 99-1 删除、从未成法,联邦改以 2025-12-11 行政令设 AI Litigation Task Force + BEAD 资金向州施压),以及生成式 AI 这种全新机制上,现有框架确实滞后。Sandra Wachter(Yale JOLT 26:3)指出 EU AI Act 自身三大漏洞:过度依赖自我认证、执法软弱、宽泛豁免。“框架够用”在欧盟成立,在美国 2025–2026 的去监管浪潮中不成立。
对手二:技术乐观派——“自愿承诺 + Constitutional AI 已是有意义的私人治理,胜于无监管”。
- 接受:Schuett 等(arXiv:2407.07300, 2024)的渐进式监管论有道理——技术演进快,原则先行确有灵活性,开发者目前最懂如何创新安全方案。Constitutional AI 把规则文本化、可审计化,比 RLHF 黑箱进步。
- 边界:但”有意义”≠“有合法性”。私人治理机制真实存在,合法性基础却薄弱——缺民主授权、缺独立问责。Orozco y Villa & Menendez(2025, DigiCon)批评 Constitutional AI 在规范意义上”过于单薄”:公司自写、自实施、自评估,不构成宪政意义上的约束;以 AI 自我批评替代人工监督,违背”human-in-the-loop”原则。它是”shiny distraction”(炫目的转移注意力),还是真治理,取决于有没有外部否决权——目前没有。
§PM 决策启示:面试 / 选型 / 复现三类落地
- 面试(Safety PM / Policy PM / T&S 高区分度):被问”你怎么看 AI 公司的内容政策”,平庸答案谈合规;高分答案是”我把它当准立法行为分析——它行使三权却缺横向问责,我会问授权来源和申诉可诉性”。再用滴滴 明镜系统/纠纷治理从裁判到管家 做对照:安全治理从”裁判”到”管家”的转变,本质是从司法权向行政权的制度位移——这是 Rick 独有的、把政治理论接到产品实践的弹药。
- 选型:评估接入哪家模型,除了能力/价格,加一维”治理风险”:这家的 Usage Policy 是否会单方面改变、断供你的核心用例?它的”例外决断权”(施密特)对你的产品是系统性风险。OpenAI 多次调整 Usage Policy 已让无数依赖方一夜失能。
- 复现/做自家治理:设计申诉/封禁系统时,刻意制造横向问责管道(独立于业务线的审核、可诉性、外部抽检),哪怕只是内部的——这是把 O’Donnell 的诊断变成产品设计的护栏,也是合规成熟度的真实信号。
§与已有节点的关系:显式升级对照(不复述)
- 对照 CAI对齐/Constitutional AI(做”抽象层升高”):0419/CAI 节点在技术与对齐工程层讲”宪法怎么训练模型”。本节点不复述 RLAIF 机制,而是把 CAI 当作一个制度物证:它字面叫”宪法”,这个命名本身是把工程选择包装成宪政意象的话语行为(Birhane 的”话语俘获”)。升级方向:从”CAI 是不是好的对齐技术”升到”CAI 作为私人立法,合法性从哪来”。
- 对照 机制设计(做”对话+互补”):0421 从机制设计/激励相容角度看 AI 治理(怎么设计规则让参与者说真话)。本节点提供它缺的一维——机制设计假设有一个中立的”设计者”,但当设计者自己就是被治理对象(AI 公司自写规则),机制设计的中立性前提失效。两节点互为边界条件。
- 对照 STS(做”深化”):0422 从科技与社会(STS)角度看技术的社会建构。本节点把 STS 的”技术即政治”命题收紧到一个可证伪的制度诊断:不是泛泛说”技术有政治性”,而是指出 AI 公司具体行使了立法/行政/司法哪几权、缺了横向问责哪个零件。
- 对照 失败考古学(做”纠偏”):0416 谈 AI 产品的失败模式(技术/产品层)。本节点指出一类制度性失败:不是模型出错,而是治理结构本身缺乏问责导致的合法性失败——Meta Oversight Board 的”勉强及格”与可能断供,就是制度失败而非技术失败的范例。
§关联节点
核心(必读)
- 内容治理作为准立法 —— 本节点的姊妹篇,平台侧(事后审核) vs AI 侧(前置生成)的准立法对照
- Constitutional AI —— “宪法”命名的制度物证;升级对照见上
- CAI对齐 —— 技术对齐层,本节点的抽象层来源
- 机制设计 —— 中立设计者前提失效的互补节点
- STS —— “技术即政治”的收紧版
- 失败考古学 —— 制度性失败 vs 技术性失败
- 0622 秦晖 —— 秦制/编户齐民框架
- 奥唐奈 —— 委任民主/横向问责框架
- 0116政治哲学 —— 主权、合法性、问责的理论母库
- AI PM 知识图谱·总索引 —— 图谱总入口
延伸(可选)
- 福柯 —— 治理术/不可见权力,补盲 §产品视角第 1 点
- 葛兰西 —— 霸权,话语俘获的理论资源
- 霸权 —— 同上
- 生命政治 —— 权力作用于”可能性空间”
- Anthropic —— LTBT、RSP 的制度主体
- OpenAI —— Model Spec、IAEA 倡议的主体
- AI 公司政治敏感内容立场对比 —— 准主权的横向比较经验材料
- p305 - 信任架构与可解释性设计 —— “让权力可见”的产品落地
- 明镜系统 —— Rick 经手的安全治理,从裁判到管家的制度位移
- 纠纷治理从裁判到管家 —— 司法权向行政权位移的实证
修订日志
- R1(2026-06-07):首稿。建立”三权合一 + 横向问责真空 = 准国家”主框架;调度 O’Donnell(委任民主)、施密特(例外决断)、秦晖(编户齐民)三框架并显式标注其张力;引入 Niu “Chancellor Trap”、Morozov、Knight First Amendment Institute、Birhane 监管俘获作为对手/破 echo chamber 框架;判断主轴四错四件套齐备;与 0419/0421/0422/0416 显式升级对照。
- R1.1(2026-06-07,grounding pass):WebSearch 核实并落实——(a)Niu “Chancellor Trap” = arXiv:2602.18474,标题与 auctoritas/potestas 论证确认;(b)原子命题 205(Anthropic)/197(OpenAI)出处 = arXiv:2605.24229《How Well Do Models Follow Their Constitutions?》,确认。剩余待核实项:arXiv:2605.06806(Birhane)16%/24% 具体百分比;Farrell & Newman 2023 具体出处(期刊/章节)。
- 2026-06-11 P3.1 §对手一边界处 OBBBA 十年禁令改为事实过去时:由“‘州监管十年禁令’提案”改写为”曾入《One Big Beautiful Bill》但 2025-07-01 被参议院 99-1 删除、从未成法 + 联邦转向 2025-12-11 行政令设 AI Litigation Task Force/BEAD 施压”;EO 14179 撤销误归因订正为 EO 14148 撤销 + EO 14179 立纲领。依据:Senate Commerce 99-1 公告、白宫 EO《Ensuring a National Policy Framework for AI》原文(WebSearch 核实)。
- 2026-06-11 P3.4 校链:§升级对照/§关联节点死链
0419CAI对齐(2 处)、0421机制设计(2 处)、0422STS(2 处)、0416失败(2 处)改为别名链 CAI对齐/机制设计/STS/失败考古学(四专题均已入库)。 - 2026-06-12 内审修复:(1)§商业模式处 arXiv:2605.06806 的〔arXiv 编号待核实〕改为”arXiv 编号已核实(2026-06-12)“(该 ID 经 E02 grounding pass WebSearch 确证),16%/24% 百分比仍标待核实;(2)统一 EU AI Act 权威口径——§真实反例”EU AI Act(2024 生效)“改为”2024-08-01 正式生效,分阶段适用至 2026-08-02 高风险义务”(来源 artificialintelligenceact.eu)。