R

A03 平台内容治理作为准立法

创建 2026-06-07 更新 2026-06-11 0 条双链 AI 作为制度现象 专题 AI 整理

平台删一条内容、封一个号、改一版社区准则，到底是”客服处理工单”，还是”主权者在立法”？本节点要解决的问题是：当 Facebook 的社区准则在事实上约束 30 亿人的言论、当 Meta 自建一个叫”Oversight Board”的准最高法院、当一纸算法政策能在选举季决定某条信息能否被看见时，我们用什么概念来命名这种权力？ 本节采用的框架是把内容治理读作准立法（quasi-legislation）——平台集规则制定、执行、申诉裁定三权于一身，产生了具有立法效力的规范秩序，却缺乏任何传统公法意义上的民主合法性来源。这不是”企业自律”，而是 Kate Klonick 所说的”新治理者”（the new governors）行使的私法体系（private law）。判断主轴只有一句：平台规则制定缺民主合法性，却有立法效力——这道裂缝不是 bug，是当代数字权力的结构。

§0 为什么是”准立法”框架，而不是”内容审核 = 客服” 或 “内容审核 = 司法判决”

在动用任何分析之前，要先挡掉两个默认错误框架。

错误框架一：内容审核是客服/运营问题（“trust & safety 是个成本中心”）。 这是大多数产品组织内部的默认心智模型——内容审核被放在运营线，KPI 是”违规内容下架时效""误判申诉率”，本质是一个工单系统。这个框架的致命盲点：它把规则制定（社区准则怎么写）和规则执行（单条内容怎么处理）混为一谈，于是看不见前者才是权力核心。Evelyn Douek 在 “Content Moderation as Administration”（Harvard Law Review 136, 2022）里点破：真正的权力发生在事前制度设计层（哪些规则、用什么阈值、自动化到什么程度），而不是事后个案纠错层。把内容审核当客服，等于把”立法”误读成”执法窗口排队”。

错误框架二：内容审核是司法判决（“Oversight Board 是平台的最高法院”）。 这是 Meta 自己力推的叙事，也是法律评论界一度的热衷类比。它的盲点同样致命：司法类比假设有一部已存在的”法律”（社区准则）需要被中立适用，于是把注意力锁死在”个案判得公不公”，却放过了”法律本身由谁制定、为谁制定”这个前置问题。Douek 的核心论点正是反对这个司法类比——内容审核不是逐条”判决”，而是大规模言论行政（mass speech administration），关键变量是系统设计而非个案正义。

为什么”准立法”框架更对： 它一次性抓住了三件事——(1) 平台在生产规范（社区准则就是法典），(2) 这些规范有事实上的立法效力（约束的人口规模超过任何主权国家），(3) 这种立法没有被治理者的同意作为合法性基础。“准”字承担了诚实：它不是宪法意义上的立法（没有 demos、没有授权、没有横向问责），但它在功能后果上与立法无法区分。下文所有判断都建立在这个张力之上。

§1 三权合一：平台为什么是立法者、执法者、法官的三位一体

把平台治理拆成公法的三种职能，张力立刻显形：

公法职能平台对应物关键事实
立法（制定规则）社区准则 / Community Standards 的撰写与定期修订Facebook 社区准则是一份持续迭代的成文规范体系，内化了第一修正案精神、企业责任逻辑与用户期望（Klonick 2018）
行政（执行规则）内容审核（人工 + 算法）大规模执行Douek：这是”大规模言论行政”，每天数千万次决定，本质是行政自由裁量权的批量行使
司法（裁定争议）申诉流程 + Meta Oversight BoardBoard 自 2021 年 1 月起发布个案决定，截至 2025 年已超过 200 份已发布决定、317 条政策建议（来源：Oversight Board 官网；Wikipedia “Oversight Board (Meta)”）

传统宪政的全部努力，就是把这三权分开，让它们互相制衡（孟德斯鸠的全部要义）。平台把它们重新焊在一起——同一个法人实体写规则、执行规则、裁判争议，并保留对规则的最终解释权。这正是 Hannah Bloch-Wehba 在 “Global Platform Governance: Private Power in the Shadow of the State”（SMU Law Review 72, 2019）里诊断的：行政法的四项基本原则——透明度、参与、说理、复审——在平台治理中系统性缺失。

[!note] 判断（带边界） 平台三权合一不是因为平台邪恶，而是因为规模与速度的结构强制。在每秒数万条内容的尺度上，分权制衡的程序成本无法承受。这是我的赌注：内容治理的合法性赤字，主要不是道德选择问题，而是”大规模言论行政”这一技术-组织形态的内在产物。边界：这个判断在低规模、高争议的政治内容上失效——Trump 停权这类案件完全有时间走分权程序，平台却仍选择内部决定。所以规模强制只解释 99.9% 的常规审核，解释不了那 0.1% 真正塑造公共话语的政治时刻。

§2 合法性赤字：立法效力从哪来，民主授权又为何缺席

这是判断主轴的核心。把”效力”和”合法性”两个变量拆开看：

立法效力的三个来源（事实上的，非法理上的）：

  1. 规模超越管辖：平台规则在事实上充当全球言论标准，超越任何国家司法管辖边界（Klonick 2018 的关键命题）。一条违反 Facebook 准则的内容，无论用户在哪国、该国法律是否禁止它，都会被下架。
  2. 基础设施垄断：Balkin 所说的”新学派言论管制”——言论的物理可能性依赖少数平台的基础设施，控制基础设施即控制言论（“Free Speech in the Algorithmic Society,” UC Davis Law Review 51, 2018）。
  3. 退出成本锁定：用户无法”用脚投票”——网络效应使得离开主导平台等于退出公共生活。这对应委任民主里”委托后无退出”的结构。

民主授权缺席的根源： 平台规则的合法性叙事是经济性的而非政治性的——Klonick 的实地访谈显示，平台制定规则的首要动机是留住用户（商业理性），而非代表某个 demos 的意志。这意味着：平台规则的”被治理者”（用户）从未授权这套规则，他们的同意是被推定的（接受 ToS 即视为同意），而 ToS 是一份没有协商空间的附合合同（contract of adhesion）。Nicolas Suzor 的数字宪政研究正是聚焦这个接口：合同法如何在数字空间被用来强制执行——或规避——法治原则。

这就是裂缝： 有立法效力（约束 30 亿人），无立法合法性（无 demos、无授权、无横向问责）。Edoardo Celeste 的”数字宪政主义”（digital constitutionalism, International Review of Law, Computers & Technology 33:1, 2019）正是试图为这道裂缝提供规范性的补救框架——把保护数字基本权利、平衡私人权力作为一种新的宪政意识形态来建构。但 Celeste 的框架是规范性的应然主张，不是对现状的描述：现状是赤字仍在。

§3 判断主轴｜90% 的人在”平台准立法”上会搞错的四个点

这是本节点的命门。每一点按”症状 → 为什么会错 → 正确做法 → 真实反例”四件套展开。

错点一：把”个案判得公不公”当成内容治理的核心问题。

  • 症状：产品/法务团队把资源压在申诉流程、误判率、Oversight Board 这类”司法”机制上，以为提升个案正义就提升了治理质量。
  • 为什么会错：误用司法框架（见 §0）。个案正义是行政的下游产物，规则设计是上游。把钱花在下游，等于在水龙头漏水时拼命拖地。
  • 正确做法：按 Douek 的”内容审核即行政”思路，把治理质量的衡量前移到系统设计层——规则的可预期性、自动化阈值的校准、影响评估（impact assessment）、透明度报告，而非个案胜诉率。
  • 真实反例：Meta Oversight Board 个案判得相当用心（Trump 案中明确批评 Meta “施加了无限期且无标准的处罚”），但 Klonick 给 Board 的综合评分仅为”勉强及格（C）“——因为 Board 受理的个案量（200 余件）相对平台每日数千万次决定是统计噪声，它无法触及规则制定权。Board 在 2025 年 Meta 单方面废除美国区事实核查项目时几乎失声，恰恰证明”司法”机制管不了”立法”权。

错点二：以为外部监督机构（如 Oversight Board）证明了平台治理的合法性。

  • 症状：“Meta 都自建独立监督委员会了，这就是负责任的私人治理”——把监督机构的存在等同于合法性的获得。
  • 为什么会错：混淆了”问责的形式”与”问责的实质”。Board 的决定被 Westlaw、Lexis+ 法律数据库收录，被联合国人权高专办和以色列最高法院作为正当程序范例引用——形式上很像司法。但 Meta 保留对政策本身的最终解释权，且 Board 的经费命脉攥在 Meta 手里。
  • 正确做法：用”谁能改写规则、谁能切断经费”作为合法性的真实试金石，而非”是否存在一个看起来独立的机构”。
  • 真实反例：在 Board 提出的具体建议中，Meta 承诺完全执行的约占 79%（19 条中 15 条完全执行、1 条部分、2 条搁置、1 条明确拒绝；来源：TechCrunch 2022 / Oversight Board 报告）——执行率看似不低，但”完全执行”的多是程序性、透明度类建议，触及核心政策权的建议正是被搁置/拒绝的那几条。更致命的：Meta 于 2026 年通知 Board 成员，可能在 2028 年后停止资助并已削减当前预算（来源：TechBrew 2026-04-03）。能被金主随时断粮的”最高法院”，是哪门子横向问责？

错点三：以为国家监管（如 EU DSA）已经把平台准立法权收归公法。

  • 症状：“欧盟 DSA 都生效了，平台自我监管时代结束了，准立法问题已被解决。”
  • 为什么会错：高估了监管对规则制定权的渗透。DSA 主要规制的是程序（透明度报告、申诉机制、风险评估义务），而非实体规则内容——它要求平台公开”你为什么下架这条”，但基本不规定”什么内容该下架”。实体规范的制定权仍牢牢握在平台手里。
  • 正确做法：区分”程序公法化”（DSA 做到了部分）与”实体立法权回收”（DSA 基本没碰）。准立法权的核心——决定什么是可接受言论——仍是私人的。
  • 真实反例：DSA 自 2023 年 8 月 25 日对超大型平台（VLOP）生效、2024 年 2 月 17 日全面适用；欧盟称两年内已使约 5000 万条内容审核决定获得复审机会（来源：欧盟委员会官网；AlgorithmWatch DSA 解释）。这是真实的程序进步。但与此同时，Meta 在 2025 年 1 月仍能单方面把美国区专业事实核查换成 Community Notes 众包模式——上线首六个月仅产生约 900 条已发布笔记，而同期 EU 专业事实核查员标记约 3500 万条内容（来源：Platformer；TechPolicy Press）。三个数量级的差距说明：实体规则的方向盘还在平台手里，监管只是装了个仪表盘。

错点四：把”言论自由”当成反对平台准立法公法化的万能挡箭牌，或反过来当成强制公法化的万能理由。

  • 症状：美国第一修正案学派认为，强制平台遵守公法程序等于政府管控言论，因此应维护平台的私法自治；欧盟阵营则认为强制透明度与问责是民主必要条件。两边都把”言论自由”当成一锤定音的终极论据。
  • 为什么会错：这是一个宪法价值观的真实分歧，不是一方对一方错的技术问题。把它简化成”挡箭牌”或”尚方宝剑”，就放弃了对张力本身的分析。
  • 正确做法：承认 Annual Reviews（“Regulating Content Moderation for Democracy”）所说的”跨大西洋裂缝”本质是宪法价值观分歧——美国把言论自由理解为”免于政府干预”（消极自由），欧盟理解为”需要积极制度保障的公共善”（积极自由）。PM 在跨国产品里不能假装存在一个普世正确答案。
  • 真实反例：美国 ITIF 智库（2025 年 5 月报告）明确论证 DSA 式监管损害言论自由与创新；同期欧盟把 DSA 定位为”终结科技公司本质上自我监管时代”的制度工具。同一套事实，两套宪法框架，结论相反——这恰恰证明准立法的合法性问题无法靠”言论自由”一词解决。

§4 产品 PM 视角补盲：工程之外的三个看走眼点

跳出”内容审核是个技术-运营系统”的工程 PM 视角，补三个商业/合规/用户心理的盲点。

补盲一（商业模式）：内容治理的真实成本结构是政治成本，不是运营成本。 多数 PM 把 trust & safety 当成本中心去优化人力效率。但 Trump 停权案、事实核查存废这类决定的成本不在审核工时，而在政治资本与监管暴露。Meta 2025 年转向 Community Notes，省的不是审核费（众包反而可能更便宜），而是把”裁判政治言论”这个烫手山芋的政治责任外包给”群众”——这是一次责任转移的产品决策，不是成本优化。PM 若只算运营账，会完全误读这类决策的动机。

补盲二（合规边界）：跨国产品的”一套准则”是幻觉，准立法天然是法律多元主义的战场。 平台准则号称全球统一，但实际运行在 DSA（欧盟）、第一修正案（美国）、各国本地法律的夹缝中。Bloch-Wehba 指出的”跨境压力”和”国家把决策功能外包给平台”是真实现象——平台经常被本国政府要求执行本不属于平台准则的删帖（Balkin 的”附带审查 collateral censorship”）。对做国际化产品的 PM（如 Rick 的 99/DiDi 国际化背景），这意味着：内容准则不是一份文档，而是 N 个司法管辖区 × M 种政治压力的动态妥协矩阵，任何”全球统一标准”的承诺在落地时都会碎裂。

补盲三（用户心理）：用户对”平台立法”的容忍度建立在”中立性幻觉”上，一旦戳破，合法性瞬间蒸发。 用户日常接受平台规则，是因为相信平台”只是个中立的管道”。Community Notes 的真正卖点不是准确（数据显示它远不如专业核查），而是它重建了中立性幻觉——“是群众在判断，不是平台在判断”。这是产品对合法性赤字的一种叙事性修补：当平台无法获得真实的民主授权时，它转而生产”去中心化""社区自治”的合法性叙事。PM 要看穿：这类机制的产品价值，部分在于它把准立法权伪装成非权力。

§5 对手框架回应（接受 + 边界）

对手一：Knight First Amendment Institute（“Meet the New Governors, Same as the Old Governors”, 2018）。 该文反驳 Klonick 的”新治理者”框架，主张现有第一修正案框架仍然适用且足够，平台调节更多是可及性与透明度问题，不构成新型权威。

  • 接受：这个批评对了一半——在美国法域内，国家法律（尤其反垄断、消费者保护）确实仍能有效约束平台，平台并非完全自治的主权体。EU AI Act 与 DSA 的强制执行（2024 起）也证明国家边界真实存在。
  • 边界：但”现有框架足够”低估了规模质变。第一修正案约束的是政府，对私人平台的言论裁量基本无能为力（state action doctrine 的限制）。当私人裁量影响 30 亿人的言论时，“这只是透明度问题”是一种范畴错误——透明地行使无问责的立法权，仍然是无问责的立法权。我赌的是：私人治理在内容领域已实质性扩张到”准立法”量级，纯第一修正案框架接不住。

对手二（Rick 未读框架引入）：Klonick 自己晚近的转向——对”新治理者”框架的自我怀疑。 Klonick 本人后续研究转向 EU DSA/DMA 执法，并写过回应 Douek 的论辩（“Of Systems Thinking and Straw Men”, SSRN 2023），暗示她开始重新评估自己提出的”新治理者”框架是否仍站得住。〔待核实：网传一篇题为 “The End of New Governance” 的演讲/论文，本次检索未能确认其作为正式出版物存在，故此处不作为确证引用，仅取”框架提出者自己开始怀疑”这一可观察事实。〕

  • 接受：这是最诚实的对手——框架的提出者自己开始怀疑它。如果 DSA 式国家监管真能有效回收平台权力，那”准立法”就是个过渡现象，而非稳定结构。
  • 边界：但截至 2026 年，证据仍偏向”赤字持续”：DSA 收回的是程序而非实体规则（见 §3 错点三），且美国正在主动退出监管协调——特朗普以 EO 14148（2025-01-20）撤销拜登 EO 14110、以 EO 14179（2025-01-23）立去监管纲领；州级层面，《One Big Beautiful Bill》曾含十年禁止州级 AI 监管条款，2025-07-01 被参议院 99-1 删除、从未成法，联邦随即转向 2025-12-11 行政令《Ensuring a National Policy Framework for AI》（设 AI Litigation Task Force + BEAD 资金施压）继续向州级监管施压。所以我把”新治理终结”标注为一个值得严肃对待的失效场景，而非已发生的事实。

[!note] failure scenario 显式标注 本节点”平台准立法权稳定持续”的核心判断，在以下场景会失效：(1) 若 EU DSA 的执法在 2026–2028 年实质性地把实体规则审查权也收归公法（目前只收了程序）；(2) 若 Klonick 的”新治理终结”判断成立、国家监管系统性回收平台权力；(3) 若联邦层强监管在美国出现（当前趋势相反）。我赌这三者短期都不会发生，但把它们列为可证伪的边界。

§6 跨域呼应：用 O’Donnell 的”委任民主”与施密特的”例外决断”逼问准立法

调度一：Guillermo O’Donnell 的委任民主（delegative democracy, Journal of Democracy 5:1, 1994）。 O’Donnell 区分纵向问责（选举问责，存在）与横向问责（制度间相互制衡，缺位）。委任民主的关键诊断是：人民通过自由选举把全权委任给领导人，此后领导人”为所欲为”，不受横向制衡——而这不是过渡阶段，是一种稳定的政治均衡。

把这个框架移植到平台准立法，张力立刻锐化：平台用户存在某种”纵向问责”——用户可以打差评、可以（理论上）卸载。但横向问责完全缺位：没有独立立法机构审查平台规则，没有独立司法（Board 受 Meta 资助，不算），没有制度内的相互制衡。平台 CEO 以”社区健康""平台安全”为名，凌驾于用户、甚至部分凌驾于股东（Meta 的双层股权结构让 Zuckerberg 不受股东横向约束）。O’Donnell 的洞见在这里改变了判断：平台准立法的合法性赤字，不是”缺少民主”，而是”有一种残缺的民主”——纵向问责的薄弱外壳（用户”选择”使用）被用来正当化横向问责的彻底缺位。这比”平台是独裁者”的粗糙类比精确得多。〔须标注：O’Donnell 框架原设计针对拉美后威权国家，移植到非选举性私人实体是分析类比，非既有学术共识。〕

调度二（破 echo chamber，Rick 政治理论底子的逆用）：Carl Schmitt 的”例外决断”。 施密特命题”主权者是决定例外状态的人”（Politische Theologie, 1922）——谁能宣布例外、暂停常规规则，谁才真正握有主权。把它对准内容治理：平台社区准则是”常态法律”，但平台保留了在”例外”时单方面暂停或改写规则的权力——Trump 案中 Meta 临时发明”无限期停权”（准则里本没有这一档），Community Notes 替换专业核查是单方面宣布旧规则失效。施密特的逼问是：真正的立法权不在写好的社区准则里，而在”谁能在例外时刻改写它”。 这戳破了 §3 错点二的幻觉——Oversight Board 在”常态”个案里有发言权，但 Meta 独占了”例外决断”权，所以 Board 永远够不到主权核心。〔须标注：施密特有纳粹污点，此处仅借其例外/主权的分析工具，不背书其政治立场；vault 内 施密特 目前为悬链，引用降级为文本提及。〕

§7 PM 决策启示：面试 / 选型 / 复现三类落地

面试（Safety PM / Trust & Safety / Policy PM 高区分度）： 当面试官问”你怎么看内容审核”，平庸回答是谈误判率、申诉时效（客服框架）。高区分度回答：“内容审核的核心权力不在执行层而在规则制定层——它本质是私人准立法。所以我会先问：我们的社区准则的合法性来源是什么？是商业理性还是某种被治理者同意？我们的’例外决断’权（紧急改规则）有没有任何横向约束？” 一句话亮明你读过 Klonick/Douek 并能用 O’Donnell 框架定位问题，瞬间区分于把 T&S 当运营的候选人。

选型（做内容治理产品/接第三方审核服务时）： 别只比 feature list（识别准确率、支持语种数）。比治理结构可控性：(1) 规则制定权在谁手里、能否本地化覆盖（跨国合规刚需）；(2) 申诉/复审机制是真问责还是 §3 错点二式的形式问责；(3) DSA 透明度报告义务能否满足。把”这个方案让我对实体规则保留多少决定权”作为选型的一级指标。

复现（自建审核体系时）： 从 Douek 的”行政”视角设计，而非”司法”视角。把资源压在系统设计层——规则可预期性、自动化阈值校准、影响评估、透明度报告——而非堆砌个案申诉流程。先建”立法程序”（规则怎么改、谁审、留痕），再建”执法窗口”。

§8 与已有节点的关系（升级对照，不复述）

  • 对照 Constitutional AI（深化 + 对话）：CAI 是 AI 公司把行为规则写成”明文宪法”的准立法（A 类节点处理的字面宪法）；本节点是平台把内容规则写成”社区准则”的准立法。两者是同一制度现象的两个物种——CAI 治理的是模型输出，内容审核治理的是用户言论；CAI 自写自审自评，内容审核三权合一。本节点不复述 CAI 的 RLAIF 机制，只接其”私人规则伪装成宪政意象”的命题，把它从”模型对齐”扩展到”言论治理”。
  • 对照本专题 0416 失败节点（边界呼应）：内容治理的合法性赤字是 0416 所论”治理失败”的一个具体边界案例——本节点 §5 的三个 failure scenario（DSA 实体化、新治理终结、美国强监管）正是 0416”边界失败”框架在内容治理上的落地。不复述 0416 的失败分类，只贡献”准立法”这一具体失败类型的解剖。
  • 对照 AI 公司政治敏感内容立场对比（补缺）：那个节点比较各 AI 公司在政治内容上的立场差异（what）；本节点补的是这种立场凭什么有约束力的合法性机制（why has effect）。
  • 升级对照本专题同级：与 A01（概念史）、A02（待建，机制设计/准监管）构成”01 概念辨析”模块——A 系列共同回答”AI 公司行使的是哪几种准国家权力”，本节点专责”准立法”这一种。

§9 关联节点

核心（必读） Constitutional AI · Anthropic · OpenAI · 奥唐奈 · 福柯 · 0116政治哲学 · 霸权 · 生命政治 · AI 公司政治敏感内容立场对比 · AI PM 知识图谱·总索引

延伸（可选） 阿伦特 · 0622 秦晖 · 0606 韦伯 · 哈贝马斯 · 葛兰西 · 政治哲学图谱 · 极权主义 · 0133新制度经济学 · 公共领域 · p305 - 信任架构与可解释性设计

修订日志

  • R1（2026-06-07）：首稿。建立”准立法”框架（§0 三框架辨析），三权合一表（§1），合法性赤字双变量拆解（§2），判断主轴四错点（§3），PM 三补盲（§4），Knight Institute + Klonick 自我转向两对手回应（§5），O’Donnell + Schmitt 跨域双调度（§6），与 CAI/0416/AI 立场对比三节点升级对照（§8）。事实接地：Klonick 2018、Douek 2022、Bloch-Wehba 2019、Celeste 2019 期刊卷期已核；Oversight Board 数字（200+决定/317建议/79%执行/Trump案/2028断粮/900 vs 3500万）来自可访问新闻源；DSA 时间线（2023-08-25 / 2024-02-17 / 5000万复审）来自欧盟官网。待核实项：Klonick “The End of New Governance” 完整论文是否正式发表（〔待核实〕）；O’Donnell/Schmitt 移植标注为分析类比；施密特 悬链已降级为文本提及。
  • 2026-06-11 P3.1 §5 边界处 OBBBA 十年禁令改为事实过去时：由”拟禁止州层监管”改写为”2025-07-01 参议院 99-1 删除、从未成法 + 联邦转向 2025-12-11 行政令设 AI Litigation Task Force/BEAD 施压”；EO 14179 撤销误归因订正为 EO 14148 撤销 + EO 14179 立纲领。依据：Senate Commerce 99-1 公告、白宫 EO《Ensuring a National Policy Framework for AI》原文（WebSearch 核实）。