A01 AI 作为认识论中介概念谱系
当你问 AI「这条数据合规吗」,它返回三段流畅的论证。你信了。问题是:你刚刚获得的,是关于合规的知识,还是关于合规的一段统计性模拟? 你眼前这台机器,到底是你手里的一把尺子(工具),还是一个隔着电话线告诉你答案的人(证言者),抑或一台不断生成”看起来像答案”的文本机(生成器)?本节点要解决的问题不是”AI 准不准”,而是更靠前的一问:AI 在你和知识之间,到底插入了一个什么性质的中介? 因为你对这个中介性质的判断,会直接决定你把它的输出当作”待核验的线索”还是”可信的结论”——而这个分类错误,是产品里所有 confidence display、citation 系统、human-in-the-loop 触发条件设计的认识论源头。
本节用的框架,是认识论中介的三分谱系(工具 / 证言者 / 生成器),叠加 Don Ihde 的后现象学人技关系类型学,作为整个 0431 专题的概念地基。
§0 为什么是「中介谱系」而不是「智能程度」
读者脑中的默认框架往往是一条智能光谱:AI 越强,越像人,越接近”真正知道”。这个框架是错的入口——它把问题设成了”AI 有没有理解”(一个我们短期内无解的形而上学问题,见 c13 - 幻觉的不可消除性 与本专题中文屋讨论),却跳过了一个对 PM 立即可用的问题:不管 AI”内部”是什么,当用户透过它获取信念时,它在认识关系中占据了哪个位置。
位置,而非智能,决定了认识责任如何分配。一把尺子读错了,责任在读尺的人(他该校准、该复读);一个证言者说错了,责任部分转移给说话者(他该被追责、可信度该被下调);一台生成器吐出错误,连”谁错了”这个问句都失去了对象——它没有意向、不承担责任,却以命题的自然语言形式递给你一个看起来该被信任的东西。三种位置,三套完全不同的认识责任结构与产品义务。 把 AI 误放进错误的位置,就是误把 AI 输出当知识源——这是本节点的判断主轴。
后现象学给了我们更细的刻度。Ihde(Technology and the Lifeworld, 1990, Indiana University Press)把人-技术-世界的关系分四类:具身关系(透过技术感知,如听诊器,技术”退隐”)、解释学关系(读取技术产生的表征,如温度计,你读的是仪器的”文本”)、他者关系(与技术交互,世界退至背景)、背景关系(技术作为环境性的”缺席的在场”)。AI 中介的诡异之处在于:它同时横跨解释学关系(你在”读”它的输出)与他者关系(你在”对话”,把它当一个准主体)——这种横跨,正是它既不完全像尺子、也不完全像人的结构性根源。
§1 第一支:AI 作为工具(仪器认识论)
把 AI 当工具,是最保守也最安全的默认立场。仪器认识论传统里,Ian Hacking(Representing and Intervening, 1983, Cambridge University Press)确立了”干预”作为知识生产行为的认识地位;Bruno Latour(与 Woolgar 合著 Laboratory Life, 1979;Science in Action, 1987)则以符号学路径分析仪器——仪器产生可读的”铭文”(inscription),事实通过文本网络被构建。
工具立场的认识论馈赠是:信念责任完全留在用户这边。望远镜不”知道”星星,它只是延展了你的视觉;你看错了,是你没校准、没复看。把 AI 当工具,意味着它的每个输出都是”待你核验的原始材料”,而非”可直接信任的结论”。
但这里有个 Latour 与 Ihde 之间的真实分歧(de Boer, te Molder & Verbeek, 2021, Social Studies of Science 51(3):392–413):Latour 把仪器看成”生产可传递文本的装置”(符号学/社会建构维度),Ihde 强调仪器对”现实”本身的构成性中介(本体论维度)。这个分歧对 AI 至关重要——如果 AI 只是文本生产装置,那它和搜索引擎同类;如果它构成了用户看待问题的方式(它的措辞、它的框定、它默认略去的选项),那”工具中立”就是幻觉。AI 比任何历史仪器都更深地落在 Ihde 这一侧:它不只是返回答案,它替你框定了什么算作”问题”。
§2 第二支:AI 作为证言者(证言认识论)
证言认识论问的是:我何时有理由相信别人告诉我的事? 这一支最危险,因为它最诱人——AI 用第一人称、自然语言、流畅断言的方式说话,几乎天然地把用户拖进”听人说话”的认识姿态。
反还原主义(C. A. J. Coady, Testimony: A Philosophical Study, 1992, Oxford)主张:证言是类比知觉的独立知识来源,听者无需独立证据即可有理据地相信,只要”缺乏不信任的理由”。Jennifer Lackey(Learning from Words, 2008, Oxford)更进一步,论证证言能生成而非仅传递知识,并提出”二元论”——证言的辩护同时取决于说话者的认识状态与听者的证据评估。
问题在于:AI 满足成为证言者的条件吗? Ori Freiman(2023, Episteme, Cambridge)给出了目前最清醒的回答:从对话式 AI 获取的信念,既非仪器性信念也非证言性信念,而应归为一个新类别——“技术性信念”(technology-based beliefs)。理由是:证言理论历史上以道德责任与意向性为前提(说话者须能被问责、能因撒谎而被追责),而 AI 缺乏这个条件;但它又以命题内容的自然语言形式递送信息,超出了传统仪器的范畴。
这里要做接受 + 边界式的对手回应。证言认识论的反还原主义者(Coady 传统)会说:你日常 90% 的知识都来自证言,你并不独立核验每条,凭什么对 AI 苛求独立核验?接受——人类认识系统确实建立在证言的默认信任之上,全盘核验在实践上不可能(Coady 的”火星人论证”正是此意)。但边界是:人类证言之所以可默认信任,是因为背后有一整套问责机制(撒谎有代价、可信度有声誉记账、Goldman 意义上的”传播门卫”在过滤)。AI 把证言的形式(流畅断言)和证言的问责基础(意向、责任、声誉)剥离开了——你拿到了一封没有署名、无法追责、却字字像真人写的信。把这种东西当证言信任,正是 Freiman 警告的范畴错置。
[!note] 跨域呼应 · Goldman 的”传播门卫” Alvin Goldman 的验真性社会认识论(Knowledge in a Social World, 1999, Oxford)把认识评估单元从个人扩展到社会制度与传播技术:编辑、审稿人、出版商是”传播门卫”,社会认识系统的好坏取决于它能否提高用户真信念的比例。把这个框架套到 AI 上,结论很硬:LLM 是一种新型传播门卫,但它内置的门卫机制(RLHF、安全过滤、概率采样)的优化目标不是真信念比例,而是”看起来有帮助且无害”——这两者在大多数时候相关,在关键时候分叉(见 c13 - 幻觉的不可消除性 的谄媚幻觉与校准失败)。Goldman 框架还暴露了原框架未处理的难题:算法可靠性是分层的——对技术文档高度可靠,对少数语言、边缘群体知识系统性偏误。证言的”可信度”在 AI 这里不是一个标量,而是一张随话题剧烈起伏的曲面。这一支链入 0117社会学 的知识社会学维度。
§3 第三支:AI 作为生成器(生成式认识论)
第三支是最贴近 LLM 实际机制、也最反直觉的立场:AI 既不是延展你感官的工具,也不是向你作证的人,而是一台条件概率分布上的文本采样器——它生成的是”在训练分布下最可能接续的 token 序列”,而”为真”只是这个目标的副产品,不是它的目标函数。
这个立场把 Searle 的中文屋(1980, Behavioral and Brain Sciences 3(3))和”随机鹦鹉”批评(Bender et al., 2021)推到了认识论层面:句法操纵不等于语义理解,统计复现不等于知道。但要诚实——当代争议未决:Sabine Hossenfelder(2023)主张 LLM 在有限意义上具有理解(类似人类对量子力学不完整但非零的理解);Hila(“The Epistemological Consequences of Large Language Models”, AI & Society, 2025, arXiv:2512.19570)区分内在主义辩护(生成”反思性知识”)与外在主义辩护(仅”动物性知识”),论证 LLM 是外在主义可靠论者——可靠传递已建立信息,但缺乏生成反思性知识所需的反思性辩护。
生成器立场的关键认识论后果与 Gettier 问题同构。Gettier(“Is Justified True Belief Knowledge?”, 1963, Analysis)证明:有辩护的真信念也可能不是知识——当信念为真出于偶然而非正确的认识路径时。AI 生成器恰恰制造了 Gettier 式结构:用户拿到一个正确答案,但 AI 的内部生成路径完全不透明(Paul Humphreys 的本质性认识不透明,Extending Ourselves, 2004, Oxford),用户无从判断这个答案是经由可靠的知识表征产生,还是训练数据里偶然的模式对齐。输出正确 ≠ 用户获得了知识——他获得的可能只是一个偶然为真的信念,认识论上一文不值。
§4 判断主轴:不辨中介性质 = 误把 AI 输出当知识源
90% 的人(包括产品团队)会在这四个点上搞错,每个都直接映射到产品义务:
| # | 症状 | 为什么会错 | 正确做法 | 真实反例 |
|---|---|---|---|---|
| 1 | 把生成器的流畅当证言者的可信 | 自然语言第一人称触发了人类默认的证言信任本能(Coady 的缺省信任在此被劫持) | 在交互设计上降级输出为”待核验材料”而非”结论”,confidence display 默认不饱和 | LLM 对争议事实给出流畅自信输出,用户反而对相异的真人证言产生可信度赤字(Sardelli, St Andrews〔来源:Aporia 期刊,年份待核实〕的自动化偏见→证言性不公类比) |
| 2 | 把工具的”中立”当事实,忽略其构成性框定 | 误信 Latour 式”装置只产文本”,忽略 Ihde 式构成性中介 | 审视 AI 替你略去了什么选项、用什么措辞框定问题,而非只看它说了什么 | AI 报告的”建议方案”列了 A/B 两条,用户没意识到方案 C 从未进入候选——框定即权力 |
| 3 | 用”输出正确”反推”用户获得知识” | 混淆真信念与知识(Gettier 结构盲区) | 设计可溯源链路(citation 系统)让用户能独立重走认识路径,而非只验证结论 | GPT 答对”地球是圆的”,但 Fierro et al. (2024, EMNLP, arXiv:2410.02499) 调查 100 位哲学家/CS 学者后指出:当前 NLP 用”知识”一词时定义不一致,“答对”不蕴含”知道” |
| 4 | 在同一交互里无意识地在三种位置间滑动 | 三种中介性质没有视觉/交互边界,用户分不清何时该核验 | 在产品里显式标记当前模式(检索性 vs 生成性 vs 推理性),不同模式触发不同 human-in-the-loop 阈值 | 同一对话框里”查文档”(接近工具)与”帮我判断”(接近证言/生成)共用一个 UI,用户用同一信任度对待两者 |
§5 产品 PM 视角补盲
工程视角只问”AI 准不准”,产品视角要问三个被工程忽略的点:
- 用户心理模型默认是证言者。 对话式 UI 的产品罪过在于:它用人类对话的全部社交线索(第一人称、礼貌、确定语气)把用户训练成”听人说话”。除非产品主动对抗这个默认,否则 confidence display 再精确也敌不过交互形态制造的信任暗示。
- 商业模式偏向制造”知识幻觉”。 让用户觉得”我已经知道了”比让用户觉得”我还得去核验”留存更高、NPS 更好。这是一个内生的、与认识论诚实相冲突的激励——citation 系统和不确定性外显在商业上是”摩擦”,需要被当作信任资产而非转化漏斗的损耗来定价。
- 合规边界随中介性质变化。 若你的产品在法律上把 AI 定位为”工具”,责任全在用户;定位为”证言/建议者”,则你可能承担误导责任。EU AI Act(2024-08-01 正式生效;高风险系统义务自 2026-08-02 适用)对高风险系统要求”有效的人类监督”——这个法律要求的认识论翻译,正是本节点的三分谱系:监督一个工具、监督一个证言者、监督一个生成器,是三件不同难度的事(详见本专题 verification vs rubber-stamping 节点)。
§6 对手框架回应 · Rick 未读的两个
- 后现象学的 Verbeek(道德中介论)。 Peter-Paul Verbeek(What Things Do, 2005;Moralizing Technology, 2011, University of Chicago Press)扩展 Ihde,论证技术不仅在认识层面中介现实,更在道德层面中介行为——工程师通过设计行使伦理。接受:AI 的中介从来不是认识论中性的,它的框定就是价值选择。边界:Verbeek 偏向”技术能动性”的浪漫化,对 PM 而言更操作化的问法不是”技术有没有道德能动性”,而是”哪些价值选择被无声地编进了默认输出”。
- 延展认知的怀疑论(Adams & Aizawa)。 Clark & Chalmers 的延展心智(“The Extended Mind”, 1998, Analysis 58(1):7–19)会说:若 AI 持续可获取、被自动认可、易于提取,它就构成你认知系统的一部分。Adams & Aizawa 的”联接-构成谬误”批评则反驳:从”X 与 Y 联接”推不出”X 是 Y 的组成部分”。接受:把 AI 当外部记忆确有延展认知的影子。边界:延展认知的成立条件是”自动认可”(automatic endorsement)——而这恰恰是本节点要拆掉的东西。一个不该被自动认可的生成器,若被用户当作延展心智无缝信任,那不是认知增强,而是 Gettier 化的认知外包。这一支与 0431 专题”认识依赖”节点对接。
§7 PM 决策启示
- 面试:被问”你怎么看 AI 幻觉”,不要停在”加 RAG”。升一层答:“幻觉是中介性质被误判的征兆——用户把生成器当证言者信任。产品的事不是消灭幻觉(不可能,见架构性论证),而是通过交互设计把用户的认识姿态从’听证言’拉回’核线索’。”
- 选型:评估一个 AI 功能时,先判定它落在三支谱系的哪一支,再决定 confidence display 饱和度、citation 强制度、human-in-the-loop 阈值。同一个模型,放在不同中介位置,产品义务完全不同。
- 复现:做 confidence 校准时,记住 Humphreys 的本质性不透明——你无法让用户”看懂”内部路径,只能给他可独立重走的外部路径(溯源、引用、对照),这是认识论上唯一诚实的 confidence。
§8 与已有节点的关系
- 对照 c13 - 幻觉的不可消除性:c13 已论证幻觉的架构性不可消除(Softmax 强制输出 + 概率采样 + RLHF 对齐税导致校准失败)。本节点做的是升维而非复述:c13 回答”为什么 AI 会编”,本节点回答”为什么用户会信”——把问题从模型侧的生成机制,迁移到用户侧的认识姿态错置。幻觉之所以危险,不只因为它存在,而因为它被一个误判了中介性质的用户当作证言接收。这是 c13 的”风险存在论”向”认识论病理学”的对话式深化。
- 对照 Polanyi 默会知识与提示工程的认识论张力:该节点指出”评测本身是默会的、LLM-as-judge 不可靠的认识论根本原因”。本节点补一个互补面——不仅评测是默会的,用户对 AI 输出的’信/不信’判断本身也高度默会(Polanyi 的”从-至”结构:用户从无数附属线索整合出”这听起来靠谱”的焦点判断,却说不清依据)。这正是流畅性能劫持信任的机制:流畅性是一个强烈的附属线索。两节点共享”can know more than we can tell”的张力,分别落在生产侧与接收侧。
- 与 0114认识论:本节点是 0114 中”社会认识论 / 证言 / 盖梯尔问题 / 可靠主义”几个概念条目在 AI 语境下的应用与延伸,可视为这些条目的”AI 用例分册”。
- 升级对照(不复述):相较 Agent 与 RAG 等技术节点,本节点不在”怎么搭”层面,而在”用户透过它获得的是不是知识”这个认识论哲学层——它是 0418(审阅产品机制)、0427(知识产品)之下的地基。
§9 关联节点
核心(必读)
延伸(可选)
- 0117社会学
- 幻觉
- AI PM 知识图谱·总索引
[!info] 待建概念清单(本专题登记,不在主库建 stub) 以下概念在本节点被引用但 vault 中暂无对应节点,一律以普通文本呈现,登记待建,不建死链/概念卡/人物卡: Don Ihde(后现象学)、Bruno Latour(铭文/ANT)、Ian Hacking(干预)、Peter-Paul Verbeek(道德中介)、Alvin Goldman(验真性社会认识论 / 传播门卫)、C. A. J. Coady(证言反还原主义)、Jennifer Lackey(证言生成论 / 二元论)、Ori Freiman(技术性信念)、Edmund Gettier(JTB 反例)、Paul Humphreys(认识不透明性)、John Searle(中文屋)、Andy Clark & David Chalmers(延展心智)、Miranda Fricker(认识不公)。 注意区分:vault 06人/ 的
Polanyi节点是 Karl Polanyi(大转型),与 Michael Polanyi(默会知识)非同一人,本节点凡涉默会知识只链 Polanyi 默会知识与提示工程的认识论张力,不链 06人/Polanyi。
修订日志
- R1 (2026-06-07):首稿。建立工具/证言者/生成器三分谱系 + Ihde 后现象学叠加层;判断主轴四件套(4 点);接入 Goldman 传播门卫(跨域)、Verbeek 道德中介与 Adams-Aizawa 延展认知怀疑论(两个对手框架,接受+边界);与 c13、Polanyi、0114 显式升级对照(非复述)。Gettier 同构、Searle 中文屋、Freiman 技术性信念为核心调度。
- R1.1 (2026-06-07):WebFetch 核实两个 arXiv ID 并去除〔待核实〕——Fierro et al. (2024, EMNLP, arXiv:2410.02499) 标题/作者/年份全确证;Hila (arXiv:2512.19570) 确证为 AI & Society 2025 年发表,订正年份与论点表述。剩余 1 处未核实:Sardelli (St Andrews Aporia) 自动化偏见→证言性不公类比,仍标〔来源待核实〕。
- 2026-06-12 内审修复:§合规边界 EU AI Act 生效口径由模糊”(2024)“统一为”2024-08-01 正式生效;高风险系统义务自 2026-08-02 适用”(权威值,呼应总览 §8 QC #5)。Sardelli 来源仍诚实标〔来源待核实〕未动。