S02 认识论立场对照矩阵
你把 AI 当成什么——工具、证言者、生成器、还是合作者——这不是一个修辞问题,而是一个会被编译进代码的认识论承诺。它决定了你的产品在三件事上的默认值:用户该给 AI 多少信任(trust)、什么时候必须停下来验证(verification)、以及出了错谁来背锅(accountability)。本节点的框架是:你默认的认识论立场决定了产品的信任设计——四种立场各自对应一整套信任/验证/归责的耦合配置,而绝大多数 PM 从未意识到自己已经悄悄选了一种,并把它焊死在了 confidence display 和 human-in-the-loop 触发条件里。
§0 为什么是”四立场对照”而不是”可信 / 不可信”二分
业界讨论 AI 信任时最常见的默认框架是一条一维标尺:从”完全不信”到”完全信任”,再配一个”校准”(calibration)让信任度匹配可靠度。这条标尺是 Lee & See(2004,Human Factors 46(1):50–80)的经典框架,它对——但它默认了 AI 的认识论身份是单一且固定的,只是可靠度高低不同。
这个默认是错的。把 AI 当工具和把 AI 当证言者,不是”信任度不同”,而是信任的对象和性质根本不同:信任工具是信任一个过程(process reliabilism,Goldman 1979),信任证言者是信任一个施动者的诚实与能力(testimony,Coady 1992)。两者在出错时的归责结构完全不同——工具出错你查校准,证言者出错你追责任。所以一维标尺会把”我该不该信这个数字”和”我该不该信这个说话的人”混成一个问题,而它们需要完全不同的产品机制。
本节点用二维替代一维:横轴是四种认识论立场(工具 / 证言者 / 生成器 / 合作者),纵轴是三类设计后果(信任 / 验证 / 归责)。这张矩阵的价值不在于告诉你”哪种立场对”——四种都有合法用例——而在于逼你显式地选一种并承担它的全部后果,而不是让默认值替你选。这与 A06 认识论决定产品设计 是同一命题在不同切面的展开:A06 论证”立场决定设计”,本节点给出”四立场 × 三后果”的可操作对照表。
§1 四种认识论立场:定义与哲学锚点
四种立场不是我拍脑袋分的,每一种都对应一个成熟的认识论传统对”知识如何获得”的回答:
| 立场 | 一句话 | AI 在认识链上的角色 | 哲学锚点 |
|---|---|---|---|
| 工具(Instrument) | AI 是延伸感知的仪器 | 中介现实,用户读取它的”读数” | Don Ihde 后现象学的解释学关系(hermeneutic relation,读温度计而非看世界);Goldman 过程可靠主义 |
| 证言者(Testifier) | AI 是告诉你事情的”人” | 传递命题内容,用户接受其断言 | 证言认识论(Coady 1992 反还原主义;Lackey 2008 二元论) |
| 生成器(Generator) | AI 是产出候选物的发生器 | 不主张真,只产出可被筛选的素材 | Searle 中文屋(句法非语义,1980);“知识的模拟”而非知识 |
| 合作者(Collaborator) | AI 是认知系统的延伸部件 | 与用户共同构成一个分布式认知过程 | Clark & Chalmers 延展心智(1998,Analysis 58(1):7–19) |
注意四者在”AI 是否主张真”这个轴上的排列:生成器不主张真(它只产出,真假由人判定);工具主张读数准确(不是真假,是测量可靠);证言者主张命题为真(并隐含为此负责);合作者与人共担真值(justified belief 由人+AI 的联合过程产生,见 A04 校准与信任的认识论 引的 Ferrario 2024 reliabilistic approach)。这个排列直接预言了它们在归责上的差异——谁主张真,谁就被期待为假负责。
§2 核心对照矩阵:四立场 × 三后果
这是本节点的命门。把它打印出来贴在选型会的墙上:
| 工具 Instrument | 证言者 Testifier | 生成器 Generator | 合作者 Collaborator | |
|---|---|---|---|---|
| 信任 Trust | 信任过程的可靠性(这台仪器校准过)。校准信任 = credence 追踪系统实际可靠率(Lee&See 2004;Ferrario 2024)。错误模式:把读数当世界本身(Ihde 的”具身关系”幻觉) | 信任施动者的诚实+能力。默认裘立性(credulity,Coady 1992):无反证则信。错误模式:自动化偏差(automation bias,Parasuraman & Manzey 2010)——把流畅当可信 | 不预设信任。信任后移到”筛选环节”,用户信的是自己的判断力。错误模式:筛选疲劳→默认接受第一个候选 | 信任联合过程,且要求 Clark-Chalmers 的”glue & trust”条件(持续可获取、自动认可、易提取)。错误模式:条件不满足却仍当部件用(Tandfonline 2023 指出 AI 难真正”延展性”融入认知) |
| 验证 Verification | 验证 = 校准检查(这读数在量程内吗?)。低成本、可外包给系统自检 | 验证 = 交叉质证(这说法有别的来源佐证吗?)。这正是 A03 Verification vs Rubber-stamping 的战场——证言立场下”看一眼就签”最易塌缩为 rubber-stamping | 验证 = 挑选+加工(哪个候选可用?我来改)。验证内置于工作流,用户本就预期要动手 | 验证 = 持续监控(部件还在正常工作吗?)。最危险:高可靠→注意力撤离→自满(complacency),Bainbridge”自动化的反讽”(1983):越自动越要人判断,但人越没机会练 |
| 归责 Accountability | 责任在用户(你没校准/误读仪器)。厂商责任 = 仪器质量 | 责任模糊——证言理论预设施动者可被问责,但 AI 无意向、无责任能力(Freiman 2023 Episteme:故归为”技术性信念”新类,既非仪器也非证言) | 责任在用户(你选的、你改的、你签发的)。最干净的归责结构 | 责任分布且难切分——延展认知里人与部件构成一个系统,错误归因到”系统”而非任一方(Adams & Aizawa 的”联接-构成谬误”批评在此显形) |
读这张表的正确方式:沿着一列读,你会看到一种立场的完整”人格”。比如生成器列:不预设信任→验证内置工作流→责任全在用户,这是最自洽、最不容易塌缩的一套(因为它从不假装 AI 在主张真)。再读证言者列:默认信任→需交叉质证→但责任无人可追——这是最危险的一列,因为信任默认值最高,而归责结构最空,中间全靠”用户认真验证”这一根独木桥撑着,而这根桥恰恰最容易塌成 rubber-stamping。
§3 立场会”滑变”:产品如何在用户不知情时切换 AI 的认识论身份
这是矩阵之外最要命的动态问题。一个产品很少只用一种立场——危险的是它在用户没察觉时偷偷切换立场,而信任默认值没跟着切。
典型滑变链:一个搜索 AI 设计时是生成器(“这是几条可能相关的结果,你来判断”),但加上一句自信的自然语言总结后,它在用户心智里变成了证言者(“AI 说答案是 X”)。设计者还以为责任在用户(生成器逻辑),用户却已按证言者逻辑给出了高信任、低验证。两套认识论错位叠加,正是幻觉致害的产品级机理:模型在最不确定时输出最自信(校准失败,见 c13 - 幻觉的不可消除性 的架构性分析),而证言者立场又给了这份虚假自信以”可信赖说话人”的待遇。
[!warning] 立场滑变是 confidence display 设计的第一性问题 Confidence display 不是”要不要显示一个百分比”的 UI 问题,而是”我在向用户声明 AI 是哪种认识论身份”的承诺问题。显示一个置信分数 = 宣称”我是可校准的工具/合作者”;用流畅断句的自然语言陈述 = 宣称”我是证言者”。这两个宣称对用户的信任/验证行为有相反的拉力。设计 confidence display 的真正决策,是先锁定立场,再让所有表层信号与该立场一致,绝不能让视觉自信度(证言者信号)和实际可靠度(工具校准)解耦。
§4 判断主轴:90% 的人在立场选择上会搞错的三个点
错位一:默认选了”证言者”却以为自己选的是”工具”
- 症状:产品输出一段自信、流畅、第一人称的自然语言(“根据分析,最优方案是 A”),却没有任何 confidence 信号,也没有强制验证步骤。
- 为什么会错:工程团队心里想的是”我们只是个工具,给个参考”(生成器/工具立场,责任在用户),但自然语言断言本身就是证言行为(speech act theory:陈述句默认携带”我对此为真负责”的 illocutionary force)。用户接收到的是证言信号,于是给出了证言级信任。立场在设计意图和用户感知之间错位了。
- 正确做法:要么把表层信号降到工具级(结构化输出、显式 confidence、“候选/草稿”措辞),让信任默认值压低;要么坦然接受证言者立场,补齐它要求的归责机制(引用系统、可追溯、明确的”AI 生成需人工核实”声明)。
- 真实反例:荷兰儿童福利金算法案、澳大利亚 Robodebt 案——制度上有”人在回路”(设计意图:决策者是责任主体,AI 是工具),认识论上监督已塌缩为 rubber-stamping(实际运行:AI 输出被当作权威证言照单执行)。立场设计与运行立场的鸿沟,酿成系统性冤案。(来源:AI 治理文献,2024–2025;Renieris et al. 2025 MIT Sloan Management Review 论 rubber-stamping)
错位二:把”合作者”立场用在 glue & trust 条件不满足的场景
- 症状:宣传 “AI 是你的 copilot / 第二大脑”,鼓励用户把判断”外包”给 AI,深度依赖、不再独立留底。
- 为什么会错:延展心智(Clark & Chalmers 1998)要求外部部件满足三条件才算认知系统的一部分——持续可获取、被自动认可、易于提取。LLM 在事实可靠性、可解释性上不稳定满足这些条件(Tandfonline 2023 “We Have No Satisfactory Social Epistemology of AI-Based Science” 明确指出认识不透明的 AI 难以真正延展性融入)。当条件不满足却按合作者用,归责就落进”分布式系统”的黑洞,没人能为错误负责,而用户的独立验证能力还因依赖而退化(Bainbridge 1983 的技能退化反讽)。
- 正确做法:合作者立场要配主动监控机制而非被动信任;并保留用户的”可独立验证路径”(让用户随时能不靠 AI 复核),不让认知部件变成认知拐杖。
- 真实反例:Huemmer et al.(2026, arXiv:2601.17055)三波纵向研究——困难任务上 AI 依赖率 73.9%,但验证置信度反而下降到 68.1%(恰在最该验证处),实际准确率仅 47.8%,信念-表现差距扩大到 34.6 个百分点。结论:“verification, not solution generation, became the bottleneck”——合作者立场下,瓶颈从生成搬到了验证,而用户的验证能力正在被依赖侵蚀。(arXiv ID 2601.17055,标题/数字/原句均经 WebFetch 核实)
错位三:用”生成器”的免责话术,行”证言者”的信任收割
- 症状:产品在条款里写”AI 生成内容仅供参考,请自行核实”(生成器免责,责任在用户),但产品体验全程把 AI 包装成无所不知的权威助手(证言者信任设计)。
- 为什么会错:这是认识论立场的套利——用生成器立场卸责,用证言者立场收割信任,两头都占。法律上可能站得住(免责声明在),认识论上是不诚实的:你制造了证言级信任,却只承担生成器级责任。Renieris et al.(2025)称表面合规而无实质认识内容的设计为 “explainability theater”,此处可对称地叫 “responsibility theater”。
- 正确做法:信任设计强度必须与归责承担强度匹配。你给多少信任暗示,就该背多少责任。要么压低信任信号(真生成器),要么补足归责机制(真证言者),不能错配。
- 真实反例:多家 AI 搜索/助手产品的”自信总结 + 角落小字免责”组合,正是这种套利的量产形态。
§5 产品 PM 视角补盲:立场是 GTM 与合规的隐藏开关
立场选择不只是技术耦合,它直接写进商业模式与合规暴露面,这是工程 PM 视角看不到的:
- 用户心理模型:用户会自发给 AI 分配一个认识论身份,且通常比你设计的更”拟人”(更偏证言者/合作者)。如果产品的实际能力是生成器水平,用户的证言者期待 = 必然的信任崩塌点。GTM 上,过度拟人的话术(“它懂你""像同事一样”)是在替用户预选证言者/合作者立场,透支信任。
- 合规边界:EU AI Act(2024-08-01 正式生效;高风险系统义务自 2026-08-02 适用)要求高风险系统支持”有效的人类监督”(effective human oversight)。但”有效”是认识论概念,不是程序概念——程序合规(有个人在回路)≠ 认识论有效(那个人真在做 verification 而非 rubber-stamping)。你的立场设计决定了你的人类监督是真监督还是合规剧场,这是监管风险的真实落点(arXiv:2512.13768 “Beyond Procedural Compliance: Human Oversight as a Dimension of Well-being Efficacy in AI Governance”,标题/论点经 WebFetch 核实)。
- 商业模式:合作者立场(copilot 定价、按席位)卖的是”成为你认知的一部分”,但它对产品可靠性的要求最高(glue & trust 条件),最难兑现;生成器立场(按量付费的内容产出)兑现门槛最低、归责最干净,但难讲”不可替代”的故事。立场选择 = 定价模型 × 兑现难度 × 归责暴露的三元权衡。
§6 对手框架回应:接受 + 边界
对手立场(业界主流):信任应当是一维校准问题,把信任度调到匹配可靠度即可,不必引入”四种身份”这种哲学复杂化。 代表是 Lee & See(2004)的 appropriate reliance 框架及其大量 HCI/XAI 后续工作。
接受:在单一稳定立场的封闭场景里,一维校准框架是对的且更可操作——比如一个故障检测仪表盘,AI 身份就是工具,此时只需把用户信任校准到系统实际可靠率,引入四立场反而是过度设计。校准理论在这类场景是成熟且充分的。
边界与赌注:但现代 LLM 产品的特征恰恰是立场不稳定、且会在交互中滑变(§3)。一维框架默认身份固定,因此无法描述”同一个输出,作为工具读数 vs 作为证言断言,需要的验证强度不同”。我赌的是:随着 AI 产品从单功能工具走向通用助手,立场歧义会成为信任设计的主要矛盾,一维校准会越来越不够用。这个赌注的失效边界很清楚——如果未来产品收敛回”一个产品一个明确功能身份”,那么四立场框架就退化为不必要的复杂度,一维校准重新够用。
Rick 未读的对手框架引入(破 echo chamber):B. Williams 与 E. Fricker(Elizabeth Fricker,牛津,注意区别于 Miranda Fricker)的证言自主性立场主张——为维护认识论自主,理性主体应当默认有选择地不信任证言,而非默认信任。这直接反对 Coady 的反还原主义裘立性原则。它对本矩阵的逼问是:证言者立场的”默认信任”设计本身可能就是认识论上不可取的,也许产品根本不该让 AI 占据证言者位置,而应强制所有 AI 输出停留在生成器立场(待用户主动赋信)。这是比”如何设计证言者信任”更激进的一问,本节点暂未解决,记入开放问题。
§7 跨域呼应:speech act theory 决定了”输出形式”就是”认识论承诺”
调度 言语行为理论(speech act theory,Austin/Searle) 来锁死本节点最反直觉的判断:AI 的输出形式不是中性的信息包装,它本身就是一个认识论承诺。
Austin 区分语句的 locutionary(说了什么)、illocutionary(在说中做了什么行为)、perlocutionary(对听者产生什么效果)三层。一个陈述句(assertion)的 illocutionary force 默认携带”说话者保证其为真、并为此负责”——这是断言这一言语行为的构成规则(Searle 的 constitutive rules)。
这把 §3、§4 的所有立场滑变还原到了一个机制层根源:当 AI 用陈述句输出时,它在执行”断言”这一言语行为,从而自动激活了证言者立场——无论设计者是否想要。 你无法用一句”仅供参考”的免责声明取消一个陈述句的 illocutionary force,正如你无法在说”我保证”之后补一句”但其实我不保证”来取消承诺。这就是为什么 confidence display 不能靠加免责小字解决:免责是 perlocutionary 层的事后补救,而立场承诺发生在 illocutionary 层的输出形式本身。要真正把 AI 钉在生成器立场,必须改造输出的言语行为类型——从”断言”改为”提供候选”(“这里有几个可能:…”),从语法上剥离它对真值的承诺。这一判断链入 0114认识论 中关于 justified belief 与断言规范的讨论,也与 0117社会学 中的 testimony/信任的社会建构相呼应。
§8 PM 决策启示
- 面试怎么用:被问”你怎么设计 AI 产品的信任机制”,不要答”做好校准、显示置信度”——这是一维框架的标准答案,平庸。答:“先问这个产品里 AI 是工具、证言者、生成器还是合作者,因为这决定了信任默认值、验证触发点和归责结构三件事是否自洽;最危险的是立场在用户不知情时滑变,比如生成器加了自信总结就变成了用户心智里的证言者。” 30 秒展示认识论自觉。
- 选型怎么用:评估一个 AI 供应商/方案时,沿 §2 矩阵读它的实际立场(看它的输出形式、免责条款、归责承诺是否自洽),而非听它宣传的立场。重点查”信任信号强度”与”归责承担强度”是否匹配(错位三的套利检测)。
- 复现/设计怎么用:把 confidence display、citation 系统、human-in-the-loop 触发条件三件事,统一回溯到”我选了哪个立场”这一个决策点。三者必须服从同一立场:证言者立场→强引用系统 + 强制人工核实;生成器立场→候选式措辞 + 内置筛选工作流 + 弱信任信号。不要让三者各自为政。
§9 与已有节点的关系
本节点对照并深化了 A06 认识论决定产品设计:A06 提出”立场决定设计”这一总命题,本节点把它操作化为一张四立场 × 三后果的对照矩阵,并补上 A06 未展开的”立场滑变”动态。
对 A04 校准与信任的认识论 做分工补缺:A04 深入单一立场内部的信任校准(credence 如何追踪可靠率),本节点处理立场之间的切换与错配——A04 回答”在工具立场内怎么调信任”,本节点回答”该选哪个立场、立场切换时信任怎么办”。
对 A03 Verification vs Rubber-stamping 做前置定位:A03 论证验证为何塌缩成橡皮图章,本节点指出 rubber-stamking 风险在四立场中分布不均——证言者立场是 rubber-stamping 的高发区(信任默认值最高、归责最空),这给 A03 提供了”哪里最该防”的立场地图。
对 c13 - 幻觉的不可消除性 做升级对话(不复述其架构性分析):c13 论证幻觉在架构上不可消除、且校准失败导致”最不确定时最自信”。本节点接力指出:这份架构性的虚假自信,在证言者立场下会被放大为”可信赖说话人的权威”,从而把一个技术缺陷(校准失败)升级为认识论灾难(错信一个假证言者)。c13 说”幻觉消不掉”,本节点说”所以更不能把 AI 放在证言者位置上让它的幻觉享受证言待遇”。
与 Polanyi 默会知识与提示工程的认识论张力 呼应:合作者立场预设 AI 能成为认知系统的延伸部件,但 Polanyi 的集体性默会知识恰是 AI 最难逾越的边界——这给”合作者立场的兑现门槛”提供了一个原理性天花板。
§10 关联节点
核心(必读)
- A06 认识论决定产品设计 — 本节点是其操作化矩阵
- A04 校准与信任的认识论 — 单一立场内的信任校准,与本节点互补
- A03 Verification vs Rubber-stamping — 证言者立场是其高发区
- A02 知识 vs 知识的模拟 — 生成器立场的认识论根据(模拟非知识)
- c13 - 幻觉的不可消除性 — 校准失败在证言者立场下被放大
- A01 AI 作为认识论中介概念谱系 — 四立场的概念谱系来源
延伸(可选)
- A05 默会知识与 AI 的认识论张力 — 合作者立场的兑现天花板
- G01 知识中介技术代际谱系总图 — 立场在历史上的演化背景
- Polanyi 默会知识与提示工程的认识论张力 — 默会维度对合作者立场的约束
- 0114认识论 — justified belief、断言规范的哲学入口
- 0117社会学 — testimony 与信任的社会建构
- 0601 维特根斯坦 — 语言游戏边界与”断言”的规则性
- RAG — 引用系统作为证言者立场的归责机制
- Agent — Agent 立场默认偏向合作者,归责黑洞风险最高
- 幻觉 — 立场错配如何放大幻觉致害
修订日志
- R1(2026-06-07):首稿。建立四立场 × 三后果对照矩阵;判断主轴三错位(证言者误当工具 / 合作者条件不满足 / 生成器免责套利证言者信任);speech act theory 跨域调度锁定”输出形式即认识论承诺”;与 A06/A04/A03/c13 建立升级对照。arXiv 2601.17055、2512.13768 两个 ID 已经 WebFetch 核实(标题/论点/关键数字吻合)。〔待核实项:Lee&See 2004 卷期页码(46(1):50–80)、Clark&Chalmers 1998 卷期(58(1):7–19)由接地材料给出、可信度高,建议 final 前复核确切页码;Freiman 2023 Episteme “技术性信念”分类、Renieris et al. 2025 MIT Sloan Management Review 由接地材料确证。〕
- 2026-06-12 内审修复:§合规边界 EU AI Act 生效口径统一为”2024-08-01 正式生效;高风险系统义务自 2026-08-02 适用”(权威值,呼应总览 §8 QC #5)。