AGI

一句话定义：当前 AI 系统在训练分布内插值，AGI 的直觉核心是跨域泛化、自主目标设立、连续学习与对物理世界的因果操作能力同时具备。

核心要点：

• 当前窄 AI（AlphaGo/LLM/视觉模型）在训练分布内表现极强但能力不迁移——AlphaGo 不会叠衣服、LLM 读不懂没见过的电路图去焊它。
• “通用”的本质跳跃：跨域迁移、抽象泛化、面对全新情境时能自己定义子目标。
• 能力层级常见拆分：L1 助手 / L2 协作者 / L3 自主执行长链任务 / L4 自我改进 / L5 与人类各领域专家平齐或超越。
• 关键的待解项：连续学习（避免灾难性遗忘）、世界模型（物理因果而非语言相关）、目标自定义、长时序记忆与一致性。
• LLM 路径在哪个层级会撞墙是开放问题——数据墙、推理墙、具身缺失、各家立场不同。

与已有概念的关联

• Scaling Laws — Scaling 是否能直接推到 AGI 是核心争论点
• Test-Time Compute — 推理时计算被视为 LLM 通向 AGI 的一条候选路径
• c11 - System 2 思维与 Test-Time Compute — 慢思考与 AGI 通用性的接口
• c13 - 幻觉的不可消除性 — 当前 LLM 与 AGI 的关键差距之一
• 幻觉 — 与 AGI 可靠性的关系