← 返回主题:从技术演化到业务判断

KNOWLEDGE / 可复用的理解

大模型技术栈

分清技术演化、模型形成与系统协作,把新技术定位到一个或多个模块。

内容编辑 2026-09-09 · 精选章节

理解技术栈的三张地图

面对一项新技术,先判断它改变的是模型参数、运行时输入和计算,还是任务的执行与控制。一个方案可以同时涉及几处。

地图一:技术为什么演化

读图问题:每条分支在解决什么瓶颈? 箭头表示研究方向的推进或能力扩展,不是“后一项彻底淘汰前一项”。这是一条面向大模型的简化主线,不是完整人工智能史。

关系图:规则系统 / 人写规则、统计学习 / 从数据找规律、神经网络 / 学习表示、Attention / 注意力、Transformer / 网络结构、大规模预训练 / 通用基础能力、后训练 / 调整行为与能力、推理改进 / 搜索与验证、检索与工具 / 支撑任务系统。箭头含义见相邻文字。
沿箭头阅读关系;文字说明见图下。
展开大图,查看文字与箭头
同一张关系图的放大版本

怎么读: 从上往下看方法如何扩展,在底部看并行发展的三条路线。Attention 早于 Transformer;后训练、推理改进、检索和工具可以组合。规则与统计方法仍可在业务系统中发挥作用,Agent 也不是必须等到某种后训练完成后才出现。

地图二:模型怎样形成,又怎样被使用

读图问题:哪里会改变权重,哪里只是在使用权重? 上半部分形成模型,下半部分运行模型;箭头分别标明训练输入、训练产物与运行时输入。

关系图:训练数据、预训练 / 根据误差更新参数、网络结构 / 如 Transformer、基础模型权重、后训练 / SFT、偏好优化或 RL、示范、偏好或奖励反馈、可部署的模型权重、推理 / 计算并生成、本次上下文 / 问题、资料、工具结果、回答或工具调用提议。箭头含义见相邻文字。
沿箭头阅读关系;文字说明见图下。
展开大图,查看文字与箭头
同一张关系图的放大版本

怎么读: 训练通过学习信号更新参数,推理将上下文与已加载的模型结合产生输出。普通聊天不会沿箭头自动回到训练阶段。后训练通常是多种配方的选择与组合,图中不表示 SFT、偏好优化、RL 必须依次全部执行;基础模型也可以直接用于推理。

边界: 网络结构贯穿训练与推理,图中只在训练起点标出一次。评测可发生在多个阶段;用户反馈要经过筛选、授权和正式训练流程,才可能用于下一版模型。

地图三:完成任务时,哪些系统在协作

读图问题:模型、Agent、公司知识与业务系统各自负责什么? 这张图只展示任务运行期间的职责和往返关系;训练不作为每次任务必经的一步。

关系图:业务流程 / 提出目标并接收结果、Harness 与 Agent Loop / 组织执行、模型推理 / 回答或提议行动、工具 / 受控访问接口、公司知识 / Wiki、原始依据、图谱、业务系统 / 实时数据与服务、观察与状态 / 记录结果和进度、下一轮 / 携观察结果回到 Harness、验证与人工确认 / 接收或退回、公司 Runtime / 权限、隔离、审计与恢复。箭头含义见相邻文字。
沿箭头阅读关系;文字说明见图下。
展开大图,查看文字与箭头
同一张关系图的放大版本

怎么读: 先看“业务目标 → 执行循环 → 验证交付”,再沿工具两条支路看知识和业务能力如何进入循环。模型给出调用提议,执行系统负责实际调用;结果回到状态和上下文,才形成可持续调查的闭环。为避免回线交叉,图底部把回到 Harness 的下一轮单独标出;人工接受的结果交还业务流程,退回的结果继续处理。

边界: Wiki 维护可读解释,图谱维护明确的对象关系,实时事实由相应业务系统提供。它们都不自动成为模型参数或 Agent 长期记忆。Harness 是组织执行的一组工程能力,名称和边界并非统一行业标准;Runtime 的支撑不保证任务必然成功。固定流程可以约束循环,也可以只在某个业务节点调用它。

三张地图放在一起,怎样定位一项新技术

观察面 包含什么 与其他部分的关系
模型形成 数据与表示、模型架构、预训练、后训练 架构规定计算结构;训练利用数据更新参数,形成可使用的权重
模型使用 上下文、模型推理、采样或搜索、检索与验证 运行时把输入与权重结合产生输出;普通聊天不会自动更新权重
任务执行 Agent Loop、工具、状态、Harness、企业运行平台 系统执行模型提出的动作,把观察结果带回下一轮
企业应用 业务流程接入、组织知识与业务事实、图谱与关系查询 按需向任务供给资料与能力,并由业务流程接收和确认结果
共同支撑 训练与推理基础设施、评测、安全和治理 影响质量、成本、速度、可用性与允许执行的范围

模型结构不是预训练前执行完就消失的工序。训练与推理都使用同一类网络结构;预训练和后训练是形成参数的阶段,也可以有重复、交错和多种配方。

RAG 是外部知识访问机制,可用于单次问答,也可成为 Agent 的工具。Agent 并不是 RAG 的必然后继版本。MoE 是网络架构选择,会影响训练和推理效率;不能只因为它节省计算,就归为部署技术。

新发布按“改变位置、解决的问题、证据、代价、适用任务”定位;没有公开的部分标为未知。框架只有遇到稳定的新机制时才扩展,不为每个新产品建立一个顶层模块。

企业应用观察面包含业务流程接入、组织知识与业务事实、图谱与关系查询。它与模型形成、模型使用、任务执行、共同支撑共同组成系统地图;这是职责分区,不是所有任务都要经过的串行步骤。业务流程向 Agent 委派目标,工具通过业务服务执行并回交结果;治理后的知识支撑关系查询,关系查询再作为受控工具提供给任务。

组织知识与业务事实提供跨任务的支撑:Wiki、原始依据与关系查询向上下文提供证据;工具受控查询知识和当前业务数据。这个模块表示组织资产的来源与维护责任,既不属于模型参数,也不自动等于 Agent 长期记忆。具体展开见 企业知识与业务能力。

继续阅读 大模型发展历程、Agent Harness 与企业 Runtime 的边界。

在固定框架上定位变化

学习路线说明先读什么;系统地图说明部件怎样协作。定位新消息时保持模块位置与身份稳定,分别标注直接变化、关联影响和未披露部分。直接变化指本次明确讨论的改动;关联影响表示需要一起考虑或验证,不能当成已经证实的收益。仅仅使用了某个模块,不代表创新发生在那里。

先说明比较基线,再解释变化。经典机制练习可以用教学对照;发布进展必须指出相对版本或明确对照,不能把机制介绍冒充版本升级。跨模块方案可标注连接变化;资料不足保留待核实,不能靠多点亮几个模块掩盖未知。图谱是组织知识的关系表示与查询方式,单列只是方便定位;业务流程接入说明人的工作与系统交付怎样变化。

每条案例关联原知识和来源日期;内容编辑、来源发表和核验日期分别保存。高亮代表定位,不代表能力更强、架构更先进或值得采购。

这条知识,连接到哪里

顺着关系继续读

本页引用

哪些页面用到了它

← 回到主题阅读
文档预览