用同一套问题审视新技术
每条新消息记录五项:改变位置、问题与机制、原始来源及日期、证据与未披露部分、质量/成本/延迟等代价。原论文实验、厂商自测、独立复现和企业任务验收是不同证据,不能彼此替代。
比较 Agent 成绩时记录模型版本、Harness、工具环境、数据集、预算和成功判定。若只换了模型与执行环境却把收益全部归给模型,结论不成立。Benchmark 的平均值也不能保证每个业务任务可靠。
对于经营报告,检查数据口径与引用是否正确,事实是否支持结论,缺失材料是否明确指出,权限边界是否守住,以及完成一份合格报告用了多少资源。
“新组合”有工程价值,不必包装成全新原理。“未披露”属于未知,不是新范式的证据。稳定的新机制才值得调整 大模型技术栈 的顶层分类。
技术定位练习:Switch Transformers
来源日期:2021-01-11;本次核对:2026-09-07。
Switch Transformers 在模型内使用稀疏专家路由,探索容量与计算的关系。它首先属于架构,同时影响训练和部署。
机制归位:模型中的专家网络不是独立业务 Agent。证据:原论文实验,不能外推成所有任务和硬件都等比例获益。代价:负载均衡、通信与模型存储。业务追问:相同质量下,一次合格任务究竟便宜多少?
变化速读:moe
相对什么、改变哪里: 教学对照:稠密前馈层通常让每个 Token 经过全部该层参数;稀疏专家路由让每个 Token 只走选中的专家。直接变化在模型架构,训练和服务需要适配。
对我们可能有什么影响: 可能改变容量与每次计算的取舍;应比较相同质量下的内存、通信、延迟与成本。
证据与未知: 论文实验不是所有硬件与业务的收益保证;这里没有给出本企业实测。
技术定位练习:DeepSeek-R1
来源日期:2025-01-22;本次核对:2026-09-07。
DeepSeek-R1 研究通过强化学习改善推理,并讨论不同训练路径。这里的核心改变发生在参数训练,推理阶段的预算与评测也必须记录。
机制归位:后训练为主,关联推理和验证;不能只凭模型输出更长就认定机制相同。证据:论文自报实验。代价:训练奖励设计、推理耗时与输出质量取舍。业务追问:收益是否出现在我们的真实任务,而不仅是可核对答案的题目?
变化速读:reasoning-rl
相对什么、改变哪里: 观察论文讨论的强化学习训练路径:用奖励反馈更新参数,改善推理行为。直接变化在后训练;推理预算和评测是关联条件。
对我们可能有什么影响: 对需要多步推理的任务有参考价值;仍需用本企业任务检查答案质量、响应时间与费用。
证据与未知: 不能把推理文字更长当成相同机制,也不能把论文自报成绩当作企业验收。
技术定位练习:Retrieval-Augmented Generation
来源日期:2020-05-22;本次核对:2026-09-07。
RAG 原论文把检索与生成结合;今天常见的应用还会直接把检索材料放入已有模型上下文。两者应说明具体配方,不能认为所有 RAG 都不涉及训练。
机制归位:检索与上下文、生成和证据检查。证据:原论文支持研究设定下的效果,普通业务系统仍需测量。代价:索引更新、召回质量、额外延迟。业务追问:引用是否真的支持答案,资料更新后能否及时检索?
原始来源:Retrieval-Augmented Generation
变化速读:rag
相对什么、改变哪里: 教学对照:仅凭当前输入与模型参数回答 → 检索相关材料并与生成结合。直接位置在上下文与生成的连接。原论文还涉及检索与生成的训练;常见应用层接入不一定更新参数。
对我们可能有什么影响: 公司资料可以成为回答依据;是否有用取决于召回、版本和引用是否支持结论。
证据与未知: 本例不是某产品新增功能,也不代表所有 RAG 配方相同;检索结果不自动成为长期记忆。
技术定位练习:PagedAttention
来源日期:2023-09-12;本次核对:2026-09-07。
PagedAttention 改进大模型服务中的 KV Cache 内存管理。它改变计算资源的利用,不是通过学习给模型添加业务知识。
机制归位:推理服务与基础设施。证据:论文的服务实验,需保留负载和硬件条件。代价:工程集成与特定场景下的取舍。业务追问:并发、延迟与成本改善后,任务正确率有没有保持?
变化速读:paged-attention
相对什么、改变哪里: 对照传统 KV Cache 内存管理,PagedAttention 以分页思想管理缓存。直接变化在推理服务,影响推理运行效率;没有因此给模型增加知识。
对我们可能有什么影响: 可评估并发吞吐、内存占用和响应延迟;具体收益必须带负载与硬件条件。
证据与未知: 论文服务实验不证明答案更正确,也不保证所有流量下都同等省钱。
技术定位练习:Managed Agents engineering
来源日期:2026-04-08;本次核对:2026-09-07。
Anthropic 的工程文章将会话记录、Harness 与执行环境拆开,讨论恢复、资源与安全边界。这是系统职责与部署方式的改进,不是把某个新网络层加进模型。
机制归位:执行循环、状态、环境与平台。证据:厂商工程实践,不是跨厂商同口径排名。代价:接口、状态一致性和运行复杂度。业务追问:谁保存可信运行事实,失败后从哪里继续,旧副作用会不会重复?
原始来源:Managed Agents engineering
变化速读:harness
相对什么、改变哪里: 教学对照:把会话、执行循环和环境紧耦合 → 拆分记录、Harness 与执行环境职责。直接变化在 Harness 与运行平台,循环和工具环境受到关联影响。
对我们可能有什么影响: 帮助讨论长任务接续、资源管理和故障处理;公司仍需明确运行事实、权限及副作用归属。
证据与未知: 这是厂商工程机制样本,未做跨厂商同条件测试,也不代表我们的系统已实现相同能力。
技术定位练习:Toolformer
来源日期:2023-02-09;本次核对:2026-09-07。
Toolformer 用构造并筛选的 API 调用示例继续训练模型,使其学习何时调用、填什么参数以及怎样利用返回结果。实际 API 仍由外部系统执行。
机制归位:数据、已有模型的继续训练、工具和推理的组合;这里用广义后训练位置表示,不把它等同于 RLHF。证据:原论文任务实验。代价:工具数据构造、接口适配与调用开销。业务追问:新的工具接口与业务权限是否被训练和执行两端正确支持?
变化速读:toolformer
相对什么、改变哪里: 对照未接受这类 API 示例继续训练的模型,Toolformer 构造并筛选调用样本,再继续训练模型。直接变化在数据和训练,工具接口与推理行为参与配合。
对我们可能有什么影响: 可以检查模型是否学会何时调用工具、怎样填写参数与利用结果;实际调用仍由外部程序执行。
证据与未知: 此处后训练是广义继续训练,不等于 RLHF;新工具、业务权限和迁移效果还需验证。
技术定位练习:Jev 与 RLCD
来源日期:2026-09-15;本次核对与实验:2026-09-20。
Jev 是 TypeSafe 的结构化决策模型。它接收材料与预先定义的问题,返回选项、等级或是非概率;RLCD 是厂商对校准决策后训练方向的命名。详细定义、损失教学例子及运行结果见 Jev 与 RLCD:结构化决策、概率校准与技术边界。
机制归位:直接变化放在后训练与推理输出;检索筛选、Agent 路由和评测受到关联影响。厂商另有架构创新声明,但因细节不足,本图不把它扩成已知网络结构。
证据:官方文档说明目标与接口;本轮中文合成样本验证接口和有限任务。代价:定义候选、评测语种、维护阈值、调用服务。业务追问:返回合法类型是否仍会判断错误?哪些输入需要澄清?筛选是否漏掉反证?
变化速读:jev-rlcd
相对什么、改变哪里: 对照让通用模型生成分类 JSON 的用法,Jev 专门返回决策与分布,厂商把校准决策作为后训练目标。RLCD 与推理接口分别影响“学什么”和“怎样输出”,不应合并解释成“RL 让它更快”。
对我们可能有什么影响: 可在请求分流、RAG 支持核查和程序分支上试用;用概率安排澄清或升级,动作和权限仍由代码决定。
证据与未知: 已跑通中文合成样本,但样本很小、没有独立阈值验证集;网络结构、奖励函数及训练配方未还原。类型安全不保证事实正确,厂商性能倍率不能当作本机收益。
来源与延伸阅读
顺着关系继续读
本页引用
哪些页面用到了它