技术为什么这样演化。

设想按关键词处理客户咨询：“退款”进入退款流程。但“我不退款，只想改地址”就暴露了歧义。补规则有用，遇到大量语言变化时却越来越难维护。

统计方法从语料估计表达出现的概率；神经方法进一步学习表示与共享参数，让相似情形更充分地借用经验。不是统计方法完全不能泛化，而是共享经验的方式改变了。参照 演化分支 ↗。

神经网络把词变为向量。RNN 逐步处理序列；早期 Seq2Seq 常把输入压入固定表示，长输入的信息不易全部带到输出。Attention 让生成过程按需要读取输入不同位置。

Transformer 将注意力与前馈计算组成新的架构，改善训练并行。它并非把整个回答一次性生成出来。一个 Token 的旅程 ↗ 会把这一区别展开。

2017 是 Transformer 论文的代表节点；Attention 更早出现，不能把两者混成同一次发明。

大规模自监督预训练让模型学习广泛模式，但会预测不等于稳定遵循要求。后训练改善任务行为；推理时计算尝试用更多生成和验证解决复杂问题；检索补外部资料；Agent 系统组织行动。

这一节先给后续篇目定位，不在这里展开全部机制。这些方向并行发展，能够组合。权限检查、业务校验和固定流程继续使用明确规则。大模型技术栈 ↗ 说明它们今天的位置。