llm-course
桃花潭水深千尺,不及汪伦送我情。——李白
LLM Course:从基础知识到生产部署的大语言模型学习路线图
项目地址:https://github.com/mlabonne/llm-course
学习大语言模型,最容易遇到的问题往往不是资料太少,而是资料太多。
数学、Python、神经网络、Transformer、预训练、微调、对齐、量化、RAG、智能体、推理优化、部署、安全……每一个主题都像一扇门。推开之后,里面又有新的概念、新的论文、新的工具与新的实践路径。
真正困难的,并不是找到某一篇教程。
而是找到一条能让知识逐步连接起来的路线。
LLM Course 正是围绕这件事建立的学习项目。它是一门面向大语言模型的课程,提供学习路线图与 Colab Notebook,并将学习内容组织为三个部分:LLM Fundamentals、The LLM Scientist 与 The LLM Engineer。
它并不把大语言模型理解成一个只需要学会调用 API 的领域。
它希望学习者既能理解模型背后的基础知识,也能接近构建、训练、评估与优化模型的技术路线,还能进一步学习如何把 LLM 做成能够在生产环境中使用的应用。
这是一张从基础到工程、从模型内部到实际部署的学习地图。
三条路线,组成完整的大语言模型学习旅程
LLM Course 将课程划分为三个部分。
第一部分是 LLM Fundamentals。
这一部分是可选内容,涵盖数学、Python 与神经网络等基础知识。它并不要求每位学习者都从这里开始,但可以在需要时返回查阅,为后续内容补上基础。
第二部分是 The LLM Scientist。
这一部分面向希望理解并构建更强大语言模型的学习者,重点覆盖现代 LLM 的架构、预训练、后训练数据、监督微调、偏好对齐、评估、量化与新趋势等主题。
第三部分是 The LLM Engineer。
这一部分更关注 LLM 应用与部署。它讨论如何运行模型、构建向量存储、实现 RAG、处理高级 RAG 场景、构建智能体、优化推理、部署 LLM,以及应对 LLM 安全问题。
这三部分并不是完全割裂的内容。
基础知识帮助理解模型。
模型知识帮助理解训练与优化。
工程知识则把模型带到实际应用中。
从“LLM 是如何工作的”,到“如何让 LLM 在真实系统中可靠运行”,课程希望让学习过程形成连贯的链条。
LLM Fundamentals:需要时回来的基础营地
LLM Fundamentals 被定位为可选部分。
这意味着,课程并不要求所有人先完成完整的数学与机器学习基础训练,才能接触大语言模型。但当学习者在后续内容中遇到向量、梯度、优化、概率、神经网络或 NLP 概念时,这一部分可以作为随时返回的基础营地。
它涵盖四个方向:
- 面向机器学习的数学
- 面向机器学习的 Python
- 神经网络
- 自然语言处理
这四部分共同构成进入 LLM 世界前的重要地基。
数学:理解模型背后的语言
机器学习与大语言模型中的许多概念,都依赖数学表达。
课程将机器学习数学分为线性代数、微积分以及概率与统计三个主要方向。
线性代数帮助理解向量、矩阵、行列式、特征值与特征向量等概念。这些内容与深度学习中的表示、权重计算和矩阵运算密切相关。
微积分帮助理解连续函数优化所需的导数、积分、极限、级数与多变量计算。模型训练过程中的优化问题,需要这些概念作为基础。
概率与统计则帮助理解模型如何从数据中学习、如何进行预测,以及随机变量、概率分布、统计推断等内容。
课程并不把数学当作一段孤立的前置门槛。
它更像一套可以在学习过程中不断回看的工具。遇到模型计算时,回到线性代数;遇到训练优化时,回到微积分;遇到数据与预测时,回到概率与统计。
数学不必先被完全背下。
但它会持续出现在理解模型的路上。
Python:把理论变成可以运行的实验
大语言模型学习不仅需要阅读,也需要动手。
课程将 Python 视为机器学习实践中的重要工具,并从 Python 基础、数据科学库、数据预处理与机器学习库四个方向展开。
Python 基础包括语法、数据类型、错误处理与面向对象编程。
数据科学库部分涉及 NumPy 的数值运算、Pandas 的数据处理与分析,以及 Matplotlib 和 Seaborn 的可视化能力。
数据预处理则涵盖特征缩放与归一化、缺失数据处理、异常值检测、类别数据编码,以及训练集、验证集与测试集划分等内容。
机器学习库部分强调 Scikit-learn,它提供监督与非监督学习算法,并帮助学习者建立机器学习工作流。
对于 LLM 学习者而言,Python 不只是“会写几行脚本”。
它是将模型、数据、训练、推理与评估串联起来的实践语言。理解概念之后,最终仍然需要通过代码验证、实验与调整来形成真正的掌握。
神经网络:从层、权重到反向传播
神经网络是深度学习模型的重要基础。
课程从神经网络结构、训练与优化、过拟合以及实现多层感知机几个方向帮助学习者建立理解。
基础部分包括层、权重、偏置与激活函数,例如 sigmoid、tanh 与 ReLU。
训练与优化部分涉及反向传播、均方误差、交叉熵、优化算法与学习率等内容。
过拟合部分讨论模型在训练数据上表现良好、但在未见数据上表现较差的现象,并引入 dropout、L1/L2 正则化等相关方法。
课程还建议使用 PyTorch 实现多层感知机。
在今天的大语言模型世界里,Transformer 是最常被讨论的架构,但理解神经网络的基本构成仍然十分重要。层如何连接,误差如何回传,参数如何更新,模型为什么会过拟合,这些问题都会在更复杂的模型中以不同形式继续出现。
NLP:在 Transformer 之前理解文本
自然语言处理是连接人类语言与机器理解的重要领域。
课程在 NLP 部分涵盖文本预处理、特征提取、词向量与循环神经网络等主题。
文本预处理包括分词、词干提取、词形还原与停用词处理等操作。
特征提取涉及词袋模型、TF-IDF 等将文本转换为机器学习系统可以处理形式的方法。
词向量部分介绍 Word2Vec、GloVe 与 FastText 等表示方法,它们通过向量形式表达词语之间的语义关系。
循环神经网络部分则引入 RNN、LSTM 与 GRU,帮助理解序列数据建模的早期重要路径。
LLM 并不是凭空出现的。
它建立在自然语言处理长期发展的基础之上。理解文本如何被处理、表示与建模,有助于学习者更好地理解之后的 token、嵌入、注意力与上下文机制。
The LLM Scientist:走进模型构建与优化的内部
如果说基础部分是地图上的地基,那么 The LLM Scientist 则是进入模型内部的主干道路。
这一部分关注如何使用现代技术构建尽可能优秀的大语言模型,涵盖八个方向:
- LLM 架构
- 预训练模型
- 后训练数据集
- 监督微调
- 偏好对齐
- 评估
- 量化
- 新趋势
它并不要求学习者马上训练一个超大规模模型。
但它希望学习者理解,现代大语言模型从数据到架构、从训练到评估、从精度到部署,究竟经过了哪些环节。
LLM 架构:理解现代模型的主干
课程指出,不一定需要对 Transformer 架构拥有极端深入的掌握,但理解现代 LLM 的主要步骤仍然很重要。
其中包括:
- 通过 tokenization 将文本转换为数字
- 理解从编码器—解码器 Transformer 到 GPT 等仅解码器架构的演进
- 理解注意力机制,尤其是自注意力及其变体
- 理解不同文本采样方法及其权衡
现代 LLM 的输入不是直接的自然语言,而是被切分和编码后的 token 序列。
模型需要在这些 token 之间建立关系。
注意力机制帮助模型处理长距离依赖。
最终生成阶段还需要通过贪心搜索、束搜索、温度、Top-k、Top-p 等不同方式决定接下来输出什么。
课程将这些内容放在架构部分,使学习者能够建立一个从输入到输出的整体认识:文本如何进入模型,模型如何处理上下文,生成又如何发生。
预训练:理解模型在开口说话之前经历了什么
预训练是一个计算密集且成本高昂的过程。
课程说明,虽然预训练不是它最核心的实践重点,但理解预训练机制仍然很重要,尤其是在面对开放模型时。
预训练部分涉及数据准备、分布式训练、训练优化与监控。
数据准备需要面对大规模数据集的筛选、清理、去重与质量控制。
分布式训练涉及数据并行、流水线并行与张量并行等策略。
训练优化则包含带预热的自适应学习率、梯度裁剪、归一化、混合精度训练与优化器等内容。
监控部分关注损失、梯度、GPU 状态、分布式训练问题的针对性日志与性能分析。
预训练并不只是“把海量文本喂给模型”。
它是一套围绕数据质量、并行策略、训练稳定性与资源使用不断平衡的复杂工程过程。理解这一过程,有助于学习者更好判断模型能力、训练成本与模型生态中的差异。
后训练数据:让模型学会回答与对话
基础模型能够预测下一个 token,但它还不一定会成为一个擅长回答问题、遵循指令的助手。
后训练数据正是在这一阶段发挥作用。
课程指出,后训练数据集通常包含具有明确结构的指令与回答,或指令、被选择回答与被拒绝回答。对话结构也使数据需要使用特定格式存储,例如 ShareGPT 或 OpenAI/Hugging Face 格式,并进一步映射为对应的聊天模板。
后训练数据相关内容包括:
- 存储格式与聊天模板
- 合成数据生成
- 数据增强
- 质量过滤
合成数据生成可以基于种子数据,让前沿模型生成指令—回答对,从而以更灵活、可扩展的方式构建数据集。
数据增强可以通过验证输出、多答案与拒绝采样、Auto-Evol 等方式丰富已有样本。
质量过滤则包括基于规则的过滤、重复与近重复移除、n-gram 去污染,以及通过奖励模型与裁判模型判断质量。
对于模型能力来说,数据并不是单纯的数量问题。
数据如何组织、怎样筛选、是否与目标任务相匹配,都会影响后训练的最终效果。
监督微调:让基础模型成为更有帮助的助手
监督微调,也就是 SFT,是让基础模型走向有用助手的重要阶段。
课程指出,SFT 可以让基础模型学会回答问题、遵循指令、组织回答,并重新激活一部分已有知识。
这一部分覆盖训练技术、训练参数、分布式训练与监控。
全参数微调会更新所有模型参数,但需要大量计算资源。
LoRA 与 QLoRA 等参数高效微调方法,则可以降低内存需求。
训练过程中,学习率、调度器、批大小、梯度累积、训练轮数、优化器、权重衰减等参数都会影响结果。
多 GPU 训练可以使用 DeepSpeed 或 FSDP。DeepSpeed 提供不同阶段的 ZeRO 优化,用于提升内存效率。
监控则需要关注损失曲线、学习率变化、梯度范数,以及损失突增、梯度爆炸或性能下降等问题。
SFT 是从“模型知道很多文本模式”到“模型能够更好服务用户”的重要转折。课程将这一环节放在模型科学路线中,让学习者理解模型可用性是如何被训练出来的。
偏好对齐:让模型输出更接近人类偏好
偏好对齐是后训练流程中的第二阶段之一。
它的目标是让模型生成的回答更接近人类偏好,并帮助调整模型的表达方式、降低有害输出等问题。
课程介绍了拒绝采样、直接偏好优化、奖励模型与强化学习等方向。
拒绝采样会让训练后的模型针对同一个提示生成多个回答,再对这些回答进行评分,从而推断被选择与被拒绝的样本。
DPO,也就是 Direct Preference Optimization,会直接优化策略,使被选择回答相对于被拒绝回答拥有更高概率,并且不需要显式训练奖励模型。
奖励模型可以通过人类反馈学习预测偏好等指标。
强化学习技术,例如 GRPO 与 PPO,则可以在保持模型与参考策略接近的同时,迭代更新策略以最大化奖励。
偏好对齐告诉学习者,大语言模型的训练并不止于“学会语言”。
它还涉及“什么样的回答更好”“如何遵循偏好”“如何在多个可能回答之间形成倾向”。
评估:没有评估,就没有真正的改进方向
大语言模型评估复杂,却不可或缺。
课程将评估分为自动化基准、人类评估、基于模型的评估与反馈信号分析。
自动化基准使用精心构建的数据集与指标评估模型在具体任务上的表现,例如 MMLU。它适合较明确的任务,但对抽象与创造性能力的衡量存在局限。
人类评估则由人类对模型回答进行评价,形式可以从主观体验检查到有具体规则的大规模标注与社区投票。
基于模型的评估使用裁判模型或奖励模型评估输出。这种方式与人类偏好可能具有较高相关性,但也会面临对自身输出的偏好与评分不一致等问题。
反馈信号分析则关注错误模式,用于发现模型在复杂指令遵循、特定知识、对抗性提示等方面的弱点。
模型评估不是排名表上的一个数字。
它是数据生成、训练策略与后续改进的重要反馈源。没有评估,模型优化就容易变成没有方向的尝试。
量化:让模型更接近可运行的现实
大语言模型通常需要大量内存与计算资源。
量化通过将参数与激活转换为更低精度表示,降低模型运行所需的资源。例如,原本使用 16 位存储的权重,可以转换为 4 位表示。
课程在量化部分介绍了基础精度、GGUF 与 llama.cpp、GPTQ 与 AWQ,以及 SmoothQuant 与 ZeroQuant 等方向。
基础部分关注 FP32、FP16、INT8 等精度形式,以及 absmax 与 zero-point 等朴素量化方法。
GGUF 与 llama.cpp 最初为 CPU 运行场景设计,如今也成为消费级硬件运行 LLM 的重要工具组合。
GPTQ、EXL2 与 AWQ 等方法通过逐层校准等方式,帮助模型在更低精度下保持可用效果。
SmoothQuant 与 ZeroQuant 则代表了更多面向量化友好的变换与编译优化方向。
量化的意义不只是“模型变小”。
它让模型能更适合不同硬件条件,也让研究、开发与应用之间的距离缩短。
新趋势:模型融合、多模态、可解释性与测试时计算
课程还为一些不容易归入传统分类的主题保留了 New Trends 部分。
其中包括模型融合、多模态模型、可解释性与测试时计算。
模型融合可以在不进行微调的情况下,将已经训练好的模型合并成新的模型。
多模态模型能够处理多种类型输入,例如图像与文本。
可解释性关注如何理解 LLM 的内部工作机制,稀疏自编码器等技术为这一方向提供了新的进展。
测试时计算则关注推理阶段如何增加计算预算以提升模型表现,可能涉及多次调用、蒙特卡洛树搜索或专门模型等方式。
这些方向说明,大语言模型领域并不是一条固定道路。
模型架构、训练方式、输入形式与推理策略都在不断扩展。课程将它们放入学习路线中,让学习者能够看到传统训练流程之外正在出现的新问题与新机会。
The LLM Engineer:让模型真正进入应用与部署
理解模型如何训练,只是大语言模型学习的一部分。
另一个同样重要的问题是:模型如何被使用。
The LLM Engineer 部分关注构建能够在生产环境中使用的 LLM 应用,并将重点放在模型增强与部署上。
这一部分包括:
- 运行 LLM
- 构建向量存储
- RAG
- 高级 RAG
- 智能体
- 推理优化
- LLM 部署
- LLM 安全
它从应用角度重新组织大语言模型知识。
模型不再只是一个等待训练的神经网络,也成为 API、检索系统、工具调用系统、服务端、边缘设备与安全边界中的一部分。
运行 LLM:从 API 到本地模型
运行大语言模型可能面临较高硬件需求。
课程指出,使用者可以选择通过 API 使用模型,也可以在本地运行模型。无论哪种方式,都需要理解模型来源、提示工程与输出结构化等问题。
这一部分包括 LLM API、开源 LLM、提示工程与结构化输出。
LLM API 为部署模型提供了便利入口。
开源模型可以通过 Hugging Face Hub 等平台获取,也可以在 Hugging Face Spaces 等环境中直接运行部分模型。
提示工程包括零样本提示、少样本提示、思维链与 ReAct 等常见技术。
结构化输出则适用于需要固定模板或 JSON 等格式的任务,相关工具可以引导生成过程满足所需结构。
对于 LLM 工程师而言,调用模型只是开始。
如何让模型接收合适提示、输出合适格式,并在不同模型选择之间做出判断,才是应用层的重要工作。
向量存储:RAG 的第一块基石
构建向量存储是搭建检索增强生成流程的重要第一步。
课程指出,文档需要被加载、拆分,相关片段再被转换为向量表示。
这一部分涵盖文档摄取、文本切分、嵌入模型与向量数据库。
文档加载器可以处理 PDF、JSON、HTML、Markdown 等多种格式,也可以从数据库与 API 获取数据。
文本切分器将文档拆分为更小、语义更明确的片段。课程强调,相比按照固定字符数量切分,按标题或语义结构切分通常更合适。
嵌入模型负责将文本转化为向量表示。根据具体任务选择嵌入模型,可以提升语义搜索与 RAG 的表现。
向量数据库则提供向量索引与检索能力,课程列举了 Chroma、Pinecone、Milvus、FAISS 与 Annoy 等工具。
从文档到切片,从切片到向量,从向量到检索,向量存储让外部知识能够被带入模型上下文。
RAG:让模型在回答前先去找资料
检索增强生成,也就是 RAG,是一种通过从数据库中检索上下文文档来提升回答准确性的方式。
课程指出,RAG 可以在无需微调的情况下增强模型知识。
RAG 部分包括编排器、检索器、记忆与评估。
编排器例如 LangChain 与 LlamaIndex,可以帮助构建 RAG 流程。
检索器可以通过查询改写、生成式检索器、CoRAG、HyDE、多向量检索与混合检索等方式提升搜索质量。
记忆则帮助模型与聊天机器人记住之前的指令与回答。对话历史可以加入上下文窗口,也可以通过摘要等方式得到改进。
评估需要同时关注文档检索和生成两个阶段,例如上下文精确率、上下文召回率、忠实度与回答相关性。
RAG 的价值在于,它不要求把所有新知识重新训练进模型参数。
模型可以在回答前,先去检索与问题相关的信息,再将这些信息作为上下文参与生成。
高级 RAG:让检索走向更复杂的真实系统
现实应用中的检索流程往往比“查向量库、取几个片段、交给模型回答”更复杂。
课程因此设置了 Advanced RAG 部分,讨论查询构建、工具、后处理与可编程 LLM。
结构化数据可能保存在传统数据库中,需要使用 SQL、Cypher、元数据等语言表达查询。系统可以将用户指令直接转化为这些查询形式。
工具调用让代理能够自动选择更合适的外部能力。工具可以很简单,例如搜索引擎或百科内容,也可以更复杂,例如 Python 解释器。
后处理用于增强检索文档的相关性与多样性,可能包含重排序、RAG-Fusion 与其他处理方式。
DSPy 等框架则让开发者能够以程序化方式,基于自动化评估来优化提示与权重。
高级 RAG 所面对的,是更接近真实生产系统的问题:知识不只存在于一个向量数据库中,任务也不只需要一次简单检索。
智能体:让模型开始行动
LLM 智能体可以根据对环境的推理,自主执行任务。
它们通常通过工具或函数与外部系统交互。课程将智能体分为基础概念、代理协议、厂商框架与其他框架几个方向。
智能体基础包括思考、行动与观察。
思考用于决定下一步要做什么。
行动用于执行任务,通常会调用外部工具。
观察用于分析行动结果,并继续调整后续行为。
课程还介绍 Model Context Protocol,也就是 MCP。它被描述为连接智能体与外部工具、数据源的行业标准,涉及 MCP Server 与 MCP Client。
不同云模型提供方也拥有各自的智能体框架,例如 OpenAI SDK、Google ADK 等。
其他框架则包括 LangGraph、LlamaIndex 等,用于设计、可视化或构建智能体工作流。
智能体让 LLM 不再只是“给出一段回答”。
它开始能够围绕目标调用工具、读取反馈、继续行动,并在外部环境中推进任务。
推理优化:让生成更快、更省
文本生成需要成本较高的硬件资源。
除了量化之外,课程还介绍 Flash Attention、KV Cache 与推测解码等推理优化方向。
Flash Attention 通过优化注意力计算,将复杂度从二次降低到线性,用于加速训练与推理。
KV Cache 是理解生成过程的重要概念。课程还提到多查询注意力与分组查询注意力带来的改进。
推测解码会让较小模型先生成草稿,再由较大模型审核,从而加快文本生成。EAGLE-3 是课程特别提到的一种方案。
推理优化的意义不只在于跑出更高的速度。
它会直接影响吞吐、延迟、成本与硬件使用方式,也决定 LLM 应用是否能在实际环境中更合理地运行。
部署 LLM:从本地实验到多 GPU 服务
部署大语言模型可以很简单,也可以非常复杂。
课程将部署分为本地部署、演示部署、服务器部署与边缘部署。
本地部署强调开源 LLM 在隐私方面的优势,并列举了 LM Studio、Ollama 等本地 LLM 服务方向。
演示部署可以使用 Gradio 与 Streamlit 等框架,用于快速构建原型与分享 Demo。
服务器部署面向更大规模场景,可能需要云端或本地基础设施,并借助优化文本生成推理系统。
边缘部署面向资源受限环境,课程提到 MLC LLM 与 mnn-llm 等高性能框架。
不同的部署方式对应不同目标。
有时需要隐私与本地控制。
有时需要快速展示想法。
有时需要服务更多用户。
有时则需要让模型进入更受限的设备环境。
LLM 工程不只是把模型“跑起来”,而是要根据具体需求决定模型应该在哪里、以什么方式运行。
安全:LLM 应用必须面对的新边界
大语言模型应用除了传统软件安全问题之外,还存在由训练方式与提示机制带来的特殊风险。
课程在 Securing LLMs 部分讨论提示攻击、后门与防御措施。
提示攻击包括提示注入、数据或提示泄露等问题。攻击者可能通过额外指令试图劫持模型回答,或尝试获取原始提示与敏感内容。
后门与数据投毒则可能针对训练数据本身,例如向训练数据注入错误信息,或埋下改变模型行为的秘密触发条件。
防御措施强调测试与验证,包括红队测试以及使用 garak 等工具进行检查。
安全并不是 LLM 应用上线前才补上的最后一步。
它需要进入设计、开发、测试与部署的全过程。模型能调用什么工具,能看到什么数据,如何处理外部内容,如何防止提示被劫持,都是 LLM 工程中不可绕开的现实问题。
Notebook 与文章:让路线图不只停在概念层
LLM Course 不只是列出知识主题。
README 还提供了围绕 LLM 的 Notebook 与文章集合,覆盖工具、微调、量化与其他主题。
工具部分包含:
- LLM AutoEval,用于使用 RunPod 自动评估 LLM
- LazyMergekit,用于通过 MergeKit 一键合并模型
- LazyAxolotl,用于通过 Axolotl 在云端微调模型
- AutoQuant,用于将 LLM 量化为 GGUF、GPTQ、EXL2、AWQ 与 HQQ 格式
- Model Family Tree,用于可视化合并模型的家谱
- ZeroSpace,用于借助免费 ZeroGPU 创建 Gradio 聊天界面
- AutoAbliteration,用于使用自定义数据集自动进行模型 abliteration
- AutoDedup,用于使用 Rensa 库自动进行数据集去重
微调部分包含 Llama 3.1、Llama 3、Mistral-7B、CodeLlama 与 Llama 2 等相关 Notebook,涉及 Unsloth、ORPO、DPO、QLoRA 与 Axolotl 等主题。
量化部分包含八位量化、GPTQ 四位量化、GGUF 与 llama.cpp、EXL2 等方向。
其他部分则涵盖 MergeKit 模型合并、MoE 创建、abliteration、知识图谱增强 ChatGPT 与解码策略等内容。
这些 Notebook 与文章让课程不只是一张阅读清单,也保留了可以进一步进入实践的入口。
课程不是一条只能从头走到尾的直线
LLM Course 的一个重要特点,是它允许学习者按需要选择路径。
有基础的开发者,可以先从 The LLM Engineer 开始,学习如何运行模型、构建 RAG、使用工具与部署应用。
对模型训练感兴趣的人,可以进入 The LLM Scientist,理解数据、微调、偏好对齐、评估与量化。
在遇到数学、Python、神经网络或 NLP 相关困难时,再回到 LLM Fundamentals 补齐基础。
这种安排让课程更像一张地图,而不是一份必须严格按章节完成的试卷。
不同人站在不同起点。
有人擅长工程,却不熟悉训练。
有人理解模型,却缺少部署经验。
有人会 Python,但还没有系统接触 Transformer。
课程提供的是不同方向之间的连接,使学习者可以从自己的位置出发,再逐步拓展。
从模型理解到生产实践,建立完整视野
大语言模型领域变化很快。
新的模型、新的微调方法、新的推理框架、新的智能体协议与新的部署方式不断出现。面对这种变化,单独掌握一个工具或一个框架通常并不够。
LLM Course 所提供的价值,在于帮助学习者建立完整视野。
理解数学与神经网络,能够更好理解模型。
理解 Transformer、预训练、数据与对齐,能够更好理解模型为何拥有当前能力。
理解量化与推理优化,能够更好理解模型如何适应不同硬件。
理解向量存储、RAG 与智能体,能够更好构建实际应用。
理解部署与安全,才能让应用真正进入可使用的环境。
这条路线从来不是只为了“学会一个热门名词”。
它是为了让学习者面对大语言模型时,不只知道怎么调用,也知道它从哪里来、如何被训练、如何被增强、如何被部署,以及如何被更可靠地使用。
