跳转至

基础模型

大语言模型与多模态模型的全生命周期：架构与训练、应用与智能体、多模态与行动接口、推理部署与世界模型。

从这里开始

  • 快速入门

    十四天闭环：小 GPT、LoRA 微调、带来源的检索问答、量化后离线跑在边缘设备上。

    进入

  • 全貌导读

    术语、系统组成与各方向之间的关系。

    进入

  • 学习路线

    扫盲、实现、使用、适配，再按实践选方向深入。

    进入

知识体系

  • 架构与表示

    token、嵌入与注意力如何组成模型。

    进入

  • 训练与适配

    预训练、SFT、LoRA 与偏好优化分别改变什么。

    进入

  • 应用与智能体

    RAG、工具调用与智能体，以及如何评估。

    进入

  • 多模态与行动接口

    图像、语言、状态与动作如何连接，直到 VLA。

    进入

  • 推理与部署

    质量、延迟、吞吐与内存的权衡，量化与 KV Cache。

    进入

  • GPU 与算子开发

    执行模型与内存层次、roofline、算子融合、FlashAttention 与 Triton。

    进入

  • 世界模型

    预测环境变化，并用于规划与学习。

    进入

项目实践

  • 跟随式项目

    F0–F6：从模型概念到小型 GPT、检索问答与推理对比。

    进入

  • 实战 · 大模型量化

    从 RTN 到 GPTQ / AWQ / SmoothQuant，比较精度、显存与速度。

    进入

延伸

  • 人工智能

    各方向共用的学习方法与工程基础。

    进入

  • 具身智能

    技能调用、VLA 与世界模型进入机器人闭环。

    进入