跳转至

具身智能 · 学习路线

时间紧时

先做 快速入门:从感知切入,覆盖坐标、ROS 2、P1 · 6DoF 位姿和一次模仿学习体验;第二轮选择"感知与估计"分支时直接从 P1 继续。

主课只跟 Modern Robotics,机器人学习阶段延续 LeRobot。你已有几何、信号与工程基础,先补机器人空间表示和接口,数学与编程按缺口补齐。时间按每周 8–10 小时估计;ROS 2 文档和算法例子服务于项目,不增加为完整必修课。

第一轮:全貌与小闭环

阶段 建议时间 最小知识 跟随内容 完成标准
0 · 全貌与空间入门 1–2 周 本体、观测、状态、坐标、反馈 Modern Robotics 导览与第 2–3 章选学,见 Overview;E0 画闭环并解释坐标与动作
1 · 软件体验 2–3 周 Linux 基本操作、节点、消息、位置与速度 ROS 2 官方入门;E1 订阅位置并发布速度,实现到点反馈
2 · 算法直觉 1–2 周 坐标、运动学、路径、误差 PythonRobotics 文档;E2 默认做二连杆例子,并回看 Modern Robotics 第 4–6 章;A* 为替换选项
3 · 数据与策略 3–5 周 PyTorch 基础、演示、观测动作接口、成功率 LeRobot 模仿学习仿真;E3 从数据到策略,再到重复闭环评估

学习策略前先完成基础模型 F1,或确认自己能读懂一个 PyTorch 训练循环。仿真入门可以使用真值状态,不必先完成视觉 SLAM。

第二轮:选一个任务深入

分支 重点 项目延伸
感知与估计 标定、检测、位姿、融合;按移动或操作任务选择 将真值观测换成传感器估计并测误差
规划与控制 轨迹跟踪、约束与稳定性;MPC/力控按需 比较控制器在扰动、延迟下的表现
软件与系统 ROS 2、记录回放、接口、时延、恢复 把任务整理成能重复运行和调试的系统
学习型策略 模仿、数据覆盖、动作表示、RL/VLA E4:在固定本体上适配和评估语言条件策略
部署与虚实迁移 系统辨识、域差异、运行时、资源限制 E5:硬件在环,再逐步真机验证

移动机器人和机械臂在第一轮选择一个轻量例子即可。综合项目选定一个本体与任务;足式、人形、灵巧手、全身控制、完整 SLAM 和世界模型保留为方向选修。

三条连接基础模型的路径

路径 输出接口 需要验证什么
LLM 选择技能 目标或技能名及参数 指令理解、接口约束、执行反馈与恢复
VLA 策略 动作或动作序列 数据适配、时序、控制接口、闭环成功率
世界模型辅助决策 预测状态、观测或潜变量 预测误差、规划收益和分布外失败

它们不要求同时实现;加一个动作头也不等于得到可用机器人策略。

每个项目的记录要求

  • 版本:教程日期、系统、依赖、仿真器、代码 commit 和模型/数据版本。
  • 任务:观测与动作含义、控制频率、成功条件、超时与终止条件。
  • 评估:固定初始状态或种子、成功次数/总次数、失败类型、时延。
  • 个人贡献:改了什么、为什么、结果如何、限制在哪里。

完成 E1–E3 后,再结合目标岗位选择一个分支做完整项目。

查看 E0–E5 项目步骤 · 软件与仿真入口