课程目录

AI应用

AI开发工具链

AI开发工具链覆盖从环境配置到模型部署的完整流程。Jupyter/vLLM/MLflow/FastAPI是核心工具。

核心要点

  • 开发环境:Jupyter Notebook、Colab、VS Code + Continue/Copilot
  • 实验管理:MLflow(追踪)、Weights&Biases(可视化)、Optuna(超参搜索)
  • 模型部署:vLLM(推理引擎)、TGI(文本生成推理)、ONNX/TensorRT(导出)
  • API服务:FastAPI(高性能)、Triton(多模型管理)、Gradio(演示)
  • 版本管理:DVC(数据版本)、Git LFS(模型文件)

关联知识