课程价格 ：
¥699.00
剩余名额
0
-
学习时长
9周/建议每周至少6小时
-
答疑服务
专属微信答疑群/讲师助教均参与
-
作业批改
每章节设计作业/助教及时批改评优
-
课程有效期
一年/告别拖延，温故知新
- 1：【文档】大模型微调与部署开课仪式
- 第1章: 课程概述与模型应用
- 2：【课件】第一章：课程概述与模型应用
- 第1节: 课程概览
- 3：【视频】课程概览-1
- 4：【视频】课程概览-2
- 第2节: 大模型的基本概念
- 5：【视频】大模型的基本概念：定义、优势和特点
- 6：【视频】大模型的基本概念：Llama3 8B代码结构详解
- 7：【视频】大模型的基本概念：Scaling Law
- 8：【视频】大模型的基本概念：一些代表性的大模型
- 9：【视频】大模型的基本概念：发展历史与应用场景
- 第3节: 大模型在垂直细分场景中的表现
- 10：【视频】大模型在垂直细分场景中的表现
- 第4节: 什么是微调及其必要性
- 11：【视频】大模型微调的概念及其必要性
- 第5节: 课程资源
- 12：【视频】课程资源推荐
- 第2章: 指令数据准备与构建
- 13：【课件】第2章：指令数据准备与构建
- 第1节: 内容回顾
- 14：【视频】内容回顾
- 第2节: 深度学习中的数据工程
- 15：【视频】深度学习中的数据工程
- 第3节: Prompt-Engineering与指令数据
- 16：【视频】提示词工程与指令数据-1
- 17：【视频】提示词工程与指令数据：指令微调训练流程
- 第4节: 构建微调指令数据
- 18：【视频】构建微调指令数据：指令数据的构成
- 19：【视频】指令数据集的3种构建方法
- 第5节: 开源指令数据集
- 20：【视频】开源指令数据集：Flan 2021
- 21：【视频】 开源指令数据集：AIpaca
- 22：【视频】开源指令数据集：LIMA与BELLE
- 第3章: 指令数据进阶与增强
- 23：【课件】第3章：指令数据进阶与增强.pdf
- 第1节: 知识回顾
- 24：【视频】知识回顾
- 第2节: 指令数据的重要性
- 25：【视频】指令数据的重要性
- 第3节: 数据好坏的度量
- 26：【视频】数据好坏的度量
- 第4节: 指令数据的筛选与配比
- 27：【视频】基于指令质量的筛选
- 28：【视频】数据类别划分与配比
- 29：【视频】数据复杂度分析
- 第5节: 指令数据的扩充
- 30：【视频】指令数据的扩充
- 第6节: 指令数据优化案例
- 31：【视频】LIMA
- 32：【视频】基于InsTag分类的指令数据多样化优化
- 33：【视频】Instruction-Following Difficulty
- 34：【视频】MoDS： Model-oriented Data Selection
- 35：【视频】指令进化
- 第7节: 数学推理指令与思维链
- 36：【视频】 数学推理指令与思维链
- 第4章: 大模型微调理论
- 37：【课件】第4章：大模型微调理论
- 第1节: 指令微调回顾
- 38：【视频】本章知识引入
- 39：【视频】回顾指令微调的必要性
- 第2节: 指令微调方法：全量微调
- 40-1：【视频】指令微调方法的分类
- 40-2：【视频】全量微调方法
- 第3节: 并行训练技术：DeepSpeed
- 41：【视频】并行训练技术：DeepSpeed
- 第4节: 减少内存使用技术：Flash Attention
- 42：【视频】减少内存使用技术：Flash Attention
- 第5节: 指令微调方法：高效指令微调
- 43-1：【视频】高效微调的优势及方法分类
- 43-2：【视频】基于选择的方法与基于加性的方法
- 43-3：【视频】基于参数化的方法：LoRA与QLoRA
- 第6节: 混合的方法：MAM Adapter
- 44：【视频】混合方法：MAM Adapter
- 第7节: 小结
- 45：【视频】本章小结
- 第5章: 微调实践
- 46：【课件】第5章：大模型微调实践
- 47：【视频】文本摘要与实践项目目标
- 第1节: 源码获取及微调环境配置
- 48：【视频】源码获取及微调环境配置
- 第2节: 基座模型下载
- 49：【视频】基座模型下载
- 第3节: 指令数据准备
- 50：【视频】指令数据准备
- 第4节: 指令微调训练
- 51：【视频】指令微调训练
- 第5节: 模型的使用与推理
- 52：【视频】模型的使用与推理
- 第6节: 摘要模型结果评估
- 53：【视频】摘要模型结果评估
- 54：【实践】Project：文本摘要能力
- 第6章: 微调后的模型评估
- 55：【课件】L6大模型能力评估
- 第1节: 语音模型通用能力评估
- 56：【视频】语言模型通用能力评估
- 第2节: 评测集梳理
- 57：【视频】评测集梳理
- 第3节: 语言模型专项能力评估
- 58：【视频】语言模型专项能力评估—以课程项目为例
- 第4节: Bad case定位、问题分析及解决方法
- 59：【视频】Bad case定位、问题分析及解决方法——以课程项目为例
- 第7章: 模型部署理论
- 60：【课件】L7模型部署理论
- 第1节: 大模型高效部署
- 61-1：【视频】大模型高效部署
- 61-2：【视频】大模型高效部署： 挑战
- 第2节: 主流部署框架介绍
- 62：【视频】主流部署框架介绍
- 第3节: Text Generation Inference 详解
- 63：【视频】TGI详解
- 第4节: TGI整体推理流程
- 64-1：【视频】TGI整体推理流程
- 64-2：【视频】TGI vs vLLM
- 第8章: 模型部署实践
- 65：【课件】模型部署实践
- 第1节: 前期准备
- 66：【视频】前期准备
- 第2节: 模型部署
- 67：【视频】模型部署
- 第3节: 服务访问
- 68：【视频】服务访问
- 第4节: 模型服务基准测试
- 69：【视频】模型服务基准测试
- 70：【实践】Project：模型部署能力
- 第9章: 课程总结与未来发展
- 第1节: 课程回顾与总结
- 第2节: 大模型微调与RAG技术
- 第3节: 大模型微调与部署技术发展方向
大模型文本摘要生成技术实践
本项目旨在利用大语言模型实现文本摘要生成技术，帮助用户从大量信息中提取关键内容。学员将学习如何构建和微调一个能够自动生成高质量文本摘要的大模型，从而在新闻报道、学术论文、法律文件等不同领域中实现高效的信息获取。
大模型工具调用技术实践
本项目聚焦于大模型在工具调用中的应用，旨在开发一个能够根据自然语言指令自动调用特定工具或API的大模型系统。通过本项目，学员将学习如何构建一个能理解复杂指令并执行相应操作的智能助手，提升自动化任务处理的能力。
