- 本课程包括:
- 3个月群内答疑,讲师助教及时解答
- 课程有效期为1年,建议合理规划学习
- 课程配有作业练习,助教一对一批改
- 班主任带班,严格督学,告别拖延
- 根据学习情况颁发结业证书、优秀学员证书
鲁 鹏
北京邮电大学副教授,2006年7月获得中国科学院自动化研究所博士学位,2008年到2010年在北京大学人机交互与多媒体实验室从事博士后研究,主要研究方向为机器学习、计算机视觉、人机交互。主持纵向项目包括:国家自然科学基金项目"面向概念设计的虚实融合环境交互技术研究",博士后基金项目"自然的三维概念草图绘制技术研究";作为负责人完成国家863项目"基于双目立体视觉的自然交互技术"的研究工作;同时,主持多项横向课题的研究工作。
NeRF与3D Gaussian Splatting是目前最火的三维场景表征技术,给三维重建、SLAM、计算图形学等领域带来了新的变革。它们各有优势和应用场景,NeRF能够处理复杂的光照和视角变化,生成高质量的三维静态场景的渲染;3DGS更适合实时交互和动态场景。
NeRF和3DGS的核心思想是什么?它们与传统的几何方法有什么关联(是融合还是替代)?它们还有哪些问题亟待解决?想必以上3个问题已困扰你已久。
深蓝学院联合北京邮电大学鲁鹏老师团队,一起打磨推出『NeRF与3DGS基础及常见算法解析』课程。课程除了讲解NeRF与3DGS的基础知识外,还重点讲解少视角、无界场景、大场景3个常见场景中代表性的工作,带着同学们拨云见日,快速跟进当下前沿的技术。
课程目标
- 熟练掌握NeRF的基础知识点,如神经辐射场、位置编码、体渲染、体素网络式表达等
- 熟练掌握3DGS的基础知识点,如球谐函数、Splatting与alpha blending等
- 理解NeRF、3DGS与传统几何三维重建的异同以及结合点
- 熟悉少视角、无界场景、大场景下的NeRF方案及前沿思想
课程亮点
-
课程基础知识与前沿算法并重
-
11篇代表性论文的梳理与理解
-
算法原理与代码实践融合讲解
课程大纲
-
第1章: NeRF基础知识:摄像机几何与SFM
本章主要介绍三维重建的基础知识,包括显式与隐式建模的概念和技术。第一节将深入解析三维重建的两种主要方法:显式建模侧重于直接构建三维模型,而隐式建模通过数学函数隐式表示三维空间。第二节介绍摄像机的内外参数及其获取方法,这些参数是理解摄像机几何的核心。通过本章的学习,为深入理解NeRF技术打下坚实的基础。
-
第2章: NeRF基础知识:全连接网络与优化算法
本章将介绍全连接神经网络的结构与功能,并解析它们在三维重建中的应用。第一节介绍全连接网络的基本组成和工作原理。第二节介绍深度学习中的优化算法,探讨如何有效训练神经网络以提高重建精度和效率。通过本章的学习,将掌握使用全连接网络和优化技术进行高效三维建模的必要知识。
-
第3章: NeRF基础:NeRF开山之作
本章全面介绍NeRF(神经辐射场)的基本原理和关键技术。首先,介绍神经辐射场的概念及其构成。接下来,深入讨论体渲染技术及其在场景合成中的应用。第三节着重于神经网络和位置编码在NeRF中的作用。随后,分析损失函数和优化训练策略,以提高模型性能。最后,通过代码讲解,亲自实践NeRF模型的搭建和调试。
-
第4章: NeRF基础:Mip-NeRF
在本章中,讲解了图像渲染中混叠问题的解决方案Mip-NeRF。首先,介绍混叠现象以及抗混叠的基本原理。紧接着,详细分析NeRF技术中的混叠问题及其应对策略。深入浅出地阐述圆锥台近似计算和集成位置编码的技术,最后比较Mip-NeRF与传统NeRF在效果和性能上的差异与优势。
课程适合谁学习
- 立志从事3D视觉的研究,想要跟进前沿发展趋势的研究者
- 传统几何三维重建、SLAM等方向的工程师
- 希望了解3D内容生成技术及当前技术能力边界的相关行业人员
基础&设备要求
-
几何三维重建: 摄像机几何、极几何、三角化、SFM、MVS
-
深度学习: 全连接神经网络、卷积神经网络、Transformer等网络构架;常见损失函数(L1,L2等),梯度回传、优化算法(随机梯度下降算法、动量、Adam)
该门课程需要传统几何的三维重建知识以及深度学习的基础
需要Nvidia的显卡,建议显卡显存在8GB及以上,比如RTX 2080及以上
全方位的学习服务
个性化增值服务,学习有保障更高效
-
作业批改
作业批改 助教1V1批改作业,定期针对作业中的“通病”进行点评
-
结业证书
结业证书 本课程将根据作业完成情况评选结业学员及优秀学员,颁发证书
-
实时答疑
实时答疑 讲师和助教微信群答疑,及时解决大家遇到的问题
-
班班督学
班班督学 班主任全程带班,不定时“关照”未交作业的同学,克服拖延
- 1:【文档】开课仪式
- 2-1:【文档】NeRF代码环境安装
- 2-2:【视频】环境安装步骤
-
第1章: NeRF基础知识:摄像机几何与SFM 2节课程·1小时29分钟
本章主要介绍三维重建的基础知识,包括显式与隐式建模的概念和技术。第一节将深入解析三维重建的两种主要方法:显式建模侧重于直接构建三维模型,而隐式建模通过数学函数隐式表示三维空间。第二节介绍摄像机的内外参数及其获取方法,这些参数是理解摄像机几何的核心。通过本章的学习,为深入理解NeRF技术打下坚实的基础。
- 3:【课件】NeRF初步
-
第1节: 三维重建:显式建模与隐式建模
- 免费 4:【视频】三维重建:显式建模与隐式建模
-
第2节: 摄像机内外参数及其获取方法
- 免费 5-1:【视频】摄像机内外参数及其获取方法
- 免费 5-2:【视频】什么是摄像机的内外参数
- 免费 5-3:【视频】运动恢复结构基础:三角化与极几何
- 免费 5-4:【视频】运动恢复结构
-
第2章: NeRF基础知识:全连接网络与优化算法 2节课程·44分钟
本章将介绍全连接神经网络的结构与功能,并解析它们在三维重建中的应用。第一节介绍全连接网络的基本组成和工作原理。第二节介绍深度学习中的优化算法,探讨如何有效训练神经网络以提高重建精度和效率。通过本章的学习,将掌握使用全连接网络和优化技术进行高效三维建模的必要知识。
-
第1节: 全连接神经网络
- 6:【资料】全连接神经网络.pdf
-
第2节: 深度学习中的常见优化算法
- 7-1:【课件】深度学习中的优化算法
- 7-2:【视频】常见优化算法
-
第3章: NeRF基础:NeRF开山之作 7节课程2篇阅读材料·1次作业·1小时19分钟
本章全面介绍NeRF(神经辐射场)的基本原理和关键技术。首先,介绍神经辐射场的概念及其构成。接下来,深入讨论体渲染技术及其在场景合成中的应用。第三节着重于神经网络和位置编码在NeRF中的作用。随后,分析损失函数和优化训练策略,以提高模型性能。最后,通过代码讲解,亲自实践NeRF模型的搭建和调试。
- 8:【课件】NeRF基础
-
第1节: 章节内容介绍
- 9:【视频】章节内容介绍
-
第2节: 神经辐射场
- 10:【视频】什么是神经辐射场
-
第3节: 体渲染
- 11:【视频】详解体渲染技术
-
第4节: 神经网络与位置编码
- 12:【视频】神经网络与位置编码
-
第5节: 损失函数与训练策略
- 13:【视频】损失函数与模型训练
-
第6节: NeRF代码讲解
- 14-1:【代码】NeRF-pytorch-master
- 14-2:NERF代码解读
-
第7节: 作业
- 15-1:【作业】第三章
- 15-2:【图文】第三章作业思路讲解
-
第4章: NeRF基础:Mip-NeRF 5节课程·1小时26分钟
在本章中,讲解了图像渲染中混叠问题的解决方案Mip-NeRF。首先,介绍混叠现象以及抗混叠的基本原理。紧接着,详细分析NeRF技术中的混叠问题及其应对策略。深入浅出地阐述圆锥台近似计算和集成位置编码的技术,最后比较Mip-NeRF与传统NeRF在效果和性能上的差异与优势。
- 16:【课件】NeRF基础:Mip-NeRF
- 17-1:论文+项目地址链接
- 17-2:Mip-NeRF代码详解
-
第1节: 章节内容介绍
- 18:【视频】本章讲什么内容
-
第2节: 混叠与抗混叠
- 19-1:【视频】混叠现象是如何发生的
- 19-2:【视频】如何抗混叠
-
第3节: NeRF中的混叠问题与解决方案
- 20:【视频】NeRF中的混叠问题如何解决
-
第4节: 圆锥台近似计算与集成位置编码
- 21:【视频】圆锥台近似计算与集成位置编码
-
第5节: Mip-NeRF与NeRF的对比
- 22:【视频】Mip-NeRF与NeRF的比较
-
第5章: NeRF基础:Instant-NGP 7节课程·1次作业·1小时34分钟
本章将详细介绍Instant-NGP技术,探讨其在NeRF应用中的创新点和发展方向。首先,概述Instant-NGP的基础知识,包括哈希表和球谐函数的基本概念。接着,分析Instant-NGP如何解决NeRF在渲染速度和存储效率方面的挑战。然后,展开讨论Instant-NGP的网络结构及其优势。最后,深入探讨基于多分辨率哈希的位置编码技术,阐明其如何提升模型性能,为进一步学习该领域提供坚实的理论基础。
- 23:【课件】NeRF基础 Instant-NGP
- 24-1:项目+论文地址链接
- 24-2:Instant-NGP代码详解
-
第1节: 本章知识概览
- 25:【视频】本章知识
-
第2节: Instant-NGP基础知识:哈希表与球谐函数
- 26-1:【视频】哈希表
- 26-2:【视频】球谐函数
-
第3节: Instant-NGP解决了NeRF的什么问题
- 27:【视频】NeRF的问题以及解决思路
-
第4节: Instant-NGP的网络结构
- 28:【视频】网络结构
-
第5节: 基于多分辨率哈希的位置编码
- 29:【视频】基于多分辨率哈希的位置编码
-
第6节: 本章总结
- 30:【视频】本章总结
-
第7节: 作业
- 31:【作业】第五章
-
第6章: 可泛化NeRF与少视角NeRF 4节课程1篇阅读材料·1小时49分钟
本章深入探讨了可泛化NeRF及少视角NeRF的前沿技术,特别关注IBRNet和DS-NeRF两个模型。首先,通过IBRNet部分,从其动机和目标出发到网络结构和技术细节,展示其如何提升NeRF模型的泛化能力。在DS-NeRF部分,从体渲染的推导到改进NeRF的新思路及实现细节,系统阐述该方法如何提升NeRF模型的少视角性能,旨在帮助学生理解这些高级技术的核心原理和实际应用。
- 32:【课件】IBRNet & DS-NeRF
-
第1节: IBRNet
- 33-1:项目+论文地址链接
- 33-2:IBRNet代码详解
- 34:【视频】IBRNet
-
第2节: DS-NeRF:体渲染推导
- 35:【视频】DS-NeRF体渲染推导
-
第3节: DS-NeRF:NeRF的问题及其改进思路
- 36:【视频】DS-NeRF-NeRF的问题及其改进思路
-
第4节: DS-NeRF:实现细节
- 37:【视频】DS-NeRF-实现细节
-
第7章: 无界场景NeRF:NeRF++ 4节课程·1次作业·40分钟
本章将详细探讨无界场景下的NeRF技术扩展——NeRF++。首先,讲解辐射场几何歧义和NeRF的隐式正则化技术,解释其在处理无界场景时的重要性。紧接着,探讨无界场景问题及NeRF++的动机,说明为何扩展NeRF至无界场景是必要的。最后,介绍反向球体参数化与前背景融合的体渲染技术,详述如何通过这些创新提升模型的实用性和效果,深化对无界场景渲染技术的理解。
- 38:【课件】NeRF++
-
第1节: 辐射场几何歧义与NeRF的隐式正则
- 39-1:【视频】内容概括
- 39-2:【视频】辐射场几何歧义
-
第2节: 无界场景问题与NeRF++动机
- 40:【视频】无界场景问题
-
第3节: 反向球体参数化与前背景融合体渲染
- 41-1:【视频】反向球体参数化与前背景融合体渲染
- 41-2:【视频】NeRF和NeRF++的对比
-
第4节: 作业
- 42:【作业】第七章
-
第8章: 无界场景NeRF:Mip-NeRF360 4节课程·46分钟
本章详细介绍了针对无界场景优化的NeRF扩展——Mip-NeRF 360。首先,探讨全方位无界场景的学习方法,展示如何全面理解和构建复杂场景的深度神经表示。随后,介绍基于在线蒸馏的Coarse-to-Fine网络架构,强调其在提高渲染效率和质量中的作用。之后深入分析辐射场几何歧义与单峰正则的关系及其对场景理解的贡献。最后,总结Mip-NeRF 360的关键成就和实际应用前景。
- 43:【课件】Mip-NeRF 360
-
第1节: 360度无界场景学习
- 44-1:【视频】无界场景问题及应对方法
- 44-2:【视频】场景参数化
-
第2节: 基于在线蒸馏的Coarse-to-Fine网络构架在线蒸馏
- 45:【视频】Coarse-to-Fine网络构架
-
第3节: 辐射场几何歧义与单峰正则
- 46:【视频】辐射场几何歧义与单峰正则
-
第4节: Mip-NeRF 360小结
- 47:【视频】本章小结
-
第9章: 无界场景NeRF:F^2-NeRF 4节课程·1小时2分钟
本章深入探讨无界场景优化的NeRF变体——F2-NeRF。首先介绍无界空间映射,旨在拓宽对复杂场景的理解。接下来,详细阐述空间划分方法,解释其在无界场景数据处理中的作用。之后介绍空间复用和hash函数,展示这些技术如何有效提升数据处理的效率。最后,详解F2-NeRF的损失函数设计,突出其在模型优化中的关键作用。通过本章的学习,将掌握F2-NeRF的技术细节及其在实际场景中的应用。
- 48:【课件】F^2-NeRF
-
第1节: 无界空间映射
- 49:【视频】透视warpping
-
第2节: 空间划分
- 50:【视频】空间划分
-
第3节: F^2-NeRF工作流程
- 51:【视频】算法工作流程
-
第4节: 损失函数
- 52:【视频】损失函数
-
第10章: 大场景NeRF:Block-NeRF 4节课程·53分钟
本章将详细介绍Block-NeRF技术在处理大规模场景时的应用。通过分割整个场景为多个小块,每一块运用一个独立的NeRF模型,有效地提高渲染效率与质量。本章从块的合理布局、单个模型的优化到多模型间的融合与外观匹配进行深入讨论,旨在介绍如何实现大场景下的高效且真实的场景渲染。
- 53:【课件】block-NeRF
-
第1节: 如何合理放置每一块的NeRF
- 54:【视频】大场景挑战
-
第2节: Block-NeRF的场景区域划分策略与动态物体去除方法
- 55:【视频】Block-NeRF的场景区域划分策略与动态物体去除方法
-
第3节: 多个模型的融合以及外观匹配
- 56:【视频】Block-NeRF的外观嵌入、曝光编码与位姿优化
-
第4节: Block-NeRF模型融合与外观一致性调整
- 57:【视频】Block-NeRF模型融合与外观一致性调整
-
第11章: 大场景NeRF:Mega-NeRF 3节课程·28分钟
本章探索Mega-NeRF技术在大规模场景渲染中的应用。Mega-NeRF通过增强数据并行性和区域分块处理,有效提高处理能力和渲染效率。此外,探讨对NeRF++模型的具体改进方法,以增强其在处理大规模场景时的表现和效率;之后介绍渲染技巧和采样技术,以实现更加精确和高效的场景渲染。
- 58:【课件】Mega-NeRF
-
第1节: 大场景的挑战与解决思路
- 59:【视频】类航拍大场景的挑战与解决思路
-
第2节: 空间划分与前后景分解
- 60:【视频】空间划分与前后景分解
-
第3节: 基于时序一致性的渲染策略
- 61:【视频】基于时序一致性的渲染策略
-
第12章: 3D Gaussian Splatting 3节课程3篇阅读材料·1小时12分钟
本章介绍3D Gaussian Splatting技术,深入浅出地剖析了在三维空间中进行高效渲染和数据融合的方法。从基础预备知识到详细的流程解析,再到实际代码实现,本章将全面系统地展示3D Gaussian Splatting的原理和应用。
- 62:【课件】3DGS
-
第1节: 预备知识
- 63-1:【视频】球谐函数
- 63-2:【视频】 Splatting与alpha blending
- 63-3:【视频】多维高斯的协方差矩阵
-
第2节: 3D Gaussian Splatting 流程
- 64-1:【视频】3DGS特点
- 64-2:【视频】流程与关键步
- 64-3:【视频】算法伪代码
-
第3节: 代码解读
- 65-1:【文档】3D Gaussian Splatting代码详解:模型训练、数据加载、模型构建
- 65-2:【文档】4-1 图像渲染
- 65-3:【文档】4-2 图像渲染
课程讨论区
已累计讨论26495个问题
课程配备专属讨论区,不仅有讲师、助教全程答疑,更能与同学们交流讨论,在思维碰撞中加深理解
在课程中随想随问,同学们的问题也可能启发到你
在课程讨论区,和684位同学一起探讨更多问题···
作业批改
已累计批改4951份作业
助教一对一批改作业,定期针对作业中的问题进行评讲
结业证书
课程根据作业完成情况评选结业学员及优秀学员,颁发证书
优秀学员更能获得额外购课优惠
班班督学
班班、助教、讲师全程带班,日常答疑解惑
FAQ
1、课程可以试听吗?
可以,您可以联系客服领取试听内容,根据试听的效果决定是否报名。
2、报名课程后,如果不满意,可以退款吗?
我们承诺: 报名后7天内且学习进度停留在第一章节的内容可以无条件全额退款,若您的学习进度超过第一章或报名时间超过7天将不再支持退款哦。课好不好,学了就知道了!
3、报名课程的费用可以开发票吗?
深蓝学院所有课程都可以开具发票。您可以登录深蓝学院官网(https://www.shenlanxueyuan.com),进入个人“账户中心”,在线申请。
4、报名后怎么开始学习呢?
PC端:登录深蓝学院官网(https://www.shenlanxueyuan.com),进入“个人中心”或“我的课程” 的课程即可开始学习。课程中包含讲师讲解的视频、课件、代码、作业及其它学习资料。建议在PC端学习体验更好。
如果想缓存视频,可下载深蓝学院APP。
5、可以跟讲师直接交流吗?
报名课程后添加课程对应的班主任微信,由其邀请加入微信答疑群。在答疑群内,您可以直接跟讲师和其他同学讨论交流。
报名后在对应的课程详情页,可查看对应的班主任微信。
6、学习形式和学习周期是怎样的?
为保证学习质量方便同学们反复观看,本课程采用录播形式。建议同学们登录深蓝学院PC端官网体验更佳。
7、课程有有效期吗?
为了督促同学们学习,保证学习效率,学院的课程有效期均为一年,当课程有效期截止后将不再支持观看视频、下载课件等课程服务及操作。若同学们依旧想观看视频和下载课件,建议可选择续费本课程。需要提醒大家的是,课程答疑、作业批改&讲评等课程相关服务期从报名加入课程后开始计算至少保证三个月。
8、作业会提供参考答案吗?
不提供参考答案。当每章作业截止提交后,会解锁作业思路讲解。我们希望引导大家培养独立思考的习惯和敢于动手实践的勇气,以便尽快适应实际工作中解决问题的模式。做作业过程中,如果有任何困惑和问题,可以在课程讨论区和交流群内提问解决。
课程预览
NeRF与3DGS基础及常见算法解析