深入理解 GPU 计算: CUDA 编程指南

先说清楚：这门课不适合谁

如果你指望两周啃完就去调优大模型训练，这门课会让你失望。CUDA 编程的坑在于，它的门槛不在语法，而在脑子里那套「并行」的思维方式——你要同时想线程怎么分、内存怎么走、显卡什么时候在摸鱼。这些东西没法速成。所以这份导读的目的不是催你快点学，而是帮你判断：哪些章节现在就该看，哪些可以放着，等真正需要时再回头。

学的顺序，比学的速度重要

整门课大致分三层。第一层是概念层，讲清楚 GPU 和 CPU 在结构上的根本差异、线程块和网格是怎么回事、为什么「搬运数据」常常比「计算」还慢。这一层别跳，哪怕看得慢。第二层开始动真格：写第一个核函数、理解线程索引怎么映射到数据、处理边界情况。第三层才进入共享内存、同步、访存优化这些真正决定性能的内容。

建议的节奏是：第一层慢慢过，第二层跟着敲一遍代码，第三层挑着看。如果你之前只用过 PyTorch 的 cuda()，那前两层对你来说几乎是全新世界，别急着往下冲，卡住是正常的。

哪些地方可以放过自己

这门课里有些内容对多数自学者来说是「知道有这回事」就够了，不必当场吃透。比如底层的硬件架构细节、不同计算能力的兼容性差异、以及一些偏性能极限的调优技巧。这些等你手上真有一个跑得慢的核函数时再回来查，效率反而更高。

可以暂时跳过的判断标准很简单：当你发现自己在纠结「这个参数为什么要设成这样」而手头又没有可跑的例子时，先记下来，往前走。CUDA 的很多细节是实践倒逼理解的，空想没用。

资料和练习怎么配合

课程配了章节笔记，但笔记的正确用法不是「读完就完事」，而是每完成两三个小节后，自己动手写一段小结——不是抄，是用自己的话复述一遍，比如「线程块的大小怎么影响占用率」这种问题，能用一句话说清，才算真懂了。

练习上，别贪多。每学完一块内容，尝试独立写一个最小可跑的核函数，哪怕只是把两个数组相加。跑通、看输出、然后故意改错参数看它怎么崩——这个过程比看十个视频有用。

关于「学完能做什么」的实话

课程摘要里提到的一些应用型目标，比如向量检索、完整项目落地，那是把 CUDA 当工具用的场景，不是这门课直接教出来的结果。这门课真正给你的，是能读懂别人写的 GPU 代码、能自己写出不慢的并行程序、能在性能出问题时知道往哪个方向找原因。

这三点已经足够值回时间。剩下的，靠你在实际项目里一次次踩坑慢慢长出来。慢慢来，这一门急不得。

QQ_1762159623444.webp 下载附件   保存到相册 2025-11-3 16:47 上传

课程推荐

《深入理解 GPU 计算: CUDA 编程指南》QQ_1762159623444.webp 下载附件   保存到相册 2025-11-3 16:47 上传【技能收获】学完可掌握：Embedding 向量检索。课程以实战为导向，覆盖从基础概念到完整项目落地的关键步骤，配套章节笔记便于课后复盘与面试前快速回顾。【学习建议】建议按目录顺序学习，先打基础再进入综合实战章节；每完成 2～3 节可结合笔记整理一份学习小结，最终尝试独立复现一套完整 Demo 写入个人作品集。【就业发展】可面向岗位：AI 应用工程师、RAG 系统开发、Java 后端 + 大模型落地、企业知识库架构师。大模型应用岗需求持续走高，具备「后端 + RAG 落地」复合能力的人才在招聘市场更稀缺，简历中可突出完整项目链路而非仅会使用 API。 若你已有一定编程或运维基础，本课程可帮助你在现有技能栈上快速叠加热门方向能力，提升求职时的项目说服力与薪资谈判空间。

视频目录（99 节）

*   1 课程介绍.mp4

*   2 什么是 GPU 计算.mp4

*   3 GPU 硬件架构综述.mp4

*   4 处理器空间.mp4

*   5 内存空间.mp4

*   6 GPU 计算能力.mp4

*   7 如何编写 CUDA 程序.mp4

*   8 如何编译 CUDA 程序.mp4

*   9 函数修饰符.mp4

*   10 内存修饰符.mp4

*   11 内建-内置向量.mp4

*   12 内建变量.mp4

*   13 CUDA 编程模型.mp4

*   14 CUDA 程序执行与硬件映射.mp4

*   15 程序解析- 向量加法.mp4

*   16 主机函数- __host__.mp4

*   17 设备函数- __device__.mp4

*   18 核函数- __global__.mp4

*   19 网格.mp4

*   20 线程块.mp4

*   21 网格维度- gridDim.mp4

*   22 线程块维度- blockDim.mp4

*   23 线程块 ID- blockIdx.mp4

*   24 线程 ID- threadIdx.mp4

*   25 线程调度.mp4

*   26 线程块与线程映射.mp4

*   27 例子- 向量加法.mp4

*   28 如何启动核函数.mp4

*   29 线程执行顺序.mp4

*   30 GPU 内存介绍.mp4

*   31 CPU 内存介绍.mp4

*   32 页锁定内存.mp4

*   33 GPU 内存如何管理.mp4

*   34 CPU 内存管理.mp4

*   35 页锁定内存管理.mp4

*   36 全局内存管理.mp4

*   37 例子- 全局内存.mp4

*   38 什么是共享内存.mp4

*   39 共享内存冲突.mp4

*   40 共享内存 Bank.mp4

*   41 共享内存 bank 冲突- 计算能力 1.x.mp4

*   42 共享内存 bank 冲突- 计算能力 2.0 及以上.mp4

*   43 共享内存应用- 加**约.mp4

*   44 内存拷贝- cudaMemcpy.mp4

*   45 例子- 内存管理.mp4

*   46 内存空间类型查询 (Address Space).mp4

*   47 向量操作.mp4

*   48 稀疏矩阵存储格式.mp4

*   49 稀疏矩阵向量乘法 (SpMV).mp4

*   50 什么是同步.mp4

*   51 核函数同步.mp4

*   52 线程块同步.mp4

*   53 Warp 同步.mp4

*   54 Warp 同步概述.mp4

*   55 什么是规约算法- 如何并行.mp4

*   56 并行规约算法-1- 二叉树算法.mp4

*   57 并行规约算法-2- 改进 warp divergence.mp4

*   58 并行规约算法-3- 改进共享内存访问 消除冲突.mp4

*   59 并行规约算法-4- 改进全局内存访问.mp4

*   60 并行规约算法-5- warp 内循环展开.mp4

*   61 并行规约算法-6- 完全循环展开.mp4

*   62 并行规约算法：成功优化的关键.mp4

*   63 完整并行规约算法： 三阶段算法与完整代码.mp4

*   64 并行规约算法应用- 内积.mp4

*   65 线程调度概述.mp4

*   66 Warp 投票函数.mp4

*   67 Warp 匹配函数.mp4

*   68 Warp 规约操作.mp4

*   69 Warp 内通信- 交换数据.mp4

*   70 例子- __activemask.mp4

*   71 例子- __ballot_sync.mp4

*   72 例子- __shfl_down_sync.mp4

*   73 例子- warp 内广播.mp4

*   74 例子- warp 内 scan 操作 (扫描).mp4

*   75 例子- warp 内规约操作.mp4

*   76 Cooperative Groups (合作组).mp4

*   77 隐式组类型 (内建组类型- 内置组类型).mp4

*   78 例子- 向量加法-1645693606.mp4

*   79 显式棋盘组划分 (Tiled Partition).mp4

*   80 合并组 (Coalesced Groups).mp4

*   81 例子- 合并组.mp4

*   82 例子- warp 内广播-1645693728.mp4

*   83 例子- warp 内广播 2.mp4

*   84 组划分 (tiled_partition).mp4

*   85 组划分- labeled_partition.mp4

*   86 例子- 合并组标记划分.mp4

*   87 组划分- binary_partition.mp4

*   88 例子- 合并组二分划分.mp4

*   89 组同步.mp4

*   90 网格组同步.mp4

*   91 规约操作 (Reduce).mp4

*   92 例子- 规约算法 1.mp4

*   93 例子- 规约算法 2.mp4

*   94 例子- 规约算法 3.mp4

*   95 例子- 规约算法 4.mp4

*   96 CUDA 程序概述.mp4

*   97 CUDA 程序优化- 探索并行化.mp4

*   98 CUDA 程序优化- GPU 内存优化策略.mp4

*   99 CUDA 程序优化- 指令优化.mp4