资源介绍
视频数量：23个
总时长：2小时19分
课程介绍：
掌握NVIDIA AI基础设施
你有没有想过，那些动不动就能回答你任何问题、写文章画图的AI系统，到底是怎么跑起来的？答案不是某个神奇的软件算法，而是一整套庞大到让人难以想象的基础设施。数以千计的GPU同时运转，每一台设备消耗的电量堪比一栋小房子，整座数据中心加起来的用电量接近一座小型发电站。这听起来像是科幻小说，但实际上，这就是今天每一家AI公司每天都在面对的现实。
如果你想在AI领域找到一份技术方向的工作，或者想通过NVIDIA的相关认证，那你必须理解这些基础设施是怎么工作的。这门课程专门为你准备，用两个多小时的时间，带你从最底层开始，彻底搞懂NVIDIA AI基础设施的每一个核心组成部分。
先说说基础部分。课程会从AI计算的演变讲起，带你看看为什么传统CPU会突然不够用了。想象一下，CPU就像一个超级聪明的大厨，做菜时一步一步来，每道菜都做得精致完美。但AI训练完全相反，它需要同时让一千个人切一万种菜，简单重复但数量巨大。CPU一次只能干一件事，而GPU能同时处理几百万个计算任务。这就是为什么整个AI行业都在抢GPU。课程会带你认识这个转变过程，理解为什么NVIDIA能从一家游戏显卡公司，一跃成为整个AI革命的核心驱动力。
接下来进入GPU架构的核心部分。你会学到NVIDIA GPU到底是怎么设计的，为什么它的架构特别适合AI工作负载。课程会详细讲解Tensor Core这是什么，为什么它能让AI训练速度提升几十倍甚至上百倍。还有多GPU配置的问题，当一台服务器里装了好几张GPU的时候，它们之间怎么通信、怎么分配任务、怎么把计算结果汇总起来，这些细节直接决定了整个系统的效率。
软件栈是另一个关键环节。CUDA平台会单独拿出一整节课来讲，它到底是什么，为什么没有CUDA就没有NVIDIA在AI领域的霸主地位。课程还会介绍NVIDIA AI Enterprise套件，以及NGC容器仓库。简单说NGC就是NVIDIA官方的预训练模型和软件镜像仓库，学会用它能让你的工作效率提升好几个档次。你不用从零开始搭建所有东西，直接用现成的容器，能节省大量时间。
数据中心基础设施这部分会告诉你，一个能跑AI的数据中心到底长什么样。首先是计算平台的选择，不是随便买几台服务器就行。AI训练对算力的需求是持续稳定的，所以选什么类型的服务器、怎么组合配置，直接影响最终效果。然后是供电和冷却，这个话题听起来不酷但实际上超级重要。一个满载的AI服务器可能消耗10千瓦甚至更多的电力，想想看一个数据中心有几百台这样的服务器，供电系统得有多强。而且电转成算力的同时会产生大量热量，冷却系统如果跟不上，设备分分钟会烧掉。这些内容课程都会讲清楚。
运维和管理是保障系统稳定运行的关键。课程会教你基础设施监控怎么做，怎么发现某个GPU温度异常或者某个节点开始变慢。集群编排部分会讲Kubernetes在AI环境里的特殊用法，以及作业调度系统怎么分配计算资源让利用率最大化。这些技能在实际工作中非常重要，很多AI项目的瓶颈往往不在算法本身，而在运维管理上。
网络部分可能是很多人不太熟悉但实际上非常核心的内容。InfiniBand是什么，它和普通以太网的区别在哪里，为什么AI集群必须用这种高速网络。GPUDirect技术会单独讲解，它解决了什么问题。还有网络拓扑设计，怎么让数据在成百上千台GPU之间快速传输，这些都直接影响训练速度。
存储系统对于AI同样不可忽视。训练大模型需要读写TB甚至PB级别的数据，如果存储系统跟不上，再强的算力也会被拖累。GPUDirect Storage这个技术能绕过CPU让GPU直接读取存储设备，大幅降低延迟。课程会介绍不同的存储架构模式，帮助你理解什么时候该用什么方案。
最后两个实战案例非常有意思。金融行业那个案例会讲到怎么把AI交易系统的延迟从毫秒级压缩到微秒级，在高频交易领域这可能意味着几百万美元的差距。医疗AI那个案例会带你看看在真实的医院环境里部署AI系统会遇到什么独特的挑战，比如数据隐私、实时性要求、设备可靠性等等。这些案例能帮你把前面学的所有知识串联起来，理解它们是怎么在真实场景中协同工作的。
学完这门课，你会对NVIDIA AI基础设施有一个完整且系统的认识。从芯片到数据中心，从软件到网络，从理论到实战，整个链条上的关键环节你都心里有数。不管你是想转行做AI基础设施方向，还是准备参加NVIDIA的认证考试，这门课都能给你打下一个扎实的底子。课程本身只有两个多小时，内容密度很高，适合有一定IT基础、想快速切入这个领域的人。不要求你之前有多懂AI，但最好熟悉服务器和操作系统的一些基本概念。