资源内容
【资源介绍】
英伟达 AI 基础设施完全指南 ├── 1 人工智能发展驱动力解析.mp4 ├── 10 AI数据中心四种网络结构对比.mp4 ├── 11 以太网与 InfiniBand.mp4 ├── 12 融合以太网.mp4 ├── 13 AI数据中心的存储方案.mp4 ├── 14 NVIDIA技术栈演进.
课程前半部分首先梳理人工智能发展的核心驱动力、主要行业应用以及 Transformer 等基础模型架构,让学习者理解为什么当前大模型训练会对计算、网络、存储和能源提出如此高的要求。随后进入 AI 数据中心专题,讲解数据中心整体架构、PUE 能耗指标、CPU 与 GPU 的差异以及 GPU 架构演进过程,从宏观层面建立“算力基础设施”的整体认知。通过 CPU 与 GPU 高层架构对比、GPU 核心组件与核心架构解析,可以进一步理解 GPU 为什么能够在深度学习、科学计算以及大规模并行任务中获得远高于传统 CPU 的计算效率。 在硬件平台方面,课程重点解析 NVIDIA RTX 系列 GPU、DGX 系统、DGX 平台以及 DGX SuperPOD 等核心产品与架构,并对 DGX A100 与 H100 等不同代际平台进行比较,帮助学习者理解不同 GPU 架构在算力、显存、互联以及AI训练能力方面的区别。同时还会介绍 NVIDIA BlueField DPU、GPU 虚拟化、vGPU 与 MIG 等企业级技术,使学习者能够理解如何在数据中心环境中完成 GPU 资源隔离、共享和统一管理,为多用户、多任务以及云端 GPU 平台建设提供技术基础。 网络与存储是大规模 GPU 集群中极其重要的一环。本课程专门讲解 AI 数据中心常见的四种网络结构,并对以太网、InfiniBand、融合以太网等方案进行对比,同时深入解析 RDMA、高性能 GPU 通信以及 NVIDIA GPU Direct 技术。通过 GPU Direct RDMA、GPU Direct Storage(GDS)等内容,学习者能够理解如何减少 CPU 中转和数据复制,让 GPU、网卡和存储设备之间实现更加直接、高效的数据传输,从而解决多卡训练中经常出现的通信瓶颈和存储吞吐问题。 在软件与并行计算部分,课程进一步深入 NVIDIA CUDA 技术栈,讲解 CUDA 如何释放 GPU 并行计算能力,并结合 NCCL 深入分析多 GPU、多节点之间的高速通信机制。这部分内容对于理解大模型分布式训练尤为重要,因为随着模型规模不断扩大,单张 GPU 已经难以独立完成训练任务,必须依赖数据并行、模型并行以及跨节点通信技术实现算力扩展。课程通过 NVIDIA NCCL、高性能 GPU 通信和相关技术栈的梳理,帮助学习者掌握现代 AI 集群背后的核心运行逻辑。 除此之外,课程还覆盖深度学习框架、AI 模型训练与推理之间的
【交付与反馈】
付款或会员解锁后查看网盘入口。发现链接或内容问题,请通过站内反馈提交资源名称。
本页暂未提供完整目录,购买前可通过站内信确认所需内容。
咨询此资源
如果你已经购买并使用过这个资源,可以提交第一条反馈。