




资源介绍
视频数量:29个
总时长:2小时4分
课程介绍:
使用Docker构建和部署安全的AI工作负载
想象一下这个场景:你手头有一个AI项目,想快速验证想法,却发现模型动不动就占几十GB内存,本地GPU跑不动,云端服务又贵得吓人。传统的Docker经验用不上,AI工作负载的特殊需求让你措手不及。别担心,这门课正是来解决这个痛点的。
大多数人在聊容器化时,脑子里想的还是那些经典的微服务项目。但大语言模型工作负载完全不同:它们需要更大的磁盘空间、更高的内存占用、更强的CPU性能,甚至还要GPU加速。Docker敏锐地捕捉到了这个变化,推出了一套专门针对AI场景的工具链。这门课要讲的,就是这套工具怎么用,以及怎么用好它们。
课程从一个小实验开始,先让你在本地跑起一个真实的AI应用。没什么花哨的概念,就是上手试试水。有了这个基础,再往下学才不会觉得空中楼阁。
第一章讲Docker Model Runner。这是Docker推出的模型运行工具,让你可以在容器里直接跑AI模型。你会学到Model Runner的核心能力有哪些,怎么在Docker Desktop里启用它,怎么用命令行管理模型,怎么把模型推送到Docker Hub供团队共享。最实用的部分是教你把Model Runner和Docker Compose结合起来用,这样你的AI应用就能和其他服务一起编排管理。还会讲到怎么让容器里的应用连接到外部的大语言模型,形成完整的AI工作流。
第二章介绍Docker Offload。这个功能解决的是硬件受限的问题。很多开发者的机器带不动大型AI模型,但又不想为了偶尔的需求去租云服务器。Offload允许你把AI计算任务卸载到远程机器上执行,结果传回本地。你会看到有哪些卸载方案可选,怎么在Docker Desktop里配置,怎么用命令行操作,以及最关键的成本管理问题。
第三章和第四章放在一起讲Docker MCP Servers。MCP是Model Context Protocol的缩写,这是一个让AI应用和外部工具连接起来的协议标准。Docker提供了专门的MCP服务器目录,里面预置了大量可以直接用的工具。你会了解MCP的基本概念,Docker的MCP工具有哪些,具体怎么从目录里选用镜像,怎么在命令行里调用MCP服务器。然后进入实战环节,看Docker MCP Gateway是怎么工作的,怎么把MCP和Docker Compose配合使用,最后亲手构建一个MCP驱动的应用程序。
第五章单独讲docker-agent。这是一种不同的AI Agent实现方式。你会搞清楚docker-agent是什么、为什么需要它,掌握它的命令行基本操作,学习怎么把docker-agent和各个大语言模型平台对接。更进阶的内容是构建多Agent协作的工作流,让多个AI代理各司其职、协同完成任务。
最后一章是实战案例,把前面学的东西串起来用。第一个例子构建一个AI技术写手,它能自动收集资料、撰写文档。第二个例子做一个无偏见的AI代码助手,尝试减少模型本身的偏见问题。第三个例子教你用MCP工具包构建自定义的MCP服务器。第四个例子搭建一个本地RAG系统,完整地走一遍从0到1的过程。
学完这门课,你能获得什么?你会对Docker在AI领域的能力有全新认识,不再觉得AI部署是件遥不可及的事。Model Runner让你能在容器里管理运行模型,Offload让你不受本地硬件限制,MCP让你快速搭建AI应用和工具的连接,docker-agent让你构建复杂的智能代理工作流。这些技能组合起来,足以让你在本地环境里完成大部分AI项目的开发和测试,不用一直依赖云端服务。
这门课适合有Docker基础的开发者,想把AI能力集成到现有项目里的工程师,以及对Docker新工具感兴趣的技术人员。课程内容比较新,讲的都是2024年前后Docker推出的功能,在其他地方不太容易找到这么系统的讲解。视频一共29个,总时长两个多小时,干货密度很高。