资源介绍
视频数量：57个
总时长：2小时13分
课程介绍：
LLM供应链安全测试实战课
上线一个大语言模型应用，模型跑起来了，用户数据也在流动，看起来一切正常。但你有没有想过，应用背后依赖的那些包、模型文件、预训练权重、数据集，甚至云服务商的条款，可能正在埋着一颗定时炸弹。
这不是危言耸听。PyTorch曾经在PyPI上遭遇过依赖投毒攻击，攻击者上传了看起来合法的恶意包。PoisonGPT事件中，有人在HuggingFace上传播被篡改过的开源模型。某科技巨头的工程师曾经不小心把内部代码贴进了ChatGPT，结果芯片布局图流了出去。这些问题不在模型本身，而在供应链的某个环节。
这就是OWASP LLM Top 10中LLM03——供应链安全——被单独拎出来作为一个专项的原因。它不是传统渗透测试能覆盖的领域，也不是常规功能测试的盲区。它需要一套全新的测试思路。
这门课要教你的，就是怎么给大语言模型应用做供应链层面的安全测试。课程总共57个视频，时长两个多小时，内容覆盖从依赖审计到模型溯源，从行为基线测试到发布门控的全流程。配套提供了测试计划模板、bug报告模板、检查清单这些可以直接拿过来用的东西。
一、基础认知：什么是LLM供应链
课程先从概念讲起。LLM供应链到底包括什么？简单来说，从模型开始训练到最终服务用户这条链路上的所有环节都算：依赖的第三方库、数据集、预训练模型、LoRA适配器这些组件，还包括部署用的云基础设施，以及供应商提供的API服务条款。任何一个环节出问题，都可能让整个应用的安全性打折扣。
课程会讲到QA团队在供应链中具体负责什么，为什么供应链测试在传统QA手册里很少出现，以及它跟OWASP LLM03这个条目之间的对应关系。
二、包和依赖风险：pip-audit怎么用
第一个实战演示从这里开始。很多LLM应用会引入大量的Python依赖，这些依赖可能包含已知漏洞。课程演示了怎么用pip-audit这个工具扫描requirements文件，自动发现存在CVE编号的已知漏洞。
演示设计得很实用：准备一个有漏洞的依赖文件和一个干净的对照样本，分别运行扫描，对比两种结果。这样做的好处是测试人员能同时看到失败场景和通过场景是什么样的，建立起对检测工具输出结果的直觉。课程还介绍了真实的攻击案例，比如PyTorch的PyPI依赖攻击，以及Framework层面Shadow Ray这类攻击手法。
三、模型工件和溯源风险：Pickle的危险性
这是课程最核心的部分之一，涉及模型本身的安全性。你从HuggingFace下载的那个预训练模型，有没有被人动过手脚？课程会讲到预训练模型作为攻击向量的风险，以及溯源缺失会带来的问题。
重点演示了Pickle格式的安全问题。模型文件用Pickle序列化的话，可能包含恶意代码，加载时就会执行。课程会对比Pickle和SafeTensors两种格式的安全性差异，教你怎么识别模型序列化带来的风险。
LoRA适配器这种轻量级的模型微调技术也在课程里单独讲解，因为它本身也构成一个供应链环节。课程还介绍了哈希验证作为QA控制手段的具体做法，以及模型合并和格式转换过程中可能出现的攻击面。最后提供了针对模型平台需要验证哪些东西的清单。
四、行为回归和基线测试：模型变坏了怎么发现
供应商更新了模型版本，或者你自己做了一次微调，怎么知道模型的行为没有退化？课程第四部分讲的就是这个问题。
你不能只靠感觉说"这个回答好像没以前好了"。需要建立客观可测量的基线，然后在新版本发布前做对比。课程演示了怎么用脚本自动跑一批探测问题，观察模型响应的变化，检测行为漂移。
这个环节教的是：Behavioral Regression Testing要检查什么、怎么设计测试用例、怎么执行、发现异常后怎么写bug报告和做复盘。
五、数据、许可和供应商条款：法律层面的风险
你以为供应链风险只是技术问题？数据泄露、许可侵权、供应商隐私政策变更，这些同样是供应链的一部分。
课程会讲到数据集污染如何通过供应链传播，真实案例包括三星工程师使用ChatGPT导致的芯片数据外泄事件。还会分析许可风险为什么是个实实在在的bug，以及供应商条款和隐私政策中埋着哪些坑。
QA在这个环节要验证什么，课程给出了具体的检查清单。
六、AI物料清单和发布门控
传统软件有SBOM，AI应用也需要AI BOM来追踪所有依赖的模型、数据、组件。课程会讲怎么从SBOM演进到AI BOM，怎么做模型签名和完整性校验。
发布门控和严重级别阈值是避免带病上线的重要机制。课程会教你在CI/CD流程里怎么集成这些检查，以及不同严重级别的漏洞分别应该怎么处理。
七、基础设施和设备端风险
如果你的LLM跑在云上，需要关注云基础设施的安全风险。如果跑在边缘设备或者端侧设备上，又需要额外的检查项。这部分课程会讲解两类场景下的供应链风险，以及QA分别在每种场景下需要验证什么。
八、构建完整的QA测试计划
课程最后一章是实战精华。提供了八检查点测试计划模板、测试用例矩阵模板、bug报告模板、检查清单这些可以直接用的文档。
会讲到CI/CD集成怎么做，八检查点测试计划怎么跟测试用例矩阵配合使用，LLM03相关的bug报告怎么写才能让安全、法律、基础设施团队的人看得懂。
学完这门课，你会掌握一套可重复的供应链验证工作流程，知道在LLM应用的生命周期各个阶段该检查什么，遇到问题该用什么格式报告。课程提供的模板和清单可以直接迁移到你手头的项目上。