资源介绍
视频数量：29个
总时长：3小时13分
课程介绍：
AI安全实战：LLM应用十大风险防御指南
想象一个场景：你花了几周时间构建了一个基于大模型的客服系统，测试效果非常好，上线后用户反馈也很积极。直到某天，你发现用户和AI的对话记录被陌生人轻易获取，或者AI被悄悄注入了恶意指令，把用户引导到钓鱼网站。这不是科幻情节，而是真实发生的LLM应用安全事件。
大语言模型应用的安全问题，和传统Web开发完全不同。模型会“听话”地执行你的指令，但也会被精心构造的输入操控。当攻击者学会利用AI的弱点，传统的安全思路就不够用了。这就是OWASP在2025年专门发布LLM应用十大风险列表的原因。
这门课程用三个多小时，带你从零开始构建LLM应用的安全防护能力。整个课程分六个模块，每部分都有扎实的理论讲解和亲手操作的实验环境。
第一章先打牢基础。你会了解LLM应用和传统应用在安全层面的本质区别，搞清楚为什么那些“防SQL注入”的老办法管不住AI。课程详细解读了2025年新版OWASP LLM Top 10的更新内容，标明了三个新增风险和位置变动的条目。然后你会亲手搭建攻击实验环境，学习威胁建模的方法，真正站在攻击者的角度审视自己的系统。
第二章聚焦提示词注入，这是LLM应用最常见也最危险的风险。你会分清什么是直接注入、什么是间接注入，搞明白恶意用户是如何把指令藏在普通对话里让AI乖乖执行的。更重要的是，课程会教你系统化的防御方法，不是简单地说“过滤一下”，而是告诉你一整套从输入验证到输出隔离的实战方案。
第三章解决数据安全问题。你会发现大模型会“记住”训练数据里的敏感信息，用户随便问几句话就能把PII数据挖出来。系统提示词作为AI应用的核心资产，同样面临泄露风险。课程安排了专门的实验，手把手演示攻击者如何提取训练数据中的隐私内容、如何偷走你精心设计的提示词工程。然后你会学到数据最小化和敏感信息处理的具体做法。
第四章进入供应链层面。AI系统依赖的模型、数据、向量库、检索组件，任何一环被污染都会让整个系统变得不可信。你会了解供应链风险的具体表现、数据投毒和模型投毒的区别、向量的嵌入弱点如何被利用。课程里有一个完整实验，演示如何向RAG知识库植入虚假信息，让AI在特定场景下给出错误答案。学完这部分，你就知道该从哪些环节把控AI供应链的安全。
第五章面对Agent系统的特殊挑战。当AI应用获得了调用外部工具、执行命令的权限，它就成了一个有特权的执行者。过度授权让攻击者有机可乘，一个恶意指令就能操控AI替你完成转账、删数据等危险操作。无限制的消费限额会导致 DoS攻击和钱包被掏空的风险，模型提取攻击则能让攻击者低成本复制你的AI能力。 misinformation带来的过度依赖同样是个隐患，AI一本正经胡说八道，用户信以为真就麻烦了。
最后一章把所有防御措施整合成体系。你会学到防护栏的搭建方法，输入过滤和输出编码的具体实现，速率限制如何配置防止滥用。课程还教你如何开展红队测试，建立持续的安全测试流程。监控、日志和应急响应不再是纸上谈兵，而是可直接落地的操作方案。最后有一份完整的LLM安全检查清单，涵盖从设计评审到上线运维的全流程。
学完这门课，你能独立为自己的LLM应用做安全评估，识别OWASP Top 10中的具体风险项。动手实验让你不只是知道漏洞是什么，更清楚漏洞怎么被利用、怎么被修复。不管你是AI应用开发者、安全工程师，还是技术负责人需要评估供应商方案，这门课都能给你真正有用的实战能力。