资源介绍
视频教程）
在生成式人工智能技术飞速发展的当下，其带来便捷与创新的同时，也潜藏着诸多安全风险与威胁。《生成式人工智能安全大师课 - 风险、威胁与防御》应运而生，旨在帮助学习者全面掌握生成式人工智能领域的安全知识，从识别风险、了解威胁，到掌握有效的防御方法，构建起坚实的生成式人工智能安全防护体系。本课程包含丰富的视频内容，共计 28 个视频（每个视频均配备中文字幕 srt 文件），通过系统的模块划分，让学习者能够循序渐进地深入学习生成式人工智能安全相关知识，提升安全防御能力，为生成式人工智能的安全应用保驾护航。
二、课程模块详情
（一）第一模块：导论（Introduction）
本模块作为课程的开篇，为学习者奠定生成式人工智能安全学习的基础，包含 3 个视频。
首个视频围绕课程整体介绍展开，帮助学习者快速了解本课程的学习目标、整体框架以及学习价值，让学习者对后续学习内容有清晰的认知，明确学习方向。
第二个视频聚焦生成式人工智能入门知识，系统讲解生成式人工智能的基本概念、工作原理以及在不同领域的应用场景，让学习者从基础层面认识生成式人工智能，为后续深入学习安全知识做好铺垫。
第三个视频深入探讨大型语言模型（LLMs），剖析大型语言模型的核心技术、特点以及在生成式人工智能中的重要作用，同时初步提及大型语言模型可能面临的安全隐患，引导学习者从安全视角审视该技术。
（二）第二模块：生成式人工智能风险与威胁（Generative AI Risks and Threats）
该模块是课程的核心部分之一，全面梳理生成式人工智能领域存在的各类风险与威胁，共包含 14 个视频，且每个视频都从安全防护角度出发，强调如何应对相关风险，提升防御能力。
首个视频帮助学习者理解生成式人工智能的威胁格局，梳理当前生成式人工智能面临的各类威胁类型、发展趋势以及可能造成的危害，让学习者对威胁有整体的把握，从而树立全面的风险防范意识。
数据隐私与保密性是生成式人工智能安全的第一道防线，第二个视频针对数据隐私与保密性风险展开深入分析，详细讲解在生成式人工智能数据收集、存储、使用等环节中可能出现的隐私泄露问题，并提出相应的安全防护措施，如数据加密、访问控制等，帮助学习者筑牢数据安全防线。
第三个视频关注服务商数据泄露风险，当生成式人工智能服务依赖外部服务商时，服务商的数据安全漏洞可能导致用户数据泄露，本视频分析此类风险的成因，同时给出选择可靠服务商、签订安全协议以及加强数据监控等防御策略，降低因外部因素引发的安全风险。
随着生成式人工智能技术的发展，其也可能被不法分子利用成为攻击武器，第四个视频探讨威胁行为者的演变，分析他们如何借助生成式人工智能实施攻击，同时重点介绍针对此类威胁的安全防护手段，如加强网络监测、提升攻击识别能力等，帮助学习者有效应对新型威胁。
数据泄露风险在生成式人工智能领域较为突出，第五个视频深入揭示生成式人工智能中的数据泄露风险，包括训练数据泄露、用户输入数据泄露等情况，进而提出数据脱敏、数据访问权限管控等防护措施，保障数据安全。
提示注入攻击是生成式人工智能领域新兴的威胁，第六个视频详细介绍提示注入攻击的原理、实施方式以及可能造成的危害，在此基础上给出防御提示注入攻击的方法，如输入过滤、模型加固等，提升系统抵御此类攻击的能力。
间接提示注入攻击具有更强的隐蔽性，第七个视频对其进行深入讲解，分析间接提示注入攻击的特点和传播途径，同时提出相应的安全防护策略，如加强对外部输入信息的审核、建立异常行为监测机制等，防范间接提示注入带来的安全风险。
不充分的沙箱隔离会给生成式人工智能带来隐藏的安全风险，第八个视频阐述沙箱隔离技术在生成式人工智能安全中的作用，分析不充分沙箱隔离可能导致的安全问题，进而介绍如何构建有效的沙箱隔离环境，强化系统安全防护。
生成式人工智能的幻觉现象可能导致错误信息输出，影响决策的准确性，第九个视频帮助学习者理解生成式人工智能中的幻觉现象，分析其产生的原因，同时提出减少幻觉、验证输出信息准确性的方法，降低因幻觉带来的安全风险。
服务器端请求伪造（SSRF）攻击对生成式人工智能系统的安全构成威胁，第十个视频详细解读该攻击的原理和危害，重点介绍防御服务器端请求伪造攻击的技术手段，如请求过滤、权限控制等，保障服务器安全。
拒绝服务攻击会影响生成式人工智能系统的正常运行，第十一个视频探讨生成式人工智能领域中的拒绝服务攻击，分析攻击方式和对系统的影响，进而给出应对拒绝服务攻击的防御措施，如流量清洗、负载均衡等，确保系统稳定运行。
数据投毒攻击会破坏生成式人工智能模型的完整性和可靠性，第十二个视频深入分析数据投毒攻击的原理和实施过程，提出数据校验、异常数据检测等防护方法，保障训练数据的质量和模型的安全。
生成式人工智能模型偏见可能导致不公平的结果，引发安全和伦理问题，第十三个视频关注模型偏见问题，分析模型偏见产生的原因和影响，同时介绍减少模型偏见、保障模型公平性的策略，提升模型的安全性和可靠性。
版权问题在生成式人工智能领域逐渐凸显，第十四个视频探讨生成式人工智能面临的版权挑战，分析可能涉及的版权侵权情况，同时从合规使用、版权审核等方面给出应对建议，保障生成式人工智能应用的合法性和安全性。
（三）第三模块：保障生成式人工智能安全（Making Generative AI Safe）
本模块聚焦生成式人工智能的安全防御方法与实践，帮助学习者将所学知识转化为实际的安全防护能力，包含 4 个视频。
首个视频从治理到技术控制，全面讲解如何保障生成式人工智能安全。在治理层面，介绍建立完善的安全管理制度、明确安全责任体系等内容；在技术控制层面，详细阐述各类技术防护手段的应用，如身份认证、安全审计、漏洞扫描等，帮助学习者构建全方位的安全防护体系。
第二个视频强调清晰识别威胁，开展生成式人工智能现实风险映射。通过实际案例分析，指导学习者如何识别实际应用中的各类威胁，建立风险评估指标体系，进行风险映射，从而有针对性地制定防御策略，提升风险应对的精准性和有效性。
第三个视频帮助学习者掌握安全人工智能框架，深入解读该框架的核心内容、设计理念以及在生成式人工智能安全防护中的应用方法，指导学习者如何依据框架构建符合自身需求的安全防护体系，提升生成式人工智能系统的安全等级。
第四个视频作为课程的收尾，向完成课程学习的学习者表示祝贺，同时对课程核心内容进行简要回顾，鼓励学习者将所学的生成式人工智能安全知识应用到实际工作中，持续关注生成式人工智能安全领域的发展动态，不断提升安全防御能力，为生成式人工智能的安全、健康发展贡献力量。
三、课程价值
本课程通过系统、全面的内容设置，以及丰富的视频资源（28 个视频均含中文字幕），为学习者提供了一站式的生成式人工智能安全学习平台。无论是人工智能领域的从业者、安全管理人员，还是对生成式人工智能安全感兴趣的学习者，都能通过本课程深入了解生成式人工智能的风险与威胁，掌握实用的安全防护方法。课程始终围绕提升安全防御能力展开，注重理论与实践相结合，帮助学习者在实际应用中有效应对生成式人工智能安全问题，降低安全风险，推动生成式人工智能技术在安全的环境下发挥更大的价值。