资源介绍
视频数量：69个
总时长：7小时54分
课程介绍：
AI安全与治理：NIST AI RMF与欧盟AI法案实战指南
想象一下这个场景：你的团队刚上线了一个推荐算法，用户量和收入都在噌噌往上涨。可是忽然有一天，你发现这个模型对某些群体的推荐明显偏颇，甚至可能触犯了某国的法律规定。然后你手忙脚乱地去翻找当初的技术文档，发现根本找不到当初是怎么做风险评估的。
这不是虚构的恐怖故事，而是真实发生在很多组织里的事。AI已经不再是实验室里的玩具，它渗透到了招聘筛选、贷款审批、医疗诊断、公共安全等各个领域。随着AI的影响力越来越大，怎么管好AI、用好AI，成了每个组织都必须面对的课题。
这门课程要讲的就是这件事。课程全长接近八个小时，分为八个章节，带你从头到尾弄清楚AI安全与治理的两个核心框架：美国的NIST AI风险管理框架和欧盟的人工智能法案。这两个框架不是纸上谈兵的文件，而是正在实际执行的监管标准。不管你的组织在地球上的哪个角落，只要你在用AI，这两套规则迟早都会影响到你。
课程先从基础讲起。你会搞清楚AI安全的本质到底是什么，为什么AI治理跟传统的IT治理完全不是一回事，七个可信AI的特性分别是什么，以及一个AI系统从诞生到退役的完整生命周期是怎样的。这些概念听起来抽象，但它们是你理解后面所有内容的基石。
然后课程转向风险图景。这里会详细拆解AI系统可能出问题的各种地方。数据层面有采集偏差、标签噪声、数据泄露这些问题，每一个都可能让你的模型带上偏见或者泄露隐私。模型层面有漂移风险，概念漂移、数据漂移、标签漂移三种形式各有不同但同样危险。部署之后还有对抗攻击、滥用风险、公平性失败等问题。你会学到这些风险为什么独特，为什么传统安全手段对付不了它们，也为什么常常在部署阶段才被发现。
接下来进入第一个重头戏，NIST AI风险管理框架。这个框架围绕四个核心功能展开：Govern治理、Map映射、Measure衡量、Manage管理。Govern要解决的是谁来拍板、谁来负责的问题。Map要做的是把你组织里所有AI系统都梳理清楚，给它们分类评估。Measure要建立量化指标，让风险能够被测量而不是凭感觉。Manage则是持续跟踪、动态调整的过程。自愿不等于可选，这个框架虽然来自美国，但已经被全球范围内的组织广泛采用，成为AI治理工作的实际基线。
光是记住概念还不够，课程专门用一整章来讲怎么把这个框架真正落地。你会学到怎么建立AI治理委员会，怎么做AI系统的清点和分类，风险识别有哪些具体技术，怎么选择合适的测量方法，如何设定风险容忍度和阈值，监控怎么做才能持续有效，还有怎么记录和传达风险决策。最后还总结了实际采用中最容易掉进去的坑。
第二个重头戏是欧盟人工智能法案。这是全球第一部综合性AI法律，有法律约束力，而且适用范围具有域外效力。简单说，只要你的AI系统对欧盟用户有影响，你就要遵守这部法律。课程详细介绍了它的四层风险架构：绝对禁止的做法、高风险系统、有限风险系统、最低风险系统。你会清楚了解哪些事情是绝对不能做的，哪些系统必须满足什么条件，违规的罚款有多重，时间节点怎么安排。
合规不是喊口号，而是要落实具体行动。课程第六章告诉你提供商、部署商、进口商、经销商各自的职责是什么，风险管理系统要怎么建，数据治理有什么要求，技术文档要包含哪些内容，对最终用户的透明度怎么保证，人类监督要介入到什么程度，准确性和鲁棒性怎么测试，以及 conformity assessment 怎么做、CE标志怎么贴。这些内容会告诉你合规这条路具体要怎么走。
理论学了这么多，总得知道怎么在实际工作中用起来。课程第七章专门解决这个问题。你会学到怎么从零开始搭建AI治理体系，怎么设计角色职责和AI RACI，怎么管理第三方供应商和AI服务商的风险，AI出了事故怎么响应，模型变更要怎么管理，红队对抗测试和对抗性测试怎么做，各种文档工件怎么编写，以及用什么指标和KPI来衡量治理工作的效果。这些是企业里真正干活的参考手册。
最后一章把两个框架放在一起对照讲解。NIST AI RMF和欧盟AI法案有什么异同，能不能用一套体系同时满足两者的要求。然后通过三个行业的具体案例来看这些框架是怎么应用的：医疗领域有哪些特殊风险和合规要求，金融服务行业要注意什么，公共部门和执法领域面临的挑战有哪些。生成式AI的兴起带来了哪些新的监管考量，课程也专门讨论了。最后用一个端到端的治理计划作为顶点，把整门课的知识串联起来，形成一个完整的、可执行的方案。
学完这门课，你能获得什么？你会建立起对AI治理的系统认知，不再是被动应对监管，而是能够主动设计和实施符合国际标准的治理体系。你会理解数据风险、模型风险、部署风险到底是怎么回事，知道从哪里入手去识别和控制这些风险。你会掌握NIST AI RMF的四个功能和欧盟AI法案的四层风险架构，能够在实际工作中灵活运用这些框架。你还会学到怎么把治理要求转化为具体的文档、流程和指标，让董事会和管理层看到这项工作的价值。
这门课适合正在负责AI产品或项目的技术负责人，需要确保团队交付的AI系统符合安全和合规要求。也适合企业里负责风险管理、合规、法务相关工作的人，想要深入理解AI监管的具体内容和应对方法。还适合CIO、CTO或者IT管理层，需要为组织制定AI战略和治理框架。如果你是AI领域的咨询顾问或审计人员，这门课能帮你建立完整的知识体系。当然，任何对AI治理感兴趣的人，想搞清楚AI到底该怎么管、怎么控，都可以从这里开始。
AI治理不是选答题，而是必答题。早一点弄清楚这些框架和要求，就能早一点把主动权握在自己手里。