资源介绍
视频数量：19个
总时长：1小时18分
课程介绍：
欧盟人工智能法案合规实战课：基于ISO 42001的系统化解决方案
你的公司正在用AI筛选简历，系统突然被监管机构盯上了怎么办？或者你开发了一款信用评分AI，欧盟要求你必须证明它不会歧视某些群体，你从哪下手？最近几年，做AI相关业务的人或多或少都听到过欧盟人工智能法案的消息，但大多数人看完法律条文后只有一个感受：不知道从哪开始干。
这门课就是来解决这个问题的。它不走寻常路，不是把法律条款念一遍就完事，而是告诉你一套实打实的方法论，让你真正知道该怎么落地合规。这个方法论就是ISO 42001，人工智能管理系统标准，2023年11月刚发布出来，刚好填补了欧盟AI法案在“怎么做”这块的空缺。课程讲师来自Baltum Bureau，专门给企业提供ISO 42001认证和AI合规支持，手里积累了大量真实案例，讲的都是实战中遇到的问题。
课程一上来先帮你把整个法案的框架搞清楚。欧盟AI法案管的是哪些AI系统，范围边界在哪，什么情况下你会被归类为“提供商”或者“部署者”，这两个身份各自要承担什么责任。这些基础概念如果不搞清楚，后面的内容你根本听不懂。讲师会拿实际例子来说明，比如一家美国科技公司把AI产品卖到欧洲市场，它属于什么角色，需要在什么时候开始履行义务。
接下来是整个法案的核心：风险分类。欧盟把AI系统分成四个等级，分别是禁止类、高风险类、有限风险类和最小风险类。不同等级对应完全不同的合规要求，你必须先把自己的系统分对类别，后续的工作才能有效开展。禁止类的AI实践包括用潜意识操控手段损害用户利益、通过社会评分系统歧视特定群体这类明显踩红线的东西。高风险类是最复杂的，包括用在就业筛选、信贷评估、医疗诊断这些场景的AI，每一个类别都有详细的技术文档要求、测试要求和使用条件。有限风险类主要是透明度义务，比如聊天机器人必须告诉用户它不是真人。最小风险类基本不需要额外合规动作。
高风险AI的合规要求是课程的重头戏。如果你开发的是高风险AI系统，你得准备完整的技术文档，记录系统的设计逻辑、训练数据来源、偏差测试结果、性能指标这些内容。你还得做合格评定，可能是自己审核，也可能是找第三方机构来做，取决于具体的AI类型。通过评定后，你才能贴上CE标志，把产品投放到欧洲市场。技术文档不是随便写写糊弄监管的，它必须详细到让另一个工程师能够理解系统是怎么工作的。偏差测试必须覆盖性别、年龄、种族、残疾状况这些受保护特征，证明系统在各个维度上没有显著歧视。使用说明必须让部署者能够正确使用系统，并且清楚知道系统已知的局限性和可能出错的场景。
部署者也有自己的义务。很多企业以为只要买的AI产品有CE标志就万事大吉了，其实不是。部署高风险AI的用人单位，在招聘、晋升、纪律处分、裁员这些重大决策时，必须有真正的人类参与审查，不能完全依赖AI的输出。如果AI系统给出了建议，管理者必须能够解释这个建议是怎么来的，为什么接受或者不接受。当员工质疑AI做出的不利决定时，部署者必须能够提供人类复核的渠道。
通用目的AI模型是法案里比较新的概念。现在很多企业都在用大语言模型做各种应用，这类模型如果训练时用了大量算力，在欧盟市场影响力足够大，就会被归类为通用目的AI模型，需要遵守额外的透明度要求和版权合规义务。
就业和人力资源场景是课程专门用一整节来讲的重点领域。招聘AI筛选简历、排名候选人属于高风险，绩效评估AI在影响晋升和薪酬时属于高风险，基于AI的排班和员工监控系统在决定工作条件时也属于高风险。开发这类系统的供应商必须在产品上市前完成合规评估。用人单位在部署这类系统时，重大人事决策必须有人类审查环节，不能让AI全权做主。
金融服务领域同样是高风险AI的密集区。信用评分系统决定贷款能不能批下来，保险承保AI影响保费定价，欺诈检测系统可能导致账户被冻结或者被上报为可疑交易，这些都直接影响个人的财务利益。做这类AI系统的企业面临的是GDPR和AI法案的双重要求，两个框架都要求可解释性，都要求对受保护特征做偏差测试，都要求在不利决策时提供人工复核通道。如果你之前在GDPR合规上已经做得比较扎实，那在AI法案合规上会有明显的先发优势。
课程还专门讲解了医疗保健领域的AI合规问题。这个领域的AI系统同时受到HIPAA、MDR（欧盟医疗器械法规）和AI法案三个框架的约束，复杂度最高。什么样的AI辅助诊断系统属于医疗器械监管范畴，什么样的又属于AI法案的高风险类别，这两者之间有重叠也有区别，搞清楚这些边界非常重要。
执法和处罚这部分告诉你违规的代价有多大。欧盟AI法案的罚款额度很高，严重违规最高可以罚到全球年营业额的百分之三十或者三千五百万欧元，取其中较高者。其他违规最高也可以罚到一亿五千万欧元或者全球年营业额的百分之三。企业必须认真对待合规工作。
课程还专门用一节讲了实施路线图，从评估现状开始，到制定合规策略，再到实施各项技术和管理措施，最后到内部审核和持续改进，一步一步带着你走。这个路线图不是纸上谈兵，而是基于真实企业的实施经验总结出来的。
最后一节讲了AI治理项目的构建，还介绍了BALTUM Bureau能提供的支持服务，帮助企业从零开始搭建完整的AI治理体系。
这门课特别适合几类人。第一类是AI产品经理和技术负责人，不管你是开发AI系统的还是把AI集成到业务流程里的，都需要搞清楚自己的产品属于哪个风险类别，要准备哪些文档。第二类是法务和合规人员，欧盟AI法案已经生效，企业需要有人真正理解这部法律并推动内部合规工作。第三类是人力资源和金融行业的从业者，你的行业是AI法案高风险应用最密集的领域。第四类是创业者和企业高管，提前了解监管趋势，评估自己公司的AI系统是否需要合规，准备好了才能在欧洲市场持续经营。课程时长一个多小时，内容密度很高，讲的都是实战中真正用得上的东西。