资源介绍
视频数量：2个
总时长：37分
课程介绍：
可解释人工智能入门
想象这样一个场景：你的公司开发了一套人脸识别考勤系统，演示当天客户满意地点头，但他们的首席技术官突然问了一句：准确率是95%，那它凭什么做出这个判断？这不是刁难，而是关键的问题。当AI系统越来越多地参与医疗诊断、贷款审批、司法辅助这些高风险决策时，我们不能只满足于一个准确率数字，必须知道模型究竟在"想"什么。
这门课讲的就是可解释人工智能，也就是XAI。它要回答的核心问题是：AI模型为什么做出这个决定？我们怎么判断AI给出的解释是否靠谱？整门课虽然只有37分钟，但结构相当紧凑，从概念到方法、从方法到评估、从评估到未来趋势，形成了完整的认知链。
一、XAI是什么，为什么需要它
课程第一部分会带你弄清XAI的基本概念。你会了解到Interpretability和Explainability虽然中文都翻译成"可解释性"，但实际含义有微妙差别——前者强调模型本身是否容易被人理解，后者更关注能否对模型行为给出事后说明。课程还会梳理XAI的发展脉络，从早期符号系统的可追溯性，到深度学习时代的黑箱困境，再到当下对透明AI的强烈呼声。同时带你过一遍XAI的分类法，让你心里有一张全局地图。
二、哪些机器学习模型自带解释能力
接着进入机器学习部分。决策树、线性回归、逻辑回归这些模型天然就透明，你顺着分支走或者看一眼系数，大致就知道模型做了什么。随机森林复杂一些，但本质上是大量决策树的组合，也能拆开来看。这一部分的重点是让你明白：有些模型自带"自解释"特性，不需要额外工具就能理解它的决策逻辑，这对实际项目中的模型选型很有帮助。
三、深度学习模型怎么解释
然后是课程里内容最重的部分。深度网络层数多、参数多，用传统方式几乎不可能直接看清它在做什么。这一块会介绍三类方法。第一类是基于规则的方法，把模型的决策翻译成人类能读懂的"如果...那么..."规则。第二类是原型网络，让模型做出判断时参考训练数据中真实存在的样本，解释就有了具体依托，不再是一堆抽象的数字。第三类是基于注意力机制的方法，通过观察注意力权重的分布来推断模型在关注输入的哪些区域。三类方法各有侧重，适用场景也不同。
四、事后解释方法：LIME、SHAP等
除了事前方法，课程还会重点讲解事后可解释性方法，在模型训练完成后介入，专门拆解那些黑箱模型的决策过程。最常用的两个工具是LIME和SHAP。LIME的核心思路是：虽然模型全局很复杂，但在某一个具体预测点附近，它的行为可以用一个简单的局部模型来近似。SHAP则借用博弈论中的Shapley值，公平评估每个特征对最终预测的贡献。除此之外还会介绍GRAD CAM等可视化方法，帮助直观看到图像分类模型在看图像的哪个区域。这些方法会通过一个患者风险评估的案例串联起来，看它们在实际中如何落地。
课程还会在这个部分讨论局部解释与全局解释的区分。局部解释聚焦于"为什么模型对这一个样本做出这个判断"，全局解释则关注"模型在所有数据上的整体行为模式"。两者在实践中都不可少，但评估方式和适用场景完全不同。
五、怎么判断解释靠不靠谱
学到这里你已经掌握了不少方法，但有一个绕不过去的问题——这些解释方法本身靠不靠谱？课程单独用一章讲XAI方法的评估。你会接触到评估模型可解释性的常见指标和框架，看看研究者是怎么量化一个解释的好坏的。更难得的是，这部分如实告诉你当前评估方法的局限，比如哪些指标在实际中并不像看起来那么可靠，哪些场景下评估方式本身就存在偏差。对真正想深入这个领域的人来说，这种诚实的讨论比一味罗列工具更有价值。
六、XAI的未来
最后，课程把视线拉到未来。可解释AI正在快速发展，新的交互界面、工具和基准测试不断涌现。这一部分会带你了解行业前沿动向，看看研究者正在解决哪些棘手问题，下一步的方向又是什么。学完这一章，你对整个领域的发展节奏会有更立体的感知。
总的来说，这门课适合那些已经接触过机器学习和深度学习基础，想进一步搞清楚模型决策逻辑的人。如果你在医疗、金融、法律这些对透明度要求高的领域做AI应用，这门课能帮你快速建立起可解释AI的知识框架。如果只是对"AI为什么会做出这个决定"这个问题好奇，也完全能跟上，并能从中学到具体的工具和思路。