Unlock the mysteries of AI wit…

# SHAP + Grad-CAM 医疗影像误诊排查方案

一、总体思路

• Grad-CAM（定位层面）：快速圈出模型关注的图像区域，判断病灶定位是否合理。
• SHAP（特征归因层面）：量化每个区域的贡献方向（支持/反对诊断），做精细验证。
• 两者互补：Grad-CAM 快、适合批量初筛；SHAP 慢、适合重点案例深挖。

二、误诊案例筛选流程

1. 按错误类型分组：假阳性、假阴性、类别混淆。

2. 分层抽样：每类抽取典型样本 + 边界样本（预测概率接近阈值的案例重点分析）。

3. 建立误诊案例库，标注临床金标准（病理/随访结果）。

三、Grad-CAM 快速筛查

• 对每张误诊图生成热力图，叠加原图可视化。
• 检查要点：
• 激活区域是否落在病灶解剖位置（肺结节、磨玻璃影、胸腔积液等）
• 是否激活了无关区域（肋骨边缘、体外标尺、扫描伪影、图像边框文字）
• 常见隐患：ResNet50 的高层特征分辨率低，建议用 Grad-CAM++ 或 HiResCAM 提升定位精度。
• 批量初筛：计算热力图与人工标注病灶mask的IoU/点命中率，自动标记“定位异常”案例。

四、SHAP 深度归因

• 方法选择：
• GradientExplainer / DeepExplainer：适合深度网络，速度较快
• KernelExplainer：仅用于极少数重点案例（超参敏感性分析）
• 建议在中间层特征图（如layer4）而非原始像素做SHAP，再上采样回原图，降低计算量并提升可读性。
• 输出正/负贡献热图：区分“支持诊断的区域”与“抑制诊断的区域”，排查假阴性时重点关注负贡献区是否覆盖真实病灶。

五、两者结果交叉验证

• 一致（都指向病灶）→ 模型逻辑合理，误诊可能源于训练数据标注错误或病灶本身不典型。
• Grad-CAM对、SHAP矛盾 → 检查特征 Shortcut Learning（如通过心脏大小等间接线索判断）。
• 都不指向病灶 → 疑似学习伪影/偏置（如医院ID水印、设备差异、层厚差异），需做数据集偏置审计。

六、工程落地建议

• 可视化流水线：PyTorch Captum（集成 Grad-CAM + Integrated Gradients）或 pytorch-grad-cam + shap 库组合。
• 结果归档：每例存原图、热力图、SHAP图、预测概率、判断标签，便于回溯。
• 配合工具：Checklist-based 系统性审查（Wagner et al.），防止漏检。
• 频率建议：误诊排查常态化（每轮迭代后），而非一次性分析。

七、注意事项

• 解释结果仅供排查参考，不能证明因果；需结合临床医生复核。
• 注意 CT 数据的窗宽窗位预处理会影响可视化效果，归因分析需用与训练一致的预处理流程。