认证咨询热线（微信同号）
13728911712
18123927567
认证咨询热线（微信同号）
13728911712
18123927567
微信：13728911712
微信：18123927567
邮箱：jenny@usai.org.cn
邮箱：devin.huang@usai.org.cn
地址：深圳市宝安区福永街道怀德社区立新南路宝德工业中心锦城商务大厦2楼2009
2025 年 9 月，国际标准化组织（ISO）与国际电工委员会（IEC）联合发布技术规范 ISO/IEC TS 6254:2025《信息技术 人工智能 机器学习模型与人工智能系统可解释性与可理解性的目标及方法》。这是全球范围内第一份系统性地为 AI 可解释性提供框架与指南的国际文件。
它要解决的不是算法精度，而是沟通问题。可解释性领域参与方众多，术语长期不统一，可解释性、可理解性、透明度这几个词常被混用，讨论很难落在同一个层面上。
标准给出的定义有明确分工：可解释性是 AI 系统的一种属性，使特定人类受众能够理解系统行为的原因；可理解性是人类理解这些原因之后产生的结果。
一个在前，一个在后——前者是系统具备的条件，后者是人在使用条件之后达成的状态。把两者分开，实际意义在于责任划分：系统提供解释是开发方的义务，读不读得懂则涉及受众的知识背景与呈现方式。
标准没有把可解释性当成一个独立的技术模块，而是从 AI 系统的概念设计、开发验证，到部署运营及退役，逐阶段说明需要考虑的要点。
这个视角很实用。很多团队把可解释性留到上线前才处理，结果发现模型结构已经不支持有效的解释输出。在设计阶段就把解释需求写进架构约束，与后期补做解释工具，成本差别很大。
标准识别并分析了 11 类关键利益相关方的差异化目标与需求。AI 开发者用可解释性调试模型、提升系统安全性与鲁棒性；AI 用户借它判断决策的可靠性、识别潜在偏见；审计方与监管机构把它作为评估合规性与风险的依据；受决策影响的个体则有权要求获得对其特定决策的解释。
同一个系统，面对这四类角色要给出的解释内容并不相同。开发者需要的是特征重要性与梯度信息，监管方需要的是决策逻辑与验证记录，个人需要的是可读的理由陈述。
这是一份技术规范，不是强制性要求，短期内不会直接形成准入门槛。但它的价值在于提供了一套共同语言，后续的行业标准与监管文件很可能引用其中的定义。
对做 AI 产品的企业，现在最值得做的是内部统一术语。工程、法务与市场对可解释性的理解常常不一致，导致需求在传递中变形。按标准的分法把概念对齐，比急着买一套解释工具更有用。