SOURCE READING
原文与译文
原文与译文基于下列主来源；其余资料用于 SHIO 分析。
主来源
- 原文标题
- Four Principles of Explainable Artificial Intelligence
- 原作者／机构
- P. Jonathon Phillips, Carina Hahn, Peter Fontana, Amy Yates, Kristen K. Greene, David A. Broniatowski, Mark A. Przybocki / National Institute of Standards and Technology
- 主来源
- National Institute of Standards and Technology
- 来源语言
- 英文
- 原始发布日期
以下为主来源的摘要节选，并非整份报告。中文与日文为SHIO于2026年10月20日制作的对照译文；SHIO分析另行标明。来源语言与页面语言相同时只显示一次原文。Republished courtesy of the National Institute of Standards and Technology.
We introduce four principles for explainable artificial intelligence (AI) that comprise fundamental properties for explainable AI systems.我们提出可解释人工智能（AI）的四项原则，它们构成了可解释AI系统的基本属性。
We propose that explainable AI systems deliver accompanying evidence or reasons for outcomes and processes; provide explanations that are understandable to individual users; provide explanations that correctly reflect the system’s process for generating the output; and that a system only operates under conditions for which it was designed and when it reaches sufficient confidence in its output.我们建议，可解释AI系统应为结果与过程提供相应的证据或理由；提供个体用户能够理解的解释；提供能够正确反映系统生成输出过程的解释；并且只在符合设计目的的条件下、对自身输出达到足够置信程度时运行。
We have termed these four principles as explanation, meaningful, explanation accuracy, and knowledge limits, respectively.我们将这四项原则分别称为解释、有意义、解释准确性和知识边界。
SHIO 分析
AI 的解释，应当帮助读者提出更好的问题
以下为 SHIO 独立判断与方法讨论，并非来源原文或其翻译。
SHIO 阅读提示
从 NIST 在 2021 年发布的原则与 DARPA 已结束的 XAI 计划中，思考解释界面如何支持检查、质疑与修正。
核心判断
SHIO 判断：解释是否有用，要看接收者能借助它完成什么判断。
来源事实：理解、准确与边界
NIST 于 2021 年 9 月 29 日发布《可解释人工智能的四项原则》，讨论解释能否被使用者理解、是否反映系统过程，以及是否承认知识和适用范围的限制。这些是需要检查的属性，而不是对任何一段被称为“解释”的文本提供保证。语言通顺，也不能直接证明它准确描述了系统。
DARPA 的 XAI 计划介绍，提出把可解释模型与支持有效解释对话的界面结合。网页同时明确注明：计划已经结束，页面不再维护；原始发表日期未能确认。本文将其视为历史研究背景，不把研究目标当成已实现的普遍能力，也不据此推荐一个目前能够解决所有解释问题的现成工具。
SHIO 方法：先定义解释接收者
添加解释面板之前，先明确谁会阅读，以及他面临什么决定。检查引用的编辑，与判断是否暂停任务的操作人员，需要的资料不同。围绕具体场景，选择一个重要问题，再确认系统实际能够提供哪些证据。如果没有依据证明一段流畅叙述反映内部处理过程，界面就不应暗示它已经揭示了模型如何得出答案。
例如，设想一个文件助手，可以把论断连回支持它的原文，标明缺失证据，并允许复核者纠正解释。测试时，在无害样例中刻意放入一个错误，观察复核者能否用这些信息发现问题，以及哪些地方仍不确定。这里提出的是本地验证方法，而非某个已完成项目的结果，更不是对解释能力的性能承诺。
SHIO 判断与限制：允许解释受到质疑
一段解释可能很好读，却不能帮助读者提出有用的异议。SHIO 因而建议同时观察理解程度，以及接收者能否发现适用限制、要求另一项来源，或拒绝执行后续行动。界面也应允许用户明确表示“这些解释仍然不够”。使用者同意系统的结论，只是可能结果之一；能够指出证据不足，也应被视为有价值的反馈。
增加文字不一定消除不确定性，解释存在也不等于底层答案正确。设计上要保留这一区别，将已知内容、推断与未解决的问题清楚呈现。让思想生成形态，意味着建立证据与决定之间的关系，使人可以提出更准确的问题，并据此改变下一步工作；解释由此成为对话的入口，而不是让人停止追问的终点。
留给实践的问题
选择一位使用者的一个问题，测试解释能否帮助他质疑结果。
REFERENCES & EDITORIAL NOTE
资料来源
原文节选、译文与 SHIO 独立分析分列呈现。以下资料提供更完整的背景与延伸阅读。
National Institute of Standards and Technology · 主来源
Four Principles of Explainable Artificial Intelligence
原始来源日期：查阅日期：The official NIST Technical Series Publications policy states that NIST employee works are not copyright-protected in the United States and grants a worldwide, royalty-free right to reprint and create derivative works to the extent NIST asserts foreign rights. The selected original report text is attributed to NIST, not to an external quotation; no third-party tables, figures, logos or images are reproduced. The policy warns that third-party-authored works may remain protected. Attribution is retained and the Chinese/Japanese text is marked as SHIO translation dated2026-10-20. Policy/source: https://www.nist.gov/open/copyright-fair-use-and-licensing-statements-srd-data-software-and-technical-series-publications
Defense Advanced Research Projects Agency
Explainable Artificial Intelligence (XAI)
原始来源日期：来源未标明发布日期查阅日期：Original editorial analysis, no full translation. Official page says program complete and page no longer maintained; no original publication date or blanket article-text reuse license verified. No illustrations reproduced.