SOURCE READING
原文と対訳
原文と対訳は次の主な出典に基づきます。その他の資料は SHIO の分析に用いています。
主な出典
- 原題
- Four Principles of Explainable Artificial Intelligence
- 原著者・機関
- P. Jonathon Phillips, Carina Hahn, Peter Fontana, Amy Yates, Kristen K. Greene, David A. Broniatowski, Mark A. Przybocki / National Institute of Standards and Technology
- 主な出典
- National Institute of Standards and Technology
- 出典の言語
- 英語
- 原資料の公開日
以下は主な出典の要旨からの抜粋であり、報告書全文ではありません。中国語・日本語は2026年10月20日付のSHIOによる対訳です。SHIOの分析は別に示します。原文とページの言語が同じ場合、原文は一度だけ表示します。Republished courtesy of the National Institute of Standards and Technology.
We introduce four principles for explainable artificial intelligence (AI) that comprise fundamental properties for explainable AI systems.私たちは、説明可能な人工知能（AI）システムの基本的な性質を構成する四つの原則を提示します。
We propose that explainable AI systems deliver accompanying evidence or reasons for outcomes and processes; provide explanations that are understandable to individual users; provide explanations that correctly reflect the system’s process for generating the output; and that a system only operates under conditions for which it was designed and when it reaches sufficient confidence in its output.説明可能なAIシステムは、結果やプロセスに伴う証拠または理由を示し、個々の利用者に理解できる説明を提供し、出力を生成するシステムのプロセスを正しく反映する説明を提供すべきだと提案します。また、システムは設計の対象となった条件下で、出力について十分な確信が得られた場合にのみ動作すべきだとします。
We have termed these four principles as explanation, meaningful, explanation accuracy, and knowledge limits, respectively.この四つの原則を、それぞれ「説明」「意味があること」「説明の正確さ」「知識の限界」と名付けました。
SHIO の分析
AI の説明は、次の問いを支えられるか
以下は SHIO 独自の判断と方法の考察です。出典の原文や、その翻訳ではありません。
SHIO の読解メモ
NIST の2021年の原則と、終了した DARPA の XAI 計画を読み、利用者が確認し、疑問を示し、修正できる説明を考える。
中心となる視点
SHIO の見解：説明の質は、それを受け取った人が何をできるようになるかに表れる。
資料が示していること
NIST は2021年9月29日、説明可能なAIに関する四つの原則を公開した。利用者が理解できること、システムの処理を正しく反映すること、知識や適用条件の限界を認識することなどを扱う。これらは確認すべき性質であり、「説明」と表示された文章が自動的に満たす条件ではない。読みやすさだけで正確さは判断できない。
DARPA の XAI 計画の紹介は、説明可能なモデルと、役立つ説明の対話を支えるインターフェースを組み合わせる構想を示している。一方で、計画は終了し、ページは更新されていないと明記される。初公開日は確認できない。本稿では歴史的な研究の背景として扱い、現在利用できる万能な説明ツールの実現を示す資料とは解釈しない。
SHIO の方法：受け取る人から考える
説明の画面を追加する前に、誰が読み、何を判断するのかを決める。引用を点検する編集者と、仕事を止めるか判断する担当者では、必要な情報が異なる。その場面で重要な問いを選び、システムが実際に提供できる証拠を確かめる。流暢な文章が内部の処理を示すと確認されていなければ、そのように受け取られる表示は避ける。
文書支援を設計する仮例なら、主張を支える原文へのリンクを示し、不足する証拠を記し、確認者が解釈を訂正できるようにする。無害なテスト例に意図的な誤りを入れ、その情報を使って発見できるかを観察する。何が見つかり、どこに疑問が残るかを記録する。これは現場での検証案であり、実施済みの結果や性能の約束ではない。
SHIO の判断と限界
読みやすい説明でも、有用な異議を示す助けにならない場合がある。SHIO は理解度と併せて、利用者が限界に気づき、別の資料を求め、行動を断れるかを確認する。説明が不十分だと伝える手段も必要である。出力への同意だけを成功とせず、根拠の不足を指摘できたことも、設計を改善する材料として扱う。
文章を増やしても不確かさが解消するとは限らず、説明があることは答えの正しさを証明しない。分かっていること、推論、未解決の点を区別して示す。思想にかたちを与えるとは、証拠と判断を結び、人が問いを深めて次の行動を変えられる関係をつくることである。説明を、問いを終わらせる表示ではなく、その関係への入口にする。
実践に残る問い
一人の利用者の問いを選び、その人が結果を疑える説明になっているかを確かめる。
REFERENCES & EDITORIAL NOTE
参照資料
原文の抜粋、翻訳、SHIO 独自の分析を分けて掲載しています。以下の資料では、より詳しい背景や関連する情報をご覧いただけます。
National Institute of Standards and Technology · 主な出典
Four Principles of Explainable Artificial Intelligence
原資料の公開日：参照日：The official NIST Technical Series Publications policy states that NIST employee works are not copyright-protected in the United States and grants a worldwide, royalty-free right to reprint and create derivative works to the extent NIST asserts foreign rights. The selected original report text is attributed to NIST, not to an external quotation; no third-party tables, figures, logos or images are reproduced. The policy warns that third-party-authored works may remain protected. Attribution is retained and the Chinese/Japanese text is marked as SHIO translation dated2026-10-20. Policy/source: https://www.nist.gov/open/copyright-fair-use-and-licensing-statements-srd-data-software-and-technical-series-publications
Defense Advanced Research Projects Agency
Explainable Artificial Intelligence (XAI)
原資料の公開日：公開日の記載なし参照日：Original editorial analysis, no full translation. Official page says program complete and page no longer maintained; no original publication date or blanket article-text reuse license verified. No illustrations reproduced.