SOURCE READING
原文と対訳
原文と対訳は次の主な出典に基づきます。その他の資料は SHIO の分析に用いています。
主な出典
- 原題
- Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations
- 原著者・機関
- Apostol Vassilev (NIST), Alina Oprea (Northeastern University), Alie Fordyce (Cisco), Hyrum Anderson (Cisco), Xander Davies (U.K. AI Security Institute), Maia Hamin (U.S. AI Safety Institute)
- 主な出典
- National Institute of Standards and Technology
- 出典の言語
- 英語
- 原資料の公開日
以下は主な出典の短い抜粋と対訳であり、原文全文ではありません。文章全体の転載許可を取得したとは主張しません。対訳は2026年10月20日付のSHIO訳です。文脈全体は出典で確認してください。SHIOの分析は別に示します。
利用根拠：Joint government and non-government authorship; brief excerpt only
life cycle stages of attack攻撃が起こるライフサイクル上の段階。
SHIO の分析
AI のレッドチームの発見を、直せる課題にする
以下は SHIO 独自の判断と方法の考察です。出典の原文や、その翻訳ではありません。
SHIO の読解メモ
NIST の対抗的機械学習の分類と安全な開発に関する資料を読み、気になる実演を担当者と検証条件のある課題へ変える。
中心となる視点
SHIO の見解：有用な発見には、崩れた境界と、修正の有効性を確かめる方法が必要である。
資料が示していること
NIST AI 100-2 E2025 の正式版は、文書履歴で2025年3月24日付とされている。攻撃が起きる段階や攻撃者の能力などを含む観点から、対抗的機械学習の用語と分類を整理する。脅威を記述する共通言語であり、特定の防御の有効性を証明したり、個別のシステムの試験を代替したりするものではない。
2024年7月26日公開の安全な開発に関する資料は、Secure Software Development Framework にAI固有の実践を追加し、ソフトウェアの開発ライフサイクルを対象にしている。二つの過去の資料を参照すると、安全性を開発中に具体化し、継続して維持する仕事として考える必要が見えてくる。
SHIO の方法：事例を境界に結びつける
許可された内部試験では、守るべき境界を先に書く。例えば、外部の文書は読めるが、その文書が新しい操作権限を与えることはできない、と定める。隔離された環境で無害な合成資料を使い、期待する挙動、観察した挙動、システムの版、関連する権限を記録する。別の技術者が繰り返せる程度に、試験を具体的にする。
発見には、何を変えるのかを添える。外部資料の扱い方、道具への権限の渡し方、実行前の確認条件など、変更対象を示し、担当者と再確認の方法を決める。この例は防御のための業務設計であり、攻撃の手順でも、特定の製品に脆弱性があるという指摘でもない。現象を対応可能な境界へつなぐことで、修正の仕事が始まる。
SHIO の判断と限界
修正後は元の事例だけでなく、関連する通常業務も試す。不安のある出力を止めても、必要な仕事ができなくなれば調整は続く。事例を選んだ理由も残し、後の変更を同じ境界に照らして評価できるようにする。修正の目的、負担、未解決の点を記録し、「安全になった」という一言に判断を集約しない。
境界を越えられなかった一回の試験は、その条件で起きたことだけを示す。すべての経路が閉じたとは言えない。SHIO は発見を、露出を小さくする、制御を改善する、根拠が整うまで用途を保留する、といった継続的な判断に使う。思想を検証できる行動へ変えるには、修正の仮説自体も、その後の試験で否定できる必要がある。
実践に残る問い
各発見に、担当者、修正の仮説、それを否定できる試験を添える。
REFERENCES & EDITORIAL NOTE
参照資料
出典の原題、著者、利用根拠は原文欄に記載しています。抜粋、SHIO の対訳、独自考察は分けて掲載。主な出典と補足資料の根拠や文脈は下記で確認できます。
National Institute of Standards and Technology · 主な出典
Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations
原資料の公開日：参照日：The official author list and reportPDF show NIST plus university, company and U.K. institution contributors. The NIST employee-work policy is not treated as a blanket clearance for all joint contributions. Only a five-word phrase from the abstract is reproduced. No complete report, paragraph, figure, table, exploit procedure or third-party material is copied. Policy/source: https://www.nist.gov/open/copyright-fair-use-and-licensing-statements-srd-data-software-and-technical-series-publications
National Institute of Standards and Technology
Secure Software Development Practices for Generative AI and Dual-Use Foundation Models: An SSDF Community Profile
原資料の公開日：参照日：NIST employee works: U.S. public domain; third-party exceptions. Original editorial analysis; no full translation. Policy: https://www.nist.gov/open/license