ADR-0043: 安全リスクアセスメントの参照先を IEC 61508 と ISO/TR 14121-2 の併記へ改める
採用(2026-08-14)
コンテキスト
Section titled “コンテキスト”第6章のAIエージェント安全リスクアセスメントは、ISO 12100 だけを参照先として挙げていました。外部の規格と突き合わせた結果、体系は複数の出所の合成物であり、ISO 12100 だけでは説明できないことが分かりました(#242)。
ISO 12100 だけでは説明できない箇所
Section titled “ISO 12100 だけでは説明できない箇所”| 本標準の要素 | ISO 12100 での扱い |
|---|---|
| 危害に財産・データの損害を含める | 適用範囲外。JIS B 9700 3.5 の危害は「身体的傷害又は健康障害」 |
| SR1〜SR4 の4区分 | リスク区分の定義を持たない |
| Hs / Ex / Oc / Av の3段階 | 段階数を規定しない |
| Ex を「ツールが呼ばれる頻度 × 自律実行の継続時間」とする | 暴露は「人の危険源への暴露」。主体が異なる |
参照先を移せば解消する
Section titled “参照先を移せば解消する”ISO/IEC TR 5469:2024 3.5 は、IEC 61508-4:2010 3.1.1 を逐語で引用しています。
harm: physical injury or damage to the health of people, or damage to property or the environment
機能安全の親規格の危害は、財産と環境を含みます。4段階の区分(SIL / ASIL)も、3ステップの優先順位も、IEC 61508 の系にあります。TR 5469 5.1 は3ステップを IEC 61508 系の good practice として挙げ、5.2 は安全機能が深刻な経済的帰結のリスクも低減すると述べます。
ISO/TR 14121-2 6.5.2 は、パラメータの段階数と定義を与えます。
| パラメータ | 段階数 | 値 |
|---|---|---|
| Av(avoidance) | 3 | 1 Likely / 3 Possible / 5 Impossible |
Av の3段階と値の向きは、本標準と完全に一致します。同項の Av の定義は次のとおりです。
the awareness of risk by means of general information, direct observation or through warning signs
本標準が Av を「人間が気づいて止められるか」「承認ゲートの実効性」と読み替えたことは、この定義の延長線上にあります。
なお Hs / Ex / Oc は 14121-2 と段階数が一致しません(同項は 4 / 4 / 5 / 3)。揃えるべきという規格上の要求は無いため違反ではありませんが、一律3段階に揃えたことは本標準の独自の判断です。
借用は続けるが、借用であることを書く
Section titled “借用は続けるが、借用であることを書く”本標準は ISO 12100 への適合を主張できません。適合を主張せずに語彙と手順を借りている以上、どこから借りたかを正確に書く必要があります。稟議・QMS・監査の場で引かれたとき、要求の写像を説明できなければならないためです。
1. 参照先を IEC 61508 と ISO/TR 14121-2 の併記へ改める
Section titled “1. 参照先を IEC 61508 と ISO/TR 14121-2 の併記へ改める”ISO 12100 の参照を削りません。3ステップメソッドの名称と順序は JIS B 9700 6.1〜6.4 と一致しており、この帰属は正しいためです。加えて次を明記します。
- 危害に財産・データの損害を含めることは、IEC 61508-4 3.1.1 の定義による
- 4段階の区分は IEC 61508 系の様式にならったものであり、ISO 12100 には対応する定義が無い
- パラメータの段階数と Av の定義は ISO/TR 14121-2 6.5.2 による
2. 合成物であることを本文に書く
Section titled “2. 合成物であることを本文に書く”手順と優先順位、危険源の分類、区分の段階数、危害の範囲が、それぞれ別の出所を持つことを明示します。読み手が「機械安全の規格に従って評価した」と誤読することを防ぎます。
3. パラメータの意味が規格と異なる箇所を明示する
Section titled “3. パラメータの意味が規格と異なる箇所を明示する”Ex は、暴露される主体を人からシステムへ移しています。写像ではないため、規格側の妥当性検証(適合性評価の実績、事故統計)は引き継がれません。この旨を書きます。
4. 適合の主張は行わない
Section titled “4. 適合の主張は行わない”いずれの規格についても、適合を主張しません。借用の範囲と、借用していない範囲を書くにとどめます。
検討した選択肢
Section titled “検討した選択肢”| 案 | 却下の理由 |
|---|---|
| 土台を ISO/IEC 23894 / NIST AI RMF へ差し替える | 3ステップの優先順位を規範として明示する枠組みを、AI 固有の規格群は持たない。設計層の具体性を失う |
| ISO 12100 のみの参照を続ける | 危害の定義・区分・パラメータの段階数を説明できない。稟議の場で写像を問われたときに答えられない |
| 参照を全て外し、独自の体系として書く | 借用の事実は残る。出所を書かないことで、読み手が独自に検証する経路を失う |
| 適合を主張する | 主張できない。ISO 12100 は財産・環境を適用範囲外とし、本標準の危険源は人体への危害ではない |
- 第6章の記号体系の説明に、出所ごとの帰属を書く
- 体系の骨格は組み替えない。パラメータ・区分・3ステップ・様式は維持する
- AI 固有の枠組み(ISO/IEC 42001 / 23894 / NIST AI RMF / EU AI Act)との対応は、本 ADR では与えない。規制対応の文脈で引かれた場合、写像の説明は別途必要になる
- 準拠テンプレートのテンプレ9 へ、同じ帰属を降ろす