ADR-0011: 安全リスクアセスメントを規格への適合ではなく手順の参照として位置づけ、独立した記号体系を与える
採用(2026-08-05)
コンテキスト
Section titled “コンテキスト”当初は「ISO 12100 / IEC 62304 に準拠したリスクアセスメントの様式」を整備する方針を置いていた。着手時の調査で、この方針が前提とする次の3点に誤りが判明した。
| 前提 | 検証結果 |
|---|---|
| IEC 62304 を汎用の開発標準として引用できる | 誤り。同規格は医療機器ソフトウェアのライフサイクルを対象とする。適合の主張は医療機器の適合性評価の文脈でのみ意味をもつ |
| ISO 12100 に準拠できる | 誤り。同規格の適用対象は機械類の設計であり、保護対象は人体の傷害と健康障害に限られる。ソフトウェアエージェントは対象外である |
| リスクの見積りは「ひどさ」と「頻度」の2要素である | 不完全。同規格は「危害のひどさ」と「危害の発生確率」の組合せとし、後者を暴露・危険事象の発生確率・回避可能性の3要素へ分解する |
一方で、開発プロセスの内部で AI エージェントを道具として用いることのリスクを正面から扱う国際標準は、2026-08-05 時点で確認できなかった。ISO/IEC 23894、ISO/IEC 42001、NIST AI RMF、EU AI Act 第9条は、いずれも開発された AI 製品のリスクを対象としている。
加えて、本標準には既に4つの区分体系(Sev・R・L・E)が存在する。安全リスクの軸をこれらと同じ記号で表すと、現場で取り違えが起きる。過去に2度、記号の衝突を実際に発生させている。
- 適合性を主張しない。第6章の安全リスクアセスメントは「ISO 12100(JIS B 9700)の手順を参照した本標準の規定」と明記する。第1章 1.3 にも同旨の注記を置く
- IEC 62304 を汎用の引用規格としない。医療機器を扱う場合に第8章のテーラリングで追加する業種固有の規格として扱う
- 手順の借用の根拠を3点に置く
- EU AI Act 第9条5項のリスク低減の優先順位が、ISO 12100 の3ステップメソッドと独立に同型であること
- EU 機械規則 (EU) 2023/1230 が、自己進化する挙動をもつ安全コンポーネントに「定義されたタスクおよび動作空間を超える動作をさせてはならない」と要求していること
- ISO/IEC TR 5469:2024 が、安全関連機能の設計・開発に AI を用いる局面を射程に含めていること
- リスクの見積りを4要素とする。危害のひどさ・暴露・危険事象の発生確率・回避可能性を記入させる。計算式と重みは規定しない。ISO 12100 が尺度を規定しないことに倣い、判定の根拠を文章で残させる
- 2文字の記号体系を新設する。Hz(危険源ID)、Hs(危害のひどさ)、Ex(暴露)、Oc(発生確率)、Av(回避可能性)、SR(安全リスク区分、4段階)、RRS(リスク低減ステップ、3段階)。既存の1文字記号と視覚的に区別する
- 既存体系との接続を写像として定める。L と E は Ex の入力条件とし、SR2 以上の残留リスクの受容は R1 の決定として決裁権限マトリクスへ接続する
- 全案件には求めない。物理的な危険源の制御、R1 を含む適用範囲、本番環境への到達、L2 以上のいずれかに該当する場合を必須とし、更新は実行環境の設定変更を契機とする
検討した選択肢
Section titled “検討した選択肢”- 当初の方針どおり「ISO 12100 / IEC 62304 準拠」と表明する — 規制業の読者に対して誤った適合性の主張になる。監査で否認された場合、標準全体の信頼を損なう
- 既存の Sev または R を安全リスクにも流用する — 記号数は減るが、事後の欠陥重大度と事前の危害のひどさが同一記号になり、判定の意味が失われる。過去の衝突事例と同じ失敗になる
- ISO/IEC 23894 または NIST AI RMF を骨格にする — いずれも組織レベルのリスクマネジメントの枠組みであり、個別のエージェント設定に落とす粒度をもたない。危険源から低減策への追跡ができない
- 全案件に必須とする — 記入負担が形骸化を招く。機械安全のリスクアセスメントが現場で形式化する経路と同じである
- 第1章 1.3 の引用規格表に ISO/IEC TR 5469 を追加し、適合性を主張しない旨の注記を置いた
- 第1章 1.4 に危険源・危害のひどさ・安全リスク区分・リスク低減ステップの4語を追加した
- 第2章 2.8 の立ち上げ手順に手順3b を追加し、SR4 が残る間は G-1 の審議を開始しない前提条件を定めた
- 第6章にテンプレ9(軽量版・完全版)を追加した
.textlintrc.jsonのmax-kanji-continuous-lenに「本質的安全設計方策」を許可語として追加した。JIS の用語をそのまま用いるための措置である- 条項番号は JIS の公開転載に依拠しており、原本での逐語確認は未了である。規制対応で条項を引用する場合は原本の入手が必要になる
- ISO/IEC TR 5469:2024 の本文は未入手である。とくに「安全関連機能の設計・開発に AI を用いる」局面の推奨事項は未確認であり、入手後に第6章の見直しを要する
- 調査根拠は
research/phase4-standard/122-safety-risk-assessment.mdに記録した