概要
ISO/PAS 8800は、自動車用人工知能、特に機械学習の安全性を保証するためのISO公開仕様書(Publicly Available Specification)である。AIの挙動が不安全な車両挙動にどのように寄与し得るか、また開発者が説得力のある安全性論証をどのように支えられるかを扱う。「Publicly Available Specification」は文書種別の名称であり、全文は有償である。
適用範囲には、不十分なAI出力、開発上の誤り、AI要素に影響するハードウェア故障が含まれる。本文書は、特定のニューラルネットワークアーキテクチャを規定せず、高い平均精度を達成したことのみでモデルを安全なものとするわけでもない。公式の適用範囲は、焦点が車両の安全性と機械学習にあることを述べている。ISOの適用範囲および発行記録。
適用対象
本文書は、モペッドを除く量産の道路車両においてAIを用いる安全関連E/Eシステムを対象とする。関係するチームには、車両メーカー、システムサプライヤ、AI要素とその裏付けエビデンスを供給する開発者が含まれる。
外部のAIとの相互作用は、車両の安全性論証にとって重要となり得るが、それらの外部要素の開発は適用範囲外である。開発ツールとしてのみ用いるAIは、車両機能を実行するAIとは別の検討事項である。
プロジェクト計画では、安全性に影響するAI出力と、前提・要求・エビデンスパッケージごとの責任者を特定する。適用は、ソフトウェアが専用ECUで動作するか中央コンピュータで動作するかではなく、機能とその安全関連性に従う。
対象範囲
中心となる技術上の課題は、データ、モデル、学習、統合、運用にわたる保証である。作業を整理する有用な方法は、次のとおりである。
| 懸念 | 実務上の技術的問い |
|---|---|
| データ | エビデンスは、困難なケースを含め、関連する条件を代表しているか。 |
| モデル | どの限界が不安全な出力を生じ得るか。 |
| 統合 | 前処理、ランタイム実行、後段の判断は、挙動にどのように影響するか。 |
| 運用 | 配備後、チームは問題をどのように検知し、変更をどのように評価するか。 |
これらの問いは、AIの性能を、車両にもたらす結果に結びつける。例えば物体の見逃しがもたらす影響は、車速、利用可能な監視、ブレーキ機能の応答によって異なる。したがって試験には、集約指標とともに、文脈、文書化された前提、受入基準が必要である。
他文書との関係
ISO 26262は、自動車E/Eシステムの機能安全に関する枠組みを提供する。ISO 21448は、機能の不十分さから生じるハザードを含め、意図した機能の安全性を扱う。ISO/PAS 8800は、チームがそれらの既存の安全活動と統合すべき、AIに焦点を当てた保証の考慮事項を追加する。
AIの認識機能については、技術者はモデルの限界と妥当性確認エビデンスを、システムレベルのハザード分析および安全性論証に結びつけるべきである。攻撃または配備済みの変更が安全性に影響し得る場合、AIの保証はサイバーセキュリティおよびソフトウェア更新のプロセスとの調整も必要である。一つの文書が他の文書に取って代わることはない。
実務
HPCアクセラレータ上で動作するカメラベースの歩行者検知器を考える。意図した用途、運用条件、見逃しまたは誤検知の帰結から始める。次いで、これらの懸念を、データ選定、ラベリングの確認、シナリオ試験、統合のエビデンスに結びつける。
配備されるモデル、前処理、推論ランタイム、ハードウェアの組合せを評価する。量子化またはアクセラレータ実行の変更は、モデルの意図した機能が同一のままであっても、再評価を正当化し得る。
リリースした構成、既知の限界、裏付けとなる安全性エビデンスの間のトレーサビリティを維持する。フィールドでの観測が予期しない故障パターンを明らかにしたとき、そのエビデンスを用いて前提を再評価し、是正をリリースする前にどのような妥当性確認が必要かを判断する。