Was ist das?
ISO/PAS 8800 ist eine öffentlich verfügbare Spezifikation der ISO zur Absicherung der Sicherheit künstlicher Intelligenz im Automobilbereich, insbesondere des maschinellen Lernens. Sie behandelt, wie KI-Verhalten zu unsicherem Fahrzeugverhalten beitragen kann und wie Entwickler eine überzeugende Sicherheitsargumentation untermauern können. „Publicly Available Specification“ bezeichnet den Dokumenttyp; der Volltext ist kostenpflichtig.
Ihr Anwendungsbereich umfasst unzulängliche KI-Ausgaben, Entwicklungsfehler und Hardwarefehler, die sich auf KI-Elemente auswirken. Sie schreibt keine bestimmte Architektur neuronaler Netze vor. Auch ist ein Modell nicht allein deshalb sicher, weil es eine hohe durchschnittliche Genauigkeit erreicht. Der offizielle Anwendungsbereich beschreibt den Schwerpunkt auf Fahrzeugsicherheit und maschinellem Lernen. Anwendungsbereich und Veröffentlichungsangaben der ISO.
Für wen gilt das Dokument?
Das Dokument betrifft sicherheitsbezogene E/E-Systeme mit KI in Straßenfahrzeugen aus Serienproduktion, ausgenommen Kleinkrafträder. Zu den relevanten Teams gehören Fahrzeughersteller, Systemlieferanten sowie Entwickler, die KI-Elemente und die zugehörigen Nachweise bereitstellen.
Wechselwirkungen mit externer KI können für die Sicherheitsargumentation des Fahrzeugs relevant sein, obwohl die Entwicklung dieser externen Elemente außerhalb des Anwendungsbereichs liegt. KI, die ausschließlich als Entwicklungswerkzeug dient, ist gesondert von KI zu betrachten, die eine Fahrzeugfunktion ausführt.
Für die Projektplanung ist festzulegen, welche KI-Ausgaben die Sicherheit beeinflussen und wer für die jeweiligen Annahmen, Anforderungen und Nachweispakete verantwortlich ist. Die Anwendbarkeit richtet sich nach der Funktion und ihrer Sicherheitsrelevanz, nicht danach, ob die Software auf einem dedizierten ECU oder einem Zentralrechner läuft.
Was deckt es ab?
Im Mittelpunkt steht die Absicherung über Daten, Modelle, Training, Integration und Betrieb hinweg. Die Arbeit lässt sich zweckmäßig wie folgt strukturieren:
| Themenbereich | Praktische technische Fragestellung |
|---|---|
| Daten | Bilden die Nachweise relevante Bedingungen einschließlich schwieriger Fälle ab? |
| Modell | Welche Einschränkungen könnten zu unsicheren Ausgaben führen? |
| Integration | Wie beeinflussen Vorverarbeitung, Laufzeitausführung und nachgelagerte Entscheidungen das Verhalten? |
| Betrieb | Wie erkennen Teams Probleme und bewerten Änderungen nach der Bereitstellung? |
Diese Fragen verknüpfen die KI-Leistungsfähigkeit mit den Auswirkungen auf das Fahrzeug. Ein übersehenes Objekt hat beispielsweise je nach Fahrzeuggeschwindigkeit, verfügbarer Überwachung und Reaktion der Bremsfunktion unterschiedliche Bedeutung. Tests benötigen daher neben aggregierten Kennzahlen auch Kontext, dokumentierte Annahmen und Akzeptanzkriterien.
Wie ordnet es sich in andere Dokumente ein?
ISO 26262 bildet den Rahmen für die Funktionale Sicherheit automobiler E/E-Systeme. ISO 21448 behandelt die Sicherheit der beabsichtigten Funktionalität einschließlich Gefährdungen durch funktionale Unzulänglichkeiten. ISO/PAS 8800 ergänzt KI-spezifische Aspekte der Absicherung, die Teams in diese bestehenden Sicherheitsaktivitäten integrieren sollten.
Bei einer KI-basierten Wahrnehmungsfunktion sollten Ingenieure Modelleinschränkungen und Validierungsnachweise mit der Gefährdungsanalyse und der Sicherheitsargumentation auf Systemebene verknüpfen. Die KI-Absicherung erfordert zudem eine Abstimmung mit Cybersicherheits- und Software-Update-Prozessen, wenn Angriffe oder im Betrieb eingespielte Änderungen die Sicherheit beeinflussen können. Kein Dokument ersetzt die anderen.
In der Praxis
Als Beispiel dient eine kamerabasierte Fußgängererkennung, die auf einem HPC-Beschleuniger läuft. Ausgangspunkte sind ihr vorgesehener Einsatz, die Betriebsbedingungen und die Folgen übersehener oder fehlerhafter Erkennungen. Diese Aspekte sind anschließend mit Datenauswahl, Prüfungen der Datenannotation, Szenariotests und Integrationsnachweisen zu verknüpfen.
Zu bewerten ist die eingesetzte Kombination aus Modell, Vorverarbeitung, Inferenzlaufzeitumgebung und Hardware. Änderungen an der Quantisierung oder der Ausführung auf dem Beschleuniger können eine erneute Bewertung rechtfertigen, auch wenn die vorgesehene Funktion des Modells gleich bleibt.
Die Rückverfolgbarkeit zwischen freigegebenen Konfigurationen, bekannten Einschränkungen und zugehörigen Sicherheitsnachweisen ist aufrechtzuerhalten. Zeigen Feldbeobachtungen ein unerwartetes Fehlermuster, sind diese Erkenntnisse zu nutzen, um Annahmen neu zu bewerten und die vor Freigabe einer Korrektur erforderliche Validierung festzulegen.