Diese Seite wurde mit KI aus dem Englischen übersetzt und kann Fehler enthalten. Englisches Original lesen →
Inhalt
NormISO

ISO/PAS 8800

Straßenfahrzeuge — Sicherheit und künstliche Intelligenz

ISO/PAS 8800 erläutert, wie sich nachweisen lässt, dass die in Straßenfahrzeugen eingesetzte KI während der gesamten Entwicklung und des Betriebs hinreichend sicher ist.

Was ist das?

ISO/PAS 8800 ist eine öffentlich verfügbare Spezifikation der ISO zur Absicherung der Sicherheit künstlicher Intelligenz im Automobilbereich, insbesondere des maschinellen Lernens. Sie behandelt, wie KI-Verhalten zu unsicherem Fahrzeugverhalten beitragen kann und wie Entwickler eine überzeugende Sicherheitsargumentation untermauern können. „Publicly Available Specification“ bezeichnet den Dokumenttyp; der Volltext ist kostenpflichtig.

Ihr Anwendungsbereich umfasst unzulängliche KI-Ausgaben, Entwicklungsfehler und Hardwarefehler, die sich auf KI-Elemente auswirken. Sie schreibt keine bestimmte Architektur neuronaler Netze vor. Auch ist ein Modell nicht allein deshalb sicher, weil es eine hohe durchschnittliche Genauigkeit erreicht. Der offizielle Anwendungsbereich beschreibt den Schwerpunkt auf Fahrzeugsicherheit und maschinellem Lernen. Anwendungsbereich und Veröffentlichungsangaben der ISO.

Für wen gilt das Dokument?

Das Dokument betrifft sicherheitsbezogene E/E-Systeme mit KI in Straßenfahrzeugen aus Serienproduktion, ausgenommen Kleinkrafträder. Zu den relevanten Teams gehören Fahrzeughersteller, Systemlieferanten sowie Entwickler, die KI-Elemente und die zugehörigen Nachweise bereitstellen.

Wechselwirkungen mit externer KI können für die Sicherheitsargumentation des Fahrzeugs relevant sein, obwohl die Entwicklung dieser externen Elemente außerhalb des Anwendungsbereichs liegt. KI, die ausschließlich als Entwicklungswerkzeug dient, ist gesondert von KI zu betrachten, die eine Fahrzeugfunktion ausführt.

Für die Projektplanung ist festzulegen, welche KI-Ausgaben die Sicherheit beeinflussen und wer für die jeweiligen Annahmen, Anforderungen und Nachweispakete verantwortlich ist. Die Anwendbarkeit richtet sich nach der Funktion und ihrer Sicherheitsrelevanz, nicht danach, ob die Software auf einem dedizierten ECU oder einem Zentralrechner läuft.

Was deckt es ab?

Im Mittelpunkt steht die Absicherung über Daten, Modelle, Training, Integration und Betrieb hinweg. Die Arbeit lässt sich zweckmäßig wie folgt strukturieren:

Themenbereich Praktische technische Fragestellung
Daten Bilden die Nachweise relevante Bedingungen einschließlich schwieriger Fälle ab?
Modell Welche Einschränkungen könnten zu unsicheren Ausgaben führen?
Integration Wie beeinflussen Vorverarbeitung, Laufzeitausführung und nachgelagerte Entscheidungen das Verhalten?
Betrieb Wie erkennen Teams Probleme und bewerten Änderungen nach der Bereitstellung?

Diese Fragen verknüpfen die KI-Leistungsfähigkeit mit den Auswirkungen auf das Fahrzeug. Ein übersehenes Objekt hat beispielsweise je nach Fahrzeuggeschwindigkeit, verfügbarer Überwachung und Reaktion der Bremsfunktion unterschiedliche Bedeutung. Tests benötigen daher neben aggregierten Kennzahlen auch Kontext, dokumentierte Annahmen und Akzeptanzkriterien.

Wie ordnet es sich in andere Dokumente ein?

ISO 26262 bildet den Rahmen für die Funktionale Sicherheit automobiler E/E-Systeme. ISO 21448 behandelt die Sicherheit der beabsichtigten Funktionalität einschließlich Gefährdungen durch funktionale Unzulänglichkeiten. ISO/PAS 8800 ergänzt KI-spezifische Aspekte der Absicherung, die Teams in diese bestehenden Sicherheitsaktivitäten integrieren sollten.

Bei einer KI-basierten Wahrnehmungsfunktion sollten Ingenieure Modelleinschränkungen und Validierungsnachweise mit der Gefährdungsanalyse und der Sicherheitsargumentation auf Systemebene verknüpfen. Die KI-Absicherung erfordert zudem eine Abstimmung mit Cybersicherheits- und Software-Update-Prozessen, wenn Angriffe oder im Betrieb eingespielte Änderungen die Sicherheit beeinflussen können. Kein Dokument ersetzt die anderen.

In der Praxis

Als Beispiel dient eine kamerabasierte Fußgängererkennung, die auf einem HPC-Beschleuniger läuft. Ausgangspunkte sind ihr vorgesehener Einsatz, die Betriebsbedingungen und die Folgen übersehener oder fehlerhafter Erkennungen. Diese Aspekte sind anschließend mit Datenauswahl, Prüfungen der Datenannotation, Szenariotests und Integrationsnachweisen zu verknüpfen.

Zu bewerten ist die eingesetzte Kombination aus Modell, Vorverarbeitung, Inferenzlaufzeitumgebung und Hardware. Änderungen an der Quantisierung oder der Ausführung auf dem Beschleuniger können eine erneute Bewertung rechtfertigen, auch wenn die vorgesehene Funktion des Modells gleich bleibt.

Die Rückverfolgbarkeit zwischen freigegebenen Konfigurationen, bekannten Einschränkungen und zugehörigen Sicherheitsnachweisen ist aufrechtzuerhalten. Zeigen Feldbeobachtungen ein unerwartetes Fehlermuster, sind diese Erkenntnisse zu nutzen, um Annahmen neu zu bewerten und die vor Freigabe einer Korrektur erforderliche Validierung festzulegen.

Bedeutung für die eigene Disziplin

  • Funktionale SicherheitKernbereich

    Die KI-Sicherheitsargumentation verantworten und KI-Einschränkungen mit Fahrzeuggefährdungen, Sicherheitsanforderungen und Validierungsnachweisen verknüpfen.

  • HPC- & AnwendungssoftwareKernbereich

    Datenpipelines, trainierte Modelle und Inferenzsoftware entwickeln und mit rückverfolgbaren Nachweisen verifizieren. Bewerten, wie sich Modell- oder Datenänderungen auf die Sicherheit auswirken.

  • E/E-ArchitekturTeilbereich

    Verantwortlichkeiten zwischen KI-Elementen, Überwachung und Rückfallfunktionen zuordnen. Annahmen zu den Betriebsbedingungen und Schnittstellen definieren, die eine belastbare Sicherheitsargumentation ermöglichen.

  • Hardware & HalbleiterTeilbereich

    Nachweise zur Rechenplattform für die KI-Ausführung bereitstellen, einschließlich Beschleunigerfehlern, numerischem Verhalten und Ressourcenbeschränkungen.

  • Software-Update & OTATeilbereich

    KI-Sicherheitsnachweise in die Auswirkungsanalysen für Änderungen an Modell, Vorverarbeitung und Laufzeitumgebung einbeziehen. Die Zuordnung eingesetzter Versionen zu ihren validierten Konfigurationen aufrechterhalten.

Keine direkte Beteiligung: Cybersecurity · Basissoftware · Netzwerke & Kommunikation · Diagnose & Lebenszyklus