Diese Seite wurde mit KI aus dem Englischen übersetzt und kann Fehler enthalten. Englisches Original lesen →
Inhalt

SOTIF und KI-Sicherheit

Sicherheit der beabsichtigten Funktionalität — Gefährdungen, die auch ohne Defekt entstehen, etwa wenn ein kamerabasiertes System eine Szene falsch interpretiert — und wie ISO 21448 und ISO/PAS 8800 diese behandeln.

1 min Lesezeit · Beteiligung der Disziplin: Safety Software Architektur Hardware

Warum SOTIF erforderlich ist

ISO 26262 behandelt Fehler. Ein automatisiertes Notbremssystem kann jedoch auch Schaden verursachen, wenn es exakt wie vorgesehen funktioniert — beispielsweise, wenn es einen Schatten als Hindernis interpretiert. Dabei handelt es sich um funktionale Unzulänglichkeiten.

Was SOTIF abdeckt

  • Auslösende Bedingungen: Situationen, die zu gefährlichem Verhalten führen (Blendung, ungewöhnliche Objekte).
  • Bekannte und unbekannte unsichere Szenarien: Beide durch Analyse, Simulation und Tests reduzieren.
  • Validierung: Nachweisen, dass das Restrisiko akzeptabel ist.

ISO/PAS 8800 erweitert dies auf KI: Datenqualität, Modellentwicklung, Training und Überwachung im Betrieb.

Bewährte Vorgehensweisen

  • Szenariobasierte Simulation mit Felddaten kombinieren, um unbekannte unsichere Szenarien zu entdecken.
  • Den vorgesehenen Betriebsbereich präzise definieren.

Häufige Fallstricke

  • SOTIF ausschließlich als Testaktivität betrachten, ohne Maßnahmen im Entwurf vorzusehen.

Bedeutung für die eigene Disziplin

  • Funktionale Sicherheit Kernbereich

    Identifiziert auslösende Bedingungen und funktionale Unzulänglichkeiten und begründet die Akzeptanz des Restrisikos.

  • HPC- & Anwendungssoftware Kernbereich

    Wahrnehmungs- und Entscheidungssoftware einschließlich Modellen des maschinellen Lernens sind die Hauptquellen funktionaler Unzulänglichkeiten.

  • E/E-Architektur Teilbereich

    Sensordiversität und Rückfallarchitekturen reduzieren SOTIF-Risiken.

  • Hardware & Halbleiter Teilbereich

    Leistungsgrenzen der Sensoren (Reichweite, Wetter) bestimmen den Betriebsbereich.

Keine direkte Beteiligung: Cybersecurity · Basissoftware · Netzwerke & Kommunikation · Diagnose & Lebenszyklus · Software-Update & OTA

Einordnung im Software-Stack

Generische Software-Schichtenarchitektur eines zentralen HPC (Applikationsprozessor mit Hypervisor und Safety Island) und eines klassischen MCU-basierten Steuergeräts (AUTOSAR Classic). Hervorgehobene Module sind für dieses Thema relevant. Ein Klick auf ein Modul öffnet dessen Seite.

HPC · Applikationsprozessor (MPU) und Safety Island (MCU)
  • ADAS-Funktionen — Umfelderfassung und Planung müssen mit Sensorbeschränkungen umgehen, Betriebsgrenzen erkennen und unter auslösenden Bedingungen gefährliche Entscheidungen vermeiden.
MCU-basiertes Steuergerät · AUTOSAR Classic
  • Anwendungsschicht — Fahrerassistenzkomponenten müssen mit funktionalen Unzulänglichkeiten umgehen und bei Erreichen der Betriebsgrenzen ein Rückfallverhalten implementieren.