Ob in autonomen Fahrzeugen, der robotergestützten Chirurgie oder bei der Steuerung smarter Stromnetze – Künstliche Intelligenz (KI) dringt unaufhaltsam in Bereiche vor, in denen Fehler fatale Folgen haben können. Damit verändert sich auch das Fundament der Funktionalen Sicherheit (Functional Safety) radikal.
Die Sicherheit technischer Systeme beruhte bislang auf strukturierten, deterministischen Regeln und transparenten Ursache‑Wirkung‑Zusammenhängen (vgl. IEC 61508). Moderne KI-Systeme – insbesondere Deep-Learning-Modelle – verhalten sich jedoch oft wie eine „Black Box“: Sie sind probabilistisch, lernen kontinuierlich dazu und ihr exaktes Verhalten lässt sich in komplexen Situationen kaum deterministisch vorhersagen.
Diese neue Ära stellt Ingenieure, Entwickler und Gesetzgeber vor eine historische Herausforderung: Wie garantieren wir die Sicherheit von Systemen, deren inneren Entscheidungsprozesse wir nicht mehr vollständig im Detail voraussehen können? Der Übergang von klassischer Codierung zu datengetriebener Intelligenz erfordert völlig neue Ansätze der Validierung, Zertifizierung und Risikoanalyse, um das enorme Innovationspotenzial der KI nutzen zu können, ohne die kompromisslose Zuverlässigkeit des Schutzes von Mensch und Umwelt zu gefährden.
