Motivation

 Die Autonomie technischer Systeme zu erhöhen ist aktuell ein Megatrend in der Industrie. Künstliche Intelligenz (KI) wird hierbei als ein Schlüsselfaktor angesehen. Da autonome Systeme gewöhnlich Teil eines größeren Ökosystems sind, kann ihr Versagen sowohl die betrieblichen Werte wie auch die Gesundheit der Teilnehmer des Ökosystems gefährden. Daher sind besondere Maßnahmen erforderlich, um die funktionale Sicherheit der Systeme und insbesondere solcher, die KI enthalten, sicherzustellen. Bei Systemen ohne KI-Anteil werden entsprechende Maßnahmen durch spezifische Normen vorgesehen. Solche etablierten Sicherheitsstandards und -verfahren sind auf KI-getriebene Komponenten schwierig anwendbar bzw. unpassend. Als besonders problematisch erweist sich hierbei das häufig fehlende gemeinsame Verständnis an der Schnittstelle zwischen Data Science Expert*innen und Safety Ingenieur*innen.

Ausbildungsziel

In diesem Seminar geben wir einen Überblick über den Stand der Technik im Bereich Safety und Künstliche Intelligenz mit einem besonderen Fokus auf die Schnittstelle zwischen den Bereichen. Wir diskutieren die Herausforderungen, die sich aus dem Einsatz von KI-basierten Komponenten in sicherheitskritischen Lösungen ergeben, und präsentieren, wie diese beispielsweise mittels spezifischer Schritte im Entwicklungsprozess adressiert werden können. Dazu werden Eigenschaften von KI-Ansätzen ausgenutzt. Weiterhin wird das Bewusstsein der Teilnehmenden für die Problematik geschärft.

Zielgruppe

Sie sind Praktiker*in in einer sicherheitskritischen Domäne und interessieren sich für die Anwendung von KI Komponenten oder Verfahren. Insbesondere richtet sich das Seminar dabei an Data Science und Safety Expert*innen, die künftig einander besser verstehen und effektiver zusammenarbeiten möchten

Vorkenntnisse

Sie verfügen über Grundkenntnisse in Statistik und Datenanalyse. Typischerweise haben Sie einen Abschluss in einem MINT-Fach.