Kann künstliche Intelligenz (KI) in Robotersystemen funktionale Sicherheitsvorrichtungen steuern?

Probleme bei KI und funktionaler Sicherheit

Bei funktionalen Sicherheitsbeurteilungen von Robotern mit integrierten KI-Systemen können zwei nicht zu vernachlässigende Probleme auftreten: die Bewertung der Zustände von KI-Systemen und die verschiedenen Metriken zur Leistungsbeurteilung bei Systemen zur funktionalen Sicherheit und KI-Systemen.

Es kann eine Herausforderung sein, den Zustand von KI-Systemen zu bestimmen, insbesondere für neuronale Netzwerke mit einer komplexen Architektur aus Knoten oder Ebenen. Die Schwierigkeiten liegen in der Diagnose der Bewertungsergebnisse, die es unmöglich machen, einzuschätzen, ob das System normal vorgeht. Beispielsweise werden stochastische Entscheidungen getroffen, wenn KI-Systeme nicht zum Erfolg führen. Das bedeutet, dass ein solches System nicht als deterministisches System behandelt werden kann, was es wiederum schwierig gestaltet, es als Teil der sicherheitsrelevanten Elemente des Steuerungssystems für funktionale Sicherheit zu bewerten.

Metriken zur Leistungsbeurteilung für KI umfassen Genauigkeit, Präzision, Wiedererkennung und Besonderheiten. Eine KI muss jedoch Daten erlernen, die keine Zeitreihenvariationen in Betracht ziehen. Daher ändert sich die Fehlerwahrscheinlichkeit von KI-Systemen von Zeit zu Zeit. Das macht es schwer, ihre Leistung aus dem Blickwinkel der funktionalen Sicherheit zu beurteilen, bei der die Ausfallwahrscheinlichkeit beim Betrieb vor Ort als dauerhaft eingeschätzt wird.

Die Betrachtung der zuvor beschriebenen Probleme zeigt auf, dass die Sicherheitsbeurteilung von KI-Systemen keine einfache Aufgabe ist. Folglich sollte die Verbesserung von Produktionssystemen, die mit kollaborativen Robotern und KI arbeiten, auf bestimmte Bereiche begrenzt sein.

Fazit

Obwohl Roboter und KI-Systeme von industriellen Fertigungsstätten viele Vorteile bieten, steht die Sicherheit von Mitarbeiter*innen an oberster Stelle. Daher ist eine detaillierte Risikobeurteilung aus der Perspektive der funktionalen Sicherheit erforderlich. Die Beurteilung der Sicherheitsleistung von KI-Systemen stellt jedoch eine Herausforderung dar, weswegen die Nutzung von Robotern mit integrierter KI in bestimmten Bereichen eingeschränkt werden muss. Daher sind innovative Lösungen erforderlich, mit Hilfe derer die Sicherheit von Robotern mit integrierten KI-Systemen erhöht werden kann.