Auf einen Blick: Warum vertrauenswürdige KI-Anwendungen wichtig sind
Durch den Einsatz von künstlicher Intelligenz (KI) verspricht man sich in der Regel eine weitere Steigerung der Produktivität sowie der Qualität der Erzeugnisse bei einer gleichzeitigen Reduzierung des Ressourcenverbrauchs. Die Anwendung moderner KI-Ansätze ermöglicht die Entwicklung intelligenter Optimierungsstrategien auf Basis komplexer und dabei auch hochpräziser Modelle für den Einsatz in unterschiedlichsten Anwendungsbereichen. Die meisten dieser Modelle werden jedoch als Black-Box bezeichnet. Denn die von diesen Modellen gelernten Zusammenhänge sind so komplex und abstrakt, dass die auf deren Basis erfolgten Prognosen und Entscheidungen nicht mehr von Menschen – auch nicht von Expert:innen – nachvollzogen werden können.
In vielen Anwendungen ist aber das Vertrauen in die Algorithmen von enormer Bedeutung. Sonst bleiben viele potentielle Anwender:innen der KI gegenüber skeptisch.
Potenziale von vertrauenswürdigen KI-Anwendungen für KMU
Der produzierende Mittelstand ist der wichtigste Innovations- und Technologiemotor Deutschlands [1]. Damit die KMU angesichts der aktuellen und künftigen Herausforderungen stark und innovativ bleiben, darf der Anschluss an den aktuellen Stand der Technik – und vor allem an einen breiten Einsatz von KI – nicht verpasst werden. Zu den zentralen Erfolgsfaktoren gehört dabei die Erklärbarkeit von Entscheidungen, die KI-Anwendungen treffen: Ihre Erklärbarkeit stärkt die Akzeptanz der Technologie bei den Endanwendern. Sie ist vor allem aber auch bei Zulassungs- und Zertifizierungsverfahren sowie zur Erfüllung von Transparenzpflichten eine zentrale Voraussetzung [2]. Inzwischen gibt es sowohl eine gut ausgearbeitete Theorie als auch eine Fülle an Standardlösungen im Bereich Explainable Artificial Intelligence (XAI).
Der Einsatz erklärbarer KI-Anwendungen verspricht zukünftig eine hohe Kundenloyalität, was sich gleichzeitig positiv auf die Akzeptanz der Produkte oder Dienstleistungen auswirkt.
Anwendungsbereiche für erklärbare KI in der Produktion
Sowohl in der „diskreten“ Fertigungsindustrie als auch in der “kontinuierlichen” Verfahrensindustrie ist das Schaffen von Akzeptanz und Vertrauen mittels Erklärbarkeit von großer Bedeutung [3]. Durch XAI wird auch die allgemeine Verlässlichkeit der KI-Anwendungen erhöht. Einige erfolgversprechende Anwendungsbereiche für erklärbare KI in der Produktion sind:
- Maschinenzustandsüberwachung in der Fertigungsindustrie
- Prozessoptimierung in der Verfahrensindustrie
- Optische Qualitätsüberwachung
- Virtuelle Metrologie bzw. Virtuelle Sensorik
Handelt es sich dabei um eine besonders sicherheitskritische Anwendung, können Erklärungen von KI-Modellen alleine nur einen begrenzten Beitrag leisten. In diesem Fall sollten zusätzlich noch weitere Techniken eingesetzt werden, um die KI-Modelle abzusichern. Eine Möglichkeit hierfür bietet die automatisierte Qualitätskontrolle der Eingangsdaten. Damit kann z. B. die Robustheit eines KI-Modells gegenüber möglichen Schwankungen in den Eingangsdaten sichergestellt werden.
Herausforderungen
Aktuell bestehen noch viele Herausforderungen, die überwunden werden müssen. Dazu zählen:
- Aufwand: viele XAI-Ansätze sind selbst recht komplex und erfordern ein tiefes KI-Verständnis. Der Implementierungsaufwand einer erklärbaren KI-Anwendung kann unter Umständen sehr hoch sein. Daher ist z. B. die Neu- und Weiterentwicklung „hybrider“ Ansätze denkbar, die daten- und wissensbasierte Ansätze kombinieren.
- Quantifizierung: die Bewertung von Erklärungen sollte unter Berücksichtigung von verhaltens- bzw. kognitionswissenschaftlichen Aspekten erfolgen. Man benötigt also klare bzw. kontext-angepasste Metriken für die Beurteilung der Erklärbarkeit.
- Notwendigkeit: nicht jede KI-Anwendung muss unbedingt erklärbar sein. Daher ist die Festlegung von Anwendungs- und Risikoklassen, aus denen das grundsätzliche Erfordernis einer Erklärung ableitbar ist, erforderlich.
- Wissenstransfer: Bereitstellung und Umsetzung umfassender Informations-, Aus- und Weiterbildungsmaßnahmen für KI-Anwendende ist unabdingbar. Das Mittelstand-Digital Zentrum Chemnitz bietet dafür die speziell auf KMU zugeschnittenen Veranstaltungen an.
Weiterführende Informationen
- BMBF: Förderung kleiner und mittelständischer Firmen
- “Erklärbare KI: Anforderungen, Anwendungsfälle und Lösungen”. Studie im Auftrag des Bundesministeriums für Wirtschaft und Energie (BMWi) im Rahmen der Begleitforschung zum Technologieprogramm „Künstliche Intelligenz als Treiber für volkswirtschaftlich relevante Ökosysteme“ (KI-Innovationswettbewerb).
- “Erklärbare KI in der Praxis: Anwendungsorientierte Evaluation von xAI-Verfahren”. Nina Schaaf, Saskia Johanna Wiedenroth, Philipp Wagner. Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA.
