Auf einen Blick
Die KI-Verordnung (KI-VO) regelt die sichere und verantwortungsvolle Entwicklung und Nutzung von Künstlicher Intelligenz (KI) in der Europäischen Union. Seit Februar 2025 sind nach Art. 5 KI-VO KI-Systeme verboten, die ein unannehmbares Risiko für die Gesundheit, Sicherheit und die Grundrechte darstellen. Zwar konkretisiert der Art. 5 KI-VO weiter, allerdings bleibt es eine eher abstrakte Regelung die einer weiteren Konkretisierung durch Leitlinien bedarf. Erst sie ermöglichen dem Anwender eine sichere Abgrenzung zwischen verbotenen Systemen mit inakzeptablem Risiko auf der einen Seite und erlaubten Systemen mit hohem Risiko auf der anderen Seite, zumal sich das inakzeptable Risiko eines Systems auch erst aus der konkreten Verwendung von KI durch den Betreiber ergeben kann.
Relevanz für KMU
Die Regelung zu verbotenen Systemen/Praktiken kann durchaus für KMU relevant werden. Einen Anwendungsfall bildet der Einsatz von KI zu Marketingzwecken. Konkret: Wenn Chatbots, die im Rahmen von Online-Shops oder in der Werbung zum Einsatz kommen, die Kunden bereits unterschwellig beeinflussen oder absichtlich manipulative oder täuschende Techniken einsetzen, um den Kunden zu einer Kaufentscheidung zu veranlassen, die er ansonsten nicht getroffen hätte, sind diese Verwendungen problematisch. Entsteht darüber hinaus ein erheblicher (finanzieller) Schaden beim Kunden, handelt es sich jedenfalls um eine verbotene Praktik im Sinne des Art. 5 Abs. 1 a) KI-VO.
Herausforderung und Potenziale
Um eine verbotene Nutzung von KI in vorgenannter Art zu verhindern, muss jeder Akteur die Maßnahmen umsetzen, die er aufgrund seiner Rolle und entsprechend seinen Kontrollmöglichkeiten über das System am besten ergreifen kann. Anbieter sind z. B. dafür verantwortlich, dass sie keine KI-Systeme in Verkehr bringen, bei denen die Wahrscheinlichkeit besteht, dass sie sich in einer verbotenen Weise verhalten oder direkt in verbotener Weise verwendet werden. Im oben genannten Chatbot-Fall wird zudem vom Betreiber erwartet, dass er sein KI-System nicht in manipulativer und schädigender Weise einsetzt.
Dieses und weitere Beispiele finden sich in den o.g. Leitlinien, die den Anwendern helfen, die Anforderungen der KI-VO besser zu verstehen und rechtskonform umsetzen zu können.
