Wissensbox Recht

Neues vom AI-ActNeues vom AI-Act

Der AI-Act legt einheitliche Regeln für die Nutzung von künstlicher Intelligenz (KI) fest. Zwei Jahre nach dem ersten Entwurf kommen immer mehr Anwendungen auf den Markt, die sogenannte Multi-Purpose KI verwenden. Wie reguliert die Verordnung nun deren vielseitige Einsatzwecke?

Der AI-Act legt einheitliche Regeln für die Nutzung von künstlicher Intelligenz (KI) fest und soll potenzielle Risiken im Zusammenhang mit KI minimieren. Zwei Jahre nach dem ersten Entwurf kommen immer mehr Anwendungen auf den Markt, die sogenannte Multi-Purpose KI verwenden. Wie reguliert die Verordnung nun deren vielseitige Einsatzwecke?

Was bisher geschah

Die EU-Kommission veröffentlichte am 21.04.2021 ihren Entwurf zur „Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union“ – den so genannten AI-Act.[1]

Der AI-Act legt einheitliche Regeln für die Nutzung von künstlicher Intelligenz (KI) fest und soll potenzielle Risiken im Zusammenhang mit KI minimieren. Die Verordnung definiert KI-Systeme als Software, die mithilfe von KI-Techniken Ergebnisse erzeugt, die das Umfeld beeinflussen. Sie unterscheidet dabei verschiedene Risikoklassen für KI-Systeme und legt entsprechende Anforderungen fest.

Hochrisiko-KI-Systeme, die eine Bedrohung für Menschen darstellen, werden streng reguliert, während KI-Systeme mit geringerem Risiko weniger strikten Vorschriften unterliegen. KI-Systeme ohne besonderes Risiko werden nicht von der Verordnung erfasst, unterliegen jedoch anderen rechtlichen Bestimmungen. Der AI-Act gilt für Nutzer und Anbieter von KI-Systemen. Die Mitgliedsstaaten sind für die Durchsetzung und Überwachung zuständig und können bei Verstößen Bußgelder verhängen. Das Ziel des AI-Acts ist es, vertrauenswürdige KI-Nutzung zu fördern und einheitliche Standards zu etablieren. Unternehmen sollten die Anforderungen des AI-Act beachten und sicherstellen, dass ihre KI-Systeme den Vorgaben entsprechen.[2]

Änderungen im AI-Act

Seit dem ersten Entwurf im April 2021 sind inzwischen zwei Jahre vergangen. In dieser Zeit hat sich auch das Feld der KI rasant entwickelt. So sind inzwischen generative Transformer-Modelle die neuen, hellen Sterne am KI-Himmel und strahlen als so genannte generelle oder Allzweck-KI (englisch als Multi-Purpose AI bezeichnet) in sämtliche Lebensbereiche. Nunmehr sollen solche KI-Systeme als „KI-System mit allgemeinem Verwendungszweck“ gesondert vom AI-Act geregelt werden.

Derart flexible KI-Systeme werden entwickelt, um verschiedene Aufgaben wie Bild- oder Spracherkennung, Audio- und Videogenerierung sowie Mustererkennung zu erfüllen. Sie können in verschiedenen Bereichen eingesetzt werden und lassen sich in andere KI-Systeme integrieren, um leistungsfähigere Lösungen zu schaffen. Als solche bieten sie vielseitige Anwendungsmöglichkeiten in Branchen wie Medizin, Automobilindustrie und Unterhaltung. Durch ihre allgemeine Verwendbarkeit ermöglichen sie innovative Anwendungen und eröffnen neue Erfahrungen für die Nutzer.

Art. 4a des AI-Act Entwurfes sieht vor, dass auf KI-Systeme mit allgemeinem Verwendungszweck lediglich die Anforderungen des Art. 4b des AI-Act Entwurfes Anwendung finden. Dabei lassen sich die Anforderungen an KI-Systeme für allgemeine Zwecke sowie die Verpflichtungen für die Anbieter solcher Systeme wie folgt zusammenfassen:

  1. Einhaltung der Anforderungen

    2. KI-Systeme für allgemeine Zwecke, die als KI-Systeme mit hohem Risiko oder als Komponenten von KI-Systemen mit hohem Risiko verwendet werden können, müssen die in Titel III, Kapitel 2 normierten Anforderungen an Hochrisiko KI-Systeme erfüllen. So soll es speziell für KI-Systeme mit allgemeinen Zwecken sogenannte Durchführungsrechtsakte geben. Die Durchführungsrechtsakte werden die Anforderungen an die Hochrisiko-KI-Systeme weiter spezifizieren und anpassen. Bei der Erfüllung der Anforderungen soll zudem der allgemein anerkannte Stand der Technik berücksichtigt werden.

    • Pflichten der Anbieter

      • Die Anbieter von KI-Systemen für allgemeine Zwecke müssen die in Artikel 16 Absätze aa, e, f, g, i, j, und die in den Artikeln 25, 48 und 61 festgelegten Verpflichtungen erfüllen. Diese Verpflichtungen beziehen sich auf verschiedene Aspekte wie Transparenz, Datenqualität, menschliche Aufsicht und Zusammenarbeit mit den Behörden. Letztlich gelten damit für KI-Systeme für allgemeine Zwecke, die als Hochrisiko-KI-Systeme eingesetzt werden, annähernd die gleichen Anforderungen, die für andere Hochrisiko-KI-Systeme auch gelten. Hinzu kommen jedoch noch die erst zu erlassenden weiteren Bestimmungen.

      • Konformitätsbewertungsverfahren

        • Anbieter von KI-Systemen müssen das Konformitätsbewertungsverfahren auf der Grundlage interner Kontrollen gemäß Anhang VI Nummern 3 und 4 einhalten, um sicherzustellen, dass ihre KI-Systeme für allgemeine Zwecke den erforderlichen Standards entsprechen.

        • Technische Dokumentation

          • Für KI-Systeme mit hohem Risiko ist es wichtig, vor der Markteinführung oder Inbetriebnahme eine technische Dokumentation zu erstellen und aktuell zu halten. Diese Dokumentation dient dazu, die Übereinstimmung mit den Anforderungen gemäß den entsprechenden Vorschriften nachzuweisen. Sie sollte klare und umfassende Informationen enthalten, die den zuständigen nationalen Behörden und Prüfstellen bei der Bewertung der Einhaltung der Vorschriften helfen. Die Anbieter von KI-Systemen für allgemeine Zwecke müssen die Dokumentation für die zuständigen nationalen Behörden während eines Zeitraums von zehn Jahren nach dem Inverkehrbringen des Systems auf dem Unionsmarkt oder seiner Inbetriebnahme in der Union bereithalten.

          Die Dokumentation muss bestimmte Elemente – unter anderem Beschreibungen des KI- und des Risikomanagementsystems – enthalten, die im Anhang IV aufgeführt sind. Für kleine und mittlere Unternehmen (KMU) und Start-ups sind gleichwertige Unterlagen akzeptabel, solange sie die gleichen Ziele erfüllen. In Fällen, in denen das KI-System mit hohem Risiko mit einem Produkt verbunden ist, das unter andere Rechtsakte fällt, sollte eine einzige Dokumentation erstellt werden. Diese Dokumentation muss alle erforderlichen Informationen aus Anhang IV sowie aus den entsprechenden Rechtsakten enthalten.

          Die Europäische Kommission hat die Befugnis, den Anhang IV durch delegierte Rechtsakte zu ändern, um sicherzustellen, dass die technische Dokumentation umfassend und auf dem neuesten Stand des technischen Fortschritts bleibt.

          • Zusammenarbeit mit anderen Anbietern

            • Anbieter von KI-Systemen für allgemeine Zwecke sollten mit anderen Anbietern, die beabsichtigen, KI-Systeme oder -Komponenten mit hohem Risiko auf dem Unionsmarkt in Verkehr zu bringen, zusammenarbeiten und ihnen die erforderlichen Informationen zur Verfügung stellen. Diese Zusammenarbeit soll letzteren dabei helfen, ihren Verpflichtungen aus der Verordnung nachzukommen und gleichzeitig die Rechte des geistigen Eigentums und vertrauliche Geschäftsinformationen zu schützen. Die Kommission kann Durchführungsrechtsakte erlassen, um einheitliche Bedingungen für den Informationsaustausch zwischen Anbietern von KI-Systemen für allgemeine Zwecke sicherzustellen.

          Fazit

          KI-Systeme mit allgemeinem Verwendungszweck spalten die Gemüter. Während eine Seite eine strengere Regulierung ersehnt[3], fürchtet die andere eine Überregulierung[4]. Dieses Jahr noch soll der AI-Act in Kraft treten. Bis dahin muss eine vermittelnde Lösung gefunden werden, wie derartige KI-Systeme zu handhaben sind. Der aktuelle Stand[5] ist weit davon entfernt, hier als Quelle zusätzlicher Regelungen zu dienen. Und so bleiben die Entwicklungen um den AI-Act spannend und das Ergebnis des Trilogs zwischen Rat, Parlament und Kommission wird von allen Seiten mit großem Interesse erwartet.

          Quellen

          • „Europe fit for the Digital Age: Artificial Intelligence“, European Commission – European Commission. https://ec.europa.eu/commission/presscorner/detail/en/IP_21_1682 (zugegriffen 6. Juni 2023)
          • S. Kunitz, „Hilfe, der AI-Act kommt!“, Mittelstand-Digital Zentrum Chemnitz. https://digitalzentrum-chemnitz.de/wissen/ai-act/ (zugegriffen 6. Juni 2023)
          • M. Reuter, „AI Act der Europäischen Union: Ampel verpasst Grundrechteschutz bei der Regulierung künstlicher Intelligenz“, netzpolitik.org, 7. Dezember 2022. https://netzpolitik.org/2022/ai-act-der-europaeischen-union-ampel-verpasst-grundrechteschutz-bei-der-regulierung-kuenstlicher-intelligenz/ (zugegriffen 19. Juni 2023)
          • S. Hahn, „Spitzenforscher zum AI Act: ‚Überregulierung birgt Sicherheitsrisiko für die EU‘“, heise online, 30. April 2023. https://www.heise.de/news/Spitzenforscher-zum-AI-Act-Ueberregulierung-birgt-Sicherheitsrisiko-fuer-die-EU-8983605.html (zugegriffen 19. Juni 2023)
          • General Secretariat of the Council, „OUTCOME OF PROCEEDINGS – Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts 15698/22“. 6. Dezember 2022

          Verwandte Beiträge