KI-Verordnung & Vorschriften für KI-Modelle

Europäische Verordnung über künstliche Intelligenz trat in Kraft
KI-Systeme wie Chatbots müssen ihre Nutzer deutlich darauf hinweisen, dass sie es mit einer Maschine zu tun haben

Die europäische Verordnung über künstliche Intelligenz (KI-Verordnung) ist am 1. August 2024 in Kraft getreten. Sie ist die weltweit erste umfassende Rechtsvorschrift im Bereich der künstlichen Intelligenz. Mit der KI-Verordnung soll sichergestellt werden, dass in der EU entwickelte und verwendete KI vertrauenswürdig ist und Vorkehrungen zum Schutz der Grundrechte der Menschen bietet. Die Verordnung dient dem Aufbau eines harmonisierten Binnenmarkts für KI in der EU. Sie soll die Einführung von KI-Technik fördern und ein günstiges Umfeld für Innovation und Investitionen schaffen.

Mit der KI-Verordnung wird eine zukunftsgewandte Begriffsbestimmung für KI eingeführt, die auf dem Konzept der Produktsicherheit und einem risikobasierten Ansatz in der EU beruht:

>> Minimales Risiko: Die meisten KI-Systeme, wie z. B. KI-gestützte Empfehlungssysteme und Spamfilter, fallen in diese Kategorie. Solche Systeme unterliegen wegen ihres geringen Risikos für die Rechte und die Sicherheit der Bürgerinnen und Bürger im Rahmen der KI-Verordnung keinen besonderen Verpflichtungen. Unternehmen können aber freiwillig zusätzliche Verhaltenskodizes aufstellen.

>> Besondere Transparenzverpflichtungen: KI-Systeme wie Chatbots müssen ihre Nutzer deutlich darauf hinweisen, dass sie es mit einer Maschine zu tun haben. Bestimmte durch KI erzeugte Inhalte wie Deepfakes müssen als solche gekennzeichnet werden, und die Nutzer müssen informiert werden, wenn Systeme zur biometrischen Kategorisierung oder Emotionserkennung verwendet werden. Darüber hinaus müssen die Anbieter ihre Systeme so gestalten, dass synthetische Inhalte (wie Audio-, Video-, Text- und Bildinhalte) in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert gekennzeichnet werden und als solche erkannt werden können.

>> Hohes Risiko: Für KI-Systeme, die als hochriskant eingestuft werden, gelten strenge Anforderungen z. B. im Hinblick auf Risikominderungssysteme, hochwertige Datensätze, die Protokollierung der Vorgänge, die genaue Dokumentation, klare Informationen für die Nutzer, die menschliche Aufsicht sowie ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit. Reallabore werden verantwortungsvolle Innovationen und die Entwicklung konformer KI-Systeme erleichtern. Zu solchen Hochrisiko-KI-Systemen gehören beispielsweise KI-Systeme, die bei der Personaleinstellung verwendet, mit denen bewertet wird, ob jemand kreditwürdig ist, oder mit denen autonome Roboter betrieben werden.

>> Unannehmbares Risiko: KI-Systeme, die als klare Bedrohung für die Grundrechte der Menschen gelten, werden ganz verboten. Dazu gehören KI-Systeme oder -Anwendungen, die menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen (z. B. Spielzeug mit Sprachassistent, das Minderjährige zu gefährlichem Verhalten ermuntert, oder Systeme, die den Behörden oder Unternehmen eine Bewertung des sozialen Verhaltens (Social Scoring) ermöglichen), sowie bestimmte Anwendungen der vorausschauenden polizeilichen Überwachung. Darüber hinaus werden einige Verwendungsarten biometrischer Systeme verboten, z. B. Emotionserkennungssysteme am Arbeitsplatz und einige Systeme zur Kategorisierung von Menschen oder zur biometrischen Fernidentifizierung in Echtzeit zu Strafverfolgungszwecken im öffentlich zugänglichen Raum (mit eng abgesteckten Ausnahmen).

Zur Ergänzung dieses Systems werden mit der KI-Verordnung auch Vorschriften für sogenannte KI-Modelle mit allgemeinem Verwendungszweck eingeführt. Dabei handelt es sich um hochleistungsfähige KI-Modelle, die so konzipiert sind, dass sie eine Vielzahl von Aufgaben erfüllen können, darunter z. B. die menschenähnliche Generierung von Texten. KI-Modelle mit allgemeinem Verwendungszweck werden zunehmend als Bestandteile von KI-Anwendungen eingesetzt. Die KI-Verordnung wird zudem für Transparenz entlang der Wertschöpfungskette sorgen und mögliche systemische Risiken im Zusammenhang mit den leistungsfähigsten Modellen mindern helfen.

Anwendung und Durchsetzung der KI-Vorschriften
Die Mitgliedstaaten haben bis zum 2. August 2025 Zeit, um ihre zuständigen nationalen Behörden zu benennen, die die Anwendung der Vorschriften für KI-Systeme beaufsichtigen und die Marktüberwachung wahrnehmen werden. Das bei der Kommission angesiedelte KI-Amt wird die wichtigste Stelle für die Durchführung der KI-Verordnung auf EU-Ebene sein und auch für die Durchsetzung der für KI-Modelle mit allgemeinem Verwendungszweck geltenden Vorschriften sorgen.

Drei Beratungsgremien werden die Anwendung der Vorschriften unterstützen: Das Europäische Gremium für künstliche Intelligenz wird für eine einheitliche Anwendung der KI-Verordnung in allen EU-Mitgliedstaaten sorgen und als wichtigstes Forum für die Zusammenarbeit zwischen der Kommission und den Mitgliedstaaten dienen. Ein wissenschaftliches Gremium unabhängiger Sachverständiger wird technische Beratung leisten und zur Durchsetzung der Vorschriften beitragen. Dieses Gremium kann insbesondere das KI-Amt vor Risiken im Zusammenhang mit KI-Modellen mit allgemeinem Verwendungszweck warnen. Darüber hinaus kann das KI-Amt von einem Beratungsforum, das sich aus einer Vielzahl von Interessenträgern zusammensetzt, Orientierungen erhalten.

Unternehmen, die die Vorschriften nicht einhalten, werden mit Geldstrafen belegt. Die Geldstrafen können bis zu 7 Prozent des weltweiten Jahresumsatzes bei Verstößen im Zusammenhang mit verbotenen KI-Anwendungen, bis zu 3 Prozent bei Verstößen gegen andere Verpflichtungen und bis zu 1,5 Prozent wegen Übermittlung unrichtiger Informationen betragen.

Nächste Schritte
Die meisten Vorschriften der neuen KI-Verordnung werden ab dem 2. August 2026 gelten. Verbote von KI-Systemen, bei denen davon ausgegangen wird, dass sie ein unannehmbares Risiko darstellen, gelten jedoch bereits nach sechs Monaten, wogegen die Vorschriften für sogenannte KI-Modelle mit allgemeinem Verwendungszweck nach 12 Monaten gelten werden.

Um den Übergangszeitraum bis zur vollständigen Anwendung zu überbrücken, hat die Kommission den KI-Pakt auf den Weg gebracht. Mit dieser Initiative werden KI-Entwickler aufgefordert, die wichtigsten Verpflichtungen der KI-Verordnung schon vor Ablauf der gesetzlichen Fristen freiwillig einzuhalten.

Außerdem arbeitet die Kommission derzeit Leitlinien aus, um festzulegen und zu präzisieren, wie die KI-Verordnung anzuwenden ist, und um die Schaffung von Koregulierungsinstrumenten wie Normen und Verhaltenskodizes zu erleichtern. Die Kommission veröffentlichte eine Aufforderung zur Interessenbekundung für die Mitarbeit an einem ersten Verhaltenskodex für KI mit allgemeinem Verwendungszweck sowie eine Konsultation vieler verschiedener Interessenträger, die allen Interessenten die Möglichkeit bieten soll, sich zu dem ersten Verhaltenskodex im Rahmen der KI-Verordnung zu äußern.

Hintergrund
Am 9. Dezember 2023 begrüßte die Kommission die politische Einigung über die künftige KI-Verordnung. Am 24. Januar 2024 brachte die Kommission ein Maßnahmenpaket auf den Weg, mit dem europäische Start-up-Unternehmen und KMU bei der Entwicklung einer vertrauenswürdigen künstlichen Intelligenz unterstützt werden sollen. Am 29. Mai 2024 stellte die Kommission das Amt für Künstliche Intelligenz vor. Am 9. Juli 2024 trat die geänderte Verordnung über das Gemeinsame Unternehmen EuroHPC in Kraft, wodurch die Einrichtung von KI-Fabriken ermöglicht wurde. Dadurch können spezielle KI-Supercomputer für das Training von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) verwendet werden.

Die fortlaufenden unabhängigen und evidenzbasierten Forschungsarbeiten der Gemeinsamen Forschungsstelle (JRC) sind von grundlegender Bedeutung für die Gestaltung der KI-Politik der EU und für ihre wirksame Umsetzung. (EU-Kommission: ra)

eingetragen: 09.08.24
Newsletterlauf: 08.10.24

Meldungen: Europäische Kommission