EU-Verordnung zur KI umstritten


Definition von KI im Verordnungsentwurf der Europäischen Kommission viel zu breit gewählt?
Kritik: Mit der KI-Verordnung in dieser Form werde Künstliche Intelligenz in Europa unmöglich gemacht




Der Entwurf für eine EU-Verordnung zur Regulierung Künstlicher Intelligenz (KI) wird von Sachverständigen unterschiedlich bewertet. Das wurde während einer öffentlichen Anhörung des Ausschusses für Digitales deutlich. Während beispielsweise Professor Patrick Glauner von der Technischen Hochschule Deggendorf vor einer Überregulierung warnte, die vor allem kleine und mittelständische Unternehmen (KMU) träfe, lobte Joachim Bühler, Geschäftsführer beim TÜV-Verband, den "risikobasierten Ansatz" der Verordnung. Reguliert werde lediglich der Hochrisikobereich, der einen Anteil von 5 bis 15 Prozent habe, sagte er.

Die Definition von KI sei in dem Verordnungsentwurf der Europäischen Kommission viel zu breit gewählt, kritisierte Patrick Glauner. Er umfasse sogar einen Taschenrechner, der natürlich keine KI sei. Die bisherigen Einengungsversuche seien nicht erfolgreich gewesen, befand er. Eine schärfere Definition sei wichtig, weil es eben ausdrücklich nicht um eine Software-Regulierung gehen solle. Aktuell sehe der Entwurf im Grunde jede Google-Suche als Hochrisikoanwendung an, kritisierte Glauner. Die Anforderungen an die Hochrisikoanwendungen seien aber schlichtweg technisch unerfüllbar. Mit der KI-Verordnung in dieser Form werde Künstliche Intelligenz in Europa unmöglich gemacht, lautete sein Fazit.

Aus Sicht von Jonas Andrulis, Gründer und Geschäftsführer des KI-Unternehmens Aleph Alpha, ändert sich KI gerade fundamental. Sei sie früher von einer Vielzahl individueller Algorithmen geprägt gewesen, werde es in Zukunft weniger Anwender geben, die generalisierte Intelligenz anbieten "und Dinge möglich machen, die eine neue Ära der Mensch-Maschine-Zusammenarbeit definieren". Der Einfluss auf das Wirtschaftswachstum werde generell sehr hoch eingeschätzt - oberhalb von Dampfmaschine, Buchdruck oder Elektrizität. "Die Frage ist nicht, ob diese Entwicklung stattfindet, sondern nur, ob wir sie aktiv mitgestalten wollen", sagte Andrulis. "Wenn wir die KI nicht selbst bauen können, wird unsere Welt fremdbestimmt werden", so der Experte.

Michael Backes, Gründungsdirektor und Geschäftsführer des CISPA Helmholtz Center for Information Security, sagte, die KI-Verordnung könne ein wichtiger Schritt für Deutschland und Europa sein, um Rechtssicherheit zu schaffen und den KI-Einsatz zu regulieren. Allerdings sei der bisherige Entwurf "an manchen Stellen deutlich zu breit gefasst". Umfasst werde im Grunde jede Software. Diejenigen, die von Grund auf die transparenten und fairen Systeme erarbeiten, dürften nicht behindert werden, verlangte der Experte. Nur so sei sicherzustellen, dass europäische Forscher "nicht strukturell benachteiligt sind gegenüber China und den USA". Die KI-Verordnung müsse daher innovationsfördernd gestaltet werden.

Laut TÜV-Geschäftsführer Bühler ermöglicht der risikobasierte Ansatz der Verordnung Innovationen für Unternehmen und berücksichtigt zugleich das berechtigte Sicherheitsinteresse der Gesellschaft angesichts neuer Technologien. So werde die Innovationsfähigkeit Europas erhalten, ohne die Sicherheitsinteressen zu vernachlässigen, sagte er.

Der Sachverständige Jürgen Geuter sieht den Entwurf stark auf Zukunftsnarrative bezogen. "Wir versuchen jetzt Regelungen aufzuschreiben, für eine Fiktion, die in fünf bis zehn Jahren Realität sein soll", sagte er. Es bestehe die Frage, ob KI-Systeme tatsächlich reglementiert werden müssen. Zwar könnten diese tatsächlich diskriminieren, "wenn sie so eingesetzt werden". Das entstehe aber immer aus der Situation heraus, wenn KI-Systeme, oft als Teil größerer Infrastruktursysteme, implementiert würden.

Angela Müller von der AW AlgorithmWatch gGmbH wies darauf hin, dass sich der Verordnungsentwurf auf Anbieter konzentriere. Diskriminierende und ungerechte Auswirkungen seien aber nicht einzig auf technische Effekte zurückzuführen. "KI-basierte Systeme sind sozio-technische Systeme, die in einem bestimmten gesellschaftlichen Kontext eingesetzt werden, der die Auswirkung des Systems unweigerlich beeinflusst", sagte sie. Daher müsse der Fokus auch daraufgelegt werden, auf welche Weise KI-System eingesetzt werden. Es brauche also viel strengere Verpflichtungen für die Betreiber der Systeme.

Catelijne Muller von der Organisation ALLAI begrüßte die Verordnung, "auch wenn sie nicht perfekt ist". Ziel der Verordnung sei es, die Gesundheit, die Sicherheit und die Grundrechte vor negativen Einflüssen der KI zu schützen. Problematisch sei beispielsweise, wenn etwa in der Strafverfolgung durch KI schon die Übereinstimmung von Charaktereigenschaften mit anderen Verdächtigen ausreichend sein könne, um eine Strafverfolgung in Gang zu setzen. Auch könnten Menschen von der Teilnahme an erlaubten Demonstrationen abgehalten werden, weil sie davon ausgehen müssten, dass biometrische Gesichtserkennungssysteme ständig im Einsatz sind und zu Verdächtigungen führen. Deshalb müsse die KI-Verordnung aus Sicht der Grundrechte beleuchtet werden, verlangte Muller.

Durch den Entwurf könne mehr Rechtssicherheit für Unternehmen geschaffen werden, "was deutlich dazu beiträgt, die Akzeptanz für die Nutzung von KI in der Breite der deutschen Wirtschaft zu erhöhen", befand Oliver Suchy vom Deutschen Gewerkschaftsbund (DGB). Dies sei angesichts der noch immer rudimentären Nutzung von KI in der Arbeitswelt dringend geboten. Damit der EU-Vorschlag seine Wirkung zur Entfaltung bringen kann, seien jedoch noch deutliche Nachbesserungen erforderlich, sagte der DGB-Vertreter. Dies gelte insbesondere für die Reichweite des geplanten Hochrisiko-Bereichs sowie für die geplanten Regularien hinsichtlich der Überprüfung der Konformitätsbewertung sowie die Ausgestaltung im Verhältnis Anbieter-Nutzer-Dritte. (Deutscher Bundestag: ra)

eingetragen: 27.09.22
Newsletterlauf: 01.12.22


Kostenloser Compliance-Newsletter
Ihr Compliance-Magazin.de-Newsletter hier >>>>>>


Meldungen: Bundestag, Bundesregierung, Bundesrat

  • Sorgfaltspflichten für Online-Dienste

    Bei einer öffentlichen Anhörung des Digitalausschusses ist das von der Bundesregierung geplante Digitale-Dienste-Gesetz (20/10031) zur Umsetzung des Digital Services Act (DSA) auf nationaler Ebene von den geladenen Sachverständigen überwiegend begrüßt worden. Moderate Kritik wurde an einzelnen Punkten des Entwurfs zur Umsetzung laut.

  • Einsatz von KI birgt auch Risiken

    Die Deutsche Bundesregierung erkennt in der Nutzung Künstlicher Intelligenz (KI) ein "vielfältiges und beträchtliches" Potenzial für Beschäftigte und den Arbeitsmarkt. KI könne die Produktivität von Beschäftigten steigern und diese bei ihren Tätigkeiten entlasten.

  • EU-Plastikabgabe weiter in Abstimmung

    Die Deutsche Bundesregierung befindet sich momentan noch in der Abstimmung hinsichtlich der konkreten Ausgestaltung der nationalen Umlegung der EU-Plastikabgabe. Verschiedene Optionen würden geprüft.

  • Bedeutung gemeinwohlorientierter Unternehmen

    Die Parlamentarische Staatssekretärin des Bundesministeriums für Wirtschaft und Klimaschutz (BMWK), Franziska Brantner (Bündnis 90/Die Grünen), hat bei der Aussprache zur Unterrichtung des Bundestages zur Nationale Strategie für Soziale Innovationen und Gemeinwohlorientierte Unternehmen im Wirtschaftsausschuss die Bedeutung des Programms betont.

  • Mehr Recycling-Anreize

    In seiner derzeitigen Form hat Paragraf 21 des Verpackungsgesetzes aus Sicht der Bundesregierung für die Hersteller systembeteiligungspflichtiger Verpackungen bereits ein wichtiges Signal in Richtung des ökologischen Verpackungsdesigns gesetzt.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen