Sie sind hier: Home » Recht » Deutschland » Bundestag, Bundesregierung und Bundesrat

Risikoeinstufung für KI-Systeme

Wie kann ein verlässlicher Rechtsrahmen für KI aussehen
Stand der KI-Verordnung beschäftigt Ausschuss

Über den aktuellen Stand der europäischen KI-Verordnung (AI Act) hat der Digitalausschuss mit Vertretern des Bundesministeriums für Wirtschaft und Klimaschutz (BMWK) und des Bundesjustizministerium (BMJ) diskutiert. Mit der Frage, wie ein verlässlicher Rechtsrahmen für KI aussehen kann, beschäftigt sich die EU-Kommission bereits seit 2018. Im April 2021 wurde ein Vorschlag für einen ersten Rechtsrahmen vorgelegt, der unter anderem auch eine Risikoeinstufung für KI-Systeme mit Blick auf Grundrechte, Sicherheit und Privatsphäre vorsieht. Zum im Juli unter der tschechischen EU-Ratspräsidentschaft erarbeiteten Kompromissvorschlag habe sich die Bundesregierung am 14. September 2022 in einer Stellungnahme geäußert, sagte die BMWK-Vertreterin. Man sei zuversichtlich, damit eine gute Position für die weiteren Verhandlungen zu haben.

In einigen Bereichen seien bereits positive Entwicklungen zu bemerken, etwa was unerfüllbar wirkende Anforderungen wie fehlerfreie Datensätze angehe. Begrüßt würde im Kompromissvorschlag die engere Definition von Künstlicher Intelligenz. Diskussionsbedarf gebe es etwa noch bei Fragen danach, was als Hochrisiko-System eingestuft werde. Aus Sicht der Bundesregierung sei der Vorschlag da noch zu eng. Noch mehr Flexibilität für innovative Entwicklungen sei auch bei den Regelungen zur Verwendung von Daten im Bereich der Reallabore nötig, von denen KMU und Start-Ups profitieren sollen, sagte die BMWK-Vertreterin. Diesbezüglich sehe man die Bundesrepublik als Vorreiter im europäischen Rahmen und wolle 2023 einen Gesetzgebungsprozess auf den Weg bringen.

Ein Vertreter des BMJ ergänzte, zum jetzigen Zeitpunkt müsse noch abgewartet werden, ob es Sollbruchstellen gebe. Bei der biometrischen Echtzeit-Fernidentifikation sei ein Passus eingebracht worden sei, der dies europaweit nicht mehr zulassen soll. Stärker betont werden müssen aus BMJ-Sicht die Rechte von Betroffenen: Man habe daher in der Stellungnahme dafür geworben, die Betroffenenrechte nach Auskunft und Information im Vorschlag noch besser zu berücksichtigen.

Vertreter der FDP-Fraktion und der SPD-Fraktion interessierten sich für Details zum Diskussionsstand zur biometrischen Fernidentifizierung. Der SPD-Vertreter fragt auch nach den Planungen für die Governance der Umsetzung der Verordnung. Ein Abgeordneter der Unionsfraktion wollte Details dazu erfahren, warum die Frist zur Stellungnahme durch die Bundesregierung nicht eingehalten wurde. Ein Grünen-Abgeordneter fragte nach Einzelheiten zum Kapitel über Sicherheitsbehörden. Ein AfD-Abgeordneter wollte wissen was getan werde, um KI-Innovationen nach Europa zu holen. Eine Linken-Vertreterin fragte danach, wer letztverantwortlich für die Erfüllung der Anforderungen aus der Verordnung sei.

Mehr zum Thema in der Sitzung des Digitalausschusses zum AI Act im März 2022: https://www.bundestag.de/dokumente/textarchiv/2022/kw11-pa-digitales-kuenstliche-intelligenz-883942
(Deutsche Bundesregierung: ra)

eingetragen: 26.09.22
Newsletterlauf: 25.11.22

Meldungen: Bundestag, Bundesregierung, Bundesrat

Gleichstellung als verbindliches Förderkriterium
Die Fraktion Bündnis 90/Die Grünen fordert in einem Antrag (21/790) die Bundesregierung auf, Maßnahmen zu ergreifen, um die Gleichstellung von Frauen und Mädchen im organisierten Sport in Deutschland deutlich zu verbessern.
Ausbau der digitalen Infrastruktur
Die von der schwarz-roten Koalition geplante Novelle des Telekommunikationsgesetzes ist bei einer Mehrheit der Sachverständigen auf Zustimmung zu den Zielen und Kritik an Details gestoßen. In einer öffentlichen Anhörung des Digitalausschusses zum TKG-Änderungsgesetz 2025 bezeichnete eine Reihe von Sachverständigen den Entwurf als ein wichtiges Signal für die Branche.
Auskunft zum Cum/Ex und Cum/Cum
Zum Stichtag 31. Dezember 2023 befanden sich 380 Verdachtsfälle zur Steuergestaltung bei Cum-Ex-Geschäften bei den Obersten Finanzbehörden der Länder und beim Bundeszentralamt für Steuern mit einem Volumen nicht anrechenbarer/erstatteter Kapitalertragssteuer inklusive Solidaritätszuschlag von rund 3,8 Milliarden Euro in Bearbeitung. Diese Angaben macht die Bundesregierung in ihrer Antwort (21/548) auf eine Kleine Anfrage der Fraktion die Linke (21/310).
Kosten der Vermeidung von CO2-Emissionen
Keine konkreten Angaben zu den Kosten, die ihre Pläne zur Vermeidung von CO2-Emissionen verursachen, macht die Bundesregierung in ihrer Antwort (21/715) auf eine Kleine Anfrage (21/296) der AfD-Fraktion. Zur Begründung verweist sie darauf, dass Deutschland zur Erreichung der Klimaschutzziele auf ein "breites Spektrum aufeinander abgestimmter Klimaschutzmaßnahmen" setze. Diese dienten neben der Minderung von Treibhausgasen auch der Stärkung der Wettbewerbsfähigkeit, dem sozialen Ausgleich sowie der langfristigen Transformation hin zur Klimaneutralität. Die Ausgestaltung der Klimaschutzmaßnahmen gehe dabei über eine "kurzfristige, rein statische Betrachtung der CO2-Vermeidungskosten" hinaus.
Steuerung des Windenergieausbaus
An der von den Koalitionsfraktionen geplanten Umsetzung der Erneuerbare-Energien-Richtlinie der EU (RED III) besteht Nachbesserungsbedarf. Das wurde während einer öffentlichen Anhörung des Umweltausschusses zu dem Gesetzentwurf "zur Umsetzung von Vorgaben der Richtlinie (EU) 2023/2413 für Zulassungsverfahren nach dem Bundes-Immissionsschutzgesetz und dem Wasserhaushaltsgesetz, zur Änderung des Bundeswasserstraßengesetzes, zur Änderung des Windenergieflächenbedarfsgesetzes und zur Änderung des Baugesetzbuchs" (21/568) deutlich.

Zahlreiche Vorgaben und sehr umfangreich Aktuelle Lage der Organisierten Kriminalität

Fachartikel

Auch mittelbare Benachteiligungen sind verboten
Schon seit 2006 gilt das Allgemeine Gleichbehandlungsgesetz (AGG), was insbesondere Arbeitgeber sehr vorsichtig gemacht hat. Etwa indem Stellenanzeigen alle inzwischen mindestens drei Geschlechter ausdrücklich mit "m/w/d" bezeichnen und auch keine Altersvorgaben mehr vorsehen, sowie geschlechtersensible - korrekt gegenderte - Sprache verwenden. Doch haben viele Berufsverbände noch gar nicht erkannt, dass sie gegenüber Mitgliedern und Bewerbern um Mitgliedschaft noch weitere Pflichten aus dem AGG haben, und diese korrespondierend Rechte, analog wie bei Arbeitnehmern.
Digitale Transformation im Finanzsektor
Die digitale Transformation im Finanzsektor schreitet unaufhaltsam voran - und mit ihr wachsen die Anforderungen an die IT-Sicherheit. Mit dem Digital Operational Resilience Act (DORA) hat die EU nun einen wegweisenden Regulierungsrahmen geschaffen, der die digitale Widerstandsfähigkeit von Finanzinstituten stärken soll. Die neue Verordnung betrifft nicht nur Banken und Versicherungen, sondern den gesamten Finanzsektor inklusive dessen kritischer IT-Dienstleister.

Bundestag

Rassismus & Diskriminierungsvorwürfe
Als Unterrichtung (21/750) durch den Polizeibeauftragten des Bundes beim Deutschen Bundestag liegt dessen Tätigkeitsbericht über den Zeitraum vom 1. Juli 2024 bis zum 30. Juni 2025 vor. Danach haben sich im Berichtszeitraum 279 Bürger mit Eingaben, Hinweisen und Anregungen an den Polizeibeauftragten gewandt.
Patientenzentrierte Gesundheitsversorgung
Der Petitionsausschuss hält mehrheitlich an der Widerspruchslösung (Opt-out-Lösung) bei der elektronischen Patientenakte (ePA) fest. In einer Sitzung verabschiedete der Ausschuss mit den Stimmen der Koalitionsfraktionen CDU/CSU und SPD die Beschlussempfehlung an den Bundestag, das Petitionsverfahren zu der Forderung, die elektronische Patientenakte nur mit ausdrücklichem Einverständnis der Betroffenen anzulegen (Opt-in-Lösung), abzuschließen, weil keine Anhaltspunkte für parlamentarische Aktivitäten zu erkennen seien.
Gleichstellung als verbindliches Förderkriterium
Die Fraktion Bündnis 90/Die Grünen fordert in einem Antrag (21/790) die Bundesregierung auf, Maßnahmen zu ergreifen, um die Gleichstellung von Frauen und Mädchen im organisierten Sport in Deutschland deutlich zu verbessern.

Bundesarbeitsgericht

Teilzeit- und Befristungsgesetzes (TzBfG)
Ein nach Maßgabe des Teilzeit- und Befristungsgesetzes (TzBfG) zulässig befristetes Arbeitsverhältnis endet auch dann mit Ablauf der vereinbarten Befristung, wenn der Arbeitnehmer zwischenzeitlich in den Betriebsrat gewählt worden ist. Benachteiligt der Arbeitgeber allerdings das befristet beschäftigte Betriebsratsmitglied, indem er diesem wegen des Betriebsratsmandats keinen Folgevertrag anbietet, hat das Betriebsratsmitglied einen Anspruch auf den Abschluss des verweigerten Folgevertrags als Schadensersatz.
Betriebratswahlrecht & Führungskräfte
Ein Arbeitnehmer, der mehreren Betrieben desselben Unternehmens angehört, hat bei der Wahl des Betriebsrats in sämtlichen dieser Betriebe das aktive Wahlrecht. Das gilt auch für Führungskräfte in Unternehmen mit einer unternehmensinternen Matrix-Struktur.
Kein Urlaubsverzicht durch Prozessvergleich
Die Parteien streiten über die Abgeltung von sieben Tagen gesetzlichen Mindesturlaubs aus dem Jahr 2023. Der Kläger war bei der Beklagten vom 1. Januar 2019 bis zum 30. April 2023 als Betriebsleiter beschäftigt. Im Jahr 2023 war er von Beginn an bis zur Beendigung seines Arbeitsverhältnisses durchgehend arbeitsunfähig erkrankt und deshalb nicht in der Lage, seinen Urlaub aus diesem Jahr in Anspruch zu nehmen.

Corporate Compliance Zeitschrift

Recht und Ethik im Unternehmen
Wenn man sich vertieft mit dem Themenkomplex Ethik im Unternehmen auseinandersetzt, so gerät man bisweilen in einen dynamischen Diskurs. Kernfragen sind, wie Ethik und Recht (auch innerbetriebliches Recht) im Verhältnis zueinander stehen und wie eine Organisation Recht und Ethik bestmöglich vermitteln kann? Gemeinsam haben Recht und Ethik, dass sie Steuerungsinstrumente für individuelles Handeln und die Entwicklung gesellschaftlicher wie unternehmensbezogener Prozesse sind. Beide werden auch oftmals als selbständige Rechtskreise definiert, deren Konnex schwerlich herzustellen sei.
Whistleblowing: Risiken des KI-Einsatzes
Internationale Konzerne stehen beim Aufbau rechtssicherer und zugleich effizienter Hinweisgebersysteme vor komplexen Herausforderungen - etwa durch divergieren- de Rechtsordnungen, kulturelle Unterschiede oder limitiert verfügbare Ressourcen. Künstliche Intelligenz (KI) kann in diesem Kontext substanzielle Effizienzgewinne ermöglichen, sei es bei der Analyse großer Datenmengen, der Priorisierung von Hinweisen oder in der Begleitung interner Untersuchungen.

Zeitschrift Risk, Fraud & Compliance

EU-Änderungsvorschläge zum Bürokratieabbau
Mit dem Ende Februar veröffentlichten Entwurf zur Omnibus-Richtlinie will die EU-Kommission die gerade erst kodifizierten Pflichten zur Transparenz der Unternehmen im Bereich Nachhaltigkeit wieder deutlich reduzieren, um die Unternehmen von Bürokratie zu entlasten. In den vergangenen Heften haben wir in der ZRFC immer wieder über die Entwicklungen berichtet. In diesem Beitrag stellen wir kompakt die Änderungsvorschläge der EU-Kommission zum Bürokratieabbau vor.
HinSchG: Anspruch und Wirklichkeit
Das LAG Niedersachsen konkretisiert mit seinem Urteil vom 11. November 2024 die Voraussetzungen für den Schutz durch das Hinweisgeberschutzgesetz (HinSchG). Nur wer den vorgeschriebenen Meldeweg einhält, kann sich auf das Gesetz berufen. Ein Urteil mit weitreichenden Folgen für das Verständnis des HinSchG in der Unternehmenspraxis.

Zeitschrift Corporate Governance

Rechnungslegung & Nachhaltigkeit
Seit der Veröffentlichung des "Omnibus package on Sustainability" herrscht große Verunsicherung aufseiten europäischer Unternehmen: Die Zukunft der Nachhaltigkeitsberichterstattung - und daran knüpfend der "Sustainable Corporate Governance" - ist zeitlich erneut in die Ferne gerückt und hinsichtlich ihrer inhaltlichen Ausgestaltung mit zahlreichen Fragezeichen verbunden. Vor diesem Hintergrund müssen Unternehmen dennoch Entscheidungen dazu treffen, wie sie sich positionieren und welche Schritte sie zur Weiterentwicklung ihres Rechnungswesens setzen wollen.
Rechnungslegung: VSME-Standard
Im Dezember 2024 hat die European Financial Reporting Advisory Group (EFRAG) einen Standard für die freiwillige Nachhaltigkeitsberichterstattung kapitalmarktferner kleiner und mittelgroßer Unternehmen (VSME Standard) verabschiedet. Damit wird die freiwillige Nachhaltigkeitsberichterstattung nicht-kapitalmarktorientierter kleiner und mittelgroßer Unternehmen (KMU) innerhalb der Europäischen Union erstmals anhand eines spezifischen Standards konkretisiert.

Zeitschrift Interne Revision

keine Verpflichtungen für Angreifende
Die Kenntnis rund um das Thema Social Engineering erfordert in einem nächsten Schritt ein Wissen bezüglich der konkreten Bedrohungstaktiken und -techniken. Eine ausführliche Darstellung bietet das MITRE- Att@ck-Modell, wobei aus der Gesamtsystematik nur die Angriffsvektoren verwendet werden, die zum Social Engineering passen. Insbesondere sind hier die ersten vier Phasen angesprochen.
DORA-Basispapier
In den ersten drei Teilen dieses Beitrags haben wir einen generellen Überblick über die DORA-Basisverordnung, die speziellen technischen Standards sowie Details zu den Inhalten des Kapitels II (IKT-Risikomanagement), des Kapitels III (Behandlung, Klassifizierung und Berichterstattung IKT-bezogener Vorfälle) und des Kapitels IV (Testen der digitalen operationalen Resilienz) vorgestellt. In diesem Artikel wird nun das letzte Kapitel (Management des IKT-Drittparteienrisikos) näher beleuchtet.

Bundeskartellamt

Bundeskartellamt legt Jahresbericht 2024/25 vor
Der Präsident des Bundeskartellamtes, Andreas Mundt, hat den "Jahresbericht 2024/25" der Behörde vorgestellt. Mundt sagte: "Wettbewerb bleibt der unverzichtbare Treiber unserer marktwirtschaftlichen Ordnung. Wachstum kann nur im offenen Wettbewerb entstehen, der Innovationen fördert und die Wettbewerbsfähigkeit unserer Wirtschaft stärkt. Ob Digitalwirtschaft, Benzinpreise oder Lebensmittel - eine nachhaltige und positive Entwicklung gelingt nur, wenn Unternehmen fair und transparent um die besten Lösungen konkurrieren. Verbraucherinnen und Verbraucher profitieren von Vielfalt, Qualität und fairen Preisen - das ist die Grundlage für eine starke und gerechte Wirtschaft."
Expertenkreis KI und Wettbewerb
Im Rahmen eines Expertenkreises diskutierte das Bundeskartellamt mit ausgewählten Stakeholdern über Fragen der Künstlichen Intelligenz (KI) mit Blick auf Wettbewerb und Wettbewerbsbeschränkungen. Auf Einladung des Amtes nahmen 14 Vertreterinnen und Vertreter von in Deutschland ansässigen Unternehmen und Verbänden teil. Die Unternehmen bilden zusammen wesentliche Teile der KI-Wertschöpfungskette ab und sind sowohl größeren, etablierten Unternehmen als auch kleineren Unternehmen und Start-ups zuzuordnen. Geleitet wurde die Veranstaltung von dem Präsidenten des Bundeskartellamtes, Andreas Mundt, sowie dem Vizepräsidenten Prof. Dr. Konrad Ost.