- Anzeigen -

Datenaspekte im Fokus der KI-Enquete


Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche Potenziale
Bestehende gesellschaftliche Ungerechtigkeiten werden durch den Einbau in scheinbar neutrale Technologien verschleiert und potentiell verstärkt

- Anzeigen -





Die Mitglieder der Enquete-Kommission "Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale" haben sich schwerpunktmäßig mit dem Thema Daten befasst. Vier Sachverständige trugen dazu in öffentlicher Sitzung im Rahmen eines Fachgespräches vor. Zuvor hatte die Philosophin Judith Simon in der Sitzung öffentlich zu Fragen von Gerechtigkeit und Diskriminierungsfreiheit referiert. Die den Vorträgen jeweils folgende Fragerunde fand in nicht-öffentlicher Sitzung statt.

Judith Simon (Universität Hamburg) konzentrierte sich in ihrem Vortrag vor allem auf Aspekte der Diskriminierung, die sie als "ungerechtfertigte Ungleichbehandlung von Gleichen oder ungerechtfertigte Gleichbehandlung von Ungleichen" verstand. Im Kontext der Künstlichen Intelligenz (KI) problematisierte die Inhaberin des Lehrstuhls für Ethik in der Informationstechnologie, dass beim maschinellen Lernen, weil dort mit Daten der Vergangenheit trainiert werde, Prognosen und Empfehlungen die Vergangenheit in die Zukunft fortschrieben. Dadurch könnten "bestehende gesellschaftliche Ungerechtigkeiten durch den Einbau in scheinbar neutrale Technologien verschleiert und potentiell verstärkt werden", warnte die Philosophin.

Diese Diskriminierung sei ein Effekt von "technisch-methodischen Entscheidungen" und erfolge nicht unbedingt mit Absicht. Simon mahnte an, gesetzliche Anforderungen zu formulieren, die Software-Entwickler etwa verpflichten, Maßnahmen zur Minimierung von Diskriminierung nachzuweisen. Zudem bedürfe es Anreizen in Form von Forschungsförderung. Simon warb für den Auf- beziehungsweise Ausbau gut ausgestatteter Institutionen für eine "angemessene Aufsicht und Kontrolle". Anforderungen an die Minimierung von Diskriminierung sollten sich grundsätzlich an der Eingriffstiefe sowie daran, ob ein System unumgänglich ist, orientieren. Simon betonte zudem, dass nicht nur die Software-Entwickler in der Pflicht seien: "Welche Kriterien für Gerechtigkeit in welchem Kontext angemessen sind, ist keine technische, sondern eine gesellschaftliche und politische Frage."

Im zweiten Fachgespräch des Tages standen verschiedene Aspekte des Themas Daten im Fokus. Stefan Heumann, Vorstandsmitglied der Stiftung Neue Verantwortung sowie sachverständiges Mitglied der Enquete-Kommission, stellte Ergebnisse einer Studie zu Datenpools der Stiftung ("Wettbewerb um Daten - Über Datenpools zu Innovationen", April 2019) dar. Heumann betonte die Bedeutung, die Daten in der Plattform-Ökonomie einnehmen. Führend seien dabei Unternehmen aus den USA, aber auch aus China. In Europa gebe es mit Ausnahme von SAP keine wesentlichen Akteure. Heumann stellte unterschiedliche Modelle für Datenpools vor und skizzierte elementare Herausforderungen für die Anwendung in Europa. So müssten Unternehmen vom Mehrwert von Datenkooperationen überzeugt werden. Zudem bedürfe es Rechtssicherheit mit Bezug auf kartellrechtliche sowie datenschutzrechtliche Fragen. Technologisch bestünde Bedarf für Standards im Bereich Daten und maschinelles Lernen sowie für die Weiterentwicklung dezentraler KI-Modelle. Governanceseitig sei zudem über Regen für Datenpools nachzudenken, führte Heumann aus.

Boris Otto vom Fraunhofer-Institut für Software- und Systemtechnik stellte Grundzüge des Projekts "International Data Space" (IDS) vor. Ziel der Initiative sei es, eine Architektur für "Datensouveränität in der Plattformökonomie" zu schaffen. So solle der Fluss der Daten über verschiedene Plattformen hinweg unter Wahrung der Datensouveränität ermöglicht werden. Datensouveränität bedeute dabei die Selbstbestimmung des Datengebers über die Verwendung der Daten. Dies sei Voraussetzung dafür, dass Unternehmen ihre Daten überhaupt teilten. Otto sah die Politik in der Pflicht, entsprechende Rahmenbedingungen etwa durch die gesetzliche Verankerung von Grundsätzen zu schaffen.

Norbert Pohlmann (Westfälische Hochschule Gelsenkirchen) umriss zunächst Chancen des KI-Einsatzes im Bereich Cyber-Sicherheit. KI-Systeme könnten etwa zur Unterstützung und Entlastung von Cyber-Sicherheitsexperten dienen. In Hinblick auf den Bereich Daten empfahl der Leiter des Instituts für Internet-Sicherheit unter anderem, Standards für die Datenqualität von KI-Systemen zu definieren und zu etablieren. Enorm wichtig, gerade für den Mittelstand, sei zudem die Förderung einer "leistungsstarken KI-Infrastruktur", sagte Pohlmann und verwies etwa auf die Notwendigkeit europäischer Datenpools.

Elisa Lindinger von der Open Knowledge Foundation thematisierte den Zugang zu öffentlichen Daten. Diese seien "eine vielversprechende Grundlage für neue KI-Anwendungen" etwa in der Städte- oder Verkehrsplanung, sagte Lindinger. Der Zugang sei in Deutschland allerdings nicht gegeben. Dies könne durch ein bundesweites Transparenzgesetz ermöglicht werden, regte die Sachverständige an. Zudem müsse "Open by Default" zur Maxime öffentlicher Verwaltungsarbeit werden. Im Umgang mit öffentlichen Daten mahnte Lindinger den Schutz personenbezogener Daten an. Sie verwies auf bestehende technische Verfahren und internationale Ansätze, die zeigten, "wie offene Daten, Datensouveränität und Datenschutz Hand in Hand gehen können". (Deutscher Bundestag: ra)

eingetragen: 13.07.19
Newsletterlauf: 19.08.19

- Anzeigen -




Kostenloser Compliance-Newsletter
Ihr Compliance-Magazin.de-Newsletter hier >>>>>>



Meldungen: Bundestag, Bundesregierung, Bundesrat

  • Entlastung für Finanzwirtschaft abgelehnt

    Der Finanzausschuss hat einen Vorstoß der FDP-Fraktion zur Entlastung der Finanzwirtschaft von Bürokratie abgelehnt. Der Ausschuss wies in seiner Sitzung unter Leitung der Vorsitzenden Katja Hessel (FDP) einen Antrag der FDP-Fraktion (19/18671) für ein "Corona-Moratorium zur Finanzmarktbürokratie" zurück. Für den Antrag stimmte nur die FDP-Fraktion. Die Fraktionen von CDU/CSU, SPD Die Linke und Bündnis 90/Die Grünen lehnten ab, die AfD-Fraktion enthielt sich. Die FDP-Fraktion hatte gefordert, angesichts der Corona-Epidemie und ihrer Folgen solle die Bundesregierung auf zahlreiche neue Regelungen für den Finanzmarkt verzichten. Gerade für den Finanzmarkt habe die Bundesregierung eine Reihe an neuen Regelungen geplant beziehungsweise bereits beschlossen, welche die jeweilige Branchen vor Herausforderungen stellen würden, die diese in Zeiten der Corona-Krise nicht bewältigen könnten, heißt es.

  • Stellung der Staatsanwaltschaft umstritten

    Die Stellung der Staatsanwaltschaft ist Thema einer Anhörung im Ausschuss für Recht und Verbraucherschutz gewesen. Den sieben Sachverständigen lagen ein Gesetzentwurf der FDP-Fraktion zur Stärkung der Unabhängigkeit der Staatsanwaltschaft (19/11095) und ein Antrag der Fraktion Bündnis 90/Die Grünen vor, der auf eine rechtsstaatliche Reform der Stellung der Staatsanwaltschaft abzielt (19/13516). Die Experten kamen in ihren Stellungnahmen zu unterschiedlichen Bewertungen. Gegen eine Reform sprach sich George Andoor, Regierungsrat aus Frankfurt am Main, aus. Beide Vorlagen sähen die Einführung einer unabhängigen Staatsanwaltschaft vor und seien auf die Abschaffung der ministeriellen Einzelweisungsbefugnis gerichtet. Andoor hält dies nicht für angezeigt. Die Staatsanwaltschaft als Exekutivbehörde unterscheide sich nicht so wesentlich von anderen Behörden, als dass nachzuvollziehen wäre, warum ausgerechnet bei ihr das Minus an parlamentarischer Kontrolle, das mit einer Unabhängigkeit der Staatsanwaltschaft einherginge, gerechtfertigt sein soll. Die vom Europäischen Gerichtshof (EuGH) letztendlich nur geforderte Ausstellung des Europäischen Haftbefehls durch eine unabhängige Stelle sei bereits möglich, sodass allenfalls eine klarstellende Gesetzesänderung angezeigt sei.

  • Bon-Pflicht für Bäcker bleibt

    Die Pflicht zur Ausgabe von Kassenbelegen für Bäckereien bleibt bestehen. Die FDP-Fraktion scheiterte im Finanzausschuss mit einem Vorstoß zur Abschaffung der seit Anfang Januar geltenden Pflicht zur Ausgabe von Kassenbelegen selbst bei kleinsten Einkäufen. In der von der Vorsitzenden Katja Hessel (FDP) geleiteten Sitzung stimmten nur die Fraktionen von FDP und Bündnis 90/Die Grünen für den von der FDP-Fraktion eingebrachten Entwurf eines Gesetzes zur Änderung der Abgabenordnung - Gesetz zur Verhinderung einer Bon-Pflicht für Bäcker (19/15768). Die Fraktionen von CDU/CSU, SPD und Die Linke lehnten den Entwurf ab, die AfD-Fraktion enthielt sich. Der Entwurf sieht vor, dass die Finanzbehörden im Fall der Nutzung einer zertifizierten technischen Sicherheitseinrichtung beim Verkauf von Waren und der Erbringung von Dienstleistungen an eine Vielzahl von nicht bekannten Personen eine Befreiung von der Pflicht zur generellen Ausgabe von Belegen aussprechen können.

  • Reformen am Arbeitsschutzrecht

    Das Bundesministerium für Arbeit und Soziales (BMAS) befasst sich derzeit damit, die von einer Bund-Länder-Arbeitsgruppe erarbeiteten und von der Arbeits- und Sozialministerkonferenz (ASMK) unterstützten Maßnahmen zur Verbesserung der staatlichen Arbeitsschutzaufsicht umzusetzen. Das betont die Bundesregierung in ihrer Antwort (19/18811) auf eine Kleine Anfrage (19/17409) der Fraktion Die Linke.

  • Frankreich schränkt Bon-Pflicht ein

    Die Pflicht zur Ausgabe von Kassenbons in Frankreich wird eingeschränkt. Nach Angaben der Bundesregierung in der Antwort (19/18393) auf eine Kleine Anfrage der FDP-Fraktion (19/17675) gilt die Belegausgabepflicht in Frankreich vom 1. September 2020 an nicht für Kassenbelege unter zehn Euro. Ab dem 1. September 2021 wird die Grenze auf 20 Euro erhöht und zum 1. Januar 2022 auf 30 Euro. In Frankreich müssten Kassen oder die Kassensoftware seit dem 1. Januar 2018 zertifiziert sein, damit eine Manipulation der Daten nicht mehr möglich sei.