Datenaspekte im Fokus der KI-Enquete
Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche Potenziale
Bestehende gesellschaftliche Ungerechtigkeiten werden durch den Einbau in scheinbar neutrale Technologien verschleiert und potentiell verstärkt
Die Mitglieder der Enquete-Kommission "Künstliche Intelligenz - Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale" haben sich schwerpunktmäßig mit dem Thema Daten befasst. Vier Sachverständige trugen dazu in öffentlicher Sitzung im Rahmen eines Fachgespräches vor. Zuvor hatte die Philosophin Judith Simon in der Sitzung öffentlich zu Fragen von Gerechtigkeit und Diskriminierungsfreiheit referiert. Die den Vorträgen jeweils folgende Fragerunde fand in nicht-öffentlicher Sitzung statt.
Judith Simon (Universität Hamburg) konzentrierte sich in ihrem Vortrag vor allem auf Aspekte der Diskriminierung, die sie als "ungerechtfertigte Ungleichbehandlung von Gleichen oder ungerechtfertigte Gleichbehandlung von Ungleichen" verstand. Im Kontext der Künstlichen Intelligenz (KI) problematisierte die Inhaberin des Lehrstuhls für Ethik in der Informationstechnologie, dass beim maschinellen Lernen, weil dort mit Daten der Vergangenheit trainiert werde, Prognosen und Empfehlungen die Vergangenheit in die Zukunft fortschrieben. Dadurch könnten "bestehende gesellschaftliche Ungerechtigkeiten durch den Einbau in scheinbar neutrale Technologien verschleiert und potentiell verstärkt werden", warnte die Philosophin.
Diese Diskriminierung sei ein Effekt von "technisch-methodischen Entscheidungen" und erfolge nicht unbedingt mit Absicht. Simon mahnte an, gesetzliche Anforderungen zu formulieren, die Software-Entwickler etwa verpflichten, Maßnahmen zur Minimierung von Diskriminierung nachzuweisen. Zudem bedürfe es Anreizen in Form von Forschungsförderung. Simon warb für den Auf- beziehungsweise Ausbau gut ausgestatteter Institutionen für eine "angemessene Aufsicht und Kontrolle". Anforderungen an die Minimierung von Diskriminierung sollten sich grundsätzlich an der Eingriffstiefe sowie daran, ob ein System unumgänglich ist, orientieren. Simon betonte zudem, dass nicht nur die Software-Entwickler in der Pflicht seien: "Welche Kriterien für Gerechtigkeit in welchem Kontext angemessen sind, ist keine technische, sondern eine gesellschaftliche und politische Frage."
Im zweiten Fachgespräch des Tages standen verschiedene Aspekte des Themas Daten im Fokus. Stefan Heumann, Vorstandsmitglied der Stiftung Neue Verantwortung sowie sachverständiges Mitglied der Enquete-Kommission, stellte Ergebnisse einer Studie zu Datenpools der Stiftung ("Wettbewerb um Daten - Über Datenpools zu Innovationen", April 2019) dar. Heumann betonte die Bedeutung, die Daten in der Plattform-Ökonomie einnehmen. Führend seien dabei Unternehmen aus den USA, aber auch aus China. In Europa gebe es mit Ausnahme von SAP keine wesentlichen Akteure. Heumann stellte unterschiedliche Modelle für Datenpools vor und skizzierte elementare Herausforderungen für die Anwendung in Europa. So müssten Unternehmen vom Mehrwert von Datenkooperationen überzeugt werden. Zudem bedürfe es Rechtssicherheit mit Bezug auf kartellrechtliche sowie datenschutzrechtliche Fragen. Technologisch bestünde Bedarf für Standards im Bereich Daten und maschinelles Lernen sowie für die Weiterentwicklung dezentraler KI-Modelle. Governanceseitig sei zudem über Regen für Datenpools nachzudenken, führte Heumann aus.
Boris Otto vom Fraunhofer-Institut für Software- und Systemtechnik stellte Grundzüge des Projekts "International Data Space" (IDS) vor. Ziel der Initiative sei es, eine Architektur für "Datensouveränität in der Plattformökonomie" zu schaffen. So solle der Fluss der Daten über verschiedene Plattformen hinweg unter Wahrung der Datensouveränität ermöglicht werden. Datensouveränität bedeute dabei die Selbstbestimmung des Datengebers über die Verwendung der Daten. Dies sei Voraussetzung dafür, dass Unternehmen ihre Daten überhaupt teilten. Otto sah die Politik in der Pflicht, entsprechende Rahmenbedingungen etwa durch die gesetzliche Verankerung von Grundsätzen zu schaffen.
Norbert Pohlmann (Westfälische Hochschule Gelsenkirchen) umriss zunächst Chancen des KI-Einsatzes im Bereich Cyber-Sicherheit. KI-Systeme könnten etwa zur Unterstützung und Entlastung von Cyber-Sicherheitsexperten dienen. In Hinblick auf den Bereich Daten empfahl der Leiter des Instituts für Internet-Sicherheit unter anderem, Standards für die Datenqualität von KI-Systemen zu definieren und zu etablieren. Enorm wichtig, gerade für den Mittelstand, sei zudem die Förderung einer "leistungsstarken KI-Infrastruktur", sagte Pohlmann und verwies etwa auf die Notwendigkeit europäischer Datenpools.
Elisa Lindinger von der Open Knowledge Foundation thematisierte den Zugang zu öffentlichen Daten. Diese seien "eine vielversprechende Grundlage für neue KI-Anwendungen" etwa in der Städte- oder Verkehrsplanung, sagte Lindinger. Der Zugang sei in Deutschland allerdings nicht gegeben. Dies könne durch ein bundesweites Transparenzgesetz ermöglicht werden, regte die Sachverständige an. Zudem müsse "Open by Default" zur Maxime öffentlicher Verwaltungsarbeit werden. Im Umgang mit öffentlichen Daten mahnte Lindinger den Schutz personenbezogener Daten an. Sie verwies auf bestehende technische Verfahren und internationale Ansätze, die zeigten, "wie offene Daten, Datensouveränität und Datenschutz Hand in Hand gehen können". (Deutscher Bundestag: ra)
eingetragen: 13.07.19
Newsletterlauf: 19.08.19