Datennutzung und ethische Verantwortung

Chief Ethics Officer: Warum zeitgemäße Datennutzung einen neuen Experten braucht
Einseitige Datengrundlage führt zu Ungerechtigkeit

Von David Sweenor, Senior Director of Product Marketing, Alteryx

Große Datenmengen und die Erkenntnisse, die darin verborgen liegen, sind aus der deutschen Wirtschaft nicht mehr wegzudenken. Wie eine Bitkom-Umfrage ergab, sammelt die überwiegende Mehrheit der Unternehmen bereits Informationen, um sie zu analysieren und die Ergebnisse zur Optimierung interner Prozesse und zur Steigerung des Geschäftswerts zu nutzen. Gleichzeitig übersehen jedoch die meisten, dass mit diesem Erfolg eine neue Verantwortung einhergeht.

Um wirklich gewinnbringende Ergebnisse erzielen zu können, sollten im ersten Schritt grundlegende Schritte durchlaufen werden, die ganz konkret die Datenherkunft und -verwaltung betreffen. Vor allem dann, wenn KI-Technologien genutzt werden, spielt das eine essenzielle Rolle, denn die Qualität der verwendeten Daten hier das wichtigste Kriterium. Wenn es jedoch an Nachvollziehbarkeit mangelt, besteht die Gefahr, dass die Ergebnisse verzerrt werden, was zu verfälschten Entscheidungen führt. Und diese können fatale Ungerechtigkeiten nach sich ziehen. Dadurch wird im schlimmsten Fall nicht nur die Privatsphäre der Daten kompromittiert. Auch die Benachteiligung von Frauen oder Angestellten mit Migrationshintergrund könnte zusätzlich verstärkt werden – und das ist nicht nur für jene Unternehmen, die sich dazu verpflichtet haben, die Diversität ihrer Teams aktiv voranzutreiben, ein echtes Problem.

Während deutsche Unternehmen also von der Konsolidierung und Analyse ihrer Daten aus einer Vielzahl von Quellen profitieren, um den Geschäftswert zu steigern, müssen sie auch die Verantwortung für Entscheidungen übernehmen, die das Unternehmen anhand der Daten trifft. Deshalb sind sie in der Pflicht, sicherzustellen, dass die verwendeten Datensätze keine Verzerrungen enthalten. Doch wie schützt man sich vor unbewussten, aber oft schädlichen Vorurteilen? Indem man einen neuen Experten ins Spiel bringt – und das sind die Chief Ethics Officer. Ihre Aufgabe ist es nicht, die Datennutzung weiter zu erschweren. Ihr Ziel sollte vielmehr darin bestehen, einwandfreie Ergebnisse zu gewährleisten, die Deutschland nicht nur wirtschaftlich, sondern auch sozial und ethisch voranbringen.

Einseitige Datengrundlage führt zu Ungerechtigkeit
Die Bereitstellung von vorurteilsfreien Produkten und Dienstleistungen stellt bereits seit Jahrzehnten eine große Herausforderung dar. Das beginnt bei der Dosierung von Medikamenten und reicht bis zum Sicherheitskonzept gängiger Automodelle – denn beides ist an den Werten eines Durchschnittmanns orientiert. Diese einseitige Datengrundlage kann für Frauen gravierende Konsequenzen nach sich ziehen, zum Beispiel weil sie im Falle eines Verkehrsunfalls ein deutlich höheres Risiko haben, verletzt zu werden oder sogar zu sterben.

In den letzten Jahren wurde auch festgestellt, dass Daten, die in Modellen zur automatischen Überprüfung von Lebensläufen verwendet werden, weibliche Bewerber, benachteiligen. Ähnliches gilt für Modelle, die zur Unterstützung von Richtern bei der Überprüfung von Strafurteilen zum Einsatz kommen, schwarze Angeklagte benachteiligen. Am Ende mussten beide zurückgezogen werden, da die verwendeten Daten eine sorgfältige menschliche Kontrolle erfordern.

Ähnlich unfair kann auch die Besetzung einer Führungsposition sein, wenn die dafür verwendeten Informationen ein sehr einseitiges Bild zeichnen. Sogar Amazon hat seinen eigenen KI-Rekrutierungsalgorithmus wieder eingestellt, da sich herausstellte, dass die verwendeten Lebensläufe überwiegend von Männern stammten, was zu einer unbeabsichtigten Benachteiligung von Frauen führte.

Die Datenlage, auf die sich der Arbeitsmarkt genauso wie die Erstellung neuer Produkte stützt, ist ungerecht. Das beginnt bei der Dosierung von Medikamenten und reicht bis zum Sicherheitskonzept gängiger Automodelle – denn beides ist an den Werten eines Durchschnittmanns orientiert. Diese einseitige Datengrundlage kann für Frauen gravierende Konsequenzen nach sich ziehen, zum Beispiel weil sie im Falle eines Verkehrsunfalls ein deutlich höheres Risiko haben, verletzt zu werden oder sogar zu sterben.

Ähnlich ungerecht kann auch die Besetzung einer Führungsposition ausfallen, wenn die hierfür herangezogenen Informationen ein sehr einseitiges Bild darstellen. Amazon liefert ein eindrückliches Beispiel hierfür: Um Bewerbungen schneller bearbeiten zu können, führte der Handelsriese eine automatische Kandidatenbewertung ein. Aus dem verwendeten Datensatz ging jedoch hervor, dass hohe Positionen in der Vergangenheit überwiegend durch Männer besetzt worden waren, was dazu führte, dass auch jetzt männliche Bewerber bevorzugt und Frauen systematisch benachteiligt wurden.

Eine McKinsey-Studie ergab sogar, dass eine hohe Geschlechtervielfalt in Unternehmen die Wahrscheinlichkeit, überdurchschnittlich profitabel zu sein, um 25 Prozent erhöht. Gleiches gilt für die ethnische Vielfalt der Vorstandsmitglieder, hier sind es sogar 36 Prozent. Der wirtschaftliche Erfolg eines Unternehmens hängt also eindeutig mit der Frage zusammen, wie vielfältig es aufgestellt ist.

Verzerrungen wie diese können für Unternehmen ein erhebliches Problem darstellen. Viele haben sich inzwischen eine Frauenquote auferlegt und könnten diese mit einer unethischen Datennutzung unterbinden. Aber viele haben längst verstanden, dass diverse Teams ein elementarer Bestandteil ihres Erfolgs darstellen. Eine Erhebung von McKinsey hat sogar ergeben, dass eine hohe Gender-Diversität die Wahrscheinlichkeit, überdurchschnittlich profitabel zu sein, um 25 Prozent steigert. Ähnliches gilt für die ethnische Diversität der Vorstandsmitglieder, wobei der Wert hier sogar bei 36 Prozent liegt. Der Geschäftserfolg eines Unternehmens steht somit in eindeutigem Zusammenhang mit der Frage, wie divers es aufgestellt ist.

Ethische Datennutzung macht neue Expertenrolle unverzichtbar
Um auch zukünftig dem enormen Konkurrenzdruck standhalten zu können, ist es wichtig, dass immer mehr Mitarbeiter Daten in ihre tägliche Arbeitsroutine einbeziehen. Sei es, um einen besseren Kundenservice leisten, wirkungsvollere Werbekampagnen erstellen oder Schwachstellen bei Produkten schneller identifizieren zu können. Um beurteilen zu können, ob die verfügbaren Datensätze hierfür passend, ausreichend groß und divers genug sind, muss jedoch sichergestellt werden, dass die Mitarbeiter über das notwendige Fachwissen verfügen. Nur so werden sie in der Lage sein, etwaige Verzerrungen aufzudecken und eine ethische Entscheidungsfindung über alle Abteilungen hinweg zu ermöglichen.

Beim Umgang mit großen Datenmengen gibt es zahlreiche Stolpersteine, die ihrer ethischen Nutzung im Wege stehen können. Stammen die verwendeten Datensätze aus einer ausreichend großen Stichprobe? Auf welche Weise wurde es gewonnen? Bildet es die Vielfältigkeit der Realität ab oder kommen gewissen Merkmale überproportional häufig vor und könnten deshalb zu Verzerrungen führen? Und wie steht es um die Ergebnisse? Lassen sich aus ihnen tatsächlich zielführende Handlungsempfehlungen ableiten? Oder ist in ihnen eine Verzerrung versteckt, die gewisse Gruppen benachteiligen könnte? Und wann macht es Sinn, externe Daten hinzuzukaufen, um das zu vermeiden? Was für Daten müssten das sein? Und kommen eventuell auch synthetische Daten in Frage? Kurz gesagt: Wenn die erfassten Daten speziell für einen konkret definierten Zweck ausgewählt werden, wirft dies die Frage nach der unbewussten Voreingenommenheit der Person auf, die diese Entscheidung trifft, und kann ein erhebliches Hindernis für qualitativ hochwertige Erkenntnisse darstellen.

Das menschliche Gehirn unterliegt häufig Formen kognitiver Verzerrungen, die zu einer fehlerhaften Schlussfolgerung und Entscheidungsfindung führen können. Das ist ganz natürlich, aber diese menschliche Form der Voreingenommenheit kann sich auch in KI-Ergebnissen niederschlagen. Genau an dieser Stelle kommt der Chief Ethics Officer ins Spiel. Er muss über das richtige Know-how und die notwendigen zeitlichen Ressourcen verfügen, um sich voll und ganz auf die Etablierung einer ethischen Datennutzung und deren dauerhafte Sicherstellung konzentrieren zu können. Um ihn nicht zu überlasten, ist es sinnvoll, dafür zu sorgen, dass alle Fachexperten in Datenkompetenz geschult werden, damit sie mehr Einblick in die Datenerfassung und -analyse geben können. In Verbindung mit der Einrichtung eines Data-Governance-Rahmens sorgt dies für Transparenz, Verantwortlichkeit und Integrität bei der Datenerfassung und -sammlung.

Datennutzung bringt ethische Verantwortung mit sich
Bis 2025 soll die weltweit generierte Datenmenge 175 Zettabyte betragen – das ist eine 175 mit 21 Nullen. Dabei steigt vor allem das Volumen in Unternehmen rasant an und soll bis dahin 80 Prozent der Gesamtmenge ausmachen. Das bedeutet, dass auf ihrer Seite ein enormes Wissen liegen wird. Und weil Wissen immer auch Macht bedeutet, geht mit dem Besitz der gigantischen Informationsmengen auch ein gewisses Maß an Verantwortung einher. Dieser gerecht zu werden, ist schon heute die Aufgabe der Unternehmen, die nicht nur Profit machen, sondern sich gleichzeitig auch für eine bessere Welt einsetzen wollen. Ohne einen Chief Ethics Officer kann diese nicht Wirklichkeit werden. Ähnlich wie es die Aufgabe des Bundespräsidenten in Deutschland ist, die Debatten im Bundestag fair und unparteiisch zu führen, muss ein Chief Ethics Office eine ähnliche Unparteilichkeit und Fairness bei den im Unternehmensgeschäft verwendeten Daten sicherstellen.

Über den Autor
David Sweenor ist als Senior Director of Product Marketing bei Alteryx tätig. Im Bereich Analytik blickt er auf eine 20-jährige Erfahrung zurück, wobei er derzeit verschiedene globale Initiativen im Bereich Advanced Analytics verantwortet.
(Alteryx: ra)

eingetragen: 03.05.21
Newsletterlauf: 30.06.21

Alteryx: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Meldungen: Hintergrund