- Anzeigen -

Sie sind hier: Home » Markt » Hinweise & Tipps

Einsatz von KI-Anwendungen


KI-Lösungen müssen jederzeit sowohl die Konformität zu Compliance-, als auch Datenschutzvorgaben erfüllen
NTT Ltd. benennt vier Schwerpunkte für datenschutzkonforme KI-Lösungen

- Anzeigen -





Von Eva-Maria Scheiter, Managing Consultant GRC bei NTT Ltd.’s Security Division

NTT identifiziert die vier wichtigsten Herausforderungen bei Konzeption und Einsatz von KI-Anwendungen im Unternehmen. Der Siegeszug Künstlicher Intelligenz spielt beim jüngst ausgelösten Digitialisierungsschub eine herausragende Rolle, schließlich erobert KI ständig neue Anwendungsfelder und findet sich so immer häufiger im praktischen Einsatz. Die Security-Verantwortlichen in Unternehmen stellt diese Entwicklung jedoch vor komplexe, neue Herausforderungen, denn sie müssen sicherstellen, dass KI-Lösungen jederzeit sowohl die Konformität zu Compliance-, als auch Datenschutzvorgaben erfüllen. NTT Ltd. hat die wichtigsten Aktionsfelder dafür identifiziert.

1. Absicherung der KI-Lösung: Der erste Schritt zur datenschutzkonformen Nutzung von Künstlicher Intelligenz ist unter anderem die technische und organisatorische Absicherung der KI-Lösung gegen Missbrauch. Sie beginnt bei der strikten Zugangskontrolle und eindeutig geregelten Zugriffsberechtigung auf die KI-Programme. Damit ist sicherstellt, dass nur autorisierte Mitarbeiter Zugang zur KI-Logik haben und Änderungen daran vornehmen können. So muss das Rechtemanagement unter anderem toxische Kombinationen ausschließen, bei der die Verknüpfung von Einzelrechten zu neuen, an sich unerlaubten Zugriffsmöglichkeiten führt. Zudem muss die KI-Logik transparent sein. Artikel 5 der DSGVO schreibt die Intervenierbarkeit vor. Damit soll gewährleistet werden können, dass ein Betroffener Auskunft über die Auswahlkriterien und deren Verarbeitung erhält, etwa in Bewerbungsprozessen oder bei Kreditvergaben. Hierbei ist abzuwägen, ob möglicherweise rechtliche Einschränkungen gegeben sind (etwa zur Wahrung von Geschäftsgeheimnissen).

2. Absicherung der Daten: Das gleiche gilt für alle im KI-Prozess verarbeiteten Daten. Bei der Datenverarbeitung betrifft das Arbeitsschritte wie Datenerhebung, -selektion, -fluss, -analyse und -weitergabe sowie deren technische und juristische Absicherung. Über den gesamten Lebenszyklus der Daten ist die Zweckbindung zu berücksichtigen. Das gilt gleichermaßen für Mitarbeiter (auf Basis des Arbeitsvertrags) als auch Kunden, deren Daten beispielsweise im Rahmen einer Leistungserbringung erfasst wurden, aber nicht für Marketingzwecke eingesetzt werden dürfen. Sie sind damit auch ohne zusätzliche Einwilligungserklärung für das Training der KI-Lösung tabu.

Dieser potenzielle Missbrauch muss von vornherein ausgeschlossen werden. Sämtliche Daten, Prozesse und Arbeitsschritte innerhalb des KI-Systems sind bereits in der Designphase einem zuständigen Owner zuzuweisen. Dieser definiert unter Berücksichtigung des Kaskadenprinzips den Schutzbedarf, führt eine Risikoanalyse durch, leitet die erforderlichen Schutzmaßnahmen ab und gewährleistet deren Etablierung. Analog zur KI-Logik gehört zur Intervenierbarkeit laut DSGVO auch, dass Betroffenen jederzeit Auskunft zur Verarbeitung ihrer personenbezogenen Daten gewährt werden muss. Dies ist organisatorisch und technisch von Anfang an sicherzustellen.

3. Absicherung der IT-Systeme: Sämtliche im KI-Prozess genutzten technischen und räumlichen Ressourcen sind Teil eines umfassenden Sicherheitskonzepts. Das reicht von der IT-Infrastruktur (Server, Netzwerke, Storage Systeme, Cloud Services, Endgeräte) über die genutzten Security-Konzepte (Firewalls, Viren-Software) bis hin zu Gebäuden. Die Absicherungsmaßnahmen gegen Schäden, Missbrauch, unberechtigte Zugriffe oder Cyber-Attacken müssen lückenlos identifiziert, etabliert, dokumentiert und jederzeit nachweisbar sein. Wie bei den Daten sind auch die Verantwortlichkeiten für die IT-Systeme zu definieren und festzuhalten.

4. Governance Risk & Compliance: Sämtliche Teilverantwortlichkeiten bezüglich der KI-Logik, des Umgangs mit Daten, der eingesetzten Ressourcen und des Sicherheitskonzepts laufen zentral bei der Geschäftsführung auf, die für die KI-Nutzung insgesamt die Verantwortung trägt (Rechenschaftspflicht). Dazu gehört auch die Prüfung der KI-Lösung auf Gleichbehandlung (Bias) aller Kunden. Es muss sichergestellt sein, dass sie diskriminierungsfrei arbeitet und Bevorzugung oder Benachteiligung wegen Herkunft, Religion, Geschlecht, Hautfarbe oder ähnlicher Merkmale ausgeschlossen sind. Und nicht zuletzt gilt es auch, den menschlichen Faktor mit einzubeziehen. Training, Schulung und Consulting der Mitarbeiter sind elementarer Teil von Sicherungskonzepten für den KI-Einsatz.

Datenschutzaspekte müssen bei der Konzeption und Implementierung von KI-Lösungen von Anfang an mitgedacht werden. Das Prinzip ‚Data Protection by Design‘ hilft dabei, schon sehr früh die Weichen für eine datenschutzkonforme KI-Lösung richtig zu stellen, und so aufwändige Korrekturen und Nacharbeiten zu vermeiden. Was noch fehlt, sind konkretere Umsetzungsstandards für KI-Prozesse, mit einem integrierten Ansatz, um den Unternehmen die Arbeit zu erleichtern. (NTT: ra)

eingetragen: 24.08.20
Newsletterlauf: 12.11.20

Comarch Software und Beratung: Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

- Anzeigen -




Kostenloser Compliance-Newsletter
Ihr Compliance-Magazin.de-Newsletter hier >>>>>>


Meldungen: Markt / Hinweise & Tipps

  • Expertise für den Schutz digitaler Identitäten

    Die Welt tickt zunehmend digital: Erkennen lässt sich das zum einen am rasanten technologischen Fortschritt und an der Reaktion vieler Unternehmen auf die Corona-Pandemie, in der eine Vielzahl von Arbeits- und Kommunikationsprozessen digitalisiert wurden und zum anderen an dem stark wachsenden Online-Handel. Bereits 2018 trat die Datenschutzgrundverordnung (DSGVO) der EU in Kraft, die Internetnutzern Hoheit über ihre eigenen Daten und deren Schutz zusichern soll. Ein vergleichbares Ziel verfolgt die Schweiz mit der 2020 abgeschlossenen Revision des Bundesgesetzes über den Datenschutz (DSG). Vor diesem Hintergrund kommt auch der Diskussion um die Einführung einer eindeutigen digitalen Identität - auch elektronische Identität oder e-ID genannt - eine immer größere Bedeutung zu.

  • Tipps zur Umsetzung der DSGVO-Vorgaben

    Es ist höchste Zeit, dass international tätige Unternehmen ihren Status quo in Sachen Datenschutz überprüfen und im Rahmen der Digitalisierung ihrer Kommunikationsprozesse auch die Umsetzung der DSGVO sicherstellen. Der Cloud-Anbieter Retarus unterstützt Unternehmen seit Jahrzehnten darin, Ihre Kommunikationsdaten rechtskonform zu verarbeiten und zeigt, welche Faktoren dabei zu berücksichtigen sind. Laut einer aktuellen Studie der internationalen Anwaltskanzlei DLA Piper ist die Summe der verhängten Bußgelder für Verstöße gegen die EU-Datenschutzgrundverordnung (DSGVO) im letzten Jahr europaweit um 40 Prozent gestiegen. Seit dem Inkrafttreten der DSGVO im Mai 2018 wurden in der EU rund 281.000 Verstöße zur Anzeige gebracht. Die Strafen bei Verstößen betragen bis zu 20 Millionen Euro bzw. vier Prozent des weltweiten Umsatzes. Allein in Deutschland wurden bisher Bußgelder in Höhe von 69,1 Millionen Euro verhängt. Dennoch setzen laut Branchenverband Bitkom erst 20 Prozent der befragten Unternehmen in Deutschland die DSGVO vollständig um. Grund dafür ist unter anderem eine anhaltende Rechtsunsicherheit. Nicht zuletzt trägt auch das Urteil des Europäischen Gerichtshofs (EuGH) zum "Privacy Shield" zur Verwirrung bei.

  • Digitales Medikationsmanagement einführen

    Mit dem Krankenhauszukunftsgesetz (KHZG), das vor kurzem in Kraft getreten ist, soll die Digitalisierung der deutschen Krankenhäuser vorangetrieben werden. Warum das dringend notwendig ist, welche Chancen sich durch die Förderung bieten und wie Krankenhäuser ihre digitalen Initiativen am besten angehen, erklärt NTT Ltd., ein weltweit führender Technologie-Dienstleister. Viele deutsche Krankenhäuser und Kliniken haben großen Digitalisierungsbedarf. Allzu oft werden Patientendaten noch auf Papier erfasst und Prozesse nicht sauber dokumentiert. Und dass es um die Absicherung der IT-Systeme nicht zum Besten bestellt ist, machen die regelmäßigen Berichte über gelungene Angriffe und ihre teils dramatischen Folgen deutlich. Bereits im Herbst 2020 lag die Zahl der erfolgreichen Attacken auf kritische Infrastrukturen im Gesundheitsbereich laut der Bundesregierung bei 43, nachdem es im gesamten Vorjahr nur 16 waren.

  • Neue Energie-Label auf Elektrogeräten

    2021 gibt es auch in der Digitalwelt neue Vorschriften und Rechte für Verbraucher. Der Digitalverband Bitkom hat die wichtigsten Neuerungen für 2021 zusammengetragen. Am 1. Januar 2021 startete die Einführungsphase der elektronischen Patientenakte (ePA). Alle gesetzlichen Krankenversicherungen müssen ihren Patienten dann auf Wunsch eine solche digitale Akte zur Verfügung stellen, die Nutzung ist aber freiwillig. Versicherte behalten zudem die Hoheit darüber, welche Informationen in der ePA gespeichert werden. Sie soll zukünftig einen schnellen Zugriff auf medizinischen Daten, Diagnosen oder auch den Impfpass ermöglichen. Im weiteren Jahresverlauf soll die elektronische Patientenakte auch in Arztpraxen verfügbar gemacht werden.

  • Einführung der E-Rechnung

    Die Frist läuft: Ab dem 27. November 2020 müssen Unternehmen in Deutschland Rechnungen an Bundesbehörden als sogenannte E-Rechnung einreichen. Wie eine repräsentative Befragung unter 1.104 Unternehmen aller Branchen ab 20 Mitarbeitern in Deutschland ergeben hat, hat ein Großteil der Wirtschaft die Bedeutung der E-Rechnung bereits erkannt: So messen ihr 81 Prozent der Unternehmen eine große oder sehr große Relevanz bei. "Es stimmt optimistisch, dass sich die Unternehmen mit dem Thema E-Rechnung auseinandersetzen. Gleichwohl beobachten wir, dass längst noch nicht alle Rechnungen nach dem vorgegebenen strukturierten Format stellen oder empfangen", sagt Nils Britze, Bereichsleiter Digitale Geschäftsprozesse beim Bitkom. So übermitteln aktuell 30 Prozent der Unternehmen E-Rechnungen. "Automatisierte Rechnungsprozesse vermeiden Fehler und sorgen für mehr Wirtschaftlichkeit", betont Britze. "Alle Unternehmen sollten sich jetzt mit dem Thema E-Rechnung befassen."