Sie sind hier: Home » Markt » Studien, Umfragen, Untersuchungen

KI & Big Data: Ganzheitlicher Ansatz vonnöten

Studie: Fehlende Rechtssicherheit für Big Data und KI
Rechtlicher Rahmen reicht aktuell nicht aus - Problem zum Beispiel bei der Anonymisierung personenbezogener Daten

Wie können Big-Data- und KI-Anwendungen gewinnbringend genutzt werden, ohne Datenschutz und IT-Sicherheit zu verletzen? Mit dieser Frage beschäftigt sich eine juristische Studie des Nationalen Forschungszentrums für angewandte Cybersicherheit ATHENE. Die Autorinnen und Autoren der Studie "Systematic Privacy in real-life Data Processing Systems" untersuchen geltende Vorschriften aus den Rechtsbereichen Datenschutz, IT-Sicherheitsrecht und Urheberrecht in Bezug auf Big Data. Dabei betrachten sie auch den Entwurf über eine EU-Verordnung zur Künstlichen Intelligenz (KI-VO-E). Ihr Fazit: Der aktuelle Rechtsrahmen reicht für eine sichere Verarbeitung von Big Data nicht aus und sorgt für Verunsicherung bei Bürgerinnen und Bürgern sowie Rechtsunsicherheit bei Unternehmen. Sie fordern einen ganzheitlichen, rechtlich-technischen Rahmen und entwickeln konkrete Lösungsvorschläge sowie Handlungshilfen. Die vollständige Studie kann kostenlos unter www.athene-center.de/leap-studien heruntergeladen werden.

Mit der Digitalisierung von Prozessen in Verwaltung und Wirtschaft fallen riesige Mengen an digitalen Datensätzen aus verschiedenen Quellen und in ganz unterschiedlichen Formaten an (Big Data). Die Verarbeitung dieser großen Datensätze birgt erhebliche Chancen für Wirtschaft und Gesellschaft, beinhaltet aber auch Risiken für Verletzungen des Persönlichkeitsrechts von Bürgerinnen und Bürger. Beispiele gibt es viele: Im Katastrophenschutz lassen sich Personen über Big-Data-Analysen von Handydaten schneller finden und evakuieren. In Schulen lassen sich mittels Big-Data-Analysen Stärken und Schwächen von einzelnen Schülerinnen und Schülern erfassen und daraus individuelle Lernprogramme entwickeln. Ein weiteres Einsatzfeld für die staatliche Nutzung von Big-Data-Analysen ist der Arbeitsmarkt: So werden in Österreich und Polen die Arbeitsmarktchancen arbeitsloser Personen errechnet und kategorisiert.

KI und Big Data
ChatGPT, Midjourney und Co., Anwendungen, die Künstliche Intelligenz nutzen, sind zurzeit in aller Munde. Diese und andere KI-Anwendungen verarbeiten riesige, reale Datenmengen - was viele rechtliche Fragen aufwirft: Dürfen für das Training von KI-Anwendungen beliebige Daten aus dem Internet genutzt werden, welche Schutzrechte greifen hier? Wenn Daten rechtmäßig gewonnen wurden, wem gehören die Ergebnisse der Verarbeitung, also der KI-generierte Daten? Wer haftet im Zweifel für die Ergebnisse? Die Studie untersucht, welche Antworten geltendes Recht (Urheberrecht, Datenschutzrecht, IT-Sicherheitsrecht) liefert, und geht besonders auf die geplante KI-Verordnung der EU (KI-VO-E) ein. Die Autorinnen und Autoren fassen wichtige Bestimmungen zusammen, sehen allerdings aktuell noch viele Herausforderungen für KI-Betreiber, hier sichere vertragliche Regelungen für die Datenverarbeitung zu finden, ohne den eigenen Spielraum zur Verwertung der Ergebnisse zu sehr einzuengen.

Wann sind Daten anonym?
Die Autorinnen und Autoren der Studie sehen ein grundlegendes Problem bei der Anonymisierung von personenbezogenen Daten, um sie zu verarbeiten: Ab wann sind (ehemals) personenbezogene Daten verlässlich und rechtssicher anonymisiert? Hier gibt das geltende Recht (insbesondere die DSGVO) keine abschließende Antwort, was zu Rechtsunsicherheiten für verarbeitende Unternehmen und Einrichtungen führt. Eine mögliche Lösung wäre, einen Grad der Anonymisierung durch ein einheitliches Verfahren zu berechnen und einen Schwellenwert für die legale Nutzung anzusetzen. Dadurch könnten Unternehmen Rechtssicherheit erreichen.

Ganzheitlicher Rechtsrahmen für Big Data
Die jetzige Rechtslage für Big Data lässt viele Fragen offen. Die Studie kommt zu dem Schluss, dass ein ganzheitlicher Ansatz vonnöten ist. Dieser sollte übergreifend verschiedene Rechtsgebiete berücksichtigen, um einerseits Bürgerinnen und Bürger zu schützen, andererseits Unternehmen wie Herstellern Rechtssicherheit zu geben und somit die Nutzung neuer Technologien unter Berücksichtigung von Datenschutz und IT-Sicherheit zu ermöglichen.

Die Studie ist im ATHENE-Projekt "Systematic Privacy in real-life Data Processing Systems" entstanden. Im Projekt werden die Wissenschaftlerinnen und Wissenschaftler noch weiter zu den aufgeworfenen Fragen forschen und konkrete Vorschläge erarbeiten, mit dem Ziel, die Vorteile von Big Data und KI rechtssicher nutzen zu können, ohne dass dies unangemessene Eingriffe in die Rechte und Freiheiten betroffener Personen mit sich bringt. Die Autorinnen und Autoren sind an vier im Bereich des Digitalisierungsrechts führenden hessischen Lehrstühlen bzw. Forschungseinrichtungen tätig: Gerrit Hornung und Till Schaller, Universität Kassel; Annika Selzer, Sarah Stummer und Jessica Kriegel, Fraunhofer-Institut für Sichere Informationstechnologie SIT; Indra Spiecker gen. Döhmann und Amina Gutjahr, Goethe-Universität Frankfurt sowie Thomas Wilmer, Hochschule Darmstadt (h_da). Alle sind zugleich Angehörige von ATHENE.

Das Nationale Forschungszentrum für angewandte Cybersicherheit ATHENE ist das größte Forschungszentrum für IT-Sicherheit und Privatsphärenschutz in Europa. ATHENE ist eine Forschungseinrichtung der Fraunhofer-Gesellschaft mit ihren beiden Instituten Fraunhofer SIT und IGD unter Beteiligung der TU Darmstadt, der Goethe-Universität Frankfurt und der Hochschule Darmstadt. (Fraunhofer SIT: ra)

eingetragen: 29.11.23
Newsletterlauf: 16.02.24

Fraunhofer SIT: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Meldungen: Studien

Bildungsstand spielt eine Rolle
In Deutschland gehen die Meinungen über generative Künstliche Intelligenz, wie ChatGPT, weit auseinander - Auch die Nutzung im privaten und beruflichen Alltag ist sozial ungleich verteilt. "Diese Unterschiede sind relevant", sagt Professor Florian Stoeckel, der die Studie geleitet hat. "Sie betreffen den Zugang zu Chancen, die digitale Teilhabe und letztlich die Frage, wer die Zukunft mitgestaltet, wenn sich Arbeit und Gesellschaft durch KI verändern."
Soziale Medien werden immer wichtiger
Produkt auspacken, Anwendung zeigen, Marke vorstellen, Stimmen von zufriedenen Kundinnen und Kunden einfangen: Die Inhalte, die Handelsunternehmen auf ihren Social-Media-Profilen ausspielen, sind vielfältig. Trotzdem fällt es fast der Hälfte der deutschen Handelsunternehmen, die über ein solches Profil verfügen, schwer, regelmäßig Inhalte zu posten (46 Prozent). Hand in Hand damit gehen auch die Erstellung interessanter Inhalte, die ein Drittel der Händler als Herausforderung sieht (34 Prozent), und die kontinuierliche Kanalbetreuung bzw. das Community Management, mit dem etwa ein Viertel zu kämpfen hat (23 Prozent).
Finanzinstitute unter Zugzwang
Mit Inkrafttreten der EU-Verordnung zur digitalen operationellen Resilienz (DORA) Mitte Januar 2025 stehen Finanzinstitute unter Zugzwang: Sie müssen ihre IT-Sicherheit aufgrund der herrschenden Gefahrenlage entlang eines Katalogs an Maßnahmen auf einen zeitgemäßen Stand der Technik bringen. Eine aktuelle Studie von Veeam Software, dem weltweit führenden Anbieter für Datenresilienz nach Marktanteil, hat bei betroffenen Organisationen den Status Quo bei der Umsetzung abgefragt. Darin zeigt sich: Eine Mehrheit der deutschen Finanzdienstleister hält die hauseigene Resilienz noch nicht für ausreichend. 95 Prozent der über 100 befragten deutschen Unternehmen sehen noch Verbesserungsbedarf, um die Anforderungen zu erfüllen.
Billig-Händler verschärfen den Wettbewerb
Seit einigen Jahren drängen verstärkt Online-Händler auf den deutschen Markt, die zu Niedrigstpreisen Produkte vor allem aus China importieren. Mehr als drei Viertel der deutschen Händler (78 Prozent) fordern deshalb ein Verbot chinesischer Billig-Marktplätze. Aus Sicht von je neuen von zehn Händlern würden sie häufig gegen das hier geltende Recht verstoßen (92 Prozent) und ihre Produkte enthielten oft potenziell gefährliche Inhaltsstoffe (88 Prozent). Das sind Ergebnisse einer repräsentativen Studie im Auftrag des Digitalverbands Bitkom, für die 505 Handelsunternehmen ab zehn Beschäftigten in Deutschland befragt wurden.
Cybersicherheit als strategisches Thema
Eine aktuelle Studie von Qualys in Zusammenarbeit mit Dark Reading zeigt: Trotz wachsender Ausgaben und zunehmender Relevanz in Vorstandsetagen bleibt das Cyber-Risikomanagement vieler Unternehmen unausgereift. Der Grund: Der geschäftliche Kontext fehlt.

KI-Regulierungsbedarf steigt Transparenz ist die Basis für Resilienz

Fachartikel

Auch mittelbare Benachteiligungen sind verboten
Schon seit 2006 gilt das Allgemeine Gleichbehandlungsgesetz (AGG), was insbesondere Arbeitgeber sehr vorsichtig gemacht hat. Etwa indem Stellenanzeigen alle inzwischen mindestens drei Geschlechter ausdrücklich mit "m/w/d" bezeichnen und auch keine Altersvorgaben mehr vorsehen, sowie geschlechtersensible - korrekt gegenderte - Sprache verwenden. Doch haben viele Berufsverbände noch gar nicht erkannt, dass sie gegenüber Mitgliedern und Bewerbern um Mitgliedschaft noch weitere Pflichten aus dem AGG haben, und diese korrespondierend Rechte, analog wie bei Arbeitnehmern.
Digitale Transformation im Finanzsektor
Die digitale Transformation im Finanzsektor schreitet unaufhaltsam voran - und mit ihr wachsen die Anforderungen an die IT-Sicherheit. Mit dem Digital Operational Resilience Act (DORA) hat die EU nun einen wegweisenden Regulierungsrahmen geschaffen, der die digitale Widerstandsfähigkeit von Finanzinstituten stärken soll. Die neue Verordnung betrifft nicht nur Banken und Versicherungen, sondern den gesamten Finanzsektor inklusive dessen kritischer IT-Dienstleister.

Bundestag

Abgleich biometrischer Lichtbilder zulässig
Die Bundesregierung hat der Auffassung der Fraktion Die Linke widersprochen, wonach die in Paragraf 15b des Asylgesetzes enthaltende Regelung zum automatisierten Abgleich biometrischer Lichtbilder mit allgemein öffentlich zugänglichen personenbezogenen Daten aus dem Internet nicht mit geltenden Recht vereinbar sei, weil zu diesem Abgleich in der EU nicht zugelassene Systeme mit künstlicher Intelligenz verwendet werden müssten.
Behandlung von Nachhaltigkeitsrisiken
Die Frage von höheren Eigenkapitalanforderungen für Anlagen von Versicherungen und Banken in Aktien und Anleihen mit Bezug zu fossilen Brennstoffen fallen in die Zuständigkeit der Europäischen Union. Darauf verweist die Bundesregierung in ihrer Antwort (21/1068) auf eine Kleine Anfrage der Fraktion Bündnis 90/Die Grünen (21/818).
Stand zum Emissionshandel für Gebäude und Verkehr
Die Bundesregierung wird ein neues Klimaschutzprogramm vorlegen, das im Zeitraum bis zum Jahr 2030 auch Maßnahmen zur Treibhausgasminderungsquote im Bereich der durch die EU-Lastenverteilungsverordnung (ESR) erfassten Sektoren Gebäude und Verkehr enthalten wird. Die Maßnahmen für das Programm werden derzeit entwickelt. Das geht aus der Antwort (21/1072) der Bundesregierung auf eine Kleine Anfrage (21/762) der Fraktion Bündnis 90/Die Grünen hervor.

Bundesarbeitsgericht

Frage der Tariffähigkeit des DDN
Nimmt ein Tarifvertrag auf einen anderen Tarifvertrag Bezug, werden die Regelungen des in Bezug genommenen Tarifvertrags inkorporierter Teil des verweisenden Tarifvertrags. Als solcher gelten sie unmittelbar und zwingend zwischen den an den Verweisungstarifvertrag gebundenen Parteien eines Arbeitsvertrags. Das gilt auch für den Fall, dass am Abschluss des in Bezug genommenen Tarifvertrags eine nicht tariffähige Partei beteiligt gewesen sein sollte.
Teilzeit- und Befristungsgesetzes (TzBfG)
Ein nach Maßgabe des Teilzeit- und Befristungsgesetzes (TzBfG) zulässig befristetes Arbeitsverhältnis endet auch dann mit Ablauf der vereinbarten Befristung, wenn der Arbeitnehmer zwischenzeitlich in den Betriebsrat gewählt worden ist. Benachteiligt der Arbeitgeber allerdings das befristet beschäftigte Betriebsratsmitglied, indem er diesem wegen des Betriebsratsmandats keinen Folgevertrag anbietet, hat das Betriebsratsmitglied einen Anspruch auf den Abschluss des verweigerten Folgevertrags als Schadensersatz.
Betriebratswahlrecht & Führungskräfte
Ein Arbeitnehmer, der mehreren Betrieben desselben Unternehmens angehört, hat bei der Wahl des Betriebsrats in sämtlichen dieser Betriebe das aktive Wahlrecht. Das gilt auch für Führungskräfte in Unternehmen mit einer unternehmensinternen Matrix-Struktur.

Corporate Compliance Zeitschrift

Recht und Ethik im Unternehmen
Wenn man sich vertieft mit dem Themenkomplex Ethik im Unternehmen auseinandersetzt, so gerät man bisweilen in einen dynamischen Diskurs. Kernfragen sind, wie Ethik und Recht (auch innerbetriebliches Recht) im Verhältnis zueinander stehen und wie eine Organisation Recht und Ethik bestmöglich vermitteln kann? Gemeinsam haben Recht und Ethik, dass sie Steuerungsinstrumente für individuelles Handeln und die Entwicklung gesellschaftlicher wie unternehmensbezogener Prozesse sind. Beide werden auch oftmals als selbständige Rechtskreise definiert, deren Konnex schwerlich herzustellen sei.
Whistleblowing: Risiken des KI-Einsatzes
Internationale Konzerne stehen beim Aufbau rechtssicherer und zugleich effizienter Hinweisgebersysteme vor komplexen Herausforderungen - etwa durch divergieren- de Rechtsordnungen, kulturelle Unterschiede oder limitiert verfügbare Ressourcen. Künstliche Intelligenz (KI) kann in diesem Kontext substanzielle Effizienzgewinne ermöglichen, sei es bei der Analyse großer Datenmengen, der Priorisierung von Hinweisen oder in der Begleitung interner Untersuchungen.

Zeitschrift Risk, Fraud & Compliance

Befristungsklauseln auch für Compliance-Management
In der öffentlichen Gesetzgebung gibt es immer wieder die Forderung nach und erste Experimente mit befristeten Gesetzen. Regulierungen erhalten dann eine sogenannte Sunset-Klausel, in der die Befristung festgelegt wird. Im Folgenden wird darüber diskutiert, inwiefern befristete Regeln auch für das Compliance-Management innerhalb von Unternehmen sinnvoll sein können.
Darstellung der EU-Ökodesignverordnung
Die Europäische Union hat sich mit dem Green Deal und dem Aktionsplan für die Kreislaufwirtschaft das Ziel gesetzt, den Übergang zu einer nachhaltigen, ressourcenschonenden Wirtschaft systematisch voranzutreiben. Ein zentraler Bestandteil dieser Strategie ist die Regulierung der Umweltverträglichkeit von Produkten über deren gesamten Lebenszyklus hinweg. Die Verordnung zur Schaffung eines Rahmens für die Festlegung von Ökodesignanforderungen für nachhaltige Produkte (Verordnung (EU) 2024/1781) - nachfolgend als EU-Ökodesignverordnung bezeichnet - soll dabei als grundsätzlicher Rechtsrahmen für nahezu alle physischen Waren auf dem EU-Binnenmarkt dienen und die bisherige Richtlinie 2009/125/EG ersetzen.

Zeitschrift Corporate Governance

Vorgaben zur Anwendung der Taxonomie-VO
Die EU-Kommission hat Anfang Juli 2025 einen neuen delegierten Rechtsakt zur Nachhaltigkeitsberichterstattung erlassen. Damit sollen die bereits existierenden delegierten Verordnungen zur EU-Taxonomie betreffend die Berichterstattung nach Art. 8 und die anzuwendenden technischen Bewertungskriterien modifiziert werden. Ziel ist es, die teils anspruchsvollen Vorgaben zu vereinfachen, um europäische Unternehmen von Bürokratiekosten zu entlasten und damit in ihrer Wettbewerbsfähigkeit zu stärken. Der vorliegende Beitrag gibt einen Überblick über Hintergründe und Inhalte der Veröffentlichung und diskutiert sie im Kontext der Omnibus-Initiative der EU-Kommission.
Doppelte Wesentlichkeitsanalyse nach ESRS
Die Corporate Sustainability Reporting Directive (CSRD) und die European Sustainability Reporting Standards (ESRS) markieren einen Paradigmenwechsel in der Nachhaltigkeitsberichterstattung europäischer Unternehmen. Im Zentrum steht dabei die doppelte Wesentlichkeitsanalyse, durch die Unternehmen relevante Nachhaltigkeitsthemen als Auswirkungen, Risiken und Chancen (IROs) identifizieren und bewerten müssen. Der vorliegende Beitrag untersucht, wie börsennotierte Unternehmen der Industrie "Zyklische Konsumgüter" im DAX, MDAX und SDAX diese Anforderungen im Geschäftsjahr 2024 erstmals freiwillig umgesetzt haben. Grundlage ist eine qualitative und quantitative Analyse der doppelten Wesentlichkeitsanalyse und der IRO-Berichterstattung.

Zeitschrift Interne Revision

Die Mitigation der Bedrohungen
Sofern man verstanden hat, was Social Engineering bedeutet, auf welche verschiedenen Arten es eingesetzt werden kann und wie die Bedrohungstaktiken und deren -techniken funktionieren, ist es an der Zeit, Schwachstellen zu verstehen und ein Abwehrkonzept zu entwickeln. Sowohl das MITRE-Att@ck-Modell als auch das Kontrollrahmenwerk des Center for Internet Security helfen bei der Etablierung und Aufrechterhaltung von Gegenmaßnahmen.
Künstliche Intelligenz in der Internen Revision
Eine technische Entwicklung, die aktuell besonders vielversprechend erscheint, um dem Fachkräftemangel im Bereich Interne Revision entgegenzuwirken, ist künstliche Intelligenz (KI). Im Rahmen einer empirischen Untersuchung wurden Mitarbeiterinnen und Mitarbeiter sowie Führungskräfte im Bereich Interne Revision befragt, um den aktuellen Stand des Einsatzes von KI in der Revision zu erheben und potenzielle Einsatzmöglichkeiten zu identifizieren. Derzeit ist KI in der Revision noch nicht flächendeckend im Einsatz, die Einstellung der Revisorinnen und Revisoren zur Thematik ist jedoch positiv. Um den zukünftigen Einsatz von KI in der Internen Revision zu erleichtern, werden praxisorientierte Handlungsempfehlungen abgeleitet, die potenzielle Einsatzmöglichkeiten von KI verdeutlichen.

Bundeskartellamt

Vertikalzusammenschlüsse in digitalen Märkten
Das Bundeskartellamt hat den Erwerb der alleinigen Kontrolle der Salesforce Inc. (Salesforce) über die Informatica Inc. (Informatica) freigegeben. Salesforce mit Sitz in den USA ist der weltweit größte Anbieter von Software für Customer-Relationship-Management (CRM). Informatica, ebenfalls mit Sitz in den USA, ist ein Anbieter von Datenmanagement- und -integrationslösungen, die von vielen Unternehmen aus diversen Branchen genutzt werden, um Daten des Unternehmens zentral zu verarbeiten - zunehmend auch in der Cloud.
Leitplanken des Kartellrechts beachten
Die Open Grid Europe GmbH (OGE), die Betreiberin des größten Gasfernleitungsnetzes in Westdeutschland, plant den Bau einer CO2-Pipeline in Kooperation mit dem ostdeutschen Gasfernleitungsnetzbetreiber ONTRAS Gastransport GmbH (ONTRAS) und eine weitere CO2-Pipeline in Kooperation mit der belgischen Fluxys S.A. (Fluxys). Aufgrund des hohen Investitionsvolumens im einstelligen Milliardenbereich hat OGE das Bundeskartellamt um Hinweise gebeten, falls kartellrechtliche Bedenken gegen die beiden Projekte bestehen.