Sie sind hier: Home » Markt » Hinweise & Tipps

Zunahme von KI-gesteuerten Chat-Diensten


Die Zukunft von Chatbots unter dem neuen EU KI-Gesetz
LLM-Chatbots sind fortschrittliche KI-Systeme mit der Fähigkeit, den Kontext zu erfassen, die Bedeutung abzuleiten und kohärente und kontextbezogene Antworten zu generieren



Gabriel Frasconi, VP & General Manager South Europe & DACH bei Freshworks

Mit der Zunahme von KI-gesteuerten Chat-Dienste werden automatisierte Kundengespräche immer mehr zu einem Wettbewerbsvorteil. Aufgrund ihrer leistungsstarken Fähigkeiten und ihrer weiten Verbreitung ist die generative KI mittlerweile auch in das Blickfeld der Politik gerückt. Die Gesetzgeber der EU haben deshalb neue Vorschriften in das KI-Gesetz aufgenommen, die sich direkt mit dem Aufkommen von hochentwickelten Chatbots und LLMs befassen sollen.

Das europäische KI-Gesetz ist die erste umfassende Verordnung über Künstliche Intelligenz (KI), die durch den Gesetzgeber erlassen wurde. Das Gesetz legt klare Anforderungen und Verpflichtungen für KI-Entwickler und -Anwender bezüglich bestimmter Anwendungen von KI fest und entlastet gleichzeitig die administrativen und finanziellen Belastungen für kleine und mittlere Unternehmen.

Während die meisten KI-Systeme nur eine geringe oder gar keine Gefahr darstellen und zur Lösung vieler gesellschaftlicher Herausforderungen beitragen können, bergen bestimmte KI-Systeme Risiken, die angegangen werden müssen, um unerwünschte Ergebnisse zu vermeiden. Das Gesetz teilt KI-Anwendungen in verschiedene Kategorien ein und formuliert Verpflichtungen für KI auf der Basis ihrer potenziellen Risiken und Auswirkungen:

>> KI-Systeme mit inakzeptablem Risiko gelten als Gefahr für die Bevölkerung und werden verboten. Darunter zählen Anwendungen, die durch Gesichtserkennung Menschen in der Öffentlichkeit identifizieren können.
>> KI-Systeme mit hohem Risiko wie Anwendungen in Bildung und Gesundheitswesen, unterliegen besonderen Verpflichtungen und werden vor und nach ihrem Markteintritt gründlich kontrolliert.
>> KI-Systeme mit geringem Risiko müssen sorgfältig geprüft und schwerwiegende Vorfälle an die Europäische Kommission gemeldet werden. Darunter fallen generative KI und alle anderen Anwendungen.

Auswirkungen auf Chatbots
LLM-Chatbots sind fortschrittliche KI-Systeme mit der Fähigkeit, den Kontext zu erfassen, die Bedeutung abzuleiten und kohärente und kontextbezogene Antworten zu generieren. Solche Dienste, die Gespräche mit menschlichen Nutzern mit Hilfe von KI simulieren können, werden im EU-KI-Gesetz besonders hervorgehoben.

Eines der zentralen Punkte des KI-Gesetzes ist die Schaffung von Transparenz im Umgang mit generativen KI-Systemen. Der KI-Aspekt einer Anwendung muss von Anfang an klar dargelegt werden, damit die Nutzer eine informierte Entscheidung über ihr Engagement treffen können. Mit KI generierte oder veränderte Inhalte - Bilder, Audio- oder Videodateien (z. B. Deepfakes) - müssen klar als KI-generiert gekennzeichnet werden, damit die Nutzer erkennen, wenn sie auf solche Inhalte stoßen.

Ein weiteres wichtiges Kriterium ist die menschliche Verantwortung. Unternehmen müssen sicherstellen, dass die über Chat-Dienste gesammelten personenbezogenen Daten sicher und ethisch behandelt werden. Anbieter und Entwickler sind aufgefordert, schwerwiegende Vorfälle und Fehlfunktionen zu melden, während Nutzer die Möglichkeit haben müssen, Interaktionen mit einem Chatbot abzubrechen. Mit diesem Schutz soll die Kontrolle über die Interaktion zwischen den Nutzern gewährleistet werden.

Das europäische KI-Gesetz ist eine Initiative, um das Vertrauen der Nutzer in diese Technologie zu stärken und gleichzeitig die potenziellen Risiken zu begrenzen. Die Vorschrift schafft klare Regeln und Standards, damit die Nutzung von generativer KI und Chatbots transparent und ethisch angemessen ist. (Freshworks: ra)

eingetragen: 18.04.24
Newsletterlauf: 26.06.24

Freshworks: Kontakt & Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.


Kostenloser Compliance-Newsletter
Ihr Compliance-Magazin.de-Newsletter hier >>>>>>


Meldungen: Markt / Hinweise & Tipps

  • Tipps für Security-Audits mit Mehrwert

    NIS2, die aktuelle Richtlinie zur Netzwerk- und Informationssicherheit, verfolgt das Ziel, EU-weit das Cybersicherheitsniveau zu steigern. Auf die betroffenen Unternehmen kommen infolgedessen neue Rechenschaftspflichten über ihre Sicherheitslage zu.

  • Wie werden Aktien und Fonds besteuert?

    Als Anlegerin oder Anleger sollten Sie bei Ihren Finanzentscheidungen auch steuerliche Aspekte berücksichtigen. Sie müssen aber nicht selbst aktiv werden: Die auf Kapitalerträge entfallenden Steuern werden von Ihrer Depotbank bei der Auszahlung einbehalten und an das Finanzamt abgeführt. Wichtig ist, dass Sie einen Freistellungsauftrag bei Ihrer Bank einreichen, um den Sparer-Pauschbetrag nutzen zu können.

  • Geordnet gegen Chaos beim Cyberangriff

    Mit der neuen EU-Direktive NIS2 stehen Unternehmen vor der Herausforderung, ihre Cybersecurity-Strategie zu überarbeiten. Um den Anforderungen der Richtlinie gerecht zu werden, ist es entscheidend, ein Kernteam für Sicherheitsbelange zusammenzustellen. Wie Unternehmen dabei vorgehen sollten, erklärt Dirk Wocke, IT Compliance Manager und Datenschutzbeauftragter bei indevis.

  • Die fünf wichtigsten Auswirkungen von eIDAS 2.0

    Starke Identifizierung ist entscheidend für den Aufbau von Vertrauen und die Gewährleistung sicherer Transaktionen in einer zunehmend digitalen Welt. Die jüngste Überarbeitung der eIDAS-Verordnung durch die EU, mit der digitale ID-Wallets für alle Bürger eingeführt werden, kommt zur rechten Zeit.

  • Crowdfunding: Worauf ist zu achten?

    Ob es sich um eine innovative Geschäftsidee, ein neues Produkt oder ein spannendes Projekt handelt: Eine gute Idee braucht Startkapital! Das Crowdfunding bzw. -investing ist eine von vielen Möglichkeiten, an dieses Startkapital zu gelangen und dadurch ein Projekt an den Markt zu bringen.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen