Kein Hosting terroristischer Inhalte

Was gilt als illegaler Online-Inhalt? Empfehlung der Europäischen Kommission für wirksame Maßnahmen im Umgang mit illegalen Online-Inhalten
Die Kommission wird auch weiterhin die Umsetzung des Verhaltenskodex zur Bekämpfung illegaler Hetze im Internet durch die teilnehmenden IT-Unternehmen mit Unterstützung von Organisationen der Zivilgesellschaft überwachen

Terroristische Inhalte sind vor allem in den ersten Stunden ihres Auftauchens besonders gefährlich, da sie sich rasch verbreiten und für die Bürger sowie die Gesellschaft im weitesten Sinne große Risiken darstellen. Angesichts dieser Dringlichkeit sowie der Forderungen von EU-Staats- und Regierungschefs und internationalen Organisationen wie den Vereinten Nationen und der G7 bilden terroristische Inhalte einen besonderen Schwerpunkt der Empfehlung: Diese sollten innerhalb einer Stunde, nachdem die Plattform von den Strafverfolgungsbehörden und Europol einen entsprechenden Hinweis erhielt, entfernt werden.

Grundlage hierfür sind die laufenden Arbeiten, durch die gemeinsam mit der Industrie im Rahmen verschiedener freiwilliger Initiativen sichergestellt werden soll, dass das Internet frei von illegalen Inhalten ist. Außerdem sollen die im Zusammenhang mit weiteren Initiativen ergriffenen Maßnahmen verstärkt werden.

In ihrer Mitteilung vom September 2017 über die Bekämpfung illegaler Online-Inhalte machte die Kommission die Zusage, die Fortschritte auf diesem Gebiet zu überwachen und zu bewerten, ob zusätzliche Maßnahmen notwendig sind, um beispielsweise mit legislativen Maßnahmen in Ergänzung des bestehenden Rechtsrahmens eine rasche und proaktive Erkennung und Entfernung illegaler Online-Inhalte zu gewährleisten. Im Nachgang zu dieser Mitteilung legt die Kommission eine Empfehlung mit operativen Maßnahmen vor, die – zusammen mit den notwendigen Sicherheitsvorkehrungen – von den Internetunternehmen und Mitgliedstaaten zur Verstärkung dieser Bemühungen zu ergreifen sind, bevor sie über die Notwendigkeit von Rechtsvorschriften befindet. Diese Empfehlungen gelten für alle Formen illegaler Inhalte: von terroristischen Inhalten und Aufstachelung zu Hass und Gewalt bis zu Material mit Darstellungen sexuellen Kindesmissbrauchs, Produktfälschungen und Urheberrechtsverletzungen.

Was gilt als illegaler Online-Inhalt?
Was außerhalb des Internets verboten ist, ist auch im Internet illegal. Als "illegaler Online-Inhalt" gelten alle Inhalte, die dem Unionsrecht oder dem einzelstaatlichen Recht eines Mitgliedstaats zuwiderlaufen. Hierunter fallen terroristische Inhalte, Material mit Darstellungen sexuellen Kindesmissbrauchs (Richtlinie zur Bekämpfung des sexuellen Missbrauchs und der sexuellen Ausbeutung von Kindern), illegale Hetze (Rahmenbeschluss zur Bekämpfung bestimmter Formen und Ausdrücke von Rassismus und Fremdenfeindlichkeit durch das Strafrecht), gewerbliche Betrügereien (Richtlinie über unlautere Geschäftspraktiken oder Richtlinie über Verbraucherrechte) und Verletzungen des Rechts am geistigen Eigentum (Richtlinie über die Harmonisierung bestimmter Aspekte des Urheberrechts und der verwandten Schutzrechte in der Informationsgesellschaft).

Terroristische Inhalte beziehen sich auf jegliches Material, das nach der EU-Richtlinie zur Terrorismusbekämpfung oder nach nationalem Recht als terroristische Straftat gilt – auch Material, das von terroristischen Organisationen, die als solche auf Listen der EU oder UNO stehen, produziert wurde oder diesen zugeordnet werden kann.

Worin besteht der Zusammenhang zwischen dieser Empfehlung und den im September 2017 von der Kommission vorgelegten Leitlinien?
Mit dieser Empfehlung sollen die politischen Leitlinien, die die Kommission in ihrer im September 2017 vorgelegten Mitteilung über den Umgang mit illegalen Online-Inhalten, vorgegeben hatte, umgesetzt werden. Die Leitlinien bleiben weiterhin gültig.

Mit der Empfehlung werden die Arbeiten noch einen Schritt weiter vorangetrieben und die operativen Maßnahmen förmlich festgelegt, die von den Internetunternehmen und den Mitgliedstaaten zur Erkennung und Entfernung illegaler Inhalte reaktiv (durch so genannte "Melde- und Abhilfeverfahren") oder proaktiv ergriffen werden sollten. Sie enthält genaue Definitionen der verschiedenen Aspekte der Bekämpfung illegaler Online-Inhalte. Ein weiterer Fortschritt wurde bei der Bekämpfung illegaler Inhalte mit der Anerkennung vertrauenswürdiger Hinweisgeber erzielt. Parallel zur Festlegung geeigneter Sicherheitsvorkehrungen – wie Gegendarstellungen, Transparenz und Berichterstattung – werden Empfehlungen gegeben, wie Melde- und Abhilfemaßnahmen sowie proaktive Maßnahmen, etwa automatisierte Werkzeuge, unionsweit umgesetzt werden können, um die Entfernung illegaler Inhalte zu erleichtern.

Die Empfehlung verweist auf die im Rahmen des EU-Internetforums festgelegten Schwerpunkte bei der Entfernung terroristischer Inhalte aus dem Internet und schafft auf diesem Gebiet Klarheit hinsichtlich der Verantwortung der Internetunternehmen und der Art sowie des Umfangs der von diesen zu ergreifenden – insbesondere – reaktiven (aufgrund von Meldungen der zuständigen Behörden und von Europol) und proaktiven Maßnahmen. Die Empfehlung enthält mit Blick auf die wirksame Erkennung terroristischer Inhalte und die Unterbindung ihres Wiederauftauchens klare Mechanismen für die Übermittlung und Verarbeitung von Meldungen, wie beispielsweise genaue zeitliche Vorgaben (eine Stunde nach der Meldung) für die Bewertung und die anschließende Entfernung dieser Inhalte – dies gilt beispielsweise für Meldungen, die von der bei Europol eingerichteten EU-Meldestelle für Internetinhalte (EU Internet Referral Unit, EU-IRU) und von den Meldestellen der Mitgliedstaaten eingehen und für die Schnellverfahren geschaffen werden sollen.

Darüber hinaus sieht die Empfehlung, wie von den EU-Staats- und Regierungschefs gefordert, eine regelmäßige und transparente Berichterstattung der Internetplattformen darüber vor, welche Maßnahmen sie getroffen haben und ob greifbare Ergebnisse erzielt wurden. Wie bereits in der Mitteilung der Kommission vom September letzten Jahres angekündigt und nochmals im letzten Bericht der Sicherheitsunion unterstrichen, trägt dies dazu bei, dass die erzielten Fortschritte bewertet werden können, eine Konsolidierung erfolgt und die Erkenntnisse in Beschlüsse über zusätzliche Maßnahmen einfließen können, falls die Bekämpfung terroristischer Inhalte forciert werden muss.

Was erwartet die Kommission von den Online-Plattformen im Hinblick auf Unterbindung, Erkennung und Entfernung aller Formen illegaler Online-Inhalte?
Die Empfehlung enthält Vorgaben für die von den Online-Plattformen einzurichtenden Mechanismen für das Hinweisen auf illegale Inhalte sowie Einzelheiten, wie Meldungen über illegale Inhalte verarbeitet werden sollen (Melde- und Abhilfeverfahren). Online-Plattformen wird zudem nahegelegt, proaktiv tätig zu werden, indem sie beispielsweise mit so genannten "Uploadfiltern" die Aufdeckung illegaler Inhalte und deren Entfernung gegebenenfalls automatisieren.

Darüber hinaus wird den Online-Plattformen empfohlen, mit den Mitgliedstaaten, vertrauenswürdigen Hinweisgebern und untereinander zu kooperieren. So können sie feststellen, welche Verfahren sich bewährt haben, und diese nutzen, wovon kleinere Unternehmen in ihrem Bemühen, gegen illegale Online-Inhalte vorzugehen, profitieren können.

Zudem sind Online-Plattformen aufgefordert, eine Reihe von Transparenzmaßnahmen, etwa zu ihrer Inhaltepolitik, zu treffen und regelmäßig über die von ihnen ergriffenen Maßnahmen zur Bekämpfung illegaler Inhalte Bericht zu erstatten. Dies ermöglicht es den Regulierungsstellen, sich ein Bild über die Effizienz der vorgeschlagenen Maßnahmen zu machen.

Welcher Zusammenhang besteht zwischen der Empfehlung und den EU-Vorschriften für audiovisuelle Mediendienste, die den Schutz Minderjähriger im Internet zum Ziel haben?
Die Empfehlung ergeht unbeschadet der laufenden Verhandlungen über die Überarbeitung der Richtlinie über audiovisuelle Mediendienste. Sie ergänzt die Überarbeitung dieser Richtlinie, die eigens Legislativmaßnahmen für den Schutz Minderjähriger im Internet festlegt und damit sicherstellt, dass die Plattformen der sozialen Medien Minderjährige vor schädlichen Inhalten und alle Bürger gegen Hetze schützen. Im Einzelnen vorgesehen sind Mechanismen, mit deren Hilfe die Nutzer schädliche Inhalte melden oder darauf hinweisen können, sowie Altersüberprüfungssysteme bzw. Systeme zur elterlichen Kontrolle.

Wie sehen die nächsten Schritte aus?
Die Kommission wird die als Reaktion auf diese Empfehlung ergriffenen Maßnahmen der Online-Plattformen genau überwachen und entscheiden, ob weitere Schritte, gegebenenfalls auch der Erlass von Rechtsvorschriften, erforderlich sind. Darüber hinaus wird die Kommission die erzielten Fortschritte weiterhin analysieren und in den kommenden Wochen eine öffentliche Konsultation einleiten.

Die Mitgliedstaaten und Internetunternehmen müssen innerhalb von drei Monaten relevante Informationen zu terroristischen Inhalten und innerhalb von sechs Monaten Informationen zu sonstigen illegalen Inhalten vorlegen.

In Fragen terroristischer Online-Inhalte wird das EU-Internetforum seine freiwillige Zusammenarbeit fortsetzen, um mit seinem ehrgeizigen Aktionsplan zur Bekämpfung terroristischer Online-Inhalte voranzukommmen, der sich auf den Einsatz der automatisierten Erkennung solcher illegalen Inhalte und die Weitergabe entsprechender Technologie und Werkzeuge an kleinere Unternehmen erstreckt, und um die vollständige Umsetzung und Nutzung der "Hash-Datenbank" zu erreichen. Außerdem wird sich das Forum dafür einsetzen, die Zivilgesellschaft durch Alternativnarrative zu stärken.

Was Material mit Darstellungen sexuellen Kindesmissbrauchs anbetrifft, wird die Kommission auch in Zukunft mit den Mitgliedstaaten bei der Umsetzung der Richtlinie zur Bekämpfung des sexuellen Missbrauchs und der sexuellen Ausbeutung von Kindern zusammenarbeiten und die "WeProtect Global Alliance to End Child Sexual Exploitation Online" sowie die Partner von staatlicher und industrieller Seite in diesem Rahmen weiter unterstützen.

Beim Verbraucherschutz arbeitet die Kommission derzeit mit mehreren Online-Plattformen an der Verbesserung der Sicherheit der im Internet verkauften Produkte. Von den Plattformen werden weitere freiwillige Zusagen zur Verbesserung der Produktsicherheit über die gesetzlichen Verpflichtungen hinaus erwartet.

Die Kommission wird auch weiterhin die Umsetzung des Verhaltenskodex zur Bekämpfung illegaler Hetze im Internet durch die teilnehmenden IT-Unternehmen mit Unterstützung von Organisationen der Zivilgesellschaft überwachen. Ziel ist die Ausweitung der Initiative auf weitere Online-Plattformen. Die Empfehlung stützt sich auf die Fortschritte, die bereits mit dem Kodex erzielt wurden, und ergänzt diesen durch die Behandlung von Fragen der Transparenz und der Nutzerrückmeldungen.

Die Kommission legt ein Paket zum geistigen Eigentum vor, das auch Leitlinien zur Richtlinie zur Durchsetzung der Rechte des geistigen Eigentums enthält. Zudem wird sie die Arbeiten an den Absichtserklärungen, die mit verschiedenen Vermittlern geschlossen werden sollen, fortsetzen, um konkrete Lösungen für die Entfernung nachgeahmter Güter aus dem Internet zu erarbeiten.
(Europäische Kommission: ra)

eingetragen: 12.03.18
Newsletterlauf: 26.04.18

Meldungen: Europäische Kommission

Warum unterscheidet die Empfehlung zwischen terroristischen und sonstigen illegalen Online-Inhalten?
Angesichts der von terroristischen Online-Inhalten ausgehenden Risiken für die Bürger und die Gesellschaft, die einen besonders dringenden Handlungsbedarf darstellen, sind ergänzende Empfehlungen für diesen Bereich auch notwendig. Die Verbreitung dieser Inhalte wird zur Radikalisierung, Rekrutierung und zur Finanzierung terroristischer Aktivitäten sowie zur Vorbereitung von Anschlägen, zur Erteilung entsprechender Anweisungen und zur Anstiftung zu Anschlägen genutzt.

Diese Empfehlung befasst sich mit der Notwendigkeit proaktiver Maßnahmen sowie mit den Zeitvorgaben für die Bewertung und Handhabung terroristischer Inhalte, die in den ersten Stunden ihres Auftauchens im Internet besonders gefährlich sind. Dies steht im Einklang mit der Auffassung der Kommission, dass sektorspezifische Unterschiede gegebenenfalls und soweit gerechtfertigt zu berücksichtigen sind.

Die Empfehlung stützt sich auf die bereits im Rahmen des EU-Internetforums erzielten Fortschritte und konsolidiert das Erreichte – ein Hauptergebnis der Europäischen Sicherheitsagenda – verweist jedoch auf die dringende Notwendigkeit einer rascheren und umfassenderen Reaktion. Dies wurde auch nochmals vom Europäischen Rat unterstrichen, der auf seiner Tagung vom 22. und 23. Juni 2017 erklärte, dass er "von der Industrie [...] die Entwicklung neuer Technologien und Instrumente [erwarte], mit denen die automatische Erkennung und die Entfernung von zu terroristischen Handlungen anstiftenden Inhalten verbessert wird. Dies sollte erforderlichenfalls durch die einschlägigen Gesetzgebungsmaßnahmen auf EU-Ebene ergänzt werden." Ebenso forderte das Europäische Parlament in seiner Entschließung über Online-Plattformen vom Juni 2017 diese auf, die "Maßnahmen zur Bekämpfung illegaler und schädlicher Online-Inhalte zu intensivieren", und rief die Kommission auf, Vorschläge zur Bewältigung dieser Probleme zu unterbreiten.

Wie sollte die Entfernung terroristischer Online-Inhalte im Einzelnen aussehen?
Entsprechend der im Rahmen des EU-Internetforums vereinbarten Vorgehensweise enthält die Empfehlung eine Reihe von Maßnahmen, mit denen dem Hochladen und Teilen terroristischer Propaganda im Internet wirksam Einhalt geboten werden soll. Zu diesen gehören:

Kein Hosting terroristischer Inhalte: Internetunternehmen sollten in ihren Nutzungsbedingungen ausdrücklich erklären, dass sie keine terroristischen Inhalte hosten.

Verbessertes Meldesystem: Um Inhalte innerhalb einer Stunde nach der Meldung entfernen zu können, sollten – zusammen mit Schnellverfahren – besondere Mechanismen für die von den zuständigen Behörden und der Meldestelle für Internetinhalte bei Europol übermittelten Meldungen und die Folgemaßnahmen eingeführt werden. Gleichzeitig müssen die Mitgliedstaaten sicherstellen, dass sie über die notwendigen Fähigkeiten und Ressourcen für die Erkennung terroristischer Inhalte und deren Meldung an die Internetplattformen verfügen.

Eine-Stunde-Regel: Da terroristische Inhalte in den ersten Stunden ihres Auftauchens im Internet besonders schädlich sind, sollten Internetunternehmen solche Inhalte grundsätzlich innerhalb einer Stunde, nachdem sie von den Strafverfolgungsbehörden und Europol gemeldet wurden, entfernen.

Raschere proaktive Erkennung und wirksame Entfernung: Für die wirksame und rasche Erkennung sowie prompte Entfernung oder Sperrung terroristischer Inhalte und um zu verhindern, dass diese Inhalte nach ihrer Entfernung wieder auftauchen, sind proaktive Maßnahmen wie die automatisierte Erkennung nötig. Internetunternehmen sollten sich über geeignete technische Werkzeuge austauschen und diese optimieren sowie Arbeitsvereinbarungen für eine bessere Zusammenarbeit mit den zuständigen Behörden, einschließlich Europol, treffen.

Sicherheitsvorkehrungen: Um den gemeldeten oder automatisiert erfassten terroristischen Inhalt genau bewerten zu können, müssen Internetunternehmen die notwendigen Sicherheitsvorkehrungen – etwa eine Überprüfung durch Menschen vor der Entfernung von Inhalten – treffen, um zu vermeiden, dass legitime Inhalte unbeabsichtigt oder irrtümlich entfernt werden.

Es muss klar sein, dass die Eindämmung der Zugänglichkeit terroristischer Propaganda nur eine Seite der Reaktion auf die Herausforderung terroristischer Online-Inhalte sein kann. Die andere Seite besteht in der Förderung glaubwürdiger Stimmen, die positive Alternativ- oder Gegennarrative im Internet verbreiten. Hierzu hat die Kommission das Programm zur Stärkung der Zivilgesellschaft (Civil Society Empowerment Programme, CSEP) im Rahmen des EU-Internetforums ins Leben gerufen, das zur Entwicklung solcher Narrative den Kapazitätsaufbau und Partner der Zivilgesellschaft fördert.

Wie werden die Grundrechte geschützt?
Grundlage aller Maßnahmen zur Bekämpfung illegaler Online-Inhalte müssen angemessene und wirksame Sicherheitsvorkehrungen sein, damit gewährleistet ist, dass die Online-Plattformen die unbeabsichtigte Entfernung legitimer Inhalte verhindern.

Hierzu fordert die Empfehlung die Online-Plattformen erstens auf, in Bezug auf die von ihnen gehosteten Inhalte umsichtig und angemessen vorzugehen, insbesondere wenn sie Hinweise und Gegendarstellungen verarbeiten und über die etwaige Entfernung oder Sperrung von als illegal angesehenen Inhalten entscheiden.

Entfernen Online-Plattformen Inhalte automatisch, sollten sie besondere Sicherheitsvorkehrungen, vor allem eine Aufsicht und Überprüfung durch Menschen ("human-in-the-loop") vorsehen, denn der jeweilige Kontext muss daraufhin überprüft werden, ob der Inhalt als illegal anzusehen ist.

Zweitens sollten die Online-Plattformen denjenigen, die Inhalte bereitgestellt haben, die dann entfernt wurden, die Möglichkeit geben, die Entfernung dieser Inhalte durch eine Gegendarstellung anzufechten. Damit kann irrtümlich entfernter Inhalt wieder hergestellt werden.

Drittens sollten Online-Plattformen regelmäßig Berichte veröffentlichen, in denen sie ihre Politik der Inhalteverwaltung gegenüber der breiten Öffentlichkeit darlegen.

Richtet sich die Empfehlung an große und kleine Online-Plattformen? Erhalten kleine Plattformen Unterstützung für die Entfernung illegaler Inhalte?
Die Empfehlung gilt für alle – großen wie auch kleinen – Plattformen, da kleinere Plattformen immer mehr zu einem weichen Ziel für illegale Online-Inhalte, vor allem für terroristische Inhalte, geworden sind. Trotzdem widmet die Empfehlung kleineren Plattformen besondere Aufmerksamkeit, indem sie die Verhältnismäßigkeit der Maßnahmen anmahnt und anerkennt, dass einige Plattformen nur über begrenzte Ressourcen und Sachkenntnisse verfügen.

Zudem empfiehlt die Kommission im Hinblick auf illegale und vor allem terroristische Inhalte eine verstärkte Zusammenarbeit zwischen den Online-Plattformen, damit Erfahrungen und technische Lösungen ausgetauscht werden können, und insbesondere die Unterstützung kleinerer Plattformen bei der Umsetzung der Empfehlung.

Wird mit der Empfehlung die Richtlinie über den elektronischen Geschäftsverkehr aus dem Jahr 2000 geändert, die unter bestimmten Bedingungen Online-Vermittler von der Haftung für den von ihnen verwalteten Inhalt befreit?
Nein. Der Wortlaut der Empfehlung berührt nicht die Richtlinie über den elektronischen Geschäftsverkehr und die darin enthaltenen Haftungsbestimmungen. In ihrer Mitteilung von 2016 zu Online-Plattformen sagte die Kommission zu, eine ausgewogene und berechenbare Haftungsregelung für Online-Plattformen als wichtige rechtliche Rahmenbedingung für die Wahrung digitaler Innovation im digitalen Binnenmarkt aufrecht zu erhalten.

Das EU-Recht kann durch die Empfehlung, die unverbindlich ist, nicht geändert werden. Die Empfehlung nutzt jedoch den Handlungsspielraum, den die Richtlinie über den elektronischen Geschäftsverkehr bietet – vor allem im Hinblick auf die Möglichkeit der Industrie zur Selbstregulierung oder die Festlegung konkreter Anforderungen an die Entfernung illegaler Online-Inhalte durch die Mitgliedstaaten.