Wem man im Internet vertrauen soll


Die Suchmaschinen und Empfehlungssysteme haben einen großen Einfluss darauf, welche Posts und Dokumente von Personen gesehen werden
Glaubwürdigkeit lässt sich anhand verschiedener Kriterien beurteilen - Besseres Glaubwürdigkeitsmodell finden und Experimente damit machen



In einem vom Wissenschaftsfonds FWF geförderten Projekt wurde untersucht, wie sich Glaubwürdigkeit von Informationen aus dem Netz bewerten lässt, um damit effektiver Daten aus Plattformen wie Flickr und Co zu gewinnen. Das Thema Glaubwürdigkeit von Informationen aus dem Internet hat zuletzt durch die politische Dimension von Fake News und ihrem Einfluss auf demokratische Prozesse große Brisanz erlangt. Die Schwierigkeit für Internet-Unternehmen wie Facebook, das besonders mit der Thematik konfrontiert ist, besteht in ihrer Abhängigkeit von Computermethoden zur Auswahl von Inhalten. Der Erfolg des Internet beruht wesentlich auf der automatisierten Verarbeitung von Information: Algorithmen, nicht Menschen bestimmen, welche Ergebnisse von Suchmaschinen angezeigt werden. Im Bereich von Fake News fehlt es dafür aber an geeigneten Methoden.

Die Wahrheit, betont man bei Facebook, sei oft besonders schwierig zu identifizieren. Die Beurteilung von Glaubwürdigkeit hingegen scheint möglich und war das Thema eines vom Wissenschaftsfonds FWF geförderten internationalen Forschungsprojekts unter der Leitung von Allan Hanbury von der Technischen Universität (TU) Wien. "Wir haben gesehen, dass die Glaubwürdigkeit von Online-Inhalten bisher nicht klar definiert war", sagt Hanbury. "Unser Ziel war, ein besseres Glaubwürdigkeitsmodell zu finden und Experimente damit zu machen."

Glaubwürdigkeit lasse sich anhand verschiedener Kriterien beurteilen, erklärt Hanbury. Manche haben mit der Quelle der Information zu tun. Verfügt die Quelle über Expertise in diesem Bereich? Genießt sie Vertrauen? Andere Kriterien drehen sich um die Information selbst. Wie hoch ist die Qualität der Information? Hier geht es etwa um Tippfehler in Dokumenten. Wie hoch ist ihre Zuverlässigkeit? Gemeint ist, wie stark die Qualität der von einer bestimmten Quelle stammenden Information variiert.

Glaubwürdigkeit von Bildern und Suchmaschine
Hanburys Team nahm die Suche nach Bildern in sozialen Medien unter die Lupe, speziell in Flickr. Die Idee war, das "Tagging", also die Benennung oder Etikettierung von Bildern zu betrachten, und ihre Glaubwürdigkeit zu beurteilen. Solche Tags können "Wasser", "Berg" oder "Strand" lauten. Ein Algorithmus bewertet die Glaubwürdigkeit der Tags nach verschiedenen Kriterien, etwa anhand der Begleittexte, aber auch daran, wie regelmäßig eine Nutzerin oder ein Nutzer postet und wie viele Bilder sie oder er online hat, ohne den Inhalt der Bilder selbst zu analysieren. Diese Informationen fließen in ein Programm, das versucht, Bilder mit den richtigen Tags zu versehen.

Dabei ließ sich zeigen, dass ein mit Glaubwürdigkeitskriterien arbeitender Algorithmus sehr verlässlich die richtigen Tags zu bestimmten Bildern findet. Mit der Berücksichtigung von Glaubwürdigkeitskriterien lässt sich so die Effektivität automatisierter Informationsgewinnung im Internet erhöhen. Das zu zeigen war eines der Ziele des Projekts. Neuland betrat das Projektteam mit dem Versuch, nicht nur die Glaubwürdigkeit von Inhalten zu analysieren, sondern auch jene von Systemen, die Informationen sammeln.
"Die Suchmaschinen und Empfehlungssysteme haben einen großen Einfluss darauf, welche Posts und Dokumente von Personen gesehen werden", sagt Hanbury. Sie können Ergebnisse nach Relevanz ordnen, aber auch bezahlte Inhalte höher reihen. "Wir haben uns angesehen, ob es möglich ist, die Glaubwürdigkeit von Suchmaschinen zu beurteilen." Diese Fragestellung wurde im Rahmen des Projekts erstmals untersucht und stellte sich als sehr schwierig heraus. Denn ohne Kenntnisse über die Programmierung der Suchmaschine sei das fast nicht möglich, räumt Hanbury ein.

Gesundheit im Netz
Falschinformationen sind nicht nur bei politischen Themen besonders heikel, sondern beispielsweise auch bei medizinischen Inhalten. "Menschen, die an langwierigen Erkrankungen leiden, informieren sich oft ausführlich darüber im Internet und werden mit der Zeit selbst zu Experten", erklärt Allan Hanbury. Manchmal seien gerade top-gereihte Inhalte Falschinformationen, wo mit der Hoffnung und Verzweiflung der Menschen Geschäfte gemacht würden, gibt der Wissenschafter zu bedenken. Die Organisation "Health On the Net" (HON) beschäftigt sich bereits seit 1995 mit dem Phänomen und kämpft für die Qualität medizinischer Online-Information, ist allerdings mit der Menge an Information überfordert. "Eine händische Bewertung ist nicht mehr möglich." In einer Zusammenarbeit mit HON testeten die Forscherinnen und Forscher der TU Wien die in dem Projekt entwickelten automatisierten Methoden zur Bewertung der Glaubwürdigkeit. "Der Rahmen, den wir aufgebaut haben, kann künftig verwendet werden, um Glaubwürdigkeit zu messen", betont Hanbury.

Zur Person
Allan Hanbury forscht als Gruppenleiter für "Information and Software Engineering" (ifs) an der Technischen Universität Wien. Seine Forschungsinteressen sind Datenwissenschaft, Informationsgewinnung und die Evaluation von Informationsgewinnungssystemen und Algorithmen. Er ist Koordinator verschiedener EU-Projekte und österreichischer Forschungsprojekte.
(Wissenschaftsfonds FWF: ra)

eingetragen: 04.03.17
Home & Newsletterlauf: 03.04.17

Wissenschaftsfonds FWF: Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.


Meldungen: Studien

  • Viele Schulen regeln den KI-Einsatz nicht

    Um schneller einen Aufsatz zu schreiben, die Antwort im Unterricht nachzuschlagen oder Ideen für das Kunstprojekt zu sammeln - Künstliche Intelligenz ist längst auch in vielen deutschen Klassenzimmern angekommen. Allerdings hat nicht einmal jede vierte Schule zentral geregelt, was dabei erlaubt und was verboten ist. Lediglich an 23 Prozent der weiterführenden Schulen gibt es zentrale KI-Regeln, die für die ganze Schule gelten.

  • Ein Fünftel wurde im Job zu KI geschult

    Mit KI die Mail formulieren, eine Hintergrundrecherche starten oder aus Gesprächsnotizen ein Protokoll erstellen - Künstliche Intelligenz kann im Job unterstützen, wenn man weiß wie. Ein Fünftel (20 Prozent) der Berufstätigen wurde deshalb von ihrem Arbeitgeber bereits im KI-Einsatz geschult. Bei weiteren 6 Prozent gibt es zwar entsprechende Fortbildungen, sie haben sie aber noch nicht wahrgenommen. Der großen Mehrheit von 70 Prozent der Beschäftigten wird allerdings keine KI-Fortbildungen angeboten. Das sind Ergebnisse einer repräsentativen Befragung von 1.005 Personen ab 16 Jahren in Deutschland im Auftrag des Digitalverbands Bitkom.

  • Mindestens ein Datenschutzvorfall

    The Business Digital Index (BDI), eine Initiative von Cybernews, hat die digitale Sicherheit von 75 EU-Institutionen untersucht. Das Ergebnis ist besorgniserregend: 67 Prozent der untersuchten Einrichtungen erhielten die Noten "D" oder "F" und gelten damit als "hohes" oder "kritisches" Risiko.

  • Überwachung und Compliance stets im Fokus

    Mit der Einführung der elektronischen Patientenakte (ePA) setzt die Bundesregierung einen Meilenstein für die Zukunft der digitalen Gesundheitsversorgung. Ziel ist es, eine umfassende Datentransparenz - sowohl für Patienten als auch das medizinische Personal - zu schaffen, um die Qualität der Versorgung zu optimieren und Mitarbeitende im Healthcare-Sektor zu entlasten. Wie die Studie "Digitale Zwickmühle im Gesundheitswesen: Zwischen Innovationsdruck und Systemrisiken" von Soti jedoch zeigt, mangelt es in vielen deutschen Gesundheitseinrichtungen noch immer an den nötigen technischen Voraussetzungen, um diesem Anspruch in der Praxis auch wirklich gerecht zu werden. Für diese Erhebung wurden weltweit IT-Entscheidungsträger im Healthcare-Bereich befragt.

  • Haftungsrisiko bei Cyber-Schäden

    Führungskräfte in Deutschland blicken mit wachsender Sorge auf ihr Haftungsrisiko bei Cyber-Schäden - für 88 Prozent sind Cyber-Attacken und für 86 Prozent Datenverluste das Top-Risiko für Manager 2025. Das zeigt der aktuelle "Directors' and Officers' Liability Survey" des Risikoberaters und Großmaklers Willis, einem Geschäftsbereich von WTW, und der internationalen Anwaltssozietät Clyde & Co. Außerdem zeigt die Studie, dass vielen Themen im Management Board nicht genug Zeit eingeräumt wird: 38 Prozent der befragten Führungskräfte in Deutschland sind der Meinung, dass im Vorstands- und Geschäftsführungskreis mehr Zeit für das Thema Cybersicherheit aufgewendet werden sollte. "Das ist ein deutliches Signal dafür, dass viele Unternehmen sich der Bedrohung zwar bewusst sind, sich ihr aber noch nicht ausreichend widmen", sagt Lukas Nazaruk, Head of Corporate Risk & Broking Deutschland und Österreich bei Willis.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen