Dossier

Online-Tool gibt Hinweise, ob eine Geschichte wahr oder falsch ist © APA (dpa)
6
Dossier

Wie Algorithmen beim Faktencheck auf Social Media helfen

Dossier

26.01.2017
  • Von Stefan Thaler / APA-Science

  • Wien (APA-Science) - Soziale Netzwerke sind durchdrungen von Unwahrheiten, Fehlinformationen und Fälschungen, die sich mitunter rasend schnell verbreiten. Um Maßnahmen dagegen ergreifen zu können, müssen sogenannte "Fake News" zuvor effizient und schnell identifiziert werden. Als eine Art Lügendetektor fungieren sollen dabei neue Werkzeuge, die auf Big Data, Semantik und maschinenlernenden Algorithmen basieren.

  • Der Faktencheck wird anspruchsvoller. Jeder kann über soziale Medien entweder zum Spaß, aufgrund einer politischen Agenda oder einfach für Geld falsche Informationen veröffentlichen. Ein internationales Forscherteam unter Beteiligung der MODUL University Vienna hat nun ein Online-Tool entwickelt, mit dem sich herausfinden lassen soll, ob eine Geschichte wahr oder falsch ist - und das in Echtzeit.

  • Ausgewertet wird unter anderem, welche Quelle hinter einem Gerücht steht, deren Geschichte und Hintergrund, wie sich ein Gerücht geografisch verbreitet bzw. welche Online-Meinungsführer zu dieser Verbreitung beigetragen haben. So könnten sich auch sogenannte Social Bots identifizieren lassen. Außerdem werden die Kommentare und Reaktionen analysiert, um die Glaubwürdigkeit besser einschätzen zu können. Erste Anwendungsmöglichkeiten, die im Projekt "PHEME" entwickelt wurden, gibt es im Journalismus und im Gesundheitsbereich.

  • Vier Typen sollen dabei unterschieden werden: Spekulation (etwa ob die Zinsen steigen), Kontroverse (beispielsweise über Impfungen), Fehlinformation (etwas Unwahres wird unwissentlich verbreitet) und Desinformation (mit Vorsatz). "Wichtig ist: Das System ist so konzipiert, dass es Hilfestellungen bieten kann, aber nicht automatisch zensurieren soll. Wir erzeugen zusätzliche Metadaten, um Menschen die Beurteilung zu erleichtern", stellte Arno Scharl, Leiter des Instituts für Neue Medientechnologie an der MODUL University Vienna, gegenüber APA-Science klar.

  • Umfassende Analyse

  • Das Tool kann einerseits eine Übersicht aller neuen Themen liefern, die gerade entstehen. Es lässt sich aber auch gezielt nach bestimmten Geschichten suchen. Dabei werden nicht nur das ursprüngliche Posting oder der für die Diskussion verantwortliche Tweet analysiert, sondern auch alle Reaktionen und zusammengehörenden Dokumente. "Wenn man nur einen einzigen Tweet betrachtet, hat man sehr wenig Information. Für Rückschlüsse über den Wahrheitsgehalt muss man umfassender vorgehen", so Scharl.

  • Daher wird untersucht, wer die Geschichte ins Rollen gebracht hat, wie sie sich verbreitet und wie viele Leute das kommentiert haben. "Dann klassifiziert man diese Kommentare danach, ob sie die Originalaussage unterstützen, sie bezweifeln bzw. sagen, das stimmt nicht, und andere, die beispielsweise eine Frage dazu stellen", sagte der Experte. So lasse sich nicht nur der Wahrheitsgehalt abfragen, sondern beispielsweise auch herausfinden, wie viele Pro- und Kontrastimmen es gibt, beziehungsweise unterstützende Erklärungen herausfiltern.

  • Anwendung finden soll das System unter anderem im Medienbereich. So wurde ein Tool entwickelt, mit dem Journalisten Nachrichten nach dem Wahrheitsgehalt sortieren können. "Das Bauchgefühl lässt sich mit empirischen Daten abgleichen. Ich muss mir nicht alle Tweets durchlesen, sondern kann mir durch die strukturierte Analyse der Pro- und Kontrastimmen schneller ein Bild machen. Das macht die Arbeit der Journalisten effizienter", ist Scharl überzeugt.

  • Ideal wäre so etwas laut Scharl auch für Dienstleister, die im Auftrag von Plattformen Falschmeldungen identifizieren sollen. So will Facebook künftig "Fake News" kennzeichnen, aber nicht entscheiden, "was die Wahrheit ist". Also wird diese Entscheidung an Dritte ausgelagert - in Deutschland beispielsweise an das Recherchezentrum Correctiv. "Für ein Team, das diese Aufgabe hat, sind Indikatoren, ob etwas wahr oder falsch ist, sehr hilfreich. Aber keinem Tool sollte die endgültige Beurteilung überlassen werden."

  • Anwendung im Medizinbereich

  • Ein zweiter Anwendungsfall ist im medizinischen Bereich angesiedelt. Dabei wurde ein Werkzeug entwickelt, um Nachrichten und Social Media-Beiträge zu psychischen Krankheiten und den entsprechenden Pharmaprodukten zu analysieren. Mit Hilfe eines visuellen Dashboards können Fragen beantwortet werden, wie: "Was assoziieren Social Media-User mit dieser Story?" oder "Was sind die Hauptargumente von denen, die die Geschichte anzweifeln?"

  • Hier gehe es einerseits um wahr oder falsch, aber auch um Stigmas und Mythen: Gewisse Dinge würden fälschlicherweise mit bestimmten Krankheitsbildern assoziiert oder es werde behauptet, dass Impfungen Alzheimer auslösen. "Wir könnten NPOs, Medizinern und Stakeholdern in dem Bereich Informationen liefern, um den öffentlichen Dialog besser zu verstehen. Warum wird diese Krankheit so falsch verstanden? Warum gibt es da so viele Mythen?", so Scharl. Aber auch für Pharmaunternehmen sei interessant, was über ihre Produkte berichtet und geredet wird.

  • Am Projekt "PHEME" - benannt nach der griechischen Göttin des Ruhmes und der Gerüchte - sind Universitäten, IT-Experten und Medienfachleute aus sieben Ländern beteiligt. Es wird nach dreijähriger Laufzeit mit Ende Februar abgeschlossen. Quasi eine Multimedia-Fortführung von "PHEME" ist "InVID - In Video Veritas". Dabei geht es um die Beurteilung von Fake-Videos.

STICHWÖRTER
Forschung  | IT  | Software  | Wien  | Exklusiv  | Dossier  | Wissenschaft  | Technologie  | Wirtschaft und Finanzen  | Branchen  |

Dossier

"Postfaktisch" und kein Ende ... Auch und gerade für die Wissenschaft stellt sich die Frage, was man gegen das Ignorieren, Leugnen und Verzerren von Fakten und die inzestuöse Verbreitung von ...

Gastkommentare

"Wer schreit lauter 'Fake'? Der Kampf um die Deutungshoheit ist entbrannt"
von Katharina Schell
APA - Austria Presse Agentur
"Eine informierte Gesellschaft ist die effizienteste Gegenstrategie"
von Helmut Jungwirth
Professor für Wissenschaftskommunikation an der Universität Graz
"Die Wissenschaft darf sich nicht zurückziehen"
von Helga Nowotny
Vorsitzende des ERA Council Forum Austria
"Postfaktisches Zeitalter? Fake News, Fakes und Mimikama"
von Andre Wolf
Pressesprecher
Content- and Social Media Coordinator bei Mimikama
"Die Verantwortung von Wissenschafts-PR in Zeiten von Fake News"
von Emilie Brandl
Leiterin der Öffentlichkeitsarbeit der Ludwig Boltzmann Gesellschaft
"Die präfaktischen Menschen der postfaktischen Gesellschaft und ihr Aufbruch ins Antifaktische"
von Kurt Kotrschal
Leiter der Konrad Lorenz Forschungsstelle in Grünau

Hintergrundmeldungen

Soziale Netzwerke und ihre Algorithmen werden als Schlüssel gesehen © APA (dpa)

Die "postfaktische" Weltsicht und ihr Vehikel namens "Fake News"

Ein Meinungsmacher tritt mit einer Behauptung auf, die sich schnell als ...
Logisches Denken und Sprachkompetenzen hängen eng zusammen © PHDL

"Schule 4.0" bringt Medien- und Technologieverständnis ins Klassenzimmer

Fake News als solche zu erkennen setzt einen kritischen Blick auf Medien und ...
Online-Tool gibt Hinweise, ob eine Geschichte wahr oder falsch ist © APA (dpa)

Wie Algorithmen beim Faktencheck auf Social Media helfen

Soziale Netzwerke sind durchdrungen von Unwahrheiten, Fehlinformationen und ...
Den richtigen Rahmen für die richtige Botschaft © APA (dpa)

"Framing": Der Deutungsrahmen macht die Botschaft

Elisabeth Wehlings Expertise hat in Zeiten von "postfaktischen" politischen ...
Ausgewogene Berichterstattung wird der Sache nicht immer gerecht © APA (dpa)

Umfrage: Das sagt die Community zu Fakten und Fake News

Unser Weltbild ist ein aufgeklärtes. Dennoch werden Ergebnisse aus Forschung ...
v.l.: Marcus Hebein, Michael Lang, Ingrid Brodnig, Peter Hajek, Helga Nowotny und Franz Fischler © APA-Fotoservice/Roßboth

Alles Fake News oder was? - Die "Ungewissheit ist ein Faktum"

Der Begriff "Fake News" wird derzeit heftig diskutiert - zumeist im politischen ...
Unterscheidung ist gar nicht so einfach © APA (WILEY VCH/C. Sasa)

Buchtipp: "Wissenschaftlich erwiesen" - Wahrheit oder "Bullshit"?

Über gesicherte Theorien wie die Evolution oder den Zusammenhang zwischen HIV ...