"DetektivKollektiv möchte es allen ermöglichen, potentielle Falschmeldungen so schnell und transparent wie möglich überprüfen zu lassen. Hierzu entwickeln wir eine community-driven Plattform mit kreativen Gamification-Mechanismen, die Fact-Checking demokratisiert und mit Spaß und Lernen verbindet."




Warum braucht es ein DetektivKollektiv?

Die WHO musste bereits feststellen, dass "der Ausbruch und die Reaktionen auf COVID-19 von einer massiven „Infodemie“ begleitet wurden, einer Überfülle an Informationen - einige davon verlässlich und andere nicht -, die es den Menschen schwer macht, vertrauenswürdige Quellen und verlässliche Leitlinien zu finden, wenn sie diese benötigen." Die momentan grassierende Pandemie hat ohne Frage eine konkrete physische Dimension durch die akute Verbreitung des Virus, als auch eine psychologische. Der Virus ist neu - nicht nur für die Bürgerinnen und Bürger, sondern auch für Wissenschaftlerinnen und Wissenschaftler. Das führt zu erheblichen Wissenslücken und schnellen Veränderungen auf allen Seiten, die zu einem großen Teil auch nicht geschlossen werden können. Es passiert schnell, dass diese Leerstellen mit viralen, reißerisch und oft weniger verlässlichen Informationen gefüllt werden, anstelle von verifizierten Inhalten. Nicht zuletzt die große Reichweite von sozialen Medien trägt dazu bei. Solche Falschinformationen werden häufig in nicht-öffentlichen Chats weiterverbreitet, wie z. B. auf WhatsApp, was ihre Bekämpfung und Erforschung erschwert. Forschungsergebnisse des renommierten Massachusetts Institute of Technology bestätigten, das in erster Linie Menschen für die kaskadenhafte Verbreitung von Falschmeldungen verantwortlich sind und nicht, wie häufig angenommen, automatisierte Accounts auf Sozialen Medien. Aktuelle Beispiele sind Bleach als Heilmittel gegen das Coronavirus (COVID-19) oder die Einschätzung von Arzt und Politiker Dr. Wodarg, der die öffentliche Reaktionen auf die Coronavirus (COVID-19) Krise als unbegründete “Panikmache” bezeichnet.

Gleichzeitig bemühen sich Fact-Checking-Plattformen wie Mimikama oder Correctiv.org darum, Falschinformationen aufzudecken. Dabei arbeiten sie in klassischen Redaktionsstrukturen, welche häufig zu verzögerten Reaktionszeiten führen. In dieser kritischen Zeitspanne können sich die Falschinformationen ungehindert weiter ausbreiten. Gut recherchierte, Fakten-basierte journalistische Artikel erreichen häufig nicht die Zielgruppe, die von Falschinformationen am Meisten betroffen sind und diese eventuell unwissentlich in den sozialen Netzwerken und Messenger-Diensten selbst verbreiten. Zudem haben Menschen, die anfällig für Falschnachrichten sind, tendenziell eine niedrigere Medienkompetenz und nicht selten eine gewisse Abneigung gegenüber den etablierten Medien sowie der Politik. Überprüfungen einer Community können hier bei Vertrauenslücken schließen. Hier setzt DetektivKollektiv an und spiegelt die überprüften Inhalte zurück in die sozialen Medien und Gruppen.

Was macht DetektivKollektiv?

(Klick auf die Abbildungen für eine größere Ansicht)

Wir wollen es WhatsApp-Nutzern möglichst einfach machen, Nachrichten, über deren Wahrheitsgehalt sie sich nicht sicher sind, vom DetektivKollektiv überprüfen zu lassen. Nutzer können Nachrichten einfach an unseren Chatbot - Detektiv Derrick - weiterleiten. Falls das DetektivKollektiv dieselbe Nachricht bereits evaluiert hat, antwortet Derrick dem Nutzer direkt mit einem Resultat der Überprüfung . Andernfalls erteilt Derrick dem Kollektiv den Auftrag für einen Fact-Check.Rückschlüsse auf die Person, die diesen Inhalt eingesendet hat, sind dabei nicht möglich.

WhatsApp1 WhatsApp2

Das DetektivKollektiv arbeitet auf einer community-driven Plattform. Dort treffen sich die "Detektive", um freiwillig und gemeinsam daran arbeiten, verschiedene Inhalte oder “News Items” zu verifizieren und Falschinformationen zu entlarven. Jeder Detektiv kann dort zufällig zugeteilte Aufträge anhand eines vorgegebenen und teils randomisierten Fragenkatalogs bearbeiten, um die Vertrauenswürdigkeit eines News Items zu ermitteln. (Mehr Eindrücke zum Design unserer Plattform sind in der Bildergalerie zu finden)

Fragekatalog

Um sicherzustellen, dass die Ergebnisse verlässlich sind, arbeitet das DetektivKollektiv in einem parallelen Peer-Review Prozess, in dem mehrere Detektive gleichzeitig an einem Fall arbeiten und jede Bewertung wiederum durch einen zweiten unabhängigen, ranghöheren Detektiv geprüft wird.

Peer-review Prozess

Dabeibleiben durch Gamification-Anreize

Um qualitativ hochwertige Arbeit sicherzustellen und die Detektive zur Weiterarbeit zu motivieren, nutzen wir Anreize durch Gamification-Elemente. Das bedeutet, Mitglieder erhalten spielerische Anreize sich ehrenamtlich in den Überprüfungsprozess einzubringen. So erlangen Mitglieder als "Detektive" Punkte für durchgeführte Recherchen, wodurch sie in unserem Levelsystem aufsteigen und neue Funktionalitäten freigeschaltet werden. In höheren Rängen können sie die Bewertungen anderer Detektive überprüfen oder in kniffligen Fällen als Mediator tätig werden.

Gamification bietet folgende Vorteile für DetektivKollektiv:

  • Motivieren - Erhöhung des Spaß-Faktors

  • Transparenz - Regeln und Ränge sind klar einsehbar für alle Interessierte

  • Zusammenbringen - Vertrauen bilden innerhalb der Community

Jedes Mitglied startet bei Level 1 und insgesamt gibt es 10 Level. Bei erfolgreichem Abschließen von verschiedenen Aufgaben bekommt ein Mitglied Punkte, die zum Aufstieg in das nächste Level führen. Mit steigendem Leveln gibt es neue Funktionalitäten, mehr Verantwortung und Prestige, wie im Schaubild veranschaulicht.

Während ein anfänglicher "Lupenhalter" Quellen für Artikel recherchiert kann, darf ein “Lehrling” bereits weitere Mitglieder für die Community werden und ein “Juniorermittler” die Bewertungen anderer überprüfen. Damit baut DetektivKollektiv auf das bewährte Konzept des peer-reviews.

Gamification 1

Um in ein nächst höheres Level aufzusteigen, müssen Punkte erspielt werden. Punkte werden dabei für verschiedene Aktivitäten vergeben.

Punkte werden vergeben für:

  • Recherche und das Verifizieren von eingereichten Artikeln

  • Unterstützung von anderen Mitgliedern bei der Recherche

  • Durchführen von Peer-Reviews

  • Werben von neuen Mitgliedern

  • Meistern von Gruppen-Challenges

  • Kategorisieren und thematische Zuordnen von Nachrichten

  • Und vieles mehr ;-)

Einmal erarbeitete Bewertungen sind allerdings nicht unendlich gültig. Durch einen "Malus-Effekt" werden Mitglieder der Community, die längere Zeit inaktiv sind, angehäufte Punkte und Ränge verlieren. So wird ein Anreiz zur nachhaltigen Beteiligung an der Plattform geschaffen. Auch Recherchen, die wiederkehrend nicht dem Qualitätsstandard von DetektivKollektiv entsprechen, sind von einem “Malus-Effekt” betroffen. Nur so kann DetektivKollektiv langanhaltend einen richtigen und sinnvollen Beitrag zur Bekämpfung von Falschmeldungen sicherstellen.

Das folgende Schaubild stellt dar, wie sich die Detektive Punkte erspielen können, um im Rang aufzusteigen:

Gamification 2

Die Verbreitung von Falschmeldungen ist ein Zeit-sensibles Unterfangen, um die weitere Verbreitung zu unterbinden. Deswegen werden Bonuspunkte für besonders schnelle Recherchen zum Fakt-Checken vergeben. Der eingeführte Verifikationsprozess inklusive der Peer Reviews und des Malus-Effektes stellt jedoch sicher, dass trotz einer hohen Geschwindigkeit die hohe Qualität der Recherche und damit auch der abschließenden Bewertung, sichergestellt wird.

Der Credibility Score - Wie verlässlich ist ein Item?

Die Bewertungen der Detektive über die Verlässlichkeit eines Items werden dazu verwendet eine qualitative Aussage (Credibility Score) an den User zurückzugeben.

Der Bewertungsprozess wird durch die Plattform eng unterstützt, um insbesondere unerfahrenen Detektiven zu helfen. Basierend auf einem Fragenkatalog, die beim Fact-Checking helfen sollen, werden die Detektive durch acht Fragen geführt. Fünf wesentliche Fragen werden dabei immer gestellt. Weitere drei Fragen werden dem Detektiv randomisiert aus den verbleibenden Items vorgelegt. Im untenstehenden Fragenkatalog sind die essentiellen Fragen fett markiert. (Klick auf die Abbildungen für eine größere Ansicht)

Die Detektive antworten auf die Items aus dem Fragekatalog mit einer Farbskala:

  • Rot - nicht verlässlich

  • Rot-Orange - eher unzuverlässig

  • Orange-Grün - recht verlässlich

  • Grün - sehr verlässlich

Dabei kann mit bestehenden Initiativen kooperiert werden, die bereits die Klassifizierung von Medien Webseiten vornehmen sowie der Global Disinformation Index und TrustedNews. Die Ampel wird dann im Schnitt an die Nutzenden auf WhatsApp als Farbton und mit der entsprechenden Einschätzung kommuniziert. In einem DropDown-Menü auf der Plattform wäre dann die detaillierte Aufschlüsselung ersichtlich.

Kodex der Detektiv-Community

Bei der Anmeldung verpflichten sich die Detektive zur Einhaltung eines gemeinsamen Kodexes, der die Qualität des Fact-Checkings sichert. (Klick auf die Abbildungen für eine größere Ansicht)

Alle bearbeiteten Fälle sind inklusive der Bewertungen und Quellen vollkommen transparent für die Öffentlichkeit zugänglich. Hierdurch kann sich jeder Bürger und jede Bürgerin über aktuell weit verbreitete Falschmeldungen informieren und das Archiv aller bearbeiteten Fälle überblicken.

Wem nützt das DetektivKollektiv

Zielgruppe:

Mitmenschen, die Informationen verifizieren wollen [User] und diejenigen, die dazu beitragen möchten Falschinformationen zu entlarven [DetektivKollektiv]. DetektivKollektiv unterstützt dabei besonders vulnerable Gruppen mit niedrigerer Medienkompetenz durch die Vielfalt an Informationen zu navigieren.

Nutzen für die Gesellschaft:

Die User haben mit Hilfe des DetektivKollektivs eine einfache Möglichkeit anonym und schnell - ohne Anmeldung oder Kosten - umlaufende Informationen auf ihren Wahrheitsgehalt oder ihre Seriosität prüfen zu lassen. Dabei werden die Informationen nicht durch die öffentliche Hand, etablierte Medien oder internationalen Organisationen überprüft, sondern von einer Community aus Mitmenschen in Peer-Review-Prozessen. Die Prüfung wird durch eine unabhängige "Detektiv-Community" getreu demokratischer Prinzipien mit maximaler Transparenz vorgenommen und ermöglicht die Teilnahme aller interessierter Bürger und Bürgerinnen. Zu den demokratischen Prinzipien gehören u.a. die folgenden Punkte:

  • Gleicher und einfacher Zugang zum Tool und der Plattform für jede interessierte Person

  • Peer Review der Evaluierungen der News Items

  • Mehrheitslogik bei der Kategorisierung von News Items

  • Hohe Transparenz auf der Plattform

  • Integration von Open Source und Öffnung von passenden Daten für z.B. Wissenschaftler

Hierdurch werden die User animiert, sich kritisch mit Informationen auseinanderzusetzen und können sich zudem darüber informieren, wie sie selbständig Falschmeldungen erkennen können. Im besten Fall werden sie selbst Teil des DetektivKollektivs.

Die Detektive tragen nicht nur dazu bei, das gesellschaftlich relevante Problem der Falschinformation einzudämmen, sondern haben aufgrund des spielerischen Ansatzes auch noch Spaß dabei, sich bis zum Detective Superintendent hochzuarbeiten und innerhalb der Community auszutauschen.

Darüber hinaus gibt unsere Plattform Einblicke in Falschmeldungen, die in der "Blackbox" von end-to-end verschlüsselten Messenger-Apps wie WhatsApp kursieren. Die transparente Offenlegung von überprüften Items eröffnet wiederum neue und dringlich notwendige Forschungsmöglichkeiten für Wissenschaft und Journalismus.

Wie machen wir das? IT Architektur

Während des #WirVsVirus Hackathons haben wir sehr viel Zeit und kreative Energie in die Konzeptionierung unserer Plattform und die dazu nötigen Prozesse und Mechanismen von Null an gesteckt. Dadurch können wir sicherstellen, dass unsere Informationen verlässlich sind und die Ideen ineinander greifen. Der nächste Schritt ist es dann, diese Ideen in die Tat umzusetzen. Hierfür haben wir eine grobe Architektur entwickelt, die aus 4 Hauptbestandteilen besteht:

  • Für die Detektive stellen wir eine Webapplikation bereit, über die sie die zu evaluierenden News Items erhalten und bewerten

  • Der Evaluation Service im Backend enthält die Logik für die Evaluierung und bildet die Schnittstelle zur Datenbank der News Items. Er liefert bspw. zufällige zu evaluierende News Items an die Detektive aus und berechnet den Credibility Score der Items auf Basis der Rückmeldungen der Detektive.

  • Der WhatsApp Bot Service bringt Derrick zum Leben. Er hat Zugriff auf die Datenbank und kann dort neue News Items anlegen bzw. Rückmeldungen zu evaluierten Items an den Nutzer geben.

  • Die Backend-Services und die Datenbank wollen wir auf einer Cloud-Infrastruktur hosten, vorzugsweise AWS.

In den nächsten Wochen, wollen wir Entwickler zum Mitmachen überzeugen und mit der Implementierung eines MVPs beginnen, der die ersten grundlegenden Funktionalitäten bereitstellt.

Herausforderungen

Während der Projektkonzeption haben wir die folgenden Punkte als potenzielle Herausforderungen identifizieren können, die wir durch die entsprechenden Maßnahmen lösen bzw. überwinden möchten:

  • Wie können wir sicherstellen, dass die Plattform inklusiv ist und diverse Bevölkerungsgruppen für die unterschiedlichen Rollen (Nutzende vs. Detektiv) anspricht? DetektivKollektiv wird sich durch seine einfache und intuitive Handhabung auszeichnen. Nutzer, die News Items verifizieren lassen möchten, benötigen ausschließlich den Bot Derrick Detektiv, über welchen dann die Kommunikation mit der Plattform stattfindet. Die Plattform selbst ist auf Deutsch und in einfacher Sprache. Des Weiteren kann man bspw. über drop-down Menüs oder den Verweis auf andere Pages auf der Plattform, detaillierte Informationen über alle Funktionalitäten der Plattform erhalten (z.B.Credibility Score).

  • Was tun wir, falls automatisierte Bots, Trolls oder Community Bustern die Evaluierungen bewusst falsch darstellen und somit die Kredibilität der Plattform in Frage stellen? Die News Items werden über ein randomisiertes Verfahren an die Detektive verteilt. Jeder Detektiv erhält nur eine vorher festgelegt Anzahl an News Items. Dies soll das Risiko einer schädlichen Beeinflussung der Evaluierungen exkludieren bzw. minimieren.

  • Wie schaffen wir Vertrauen in das DetektivKollektiv? Die Items werden von der Community überprüft und nicht durch die öffentliche Hand, internationale Organisationen oder etablierten Medien.Dieser Überprüfungsprozess ist mehrstufig und randomisiert. Ähnlich des Konzepts von Wikipedia soll der community-driven Ansatz zu einem Vertrauensvorschuss führen, der bei manchen Zielgruppen gegenüber etablierter Parteien und Medien weniger vorhanden ist. Alle Entscheidungen sind nachvollziehbar auf der Plattform für alle - auch nicht registrierte Detektive - nachvollziehbar.

  • Wie lässt sich DetektivKollektiv DSGVO-konform gestalten? Wir haben nach einer ersten juristischen Einschätzung zum Datenschutz vernommen, dass es einige zu beachtende Punkte gibt. Darüber würde unser Chatbot Derrick beim Weiterleiten von Nachrichten aufmerksam machen. So sollten beispielsweise keine Nutzerdaten wie Namen oder Sprachnachrichten weitergeleitet oder geschwärzt werden. Allerdings ist WhatsApp in Deutschland nicht datenschutzkonform. Bei der Datenverarbeitung gibt es Intransparenz. Ohne Rechtsgrundlage stellt ein berechtigtes Interesse - die Unterbindung von Verbreitung von Falschinformationen - die Machbarkeit unserer Grundidee sicher. Wir haben die Möglichkeit bei der Weiterführung des Projekts eine rechtliche Beratung zu nutzen.

Errungenschaften auf die wir stolz sind

Das Team hinter DetektivKollektiv hat sich beim WirVsVirus Startschuss erst über die zur Verfügung gestellten Slack Channel kennen gelernt. Innerhalb weniger Stunden wurde aus dem Drang, Falschinformationen auf Whatsapp entschieden entgegenzutreten ein konkretes und umsetzbares Projekt. Mit unserem Willen, Energie und Zielstrebigkeit haben wir uns dabei nicht nur gegenseitig motiviert, sondern auch einen Beitrag zur gesellschaftlichen Bekämpfung der Krise bezüglich des Coronavirus (COVID-19) geleistet. Auf diese Leistung ist das DetektivKollektiv-Team stolz.

Was wir gelernt haben

Das Detektiv-Kollektiv hat in den letzten 48h erfahren, wie man virtuell mit vorher unbekannten Menschen ein Projekt aufbaut und motiviert bleibt. Das Team musste gemeinsames Krisenmanagment betreiben, als ein Teammitglied nicht mehr für den weiteren Prozess verfügbar war. Herausragend war die Responsivität der Hackathon Teilnehmenden. Innerhalb kürzester Zeit waren wir in der Lage die fehlenden Fähigkeiten zu rekrutieren. Das DetektivKollektiv Team war positiv erstaunt von der Responsivität, obwohl es keine finanzielle Anreize in einer allgemeinen herausfordernden Situation gibt. Innerhalb des Teams kristallisierten sich schnell Rollen heraus, die auf den persönlichen Stärken der Teammitglieder aufbauen konnten. Zudem konnten wir die Zeitunterschiede durch unterschiedliche Wohnorte gewinnbringend ausnutzen.Die Bedeutung von Desinformation in Zeiten der Coronavirus (Covid-19) Krise ist den Teammitgliedern noch einmal verstärkt bewusst geworden, sowie die Gefahr von Digitaler Zensur und das Unterbinden von Meinungsfreiheit in Demokratien.

Was passiert als nächstes?

Die Weiterentwicklungsmöglichkeiten des Projektes und der Plattform sind vielfältig und schließen die folgenden Möglichkeiten ein:

  • Integration weiterer Ursprungsquellen (Facebook, Twitter etc.)

  • Integration von Wissenschaftlerinnen und Wissenschaftlern

  • Community-Hilfe z.B. bei Übersetzung der Verifikationen in andere Sprachen

  • Mögliche Incentives wie z.B. kostenlose Probeabos bei seriösen Medien für besonders fleißige Fact-Checker und auch Community Awards für Gruppen, die durch besondere Leistungen auffallen

  • Suchen von Technikern, die die Ideen auch umsetzen können

  • Ausweiten auf andere Themenbereiche (Skalierbarkeit)

  • Weiterentwicklung des Projektes durch die Teammitglieder

DetektivKollektiv wurde während des #WirVsVirus Hackathons kreiert von Breddy Hoerstrup, Marie Schroeter, Sandro Glueck, Franziska Bormann, Daniel Weimert, Nadine Wegner, Sebastian Christ & Patrick Mueller.

+ 3 more
Share this project:

Updates