Über das Projekt
Mit Hilfe von Künstlicher Intelligenz dazu beitragen, Falschinformationen zu erkennen – das ist das Ziel des Forschungsprojekts defalsif-AI. Im Fokus steht die Entwicklung medien-forensischer Werkzeuge, die von einer breiten Anwenderinnen- und Anwenderbasis genutzt werden sollen. Das Projekt adressiert insbesondere politisch motivierte Desinformation, welche letztlich das Vertrauen in die Demokratie untergräbt.
Die inhaltlichen Forschungsschwerpunkte von defalsif-AI (Detektion von Falschinformation mittels Artificial Intelligence) liegen auf audiovisueller Medienforensik, Textanalyse und der Fusion dieser Technologien mit Hilfe von Künstlicher Intelligenz (KI). Großes Augenmerk liegt dabei auf der nachvollziehbaren und interpretierbaren Präsentation der Ergebnisse – die Letztentscheidung und ‑bewertung, ob Inhalte „falsch“ sind oder nicht, obliegt dabei den Anwenderinnen und Anwendern.
Das Ziel ist, ein valides Werkzeug für die Analyse von digitalen Inhalten im Internet zu demonstrieren, das eine erste Beurteilung der Texte, Bilder, Videos oder Audios auf Glaubwürdigkeit und/oder Authentizität ermöglicht. Dies schafft die Grundlagen für weitere Handlungsempfehlungen.
Das Projekt umfasst auch eine Analyse und Beurteilung des medien-forensischen Werkzeugs aus rechts- und sozialwissenschaftlicher Perspektive. Abgerundet wird defalsif-AI durch die Ableitung von anwendungsorientierten, technischen und organisatorischen Maßnahmen sowie einem Verwertungsplan für den zukünftigen Betrieb von rechtsstaatlich konformen Desinformations-Analyseplattformen.
Das Projekt wird innerhalb des Sicherheitsforschungs-Förderprogramm KIRAS durch das Bundesministerium für Landwirtschaft, Regionen und Tourismus (BMLRT) gefördert.
Das Konsortium
AIT (Koordinator)
Das Austrian Institute of Technology (AIT) ist das größte außeruniversitäre Forschungsunternehmen in Österreich und leistet einen wesentlichen Beitrag zur Stärkung der technologischen Wissensbasis der österreichischen Wirtschaft und zur Sicherung des Standorts Österreich im internationalen Wettbewerb. Das Center „Digital Safety & Security” (DSS) forscht an IT-basierten Lösungen für eine sichere Kommunikations-Infrastruktur, Krisenmanagement und Sicherheitssystemen. Das Center besitzt in nationalen und internationalen Innovationsprogrammen der Sicherheitsforschungsprogramme eine anerkannte Position und baut auf strategischen Partnerschaften mit den wichtigsten nationalen Sicherheitsakteuren (BMI und BMLVS) auf.
Enlite
EnliteAI wurde im November 2017 mit dem Anspruch gegründet, Unternehmen rund um das Thema Artificial Intelligence Dienstleistungen entlang der gesamten Wertschöpfungskette anzubieten – von Strategieberatung und Konzepterstellung bis hin zur angewandten Forschung und Erstellung von Prototypen. Das Team aus Industrie- und Technologieexperten bringt langjährige Erfahrung in den Bereichen Deep Learning, Strategieberatung und Softwareentwicklung mit. Die rasante Entwicklung im Bereich Künstliche Intelligenz wird von vielen Expertinnen und Experten als die wichtigste Entwicklung unserer Zeit gesehen, mit weitreichenden Folgen bzw. vor allem neuen Möglichkeiten für sämtliche Industriezweige. EnliteAI möchte diese Entwicklung für seine Kunden – unabhängig von ihrer Größe – beschleunigen und sie zu AI Leadern in ihrem Bereich machen.
Donau-Universität Krems
Das Department für E‑Governance in Wirtschaft und Verwaltung der Donau-Universität Krems (DUK) forscht zu den Auswirkungen des digitalen und gesellschaftlichen Wandels auf Strategie, Organisation und Prozesse. Die Forscherinnen und Forscher des Departments verfügen über Kompetenzen in Recht, Technik, Politik/Sozial‑, und Wirtschaftswissenschaften. Die enge Verknüpfung mit dem Praxisleben ihrer Studentinnen und Studenten sorgt für den Transfer von aktuellen Fragestellungen aus der Praxis in die Wissenschaft. Die Forschungsergebnisse werden wiederum über die Lehre in die Gesellschaft getragen, dienen der Sensibilisierung für sich verändernde sozio-technische und rechtliche Governance-Strukturen und bilden die Basis für Entscheidungen in Verwaltung, Politik, Wirtschaft, Wissenschaft und Gesellschaft.
Research Institute – Digital Human Rights Center
Die Research Institute AG & Co KG (RI) ist ein seit 2012 operativ tätiges Forschungs- und Beratungsunternehmen an der Schnittstelle von Technik, Recht und Gesellschaft, das sich aus multi- und interdisziplinärer Perspektive mit Fragen des Grundrechtsschutzes im digitalen Zeitalter beschäftigt. Dies umfasst technische, rechtliche und organisatorische Aspekte von Datenschutz und Datensicherheit ebenso wie Fragen zu Technikfolgenabschätzung, Cybercrime und Netzpolitik.
Bundeskanzleramt Österreich
Das Bundeskanzleramt (BKA) wirkt am geplanten KIRAS defalsif-AI Projekt im Sinne der Einbindung als öffentlicher Bedarfsträger mit und stellt Expertise im Ausmaß des im Antrag festgelegten Umfanges zur Verfügung.
Bundesministerium für Landesverteidigung
Die Aufgaben des Österreichischen Bundesheeres leiten sich aus gesetzlichen und politischen Vorgaben ab. Grundsätzlich sind sie durch das Wehrgesetz vorgegeben. Zusätzlich wird für das Heer immer bedeutender, dass Österreich Mitglied in der Europäischen Union und in der Partnerschaft für den Frieden (PfP) ist. Das Bundesministerium für Landesverteidigung (BMLV) wirkt am geplanten Projekt im Sinne der Einbindung als Nutzer und Expertisenträger mit und stellt Know-How und Fachkompetenz im Ausmaß des im Antrag festgelegten Umfanges zur Verfügung.
Bundesministerium für Europäische und Internationale Angelegenheiten
Das Bundesministerium für Europäische und Internationale Angelegenheiten (BMEIA) wirkt am geplanten KIRAS defalsif-AI-Projekt im Sinne der Einbindung als öffentlicher Bedarfsträger mit und stellt Expertise im Ausmaß der im Antrag festgelegten Umfanges zur Verfügung.
ORF-Österreichischer Rundfunk
Der ORF ist in Erfüllung seines öffentlich-rechtlichen Auftrags mit seinem umfangreichen Programmangebot in Radio, Fernsehen und Online österreichischer Markt- und Qualitätsführer und einer der erfolgreichsten öffentlich-rechtlichen Programmanbieter in Europa. Als unabhängiges öffentlich-rechtliches Medienunternehmen ist der ORF nicht gewinnorientiert und bilanziert ausgeglichen. Der öffentlich-rechtliche Auftrag des ORF ist im ORF-Gesetz niedergelegt. Der ORF beschäftigt rund 3.000 Mitarbeiterinnen und Mitarbeiter an elf Standorten in ganz Österreich und 16 in aller Welt.
APA – Austria Presse Agentur
Die APA – Austria Presse Agentur ist die nationale Nachrichtenagentur und der führende Informationsdienstleister Österreichs. Sie befindet sich im Eigentum 12 österreichischer Tageszeitungen und des ORF. Die APA-Gruppe setzt sich aus der genossenschaftlich organisierten Nachrichtenagentur und drei hundertprozentigen Tochterunternehmen zusammen und deckt die Geschäftsfelder Nachrichtenagentur, Informationsagentur und Technologieagentur ab. Die APA-Redaktionen sorgen für Echtzeit-Nachrichtendienste in Wort, Bild, Grafik, Audio und Video, die Tochterunternehmen bieten Verbreitungs‑, Recherche- und Wissensmanagement-Dienste sowie Informationstechnologie-Lösungen.
Gefördert von
Das Projekt wird innerhalb des Sicherheitsforschungs-Förderprogramm KIRAS durch das Bundesministerium für Landwirtschaft, Regionen und Tourismus (BMLRT) gefördert.
Meilensteine
Vom Antrag bis zur Fertigstellung
Projektstart 10/2020
Erstellung von Szenarien und Definition von Anforderungen
Iterative Konzeption 02/2021
Proof of Concept – Konzeption
Demonstration 09/2021
Proof of Concept – Iterative Demonstrationsphase
Evaluierung 07/2022
Proof of Concept – Evaluierungsphase
Forschung
Hier finden Sie künftig Informationen rund um die Forschungsaktivitäten der Projektpartner.
Zahlen & Fakten
9
Konsortialpartner
24
Monate Projektlaufzeit
6
Arbeitspakete
Aktivitäten
28. Jänner 2021: Projektpräsentation Freedom Online Coalition

Erste Projektpräsentation in der Arbeitsgruppe „AI and Human Rights“ der Freedom Online Coalition
AIT-Experte und Projektmanager Martin Boyer präsentierte am 28. Jänner 2021 das „defalsif-AI”-Projekt in einem High-Level-Meeting der Freedom Online Coalition (FOC). Den Rahmen bildete das Treffen der FOC-Task Force „AI and Human Rights” mit Fokus auf Beiträge aus Österreich.
In der Freedom Online Coalition sind 32 Staaten – auch Österreich – vertreten. Sie arbeiten gemeinsam an Strategien für die Durchsetzung von Menschen- und Grundrechten im digitalen Raum.
Boyer hob in seiner Präsentation hervor, dass Manipulationen des öffentlichen Diskurses , einen Aspekt des generellen Problems digitaler Desinformationsstrategien seien. Er unterstrich den multidisziplinären Charakter von defalsif-AI, getragen von einem breiten Konsortium, das technologische Expertise ebenso garantiert wie enge Zusammenarbeit mit künftigen Usern, rechtliche und sozialwissenschaftliche Analysen und größtmögliche Transparenz der Ergebnisse. Ein weiterer Austausch über möglich künftige Kooperationen und Synergien mit den FOC-Partnern wird nun angestrebt.
Dokumente zum Download
Hier finden Sie in Kürze Materialien rund um das Projekt zum Herunterladen.
Bei Fragen zur Website schicken Sie bitte eine E‑Mail an die Redaktion. Möchten Sie inhaltliche Fragen zum Projekt beantwortet haben, schicken Sie bitte eine E‑Mail an die Projektleitung.