apa.at
Austria Presse Agentur

Forschungsprojekt defalsif-AI

Mit KI gegen Fake News

Im Forschungsprojekt defalsif-AI werden medienforensische Werkzeuge entwickelt, die Anwendern eine erste Einschätzung der Glaubwürdigkeit von Text-, Bild-, Video- oder Audiomaterial im Internet erlauben. Zum Einsatz kommt dabei künstliche Intelligenz.

Das Projekt fokussiert insbesondere auf politisch motivierte Desinformation. Denn diese schwächt bzw. bedroht letztlich die Demokratie und das öffentliche Vertrauen in politische und staatliche Institutionen.

Go to English Website
Über das Projekt Konsortium Meilensteine Forschung Dissemination Downloads

Über das Projekt

Mit Hilfe von Künstlicher Intelligenz dazu beitragen, Falschinformationen zu erkennen – das ist das Ziel des Forschungsprojekts defalsif-AI. Im Fokus steht die Entwicklung medien-forensischer Werkzeuge, die von einer breiten Anwenderinnen- und Anwenderbasis genutzt werden sollen. Das Projekt adressiert insbesondere politisch motivierte Desinformation, welche letztlich das Vertrauen in die Demokratie untergräbt.

Die inhaltlichen Forschungsschwerpunkte von defalsif-AI (Detektion von Falschinformation mittels Artificial Intelligence) liegen auf audiovisueller Medienforensik, Textanalyse und der Fusion dieser Technologien mit Hilfe von Künstlicher Intelligenz (KI). Großes Augenmerk liegt dabei auf der nachvollziehbaren und interpretierbaren Präsentation der Ergebnisse – die Letztentscheidung und -bewertung, ob Inhalte „falsch“ sind oder nicht, obliegt dabei den Anwenderinnen und Anwendern.

Das Ziel ist, ein valides Werkzeug für die Analyse von digitalen Inhalten im Internet zu demonstrieren, das eine erste Beurteilung der Texte, Bilder, Videos oder Audios auf Glaubwürdigkeit und/oder Authentizität ermöglicht. Dies schafft  die Grundlagen für weitere Handlungsempfehlungen.

Das Projekt umfasst auch eine Analyse und Beurteilung des medien-forensischen Werkzeugs aus rechts- und sozialwissenschaftlicher Perspektive.  Abgerundet wird defalsif-AI durch die Ableitung von anwendungsorientierten, technischen und organisatorischen Maßnahmen sowie einem Verwertungsplan für den zukünftigen Betrieb von rechtsstaatlich konformen Desinformations-Analyseplattformen.

Das Projekt wird innerhalb des Sicherheitsforschungs-Förderprogramm KIRAS durch das Bundesministerium für Finanzen (BMF) gefördert und von der Österreichischen Forschungsförderungsgesellschaft (FFG) abgewickelt.

Das Konsortium

AIT (Koordinator)

Das Austrian Institute of Technology (AIT) ist das größte außeruniversitäre Forschungsunternehmen in Österreich und leistet einen wesentlichen Beitrag zur Stärkung der technologischen Wissensbasis der österreichischen Wirtschaft und zur Sicherung des Standorts Österreich im internationalen Wettbewerb. Das Center „Digital Safety & Security“ (DSS) forscht an IT-basierten Lösungen für eine sichere Kommunikations-Infrastruktur, Krisenmanagement und Sicherheitssystemen. Das Center besitzt in nationalen und internationalen Innovationsprogrammen der Sicherheitsforschungsprogramme eine anerkannte Position und baut auf strategischen Partnerschaften mit den wichtigsten nationalen Sicherheitsakteuren (BMI  und BMLVS) auf.
EnliteAI

EnliteAI wurde im November 2017 mit dem Anspruch gegründet, Unternehmen rund um das Thema Artificial Intelligence Dienstleistungen entlang der gesamten Wertschöpfungskette anzubieten – von Strategieberatung und Konzepterstellung bis hin zur angewandten Forschung und Erstellung von Prototypen. Das Team aus Industrie- und Technologieexperten bringt langjährige Erfahrung in den Bereichen Deep Learning, Strategieberatung und Softwareentwicklung mit.  Die rasante Entwicklung im Bereich Künstliche Intelligenz wird von vielen Expertinnen und Experten als die wichtigste Entwicklung unserer Zeit gesehen, mit weitreichenden Folgen bzw. vor allem neuen Möglichkeiten für sämtliche Industriezweige. EnliteAI möchte diese Entwicklung für seine Kunden – unabhängig von ihrer Größe – beschleunigen und sie zu AI Leadern in ihrem Bereich machen.
Donau-Universität Krems

Das Department für E-Governance in Wirtschaft und Verwaltung der Donau-Universität Krems (DUK) forscht zu den Auswirkungen des digitalen und gesellschaftlichen Wandels auf Strategie, Organisation und Prozesse. Die Forscherinnen und Forscher des Departments verfügen über Kompetenzen in Recht, Technik, Politik/Sozial-, und Wirtschaftswissenschaften. Die enge Verknüpfung mit dem Praxisleben ihrer Studentinnen und Studenten sorgt für den Transfer von aktuellen Fragestellungen aus der Praxis in die Wissenschaft. Die Forschungsergebnisse werden wiederum über die Lehre in die Gesellschaft getragen, dienen der Sensibilisierung für sich verändernde sozio-technische und rechtliche Governance-Strukturen und bilden die Basis für Entscheidungen in Verwaltung, Politik, Wirtschaft, Wissenschaft und Gesellschaft.
Research Institute – Digital Human Rights Center

Die Research Institute AG & Co KG (RI) ist ein seit 2012 operativ tätiges Forschungs- und Beratungsunternehmen an der Schnittstelle von Technik, Recht und Gesellschaft, das sich aus multi- und interdisziplinärer Perspektive mit Fragen des Grundrechtsschutzes im digitalen Zeitalter beschäftigt. Dies umfasst technische, rechtliche und organisatorische Aspekte von Datenschutz und Datensicherheit ebenso wie Fragen zu Technikfolgenabschätzung, Cybercrime und Netzpolitik.
Bundeskanzleramt Österreich

Das Bundeskanzleramt (BKA) wirkt am geplanten KIRAS defalsif-AI Projekt im Sinne der Einbindung als öffentlicher Bedarfsträger mit und stellt Expertise im Ausmaß des im Antrag festgelegten Umfanges zur Verfügung.
Bundesministerium für Landesverteidigung

Die Aufgaben des Österreichischen Bundesheeres leiten sich aus gesetzlichen und politischen Vorgaben ab. Grundsätzlich sind sie durch das Wehrgesetz vorgegeben. Zusätzlich wird für das Heer immer bedeutender, dass Österreich Mitglied in der Europäischen Union und in der Partnerschaft für den Frieden (PfP) ist. Das Bundesministerium für Landesverteidigung (BMLV) wirkt am geplanten Projekt im Sinne der Einbindung als Nutzer und Expertisenträger mit und stellt Know-How und Fachkompetenz im Ausmaß des im Antrag festgelegten Umfanges zur Verfügung.
Bundesministerium für Europäische und Internationale Angelegenheiten

Das Bundesministerium für Europäische und Internationale Angelegenheiten (BMEIA) wirkt am geplanten KIRAS defalsif-AI-Projekt im Sinne der Einbindung als öffentlicher Bedarfsträger mit und stellt Expertise im Ausmaß der im Antrag festgelegten Umfanges zur Verfügung.
ORF - Österreichischer Rundfunk

Der ORF ist in Erfüllung seines öffentlich-rechtlichen Auftrags mit seinem umfangreichen Programmangebot in Radio, Fernsehen und Online österreichischer Markt- und Qualitätsführer und einer der erfolgreichsten öffentlich-rechtlichen Programmanbieter in Europa. Als unabhängiges öffentlich-rechtliches Medienunternehmen ist der ORF nicht gewinnorientiert und bilanziert ausgeglichen.  Der öffentlich-rechtliche Auftrag des ORF ist im ORF-Gesetz niedergelegt. Der ORF beschäftigt rund 3.000 Mitarbeiterinnen und Mitarbeiter an elf Standorten in ganz Österreich und 16 in aller Welt.
APA – Austria Presse Agentur

Die APA – Austria Presse Agentur ist die nationale Nachrichtenagentur und der führende Informationsdienstleister Österreichs. Sie befindet sich im Eigentum 12 österreichischer Tageszeitungen und des ORF. Die APA-Gruppe setzt sich aus der genossenschaftlich organisierten Nachrichtenagentur und drei hundertprozentigen Tochterunternehmen zusammen und deckt die Geschäftsfelder Nachrichtenagentur, Informationsagentur und Technologieagentur ab. Die APA-Redaktionen sorgen für Echtzeit-Nachrichtendienste in Wort, Bild, Grafik, Audio und Video, die Tochterunternehmen bieten Verbreitungs-, Recherche- und Wissensmanagement-Dienste sowie Informationstechnologie-Lösungen.

Gefördert von

Bundesministerium für Finanzen

Österreichische Forschungsförderungsgesellschaft (FFG)

KIRAS - Das österreichische Förderungsprogramm für Sicherheitsforschung

Das Projekt wird innerhalb des Sicherheitsforschungs-Förderprogramm KIRAS durch das Bundesministerium für Finanzen (BMF) gefördert und von der Österreichischen Forschungsförderungsgesellschaft (FFG) abgewickelt.

Meilensteine

Vom Antrag bis zur Fertigstellung

business
Projektstart 10/2020

Erstellung von Szenarien und Definition von Anforderungen
business
Iterative Konzeption 02/2021

Proof of Concept – Konzeption
business
Demonstration 09/2021

Proof of Concept – Iterative Demonstrationsphase
business
Evaluierung 07/2022

Proof of Concept – Evaluierungsphase

Zahlen & Fakten

9

Konsortialpartner

24

Monate Projektlaufzeit

6

Arbeitspakete

Woran wird im Projekt defalsif-AI geforscht? Eine kurze Erklärung

What defalsif-AI is all about (Video: YouTube)

Berichterstattung zum Projekt auf APA-Science

Tech
Kampf gegen Deepfakes: Neues Projekt zur Erkennung von Bild- und Videomanipulationen
Wien (AIT) - Ob DALL-E 3, Gesichtsfilter auf TikTok und Instagram oder DeepFaceLab: Technologien, die die Manipulation von Videos und Bildern ermöglichen, boomen, sind zunehmend einfacher zugänglich und markieren für viele Menschen einen Wendepunkt, wenn es um das Vertrauen in digitale Inhalte...
Tech
High-Tech Made in Austria auf Europas größter Messe für IT-Sicherheit vorgestellt
Wien (AIT) - Vom 10. bis zum 12. Oktober steht der gemeinsame Ausstellungsstand (Nummer 7-215) auf Europas größter Messe für IT-Sicherheit ganz unter dem Motto "Sharing Innovation": Die IT Spezialisten X-Net, Rimage, Iknaio und fragmentiX, Industriepartner LiSEC sowie Österreichs größte...
Politik
Sicherheitsforschung bekommt Cybersicherheit-Update um fünf Mio. Euro
Wien (APA) - Mit einem neuen, fünf Millionen Euro schweren "Cybersicherheitsschwerpunkt" erfährt die Förderung der Sicherheitsforschung in Österreich eine Aufwertung. Damit sind die beiden einschlägigen Förderprogramme "KIRAS" und "FORTE" heuer erstmals in Summe mit 19 Mio. Euro dotiert,...

Wo wurde über das Projekt defalsif-AI gesprochen? (Auswahl)

In Medien oder Publikationen aller Art, in Vorträgen oder auf Veranstaltungen

 

Medien

29.7.2022 Artikel auf krone.at (und Kronen Zeitung): „Deepfakes: Auf der Jagd nach digitalen Fälschungen“

28.6.2022 Artikel auf tt.com: „Ein Klitschko nur am Schirm: Deep-Fake-Experte klärt auf“

20.06.2022 Artikel auf krone.at: „KI „defalsif-AI“ soll Fake-News entlarven“

27.06.2022 Artikel auf futurezone.at: „Was ist ein echtes Deepfake-Video?“

9.12.2021 Artikel auf science.apa.at: „Desinformation im Internet: Sich der Welle entgegenstemmen“

19.11.2021 Artikel auf noen.at: „Mit Forschung gegen Fake News“

18.10.2021: Interview mit w24 im Rahmen von „Digital Days Vienna 2021“

9.9.2021 Artikel Der Standard: „Die Software, die Fake-Wahrscheinlichkeiten ermittelt“

27.8.2021 Artikel Die Presse: „Sexismus in allen Nuancen erkennen“

01.03.2021 Interview im Rahmen des ORF Formats „Public Value“.  Thema: Einsatz von KI im Journalismus im deutschsprachigen Raum

 

Sonstige Veröffentlichungen

30.3. 2022 Magazin des Bundesministerium für Inneres (BMI) „Öffentliche Sicherheit“ (Nr. 03-04/2022): AIT-Technologien für die Erkennung von Hate Speech im Netz“

30.09.2021 Artikel auf IKT-Sicherheitsportal onlinesicherheit.gv.at:“Mit Künstlicher Intelligenz gegen Desinformationen“

17.09.2021   Publikation in e & i Elektrotechnik und Informationstechnik: „The defalsif-AI project: protecting critical infrastructures against disinformation and fake news“

22.6.2021 Beitrag Wien Wissen (2/21): „High-Tech im Kampf gegen ‚Fake News'“ (Seite 21)

14. 6. 2021 Video-Beitrag „LET’S TECH“

1.6.2021 Blog-Beitrag auf fti…remixed: „defalsif-ai – Werkzeug zur Erkennung von Fake News“

25.5.2021 Beitrag Newsletter des OVE (Österreichischer Verband für Elektrotechnik): „defalsif-AI – Leitinitiative zur Stärkung der Resilienz gegen Fake News und Desinformation“

10.03.2021 Blog-Beitrag zum defalsif-AI Projekt auf der AIT Homepage

7.5.2021 Beitrag in „New Business“: „Kampf dem Fake im Cyberspace“

 

Presseaussendungen

9.12.2021 OTS-Aussendung von APA – Austria Presse Agentur und AIT Austrian Institute of Technology: „APA und ORF beteiligen sich an Forschungsprojekt zur Erkennung von Falschinformationen mit Hilfe von Künstlicher Intelligenz“

15.07.2021 Presseaussendung der Fachhochschule St. Pölten: “Sexismus in sozialen Medien automatisch erkennen”. Auch gelaufen als Partnermeldung auf APA-Science

20.05.2021 OTS-Aussendung des Bundesministeriums für Landesverteidigung: “ Moderne Lösungen für die Sicherheit Österreichs“

 

Präsentationen

6.4.2022: „Pitch“ zu Projekt defalsif-ai: EU-HYBNET-2nd Annual Workshop

14.12.2021: PhD – Poster Presentation: Disinformation Detection: A Visual and Explainable Semi-Supervised Transfer Learning Approach: Evaluation of the Center for Applied Computer Science by the Hessian Ministry; Darmstadt University of Applied Sciences

19.11.2021: PhD – Poster Presentation: Disinformation Detection: A Visual and Explainable Semi-Supervised Transfer Learning Approach: Tag der offenen Tür, Darmstadt University of Applied Sciences

21.9.2021: Präsentation über Fake News / Erkennung von Desinformation: KSÖ-Planspiel bei der Raiffeisenlandesbank

7.7.2021: Präsentation des Projekts im Rahmen von OSZE-Workshop: #SAIFE: Spotlight on AI’s Impact on Freedom of Expression

25. 3. 2021: Präsentation des Projekts anlässlich des Besuchs von Wissenschaftsjournalist Günther Mayr am AIT

28. 1. 2021: Projektpräsentation Freedom Online Coalition

 

Vorträge/Seminare

21.3.2022: „Fake News & Algorithmen“:  Projekt SCIENCE von den Wiener Volkshochschulen in Kooperation mit der Universität Wien sowie der Stadt Wien

18.-20.11.2021: Design Sprint 2021, Seminar für Studierende. Ziel: Studierende der Rechtswissenschaften suchen gemeinsam mit Designer*innen kreative und innovative Lösungen zu datenschutzrechtlichen Fragestellungen, Universität Graz

20.10.2021: „Visionäre Entwicklung der Künstlichen IntelIigenz“, 19. Sicherheitskonferenz Krems 2021

18.10.2021:  „Wie man Falschinformationen im Netz erkennen kann und welche neuen Tools uns dabei helfen“: Workshop über Fake News für Schüler*innen von 14-18 Jahren, Digital Days Vienna 2021

 

 
mdi-download Download: Sämtliche Medienberichte Medienbeobachtung_10_2020-09_2022 PDF/5 MB
14. Juni 2021: "LET'S TECH"-Video-Beitrag online

Wie man rund um Fake News den Durchblick behält und was Social Bots mit all dem zu tun haben, wird im neuen Blogbeitrag des OVE (Österreichischer Verband für Elektrotechnik) erklärt. Der Beitrag, der sich gezielt an junge Menschen richtet, entstand im Rahmen der „LET’S TECH“-Initiative des OVE gemeinsam mit dem Austrian Institute of Technology. Warum es Fake News überhaupt gibt und was wir dagegen tun können, erfährt man im dazu eigens erstellten Videobeitrag des AIT. Auch das Projekt defalsif-AI wird darin vorgestellt.

Video: AIT

 

Zum Blog-Beitrag
21. Mai 2021: Dreharbeiten für ORF-Beitrag über Deep Fakes am AIT

Am 21. Mai fanden am AIT – Austrian Institute of Technology Dreharbeiten des ORF für einen Videobeitrag zum Thema „Fake News and Deep Fakes in Videos“ statt. Der Beitrag wird im Rahmen der neuen Wissenschaftssendung auf ORF 2, „Mayrs Magazin – Wissen für alle“, ausgestrahlt werden. In dem Beitrag berichtet AIT-Projektleiter Martin Boyer über defalsif-AI und stellt in dem Zusammenhang einige Technologien vor, an denen derzeit am AIT gearbeitet wird.

25. März 2021: Wissenschaftsjournalist Günther Mayr zu Besuch am AIT

Günther Mayr, der Leiter der aktuellen Wissenschaft im ORF, stattet dem AIT einen Besuch ab

Ihn erwartet ein spannender Einblick in die aktuellen Forschungsaktivitäten und Labors. So präsentieren ihm die AIT-Experten für Künstliche Intelligenz, Martin Boyer und Ross King, etwa neue Entwicklungen und Tools für die Erkennung von Fake News am Beispiel von täuschend echt aussehenden, aber künstlich erzeugten Gesichtern im Internet.
Präsentation des Projekts defalsif-AI

Martin Boyer (im Bild) liefert dem ORF-Wissenschaftsjournalisten Mayr zudem einen kurzen allgemeinen Überblick über das Projekt defalsif-AI.
Martin Boyer, Digital Safety and Security Department. Bild: AIT/Johannes Zinner
28. Jänner 2021: Projektpräsentation Freedom Online Coalition

AIT-Experte und Projektmanager Martin Boyer präsentierte am 28. Jänner 2021 das „defalsif-AI“-Projekt in einem High-Level-Meeting der Freedom Online Coalition (FOC).  Den Rahmen bildete das Treffen der FOC-Task Force „AI and Human Rights“ mit Fokus auf Beiträge aus Österreich. In der Freedom Online Coalition sind 32 Staaten – auch Österreich – vertreten. Sie arbeiten gemeinsam an Strategien für die Durchsetzung von Menschen- und Grundrechten im digitalen Raum. Boyer hob in seiner Präsentation hervor, dass Manipulationen des öffentlichen Diskurses ein Aspekt des generellen Problems digitaler Desinformationsstrategien seien. Er unterstrich den multidisziplinären Charakter von defalsif-AI, getragen von einem breiten Konsortium, das technologische Expertise ebenso garantiert wie enge Zusammenarbeit mit künftigen Usern, rechtliche und sozialwissenschaftliche Analysen und größtmögliche Transparenz der Ergebnisse. Ein weiterer Austausch über möglich künftige Kooperationen und Synergien mit den FOC-Partnern wird nun angestrebt.

Freedom Online Coalition (FOC)

Dokumente zum Download

mdi-download Handout - Facts & Figures über das Projekt defalsif-AI Handout defalsif-AI PDF/1 MB
Kontakt

Bei Fragen zur Website schicken Sie bitte eine E-Mail an die Redaktion. Möchten Sie inhaltliche Fragen zum Projekt beantwortet haben, schicken Sie bitte eine E-Mail an die Projektleitung.

Bitte beachten Sie: Alle im Rahmen des Forschungsprojekts defalsif-AI durchgeführten Verarbeitungen personenbezogener Daten beruhen auf § 2d Abs 2 Forschungsorganisationsgesetz (FOG).