apa.at

For­schungs­pro­jekt defalsif-AI

Mit KI gegen Fake News

Im For­schungs­pro­jekt defal­sif-AI wer­den medi­en­fo­ren­si­sche Werk­zeu­ge ent­wi­ckelt, die Anwen­dern eine ers­te Ein­schät­zung der Glaub­wür­dig­keit von Text‑, Bild‑, Video- oder Audio­ma­te­ri­al im Inter­net erlau­ben. Zum Ein­satz kommt dabei künst­li­che Intelligenz.

Das Pro­jekt fokus­siert ins­be­son­de­re auf poli­tisch moti­vier­te Des­in­for­ma­ti­on. Denn die­se schwächt bzw. bedroht letzt­lich die Demo­kra­tie und das öffent­li­che Ver­trau­en in poli­ti­sche und staat­li­che Institutionen.

Kontakt zur Projektleitung
Über das Projekt Konsortium Meilensteine Aktivitäten Forschung Downloads

Über das Projekt

Mit Hil­fe von Künst­li­cher Intel­li­genz dazu bei­tra­gen, Falsch­in­for­ma­tio­nen zu erken­nen – das ist das Ziel des For­schungs­pro­jekts defal­sif-AI. Im Fokus steht die Ent­wick­lung medi­en-foren­si­scher Werk­zeu­ge, die von einer brei­ten Anwen­de­rin­nen- und Anwen­der­ba­sis genutzt wer­den sol­len. Das Pro­jekt adres­siert ins­be­son­de­re poli­tisch moti­vier­te Des­in­for­ma­ti­on, wel­che letzt­lich das Ver­trau­en in die Demo­kra­tie untergräbt.

Die inhalt­li­chen For­schungs­schwer­punk­te von defal­sif-AI (Detek­ti­on von Falsch­in­for­ma­ti­on mit­tels Arti­fi­cial Intel­li­gence) lie­gen auf audio­vi­su­el­ler Medi­en­fo­ren­sik, Text­ana­ly­se und der Fusi­on die­ser Tech­no­lo­gien mit Hil­fe von Künst­li­cher Intel­li­genz (KI). Gro­ßes Augen­merk liegt dabei auf der nach­voll­zieh­ba­ren und inter­pre­tier­ba­ren Prä­sen­ta­ti­on der Ergeb­nis­se – die Letzt­ent­schei­dung und ‑bewer­tung, ob Inhal­te „falsch“ sind oder nicht, obliegt dabei den Anwen­de­rin­nen und Anwendern.

Das Ziel ist, ein vali­des Werk­zeug für die Ana­ly­se von digi­ta­len Inhal­ten im Inter­net zu demons­trie­ren, das eine ers­te Beur­tei­lung der Tex­te, Bil­der, Vide­os oder Audi­os auf Glaub­wür­dig­keit und/oder Authen­ti­zi­tät ermög­licht. Dies schafft  die Grund­la­gen für wei­te­re Handlungsempfehlungen.

Das Pro­jekt umfasst auch eine Ana­ly­se und Beur­tei­lung des medi­en-foren­si­schen Werk­zeugs aus rechts- und sozi­al­wis­sen­schaft­li­cher Per­spek­ti­ve.  Abge­run­det wird defal­sif-AI durch die Ablei­tung von anwen­dungs­ori­en­tier­ten, tech­ni­schen und orga­ni­sa­to­ri­schen Maß­nah­men sowie einem Ver­wer­tungs­plan für den zukünf­ti­gen Betrieb von rechts­staat­lich kon­for­men Desinformations-Analyseplattformen.

Das Pro­jekt wird inner­halb des Sicher­heits­for­schungs-För­der­pro­gramm KIRAS durch das Bun­des­mi­nis­te­ri­um für Land­wirt­schaft, Regio­nen und Tou­ris­mus (BMLRT) geför­dert und von der Öster­rei­chi­schen For­schungs­för­de­rungs­ge­sell­schaft (FFG) abgewickelt.

Das Kon­sor­ti­um

AIT (Koor­di­na­tor)

Das Aus­tri­an Insti­tu­te of Tech­no­lo­gy (AIT) ist das größ­te außer­uni­ver­si­tä­re For­schungs­un­ter­neh­men in Öster­reich und leis­tet einen wesent­li­chen Bei­trag zur Stär­kung der tech­no­lo­gi­schen Wis­sens­ba­sis der öster­rei­chi­schen Wirt­schaft und zur Siche­rung des Stand­orts Öster­reich im inter­na­tio­na­len Wett­be­werb. Das Cen­ter „Digi­tal Safe­ty & Secu­ri­ty” (DSS) forscht an IT-basier­ten Lösun­gen für eine siche­re Kom­mu­ni­ka­ti­ons-Infra­struk­tur, Kri­sen­ma­nage­ment und Sicher­heits­sys­te­men. Das Cen­ter besitzt in natio­na­len und inter­na­tio­na­len Inno­va­ti­ons­pro­gram­men der Sicher­heits­for­schungs­pro­gram­me eine aner­kann­te Posi­ti­on und baut auf stra­te­gi­schen Part­ner­schaf­ten mit den wich­tigs­ten natio­na­len Sicher­heits­ak­teu­ren (BMI  und BMLVS) auf.

Enli­teAI

Enli­teAI wur­de im Novem­ber 2017 mit dem Anspruch gegrün­det, Unter­neh­men rund um das The­ma Arti­fi­cial Intel­li­gence Dienst­leis­tun­gen ent­lang der gesam­ten Wert­schöp­fungs­ket­te anzu­bie­ten – von Stra­te­gie­be­ra­tung und Kon­zep­ter­stel­lung bis hin zur ange­wand­ten For­schung und Erstel­lung von Pro­to­ty­pen. Das Team aus Indus­trie- und Tech­no­lo­gie­ex­per­ten bringt lang­jäh­ri­ge Erfah­rung in den Berei­chen Deep Lear­ning, Stra­te­gie­be­ra­tung und Soft­ware­ent­wick­lung mit.  Die rasan­te Ent­wick­lung im Bereich Künst­li­che Intel­li­genz wird von vie­len Exper­tin­nen und Exper­ten als die wich­tigs­te Ent­wick­lung unse­rer Zeit gese­hen, mit weit­rei­chen­den Fol­gen bzw. vor allem neu­en Mög­lich­kei­ten für sämt­li­che Indus­trie­zwei­ge. Enli­teAI möch­te die­se Ent­wick­lung für sei­ne Kun­den – unab­hän­gig von ihrer Grö­ße – beschleu­ni­gen und sie zu AI Lea­dern in ihrem Bereich machen.

Donau-Uni­ver­si­tät Krems 

Das Depart­ment für E‑Governance in Wirt­schaft und Ver­wal­tung der Donau-Uni­ver­si­tät Krems (DUK) forscht zu den Aus­wir­kun­gen des digi­ta­len und gesell­schaft­li­chen Wan­dels auf Stra­te­gie, Orga­ni­sa­ti­on und Pro­zes­se. Die For­sche­rin­nen und For­scher des Depart­ments ver­fü­gen über Kom­pe­ten­zen in Recht, Tech­nik, Politik/Sozial‑, und Wirt­schafts­wis­sen­schaf­ten. Die enge Ver­knüp­fung mit dem Pra­xis­le­ben ihrer Stu­den­tin­nen und Stu­den­ten sorgt für den Trans­fer von aktu­el­len Fra­ge­stel­lun­gen aus der Pra­xis in die Wis­sen­schaft. Die For­schungs­er­geb­nis­se wer­den wie­der­um über die Leh­re in die Gesell­schaft getra­gen, die­nen der Sen­si­bi­li­sie­rung für sich ver­än­dern­de sozio-tech­ni­sche und recht­li­che Gover­nan­ce-Struk­tu­ren und bil­den die Basis für Ent­schei­dun­gen in Ver­wal­tung, Poli­tik, Wirt­schaft, Wis­sen­schaft und Gesellschaft.

Rese­arch Insti­tu­te – Digi­tal Human Rights Center 

Die Rese­arch Insti­tu­te AG & Co KG (RI) ist ein seit 2012 ope­ra­tiv täti­ges For­schungs- und Bera­tungs­un­ter­neh­men an der Schnitt­stel­le von Tech­nik, Recht und Gesell­schaft, das sich aus mul­ti- und inter­dis­zi­pli­nä­rer Per­spek­ti­ve mit Fra­gen des Grund­rechts­schut­zes im digi­ta­len Zeit­al­ter beschäf­tigt. Dies umfasst tech­ni­sche, recht­li­che und orga­ni­sa­to­ri­sche Aspek­te von Daten­schutz und Daten­si­cher­heit eben­so wie Fra­gen zu Tech­nik­fol­gen­ab­schät­zung, Cybercrime und Netzpolitik.

Bun­des­kanz­ler­amt Österreich 

Das Bun­des­kanz­ler­amt (BKA) wirkt am geplan­ten KIRAS defal­sif-AI Pro­jekt im Sin­ne der Ein­bin­dung als öffent­li­cher Bedarfs­trä­ger mit und stellt Exper­ti­se im Aus­maß des im Antrag fest­ge­leg­ten Umfan­ges zur Verfügung.

Bun­des­mi­nis­te­ri­um für Landesverteidigung

Die Auf­ga­ben des Öster­rei­chi­schen Bun­des­hee­res lei­ten sich aus gesetz­li­chen und poli­ti­schen Vor­ga­ben ab. Grund­sätz­lich sind sie durch das Wehr­ge­setz vor­ge­ge­ben. Zusätz­lich wird für das Heer immer bedeu­ten­der, dass Öster­reich Mit­glied in der Euro­päi­schen Uni­on und in der Part­ner­schaft für den Frie­den (PfP) ist. Das Bun­des­mi­nis­te­ri­um für Lan­des­ver­tei­di­gung (BMLV) wirkt am geplan­ten Pro­jekt im Sin­ne der Ein­bin­dung als Nut­zer und Exper­ti­sen­trä­ger mit und stellt Know-How und Fach­kom­pe­tenz im Aus­maß des im Antrag fest­ge­leg­ten Umfan­ges zur Verfügung.

Bun­des­mi­nis­te­ri­um für Euro­päi­sche und Inter­na­tio­na­le Angelegenheiten 

Das Bun­des­mi­nis­te­ri­um für Euro­päi­sche und Inter­na­tio­na­le Ange­le­gen­hei­ten (BMEIA) wirkt am geplan­ten KIRAS defal­sif-AI-Pro­jekt im Sin­ne der Ein­bin­dung als öffent­li­cher Bedarfs­trä­ger mit und stellt Exper­ti­se im Aus­maß der im Antrag fest­ge­leg­ten Umfan­ges zur Verfügung.

ORF – Öster­rei­chi­scher Rundfunk 

Der ORF ist in Erfül­lung sei­nes öffent­lich-recht­li­chen Auf­trags mit sei­nem umfang­rei­chen Pro­gramm­an­ge­bot in Radio, Fern­se­hen und Online öster­rei­chi­scher Markt- und Qua­li­täts­füh­rer und einer der erfolg­reichs­ten öffent­lich-recht­li­chen Pro­gramm­an­bie­ter in Euro­pa. Als unab­hän­gi­ges öffent­lich-recht­li­ches Medi­en­un­ter­neh­men ist der ORF nicht gewinn­ori­en­tiert und bilan­ziert aus­ge­gli­chen.  Der öffent­lich-recht­li­che Auf­trag des ORF ist im ORF-Gesetz nie­der­ge­legt. Der ORF beschäf­tigt rund 3.000 Mit­ar­bei­te­rin­nen und Mit­ar­bei­ter an elf Stand­or­ten in ganz Öster­reich und 16 in aller Welt.

APA – Aus­tria Pres­se Agentur

Die APA – Aus­tria Pres­se Agen­tur ist die natio­na­le Nach­rich­ten­agen­tur und der füh­ren­de Infor­ma­ti­ons­dienst­leis­ter Öster­reichs. Sie befin­det sich im Eigen­tum 12 öster­rei­chi­scher Tages­zei­tun­gen und des ORF. Die APA-Grup­pe setzt sich aus der genos­sen­schaft­lich orga­ni­sier­ten Nach­rich­ten­agen­tur und drei hun­dert­pro­zen­ti­gen Toch­ter­un­ter­neh­men zusam­men und deckt die Geschäfts­fel­der Nach­rich­ten­agen­tur, Infor­ma­ti­ons­agen­tur und Tech­no­lo­gie­agen­tur ab. Die APA-Redak­tio­nen sor­gen für Echt­zeit-Nach­rich­ten­diens­te in Wort, Bild, Gra­fik, Audio und Video, die Toch­ter­un­ter­neh­men bie­ten Verbreitungs‑, Recher­che- und Wis­sens­ma­nage­ment-Diens­te sowie Informationstechnologie-Lösungen.

Geför­dert von 

Das Pro­jekt wird inner­halb des Sicher­heits­for­schungs-För­der­pro­gramm KIRAS durch das Bun­des­mi­nis­te­ri­um für Land­wirt­schaft, Regio­nen und Tou­ris­mus (BMLRT) geför­dert und von der Öster­rei­chi­schen For­schungs­för­de­rungs­ge­sell­schaft (FFG) abgewickelt.

Mei­len­stei­ne

Vom Antrag bis zur Fertigstellung 

business
Pro­jekt­start 10/2020

Erstel­lung von Sze­na­ri­en und Defi­ni­ti­on von Anforderungen

business
Ite­ra­ti­ve Kon­zep­ti­on 02/2021

Pro­of of Con­cept – Konzeption

business
Demons­tra­ti­on 09/2021

Pro­of of Con­cept – Ite­ra­ti­ve Demonstrationsphase

business
Eva­lu­ie­rung 07/2022

Pro­of of Con­cept – Evaluierungsphase

For­schung

Hier fin­den Sie künf­tig Infor­ma­tio­nen rund um die For­schungs­ak­ti­vi­tä­ten der Projektpartner.

Zah­len & Fakten

9

Kon­sor­ti­al­part­ner


24

Mona­te Projektlaufzeit


6

Arbeits­pa­ke­te


Akti­vi­tä­ten

21. Mai 2021: Dreh­ar­bei­ten für ORF-Bei­trag über Deep Fakes am AIT

Am 21. Mai fan­den am AIT – Aus­tri­an Insti­tu­te of Tech­no­lo­gy Dreh­ar­bei­ten des ORF für einen Videobei­trag zum The­ma „Fake News and Deep Fakes in Vide­os” statt. Der Bei­trag wird im Rah­men der neu­en Wis­sen­schafts­sen­dung auf ORF 2, „Mayrs Maga­zin – Wis­sen für alle”, aus­ge­strahlt wer­den. In dem Bei­trag berich­tet AIT-Pro­jekt­lei­ter Mar­tin Boy­er über defal­sif-AI und stellt in dem Zusam­men­hang eini­ge Tech­no­lo­gien vor, an denen der­zeit am AIT gear­bei­tet wird.

25. März 2021: Wis­sen­schafts­jour­na­list Gün­ther Mayr zu Besuch am AIT

Gün­ther Mayr, der Lei­ter der aktu­el­len Wis­sen­schaft im ORF, stat­tet dem AIT einen Besuch ab

Ihn erwar­tet ein span­nen­der Ein­blick in die aktu­el­len For­schungs­ak­ti­vi­tä­ten und Labors. So prä­sen­tie­ren ihm die AIT-Exper­ten für Künst­li­che Intel­li­genz, Mar­tin Boy­er und Ross King, etwa neue Ent­wick­lun­gen und Tools für die Erken­nung von Fake News am Bei­spiel von täu­schend echt aus­se­hen­den, aber künst­lich erzeug­ten Gesich­tern im Internet.

Prä­sen­ta­ti­on des Pro­jekts defalsif-AI 

Mar­tin Boy­er (im Bild) lie­fert dem ORF-Wis­sen­schafts­jour­na­lis­ten Mayr zudem einen kur­zen all­ge­mei­nen Über­blick über das Pro­jekt defalsif-AI.

28. Jän­ner 2021: Pro­jekt­prä­sen­ta­ti­on Free­dom Online Coalition

Ers­te Pro­jekt­prä­sen­ta­ti­on in der Arbeits­grup­pe „AI and Human Rights“ der Free­dom Online Coalition 

AIT-Exper­te und Pro­jekt­ma­na­ger Mar­tin Boy­er prä­sen­tier­te am 28. Jän­ner 2021 das „defalsif-AI”-Projekt in einem High-Level-Mee­ting der Free­dom Online Coali­ti­on (FOC).  Den Rah­men bil­de­te das Tref­fen der FOC-Task For­ce „AI and Human Rights” mit Fokus auf Bei­trä­ge aus Österreich.

In der Free­dom Online Coali­ti­on sind 32 Staa­ten – auch Öster­reich – ver­tre­ten. Sie arbei­ten gemein­sam an Stra­te­gien für die Durch­set­zung von Men­schen- und Grund­rech­ten im digi­ta­len Raum.

Boy­er hob in sei­ner Prä­sen­ta­ti­on her­vor, dass Mani­pu­la­tio­nen des öffent­li­chen Dis­kur­ses , einen Aspekt des gene­rel­len Pro­blems digi­ta­ler Des­in­for­ma­ti­ons­stra­te­gien sei­en. Er unter­strich den mul­ti­dis­zi­pli­nä­ren Cha­rak­ter von defal­sif-AI, getra­gen von einem brei­ten Kon­sor­ti­um, das tech­no­lo­gi­sche Exper­ti­se eben­so garan­tiert wie enge Zusam­men­ar­beit mit künf­ti­gen Usern, recht­li­che und sozi­al­wis­sen­schaft­li­che Ana­ly­sen und größt­mög­li­che Trans­pa­renz der Ergeb­nis­se. Ein wei­te­rer Aus­tausch über mög­lich künf­ti­ge Koope­ra­tio­nen und Syn­er­gien mit den FOC-Part­nern wird nun angestrebt.

Freedom Online Coalition (FOC)

Wo wur­de das Pro­jekt defal­sif-AI bereits vorgestellt?

In Medi­en oder Publi­ka­tio­nen aller Art, auf Mes­sen und Konferenzen

25.5. News­let­ter des OVE (Öster­rei­chi­scher Ver­band für Elek­tro­tech­nik): Bei­trag „defal­sif-AI – Leit­in­itia­ti­ve zur Stär­kung der Resi­li­enz gegen Fake News und Desinformation”

Doku­men­te zum Download

mdi-download Handout - Facts & Figures über das Projekt defalsif-AI Handout defalsif-AI PDF/1 MB
Kon­takt

Bei Fra­gen zur Web­site schi­cken Sie bit­te eine E‑Mail an die Redak­ti­on. Möch­ten Sie inhalt­li­che Fra­gen zum Pro­jekt beant­wor­tet haben, schi­cken Sie bit­te eine E‑Mail an die Pro­jekt­lei­tung.