Nahezu alle Wirtschaftsbranchen könnten von Künstlicher Intelligenz (KI) profitieren. Doch wenn das Potential so groß ist, warum verwenden dann bisher so wenige europäische Unternehmen KI-Systeme? "Der Umgang mit KI erfordert ein hohes Maß an Know-how und Verantwortung. Sie kann ungewollte und sehr negative Auswirkungen haben, wenn sie nicht adäquat entwickelt und verwendet wird. Den vielfältigen Chancen stehen also Risiken gegenüber, die momentan von den meisten Unternehmen schwer einzuschätzen sind", erklärt der Datenexperte Robert Ginthör vom Know-Center.

Künstliche Intelligenz ist eine Schlüsseltechnologie, die unseren Alltag und unsere Wirtschaft bereits maßgeblich verändert und zu den am schnellsten wachsenden Themenfeldern gehört. Gerade weil die Anwendungsmöglichkeiten von KI-Systemen so vielseitig sind, ist es unerlässlich, dass sie reibungslos funktionieren und ethisch unbedenklich sind.

"Beim Training einer KI benötigt man eine große Menge an Daten, um verlässliche Ergebnisse zu erhalten. Die Daten, mit dem das KI Model trainiert wird, müssen ausgewogen sein. Ist das nicht der Fall, kann KI Vorurteile entwickeln und bestimmte Benutzergruppen benachteiligen. Ebenso müssen die Daten gut anonymisiert sein, um Privatsphäre und Datenschutz zu gewährleisten. Unbefugte dürfen durch die KI keinesfalls Einfluss auf das System nehmen oder es womöglich übernehmen können", so Ginthör zu den Herausforderungen mit denen Unternehmen konfrontiert sind.

Ähnlich wie bei der Datenschutzgrundverordnung (DSGVO) plant die Europäische Kommission eine Verordnung einzuführen, um KI-Systeme künftig zu regulieren. Dabei ist eine umfassende Konformitätsbewertung durch Anbieter vorgesehen, die eine KI-Zertifizierung unumgänglich machen wird. "Konformität gegenüber Standards und Normen, die es bis jetzt nur ansatzweise gibt. Auf Basis von Bewertungsprozessen, Kriterien und Testverfahren, die ebenfalls erst im Entstehen sind", berichtet Ginthör. Der Datenexperte sieht daher noch großen Forschungsbedarf, um Aspekte wie beispielsweise die Fairness, Transparenz und Verlässlichkeit eines KI-Modells einschätzen zu können.

Partnerschaft für KI-Zertifizierung

Renommierte österreichische Forschungsinstitutionen und Unternehmen haben sich in der Initiative "Trust your AI" zusammengeschlossen, um Unternehmen dabei zu unterstützen, wettbewerbsfähige und vertrauenswürdige KI-basierte Produkte und Systeme zu entwickeln und offene Forschungsfragen zu klären. Federführend sind das Know-Center, SGS, die Technische Universität Graz und die Universität Graz an der Initiative beteiligt. Unternehmen wie Energie Steiermark, Leftshift One, Infineon, Bundesrechenzentrum und Redwave bringen konkrete Anwendungsfälle in das Vorhaben ein.

"Unser Ziel ist, die Hemmschwellen für den Einsatz von KI abzubauen. Wir arbeiten an internationalen Standards und erforschen zugehörige Metriken, die eine vertrauenswürdige Nutzung von KI sicherstellen. Außerdem wollen wir Unternehmen bei der Entwicklung von vertrauenswürdigen KI-Systemen beraten und sie bei der Vorbereitung eines Konformitätschecks begleiten. Neue multidisziplinäre Tools und Techniken sollen eine (semi-)automatische Bewertung der Kriterien ermöglichen", sagt Ginthör.

Internationaler Austausch

Die Zertifizierung von Künstlicher Intelligenz ist ein großes und komplexes Feld. Viele Organisationen und Unternehmen arbeiten weltweit an diesen Fragestellungen. Es gibt bereits erste Kriterienkataloge und Open Source Toolkits, die konkrete Aspekte bewerten können. Für ausgewählte Domänen werden bereits Governance Ansätze erarbeitet und rechtliche Fragestellungen beantwortet. "Trust your AI" baut auf diesen Grundlagen auf und tauscht sich mit anderen ähnlichen Initiativen aus. Durch die gebündelte Expertise entsteht ein 360° Rundumblick, der alle Bereiche abgedeckt, die für eine hohe Qualität und Vertrauenswürdigkeit von KI essentiell sind.

Weitere Informationen: https://trustyour.ai/

Rückfragehinweis:
Mag. Wilma Mert, MSc
wmert@know-center.at

(Diese Meldung ist Teil einer Medienkooperation mit dem Know-Center.)