Dabei gäbe es genügend Anlass zur Sorge. Verzerrungen, Ungerechtigkeiten und Diskriminierung durch von Algorithmen getroffene Entscheidungen können enorme Auswirkungen auf das Leben von Menschen haben (siehe „Diskriminierung statt Effizienz: Wenn die KI falsch entscheidet“). Beispiele gibt es dafür inzwischen zuhauf: Oft genannt werden verweigerte Kredite oder Versicherungen. Zudem gibt es Sprachassistenten, die ältere Personen nicht verstehen, und Jobplattformen, die Frauen benachteiligen. Quasi alltäglich sind (Werbe-)Angebote, die nicht alle (gleich) zu sehen bekommen. Bemerkt wird das oft gar nicht, weil Transparenz in diesen Bereichen bisher Fehlanzeige ist. Das wäre aber die Voraussetzung für „gerechtere“ Systeme und Entscheidungen.

Die Website anti-bias.eu listet nicht weniger als 48 Arten an Bias-Typen auf, also Arten der Voreingenommenheit. Einer ist der „Bias in Künstlicher Intelligenz“, der auf unausgewogenen oder fehlerhaften Daten basiert und zu Diskriminierung führen kann (siehe „Man kann nicht nicht diskriminieren“). Katta Spiel von der Technischen Universität Wien illustriert ihn anhand eines Beispiels aus der medizinischen Forschung: „Da gibt es ein Datenproblem. Die meisten Studien basieren einfach auf weißen Männern. Bei intergeschlechtlichen Menschen gibt es virtuell keine Daten, nicht einmal Referenzen für Blutwerte.“ Das liege mitunter an der Wahrscheinlichkeitsmodellierung. „Alles basiert auf Wahrscheinlichkeiten, das ist der Kern. Wenn man eine ziemlich unwahrscheinliche Person ist, wird man immer ausgeschlossen.“ In dieser Hinsicht ginge es nicht diskriminierungsfrei, das sei jedoch weniger das Problem, sondern sowohl unser bewusster wie auch unbewusster Umgang mit möglichen Diskriminierungen, so Spiel, die fehlende Reflexion bei Entwicklern und in der Ausbildung als in Frage kommende Ursachen ortet.

Digitaler Humanismus gefragt

Entsprechend pochen die Proponenten des „Wiener Manifests für Digitalen Humanismus“ darauf, den Menschen bei allem technischen Fortschritt im Blick zu behalten. Die Idee dahinter ist einfach, es geht um das „Wechselspiel zwischen Mensch und Computer, der Beschreibung und Analyse dessen, aber auch der Möglichkeit der Intervention“, wie es einer der Hauptinitiatoren des Dokuments, der Informatiker Hannes Werthner beschreibt (siehe „Der Mensch und das Digitale“). Für Katja Mayer vom Institut für Wissenschafts- und Technikforschung der Universität Wien und Ko-Autorin der Studie „Akteure, Instrumente und Themen für eine Digital Humanism Initiative“ ist eine der zentralen Fragen heute, wie man in Zeiten zunehmender Automatisierung mit Verantwortung umgehen soll, und damit bereits in der Technologieentwicklung soziale und gesellschaftliche Werte besser mitdenken kann. Es müsse von Anfang an darauf geachtet werden, dass Technologien das humane Wertefüge nicht verletzen: „Was offline gilt, gilt auch online.“

Technische Lösungen

Von technischer Seite werden derzeit verschiedene Herangehensweisen ausprobiert, um Algorithmen fairer zu gestalten. Markus Schedl vom Institut für Computational Perception der JKU Linz und sein Team verfolgen dabei zwei Lösungswege (siehe „Der unwissende Algorithmus“). Beim ersten Ansatz werden laut dem Experten die Trainingsdaten verändert und “der Algorithmus ausgeglichener trainiert, indem man entweder die Daten der unterrepräsentierten Gruppe erhöht (also beispielweise von Frauen generierte Datenpunkte dupliziert; Anm.) oder zufällig Datenpunkte von Männern weglässt. Dabei geht aber natürlich Information verloren, das ist also nicht der optimale Weg.”

Der zweite Ansatz nennt sich “Fairness through Unawareness”.  Ein solches Empfehlungssystem lernt aus Interaktionen von Nutzern oder Nutzerinnen – welche Filme geschaut oder welche Songs gehört werden, und darauf aufbauend unterbreitet der Algorithmus dem Menschen neue Vorschläge. Stereotype Informationen sollen in diesem Ansatz aus dem Algorithmus rausgelernt werden, damit beispielsweise Musikvorschläge nicht mehr nach dem Geschlecht des Users oder der Userin, sondern rein nach seinen bzw. ihren Vorlieben gemacht würden.

Ähnlich argumentiert Dominik Kowald vom Know-Center und dem Institute of Interactive Systems and Data Science der TU Graz. Einerseits könne man genauer überlegen, welche Daten man in das System einspeist („Preprocessing“) – etwa indem man Abstand davon nimmt, Merkmale wie Geschlecht, Hautfarbe und Alter einzuspeisen (siehe „Wie digitale Stereotype aus der Welt geschafft werden sollen“). Das funktioniere aber nicht immer, weil es oft versteckten Korrelationen aus der wirklichen Welt in den Daten gibt. Zweitens sei es möglich, den Algorithmus aufgrund solcher Probleme anzupassen (In-processing). Dann habe man aber meist das Problem, dass die Genauigkeit des Systems leidet (Genauigkeit-Fairness Tradeoff). „Wir, und viele andere Forscher arbeiten derzeit deshalb daran, diese Tradeoffs zu verringern“, sagt Kowald. Zudem könne man die Ergebnisse anpassen, etwa indem man auf die Liste der zehn bestgeeigneten Personen für einen Job fünf Frauen und fünf Männer rankt (Post-processing). Dann wiederum habe man das Problem, „dass man einen Mann aufgrund seines Geschlechts herunter ranken muss“, so der Forscher: „Das heißt, man hat einen Tradeoff zwischen Gruppenfairness gegenüber individueller Fairness.“ Es hat demnach jeder der drei Eingriffe Vor- und Nachteile.

KI sollen sich erklären

Bei alldem schwingt immer mit, dass eine Künstliche Intelligenz eine Entscheidung trifft, mit der der Mensch konfrontiert wird, von deren Genese er aber keine Ahnung hat. Die Hintergründe eines Suchmaschinenresultats oder einer Albumempfehlung bleiben komplett im Verborgenen. Genau das will Martina Mara, Professorin für Roboterpsychologie am Linz Institute of Technology (LIT) der Johannes Kepler Universität Linz, unbedingt ändern (siehe „Maschinen in Erklärungsnot“): „Was mich wirklich umtreibt ist, wie wir intelligente Maschinen für Menschen besser verständlich machen können – einerseits, indem wir beispielsweise medial realistischer darüber berichten, aber auch, und das ist in unserer Forschung fast wichtiger, inwiefern sich Maschinen selbst besser erklären können.“

Mara und ihr Team versuchen das unter anderem mit Hilfe von eigens kreierten Versuchsanordnungen wie einer Schwammerlsuche per Tablet, wobei eine KI den Userinnen und Usern einmal mehr und einmal weniger erklärt, warum ein Pilz giftig oder essbar sein soll. Es gewinnt – wenig überraschend – das Modell mit den ausführlicheren Erklärungen. Wie man KI & Co auch betrachtet, das Thema dahinter bleibt immer wieder das Vertrauen – ob im medizinischen Bereich (siehe Gastbeitrag VRVis), bei sozio-technischen Systemen, die politische Annahmen treffen (Gastbeitrag TU Delft), oder bei Chatbots (Gastbeitrag FH Salzburg).

Warten auf den AI Act

Vertrauen ist gut, Kontrolle ist besser. Nur wie soll das gelingen? Die Herausforderungen in der digitalen Welt sind massiv, wie die vorangegangenen Beispiele demonstrieren. Das Bewusstsein für die algorithmische Diskriminierung ist in Teilbereichen schon vorhanden, aber es braucht viel mehr, dass es zu flächendeckenden Verbesserungen kommt: Es braucht verbindliche Regulierungen von „oben“. Alle Augen sind daher auf den Artificial Intelligence Act der EU gerichtet, der derzeit als Gesetzesvorschlag vorliegt. Der Wiener Jurist Nikolaus Forgó bremst aber die Erwartungen (siehe dazu „Wie digitale Stereotype aus der Welt geschafft werden sollen“): „Das ist ein irrsinnig langes Textdokument, aber es ist noch nichts davon definitiv beschlossen“, sagt Forgó: „Wir sind also noch weit davon entfernt, dass man davon reden könnte, wann man weiß, was am Ende rauskommt.“

Fix sei quasi nur, dass es „wirklich elend lange dauern kann“, und dass niemand abschätzen kann, wie sich der EU-Rat und das EU-Parlament schließlich positionieren werden. Forgó bezweifelt außerdem, dass der AI Act letztlich tatsächlich ein effektives Mittel gegen die digitale Diskriminierung wird: „Momentan steht da irrsinnig viel drinnen über Risiken von AI-Systemen, Berichts- und Selbstevaluierungspflichten sowie neue Behörden, aber nicht wahnsinnig viel, ob jemand diskriminiert wird oder nicht, und wie man dies verhindert.“

Letztlich wird man laut Forgó mit den aktuellen und geplanten Vorschriften die Probleme mit digitalen Stereotypen kaum in den Griff bekommen: „Es ist ein bisschen zu optimistisch, zu glauben, dass man in irgendein Gesetz etwas hineinschreibt, und dann wird die Welt besser.“ Der Ball liegt laut Experten bei den Entwicklern, mit Sozialwissenschaftern diskriminierungsfreie Datensätze und Algorithmen für eine gerechtere digitale Welt zu schaffen.

Plädoyer für Gestaltungshoheit

Dass auch „wir“ als einfache Nutzerinnen und Nutzer der Digitalisierung nicht auf Gedeih und Verderb ausgeliefert sind, sondern auch Gestaltungsmöglichkeiten haben, ist das Credo von Christopher Frauenberger. „Es ist ein Narrativ der Digitalisierung, dass sie über uns hereinbricht. Und wir Menschen müssen halt da mit. Ich glaube, dass das ein Trugschluss ist“, reflektiert der Professor für Human-Computer-Interaction an der Universität Salzburg im Podcast-Interview mit APA-Science (siehe unten). Trotz einer „fahrlässigen Privatisierung“ von digitalen Räumen und der daraus resultierenden Gefahr für die Demokratie bleibe uns zumindest noch ein kleiner „Konsumenten-Hebel“: „Ich glaube, dass es schon trotzdem wertvoll ist, darüber nachzudenken, wie können wir ein stückweit diese Gestaltungshoheit wieder zurückgewinnen? Wie können wir denn eigentlich die Dinge, die unser Leben so fundamental mit beeinflussen, auch mitgestalten?“