apa.at
Gastbeitrag / Georg Dorffner, Clemens Gangl, Anita Rieder / Donnerstag 01.02.24

KünstIiche Intelligenz und medizinische Ausbildung

Methoden der Künstlichen Intelligenz (KI), insbesondere des Maschinellen Lernens, nehmen immer mehr Einzug in die klinische Praxis. Vor allem die Anwendungen des „Deep Learnings“ zur Interpretation medizinischer Bilder und Signale haben in vielen Bereichen – von der Radiologie bis zur Pathologie – neue Systeme entstehen lassen, die hinsichtlich der diagnostischen Fähigkeit an die Leistung klinischer Expertinnen und Experten herankommen oder diese teilweise sogar übertreffen.
Credit Rieder und Gangl: MedUni Wien/feelimage, Dorffner: mediendienst.com Anita Rieder, Georg Dorffner, Clemens Gangl (re.) von der MedUni Wien

Darüber hinaus haben „Large Language Models“ wie beispielsweise „ChatGPT“ im letzten Jahr gezeigt, dass mittels dieser speziellen Art sprachverarbeitender KI-Systeme klinisches Wissen Patientinnen und Patienten sowie Ärztinnen und Ärzten gleichermaßen in einer Art zur Verfügung steht, wie es vor Kurzem noch unmöglich schien.

All diese neuartigen KI-Anwendungen haben das Potenzial, die medizinische Praxis in naher Zukunft zu revolutionieren. Hält schon jetzt vielfach die „digitale Medizin“ – also eine ärztliche Versorgung, die durch digitale Speicherung und Verarbeitung von Daten von Patientinnen und Patienten geprägt ist – Einzug in den Alltag der Gesundheitsversorgung, so können KI-Systeme hier einen entscheidenden Schritt weiter gehen, wenn Daten nicht mehr bloß gespeichert, gesammelt und übertragen werden, sondern durch intelligente Komponenten automatisiert interpretiert und daraus Behandlungsvorschläge abgeleitet werden. Einerseits werden hier Patientinnen und Patienten zunehmend selbst zu Akteuren – man denke nur an die vielfältigen Apps wie z.B. Haut-Scanner, die der Differenzierung zwischen harmlosen Muttermalen und bösartigen Melanomen dienen, oder an das Konsultieren von „ChatGPT“ hinsichtlich einer Interpretation von Symptomen bzw. anderen Aspekten der eigenen Krankengeschichte. Andererseits könnte ärztlichem Personal zukünftig entscheidend unter die Arme gegriffen werden, wenn jederzeit Zugriff auf Expertise möglich ist, die bisher nur wenigen Expertinnen und Experten vorbehalten war.

Auch wenn diese technische Entwicklung nicht bedeuten wird, dass der Mensch auf Seiten der medizinischen Versorgung ersetzt oder aus dem System herausgedrängt wird – gut ausgebildete medizinische Fachkräfte werden auch weiterhin benötigt werden – so entstehen dadurch auch neue Ansprüche an das Ausbildungsniveau dieser Personen. Wenn KI-Systeme auf der Basis von maschinellem Lernen Wissen verinnerlichen, das das eines einzelnen Menschen weit übersteigen kann – kein Mensch kann die Millionen von Bildern oder die Milliarden von Textelementen je gesehen haben, die das Lernmaterial für die KI-Systeme bilden – dann nimmt die Bedeutung des eigentlichen diagnostischen Fachwissens ab, während die passende Einschätzung und Einordnung bzw. Überprüfung dessen, was ein KI-System ausgibt, zunehmend wichtiger wird. Dies vor allem angesichts der bekannten Limitation der KI-Systeme, vom durch „Bias“ in den Daten verursachte Einschränkungen bis zu „Halluzinationen“ von Large Language Models.

Das bedeutet gleichzeitig, dass hier auch die medizinische Ausbildung Schritt halten muss. Es erscheint unumgänglich, dass zukünftige Ärztinnen und Ärzte ein einigermaßen tiefes Verständnis dessen haben müssen, was maschinelles Lernen bedeutet, wie solch ein System grob aufgebaut ist, und was die Grenzen des Lernens und des in den Systemen integrierten Wissens sind. Ein solches Verständnis beginnt aber schon wesentlich früher als beim eigentlichen KI-System: nämlich beim Grundverständnis dessen, wie digitale Daten erzeugt, gespeichert und verarbeitet werden, wie Algorithmen funktionieren und von der Maschine ausgeführt werden, in welchen Formaten Daten vorliegen und wieviel Information sie enthalten können, etc. Das bedeutet, dass moderne Medizincurricula notwendigerweise auch eine Einführung in diese Grundlagen der digitalen Datenverarbeitung enthalten müssen. Anders ausgedrückt: Ein Vormarsch der „digitalen Medizin“ bedeutet, dass sich informationstechnologische Grundlagen als ebenso wichtig und notwendig für den medizinischen Beruf erweisen, wie es schon seit jeher die biologischen, chemischen oder physikalischen Grundlagen sind. Während letztere notwendig sind, den menschlichen Organismus zu verstehen, sind erstere unumgänglich, um automatisierte Prozesse der Diagnosefindung und Therapieüberwachung in der modernen medizinischen Praxis adäquat nachzuvollziehen und beurteilen zu können.

Eine solch geartete Grundlagenausbildung müsste sich auf zwei wesentliche Komponenten konzentrieren: 1) Wissen (Knowledge) über wesentliche Konzepte in der Datenverarbeitung, etwa wie Datenkomprimierung funktioniert, welche Bildformate existieren und wie sich diese unterscheiden, oder eben auch die Grundzüge von „neuronalen Netzwerken“, die moderne Basis des maschinellen Lernens. 2) Fertigkeiten (Skills) dafür, Tools wie diejenigen aus der KI richtig einzusetzen, ihre Stärken, Schwächen und Grenzen einzuschätzen und ihre Auswirkungen wie Zeit- oder Speicherbedarf richtig abzuwägen. Keine Medizinerin und kein Mediziner muss dabei zur Computerfachkraft werden, genauso wenig wie diese zu Biologinnen oder Physiologen werden müssen, wenn sie im medizinischen Bereich arbeiten. Aber besagtes Wissen bzw. die besagten Fähigkeiten sind notwendig, damit Ärztinnen und Pfleger die zukünftigen Möglichkeiten der digitalen Medizin auch optimal zum Wohle der Patientinnen und Patienten nützen können.

Neben den vielen technischen Aspekten sind aber auch ethische, rechtliche und soziale Randbedingungen hinter dem Gebrauch digitaler Werkzeuge in der Medizin zu beachten. So gehört etwa zum Verständnis einer KI-basierten Diagnose am Computer auch die Einschätzung, ob nicht in den ursprünglichen Daten einige Bevölkerungsgruppen zu wenig für eine faire Einschätzung vertreten waren (der erwähnte „Bias“), oder ob das entsprechende Computerprogramm auch als Medizinprodukt zugelassen ist. Auch müssen Studierende über die möglichen psychologischen Auswirkungen ärztlicher Kommunikation über elektronische Medien umfassend geschult werden.

Die Medizinischen Universitäten in Wien, Graz und Innsbruck haben diese neuen Anforderungen an die medizinische Ausbildung schon vor einiger Zeit erkannt und entwickeln dazu seit drei Jahren in einem vom Bundesministerium für Bildung, Wissenschaft und Forschung geförderten Projekt namens „Digital Skills, Knowledge & Communication für Studierende der Humanmedizin“ für das ganze erwähnte Spektrum der digitalen Medizin entsprechende Lösungen für ihre Curricula.

Kurzportrait

Anita Rieder ist Professorin für Sozialmedizin und Leiterin des Zentrums für Public Health der MedUni Wien. Als Vizerektorin für Lehre verantwortet sie alle Agenden rund um die Lehre an der MedUni Wien.

 

Georg Dorffner ist a.o. Professor am Institut für Artificial Intelligence und Curriculumdirektor für Medizinische Informatik der MedUni Wien.

 

Clemens Gangl ist Facharzt für Kardiologie an der Universitätsklinik für Innere Medizin II der MedUni Wien.

 

Georg Dorffner und Clemens Gangl sind seitens der MedUni Wien leitend am Projekt „Digital Skills, Knowledge & Communication für Studierende der Humanmedizin“ beteiligt.

Stichwörter