Die Preisträger des Physik-Nobelpreises 2024, der US-Forscher John J. Hopfield und der in Kanada forschende Geoffrey E. Hinton, sind der Gruppe um den Pionier für Künstliche Intelligenz (KI), Sepp Hochreiter, von der Uni Linz bestens vertraut. Die in den 1980er Jahren formulierten Ideen und Konzepte der Ausgezeichneten stecken in aktuellen Large Language Models (LLM) - so auch in Hochreiters eigenen Systemen. Für sein Forschungsfeld sei der Preis "eine große Ehre".

"Hinton kenne ich schon seit immer", meinte Hochreiter gegenüber der APA. Auch mit Hopfield habe man gerade in jüngerer Zeit wieder Kontakt gehabt, da man mit seinen "Hopfield-Netzen" weitergearbeitet habe. Sie steckten "im Kern und gemeinsam mit anderen Komponenten" in der von ihm selbst entwickelten Technik Long Short-Term Memory (LSTM), eine der Grundlagen für KI-Systeme.

Hochreiter traf Hinton schon als Student

Hinton traf Hochreiter schon als junger Student Anfang der 1990er Jahre, "als ich mein LSTM vorgestellt habe. Da hat mein Herzen schon wirklich geklopft, als Hinton - damals schon berühmt - vorbeigegangen ist", so der Forscher. Bei einer Konferenz um 2010 sei Hinton dann auf ihn zugelaufen gekommen: "Hey Sepp, weißt du schon, was los ist? Alle machen jetzt die Sachen, die du damals erfunden hast", wie Hochreiter auch schon 2018 einmal der APA erzählt hatte: "Wenn das einer sagt, bei dem man zum Schwitzen anfängt, wenn der vorbei geht, und man froh ist, wenn man die Luft atmen darf, die er ausgeatmet hat, da kann man schon stolz sein". "Das war eine Riesenehre", so Hochreiter rückblickend.

Hochreiter wie auch sein Kollege Günter Klambauer vom Institut für Machine Learning der Universität Linz zeigten sich aber auch etwas überrascht, dass der Nobelpreis für Physik für Entdeckungen im Bereich des maschinellen Lernens vergeben wurde. Immerhin würden künstliche neuronale Netze heute dem Bereich Informatik zugeordnet. Hopfield könnte man noch eher mit Physik in Verbindung bringen, aber die Beiträge Hintons, der aus der "Psychologie kommt und immer ein Visionär war", eher weniger. Die Nobelpreis-Begründung - der Preis wurde "für bahnbrechende Entdeckungen und Erfindungen, die maschinelles Lernen mit künstlichen neuronalen Netzen ermöglichen" vergeben - sei daher erstaunlich gewesen.

Maschinelles Lernen in Physik eingedrungen

Aber: "Das Wichtige ist: Das Feld des maschinellen Lernens ist in die Physik eingedrungen, man wird hier ernst und wahrgenommen", so Hochreiter, der somit auch den Impakt seines Forschungsfeldes bestätigt sieht. Man habe "Breitenwirkung", freute sich der Forscher: "Der Preis ist eine große Ehre für das, was wir machen."

"Was heute als KI bezeichnet wird, dahinter stecken künstliche neuronale Netze", erläuterte Klambauer. Hopfield habe eine bestimmte Form von Netzen vorgeschlagen, die dem assoziativen Gedächtnis dienen (associative memory). Hinton habe, ebenfalls in den 1980ern vorgeschlagen, wie man neuronalen Netzen lernen beibringen kann. Beides habe heute noch unmittelbaren Aktualitätsbezug, so Klambauer. "Heutige Large Language Models wie ChatGPT verwenden sowohl Teile von Hopfield wie auch von Hinton."

Heute gehe es vor allem um "tiefe neuronale Netze"

Heute gehe es vor allem um "tiefe neuronale Netze", die komplexer aufgebaut sind. Hier habe Hinton, der im Jahr 2018 gemeinsam mit Yoshua Bengio und Yann LeCun als "Väter der Deep Learning Revolution mit dem prestigeträchtigen Turing-Award geehrt wurde, ebenfalls entscheidende Beiträge geliefert. Alle drei wurden auch 2022 gemeinsam mit Demis Hassabis mit dem spanischen Prinzessin-von-Asturien-Preis in der Sparte Wissenschaft geehrt.

Zu den heutigen Entwicklungen von maschinellem Lernen und KI hätten viele Wissenschafter weitere entscheidende Beiträge geliefert, meinte Klambauer. Auch Hochreiter verwies, neben den grundlegenden Arbeiten der zwei aktuellen Nobelpreisträger, etwa auf Bengio und LeCun. Aber sicher sei: Hopfield und Hinton hätten "fundamentale Beiträge" geliefert - und das schon sehr früh.