Neuromorphe Hardware: TU Graz und Intel orten hohe Energieeffizienz
Der neuromorphe Forschungschip Loihi der Intel Labs nutzt Erkenntnisse der Neurowissenschaften, um Chips noch dem Vorbild des Gehirns zu schaffen. Auf dieser neuromorphen Hardware kann ein großes neuronales Netz Sequenzen - wie etwa Sätze - um das vier- bis 16-fache energieeffizienter verarbeiten als andere AI-Systeme, wie Forschende der TU Grau und der Halbleiterhersteller Intel experimentell erkannt haben. Die Ergebnisse wurden in "Nature Machine Intelligence" präsentiert.
Seit Jahrzehnten träumen Wissenschafter davon, Computer zu bauen, die wie ein menschliches Gehirn funktionieren. Denn ein Gehirn ist von sich aus lernfähig und vor allem weitaus energiesparender als ein Computer. Seine rund 100 Milliarden Neuronen sind durch Synapsen verbunden und kommunizieren über elektrische Impulse - und das alles läuft enorm effizient ab. Verantwortlich dafür ist unter anderem die spezielle Informationsweitergabe zwischen den Neuronen im Gehirn: Diese senden dazu kurze, elektrische Impulse (Spikes) an andere Neuronen - um Energie zu sparen aber nur so oft, wie unbedingt notwendig.
Immenser Energieverbrauch als Hindernis
Ein zentrales Hindernis bei der Aufgabe dem Computer komplexes Denken beizubringen, ist der immense Energieverbrauch. Die Methode des Neuromorphic Computing versucht, die wichtigsten Eigenschaften der biologischen Prozesse zur Signalverarbeitung auf Siliziumebene zu übertragen und für technische Anwendungen zu optimieren. So will man eine ganz neue Computing-Architektur entwickeln, die energieeffizient, dynamisch und lernfähig ist. Diese Eigenschaften sind wichtig, wenn es um das direkte Zusammenspiel eines Systems mit seiner Umgebung geht, beispielsweise in der Robotik oder bei autonomen Anwendungen. An der TU Graz arbeitet eine Gruppe rund um Wolfgang Maass am Institut für Grundlagen der Informationsverarbeitung seit Jahren daran, die Prinzipien der Informationsverarbeitung im menschlichen Gehirn auf digitalen Speichersysteme umzulegen und den eingesetzten Energieverbrauch zu reduzieren.
Intel hat mit "Loihi" einen neuromorphen Forschungschip entwickelt, um Forschungsteams weltweit die Möglichkeit zu geben, neuromorphe Architekturen zu optimieren und Verbesserungen an Software und Systeme vorantreiben. Unter den ausgewählten Universitäten befindet sich auch die TU Graz. Die zuletzt von der TU Graz getestete Hardware bestand aus 32 Loihi-Chips. Das Team der TU Graz und Intel Labs konzentrierte sich dabei auf Algorithmen, die mit zeitlichen Prozessen arbeiten. So musste das System etwa Fragen zu einer zuvor erzählten Geschichte beantworten und Beziehungen zwischen Objekten oder Personen erfassen.
"Unser System ist vier- bis sechzehnmal energieeffizienter als andere AI-Modelle auf herkömmlicher Hardware", freute sich Philipp Plank vom Institut für Grundlagen der Informationsverarbeitung über die Testergebnisse. Er erwartet sich überdies noch zusätzliche Steigerungen der Energieeinsparung, wenn die nächste Generation der Loihi-Hardware zum Tragen kommt.
Kurzzeitgedächtnis
In ihrem Konzept bildete die Gruppe eine vermutete Methode des Gehirns beim Kurzzeitgedächtnis nach: "Simulationen lassen darauf schließen, dass ein Ermüdungsmechanismus einer Untergruppe von Neuronen für das Kurzzeitgedächtnis wesentlich ist", erklärte Wolfgang Maass anlässlich der jüngsten Publikation. Umgesetzt auf die neuromorphe Technologie bedeute das, dass das KI-Netzwerk nur testen muss, welche Neuronen gerade ermüdet sind, um zu rekonstruieren, welche Informationen vorher verarbeitet wurden. Mit anderen Worten: Vorherige Informationen werden in Nicht-Aktivität von Neuronen gespeichert - und Nicht-Aktivität verbraucht die geringste Energie.
Das Projekt an der TU Graz wurde durch Intel sowie durch das europäische Human Brain Project finanziell unterstützt. Um Neurowissenschaften, Medizin und vom Gehirn inspirierte Technologien aus dem EU-Raum zu vernetzen, wurde darin auch die digitale Forschungsinfrastruktur EBRAINS initiiert.
Service: Philipp Plank, Arjun Rao, Andreas Wild, Wolfgang Maass: A Long Short-Term Memory for AI Applications in Spike-based Neuromorphic Hardware; Nature Machine Intelligence, 19 May 2022, DOI: 10.1038/s42256-022-00480-w