idw – Informationsdienst Wissenschaft
Nachrichten, Termine, Experten
Nachrichten, Termine, Experten
Eine neu veröffentlichte Studie zeigt, dass die neuromorphe Technologie für große Deep-Learning-Netzwerke bis zu sechzehnmal energieeffizienter ist als andere AI-Systeme.
Das Institut für Grundlagen der Informationsverarbeitung der TU Graz und Intel Labs haben erstmals experimentell nachgewiesen, dass ein großes neuronales Netz Sequenzen (wie bspw. Sätze) auf neuromorpher Hardware um das vier- bis sechzehnfache effizienter verarbeiten kann, als auf herkömmlicher Hardware. Die neuen Forschungsergebnisse basieren auf dem neuromorphen Forschungschip Loihi (erste Generation) der Intel Labs. Loihi nutzt Erkenntnisse der Neurowissenschaften, um Chips nach dem Vorbild des biologischen Gehirns zu schaffen. Die Forschungsergebnisse wurden nun in Nature Machine Intelligence publiziert.
Das menschliche Gehirn als Vorbild
Smarte Maschinen und intelligente Computer, die selbstständig Objekte und Beziehungen zwischen verschiedenen Objekten erkennen und daraus schlussfolgern können, sind Gegenstand der weltweiten Artificial-Intelligence(AI)-Forschung. Der Energieverbrauch ist ein Haupthindernis auf dem Weg zu einer breiteren Anwendung solcher AI-Methoden. Einen Schub in die richtige Richtung erhofft man sich von neuromorpher Technologie. Sie hat das menschliche Gehirn zum Vorbild, das Weltmeister in Sachen Energieeffizienz ist: Für das Verarbeiten von Informationen verbrauchen seine hundert Milliarden Neuronen nur etwa 20 Watt und damit nicht wesentlich mehr Energie, als eine durchschnittliche Energiesparlampe.
In seiner Arbeit konzentrierte sich das Team von TU Graz und Intel Labs auf Algorithmen, die mit zeitlichen Prozessen arbeiten. So musste das System beispielsweise Fragen zu einer zuvor erzählten Geschichte beantworten und die Beziehungen zwischen Objekten oder Personen aus dem Kontext erfassen. Die getestete Hardware bestand aus 32 Loihi-Chips.
Loihi Chip: bis zu sechzehnmal energieeffizienter als nicht-neuromorphe Hardware
„Unser System ist vier- bis sechzehnmal energieeffizienter als andere AI-Modelle auf herkömmlicher Hardware “, so Philipp Plank, Doktorand am TU Graz-Institut für Grundlagen der Informationsverarbeitung. Plank erwartet weitere Effizienzsteigerungen, wenn diese Modelle auf die nächste Generation der Loihi-Hardware migriert werden, die die Leistung der Chip-zu-Chip-Kommunikation deutlich verbessert.
"Intels Loihi-Forschungschips versprechen Fortschritte in der AI, insbesondere durch die Senkung der hohen Energiekosten", sagte Mike Davies, Direktor des Intel Neuromorphic Computing Lab. "Unsere Arbeit mit der TU Graz liefert weitere Beweise dafür, dass die neuromorphe Technologie die Energieeffizienz heutiger Deep-Learning-Workloads verbessern kann, indem ihre Implementierung aus der Perspektive der Biologie neu überdacht wird."
Nachahmung des menschlichen Kurzzeit-Gedächtnisses
In ihrem Konzept bildete die Gruppe eine vermutete Methode des menschlichen Gehirns nach, wie Wolfgang Maass, Doktorvater von Philipp Plank und emeritierter Professor am Institut für Grundlagen der Informationsverarbeitung erklärt: „Simulationen lassen darauf schließen, dass ein Ermüdungsmechanismus einer Untergruppe von Neuronen für das Kurzzeit-Gedächtnis wesentlich ist.“
Das Netzwerk muss nur testen, welche Neurone gerade ermüdet sind, um zu rekonstruieren, welche Informationen es vorher verarbeitet hat. Mit anderen Worten: Vorherige Information wird in Nicht-Aktivität von Neuronen gespeichert, und Nicht-Aktivität verbraucht die geringste Energie.
Finanziell unterstützt wurde diese Forschung durch Intel sowie durch das europäische Human Brain Project, das Neurowissenschaften, Medizin und vom Gehirn inspirierte Technologien aus dem EU-Raum miteinander verbindet. Hierfür wurde die digitale Forschungsinfrastruktur EBRAINS ins Leben gerufen. An der TU Graz ist diese Forschung in den Fields of Expertise „Human and Biotechnology“ und „Information, Communication & Computing“ verankert, zwei von fünf Stärkefeldern der Universität.
TU Graz | Institute of Theoretical Computer Science
Wolfgang MAASS
Dipl.-Ing. Dr.rer.nat.
Tel.: +43 664 60873 5822; +43 699 8845 3149
maass@igi.tugraz.at
Rao, A., Plank, P., Wild, A. et al. A Long Short-Term Memory for AI Applications in Spike-based Neuromorphic Hardware. Nat Mach Intell (2022). https://doi.org/10.1038/s42256-022-00480-w
https://www.tugraz.at/institutes/igi/home/ (Das Institut für Grundlagen der Informationsverarbeitung der TU Graz)
https://www.intel.com/content/www/us/en/research/neuromorphic-computing (Neuromorphic Computing @ Intel)
https://www.humanbrainproject.eu/en/ (Human Brain Project)
Eines der Nahuku-Boards von Intel, von denen jedes acht bis 32 neuromorphe Intel Loihi-Chips enthält ...
Tim Herman
© Tim Herman/Intel Corporation
TU Graz-Wissenschafter Wolfgang Maass beschäftigt sich mit der Frage, wie die Informationsverarbeitu ...
www.lunghammer.at
© Lunghammer - TU Graz
Criteria of this press release:
Journalists
Electrical engineering, Energy, Information technology
transregional, national
Research results, Scientific Publications
German
You can combine search terms with and, or and/or not, e.g. Philo not logy.
You can use brackets to separate combinations from each other, e.g. (Philo not logy) or (Psycho and logy).
Coherent groups of words will be located as complete phrases if you put them into quotation marks, e.g. “Federal Republic of Germany”.
You can also use the advanced search without entering search terms. It will then follow the criteria you have selected (e.g. country or subject area).
If you have not selected any criteria in a given category, the entire category will be searched (e.g. all subject areas or all countries).
