Prototyp des BrainScales-2 Chips, auf dem das Experiment durchgeführt wurde,...
Prototyp des BrainScales-2 Chips, auf dem das Experiment durchgeführt wurde, Schematische Darstellung eines neuronalen Netzes und Ergebnisse für einfache und komplexe Aufgaben (von links nach rechts)

Quelle: Universität Heidelberg und MPIDS

News • Vom Gehirn inspiriert

Forscher optimieren neuronale Netze auf Computersystem

Neuronale Netzwerke, sowohl biologischer Natur als auch in der künstlichen Intelligenz, verteilen Berechnungen auf Neuronen, um komplexe Aufgaben zu lösen. Neue Forschungen zeigen nun, wie sogenannte "kritische Zustände" genutzt werden können, um künstliche neuronalen Netze zu optimieren, die auf neuromorpher, vom Gehirn inspirierter Hardware laufen. Die Studie wurde von Wissenschaftlern der Universität Heidelberg im Rahmen des Human Brain Project (HBP) zusammen mit Forschern des Max-Planck-Instituts für Dynamik und Selbstorganisation (MPIDS) durchgeführt.

Komplexe Netzwerke entwickeln eine Vielzahl besonderer Eigenschaften, wenn sie sich an einem „kritischen Punkt“ befinden. In diesem Zustand, an dem Systeme ihr Verhalten schnell grundlegend ändern und z.B. zwischen Ordnung und Chaos oder zwischen Stabilität und Instabilität wechseln können, werden viele Recheneigenschaften maximiert. Aus diesem Grund wird allgemein angenommen, dass der kritische Zustand für jede Berechnung in rückgekoppelten neuronalen Netzen, die heute in einer Reihe von Anwendungen der künstlichen Intelligenz zum Einsatz kommen, optimal ist.

Forscher des HBP-Partners Universität Heidelberg und des Max-Planck-Instituts für Dynamik und Selbstorganisation stellten diese Annahme nun auf den Prüfstand. Sie testeten die Leistungsfähigkeit eines rückgekoppelten neuronalen Netzes, das Informationen wie das Gehirn in sogenannten „Spikes“ kodiert, in unterschiedlich komplexen Aufgaben und veränderten dabei den Abstand zum kritischen Punkt. Für die Studie nutzten die Forscher ein einzigartiges vom Gehirn inspiriertes, analoges Computersystem, das im Rahmen des Europäischen Human Brain Project in Heidelberg entwickelt wird. Ihr Netzwerk lief auf einem Prototyp des BrainScaleS-2 Systems, das über direkte auf dem Chip implementierte synaptische Plastizität verfügt. Im Gehirn ist solche Plastizität, oder Anpassungsfähigkeit des Systems, die Grundlage für Lernprozesse und Erinnerungen.

Zunächst demonstrierten die Forscher, dass der Abstand zum kritischen Punkt im Chip leicht angepasst werden kann. Des Weiteren zeigten sie einen klaren Zusammenhang zwischen Kritikalität und dem Abschneiden des Systems bei den gestellten Aufgaben. Die allgemeine Annahme, dass Kritikalität für jede Aufgabe vorteilhaft sei, bestätigte sich dabei jedoch nicht: Während alle informationstheoretischen Messungen eine maximale Netzwerkkapazität im Falle kritischer Dynamik zeigten, profitierten tatsächlich nur die komplexen, speicherintensiven Aufgaben von diesem Zustand, während einfache Aufgaben sogar darunter litten. Damit lieferte die Untersuchung ein genaueres Verständnis davon, wie der kollektive Netzwerkzustand auf unterschiedliche Aufgabenanforderungen abgestimmt werden sollte.

Mechanistisch lässt sich der optimale Arbeitspunkt für jede Aufgabe sehr leicht durch Anpassung der mittleren Stärke des Eingangssignals einstellen. Die Theorie hinter diesem Mechanismus wurde erst kürzlich am Max-Planck-Institut für Dynamik und Selbstorganisation entwickelt. "Die Anwendung auf neuromorphe Hardware zeigt, dass diese Plastizitätsregeln sehr gut in der Lage sind, die Netzwerkdynamik auf unterschiedliche Abstände zur Kritikalität abzustimmen", sagt Seniorautorin Viola Priesemann, Gruppenleiterin am MPIDS. Dadurch können Aufgaben unterschiedlicher Komplexität in diesem Rahmen optimal gelöst werden.

Das Ergebnis könnte auch erklären, warum biologische neuronale Netze nicht unbedingt an einem kritischen Punkt operieren, sondern vielmehr in der dynamisch reichen Umgebung dieses Punktes in der sie ihre Recheneigenschaften auf die Anforderungen der Aufgabe abstimmen können. Darüber hinaus etabliert die Arbeit neuromorphe Hardware als einen schnellen und skalierbaren Ansatz, um die Auswirkungen biologischer Plastizitätsregeln auf neuronale Berechnungen und die Dynamik von Netzwerken zu untersuchen.

„In einem nächsten Schritt untersuchen und charakterisieren wir nun, wie sich der Arbeitspunkt des neuronalen Netzwerks auf die Klassifizierung von künstlichen und real gesprochenen Wörtern auswirkt“, sagt Erstautor Benjamin Cramer von der Universität Heidelberg.

Quelle: Max-Planck-Institut für Dynamik und Selbstorganisation

23.07.2020

Mehr zu den Themen:
Mehr aktuelle Beiträge lesen

Verwandte Artikel

Photo

News • Neurowissenschaftler schlägt Alarm

„Hirndaten müssen geschützt werden, bevor es zu spät ist“

Schon bald könnte die Gehirnaktivität ähnlich einfach erfasst werden wie bislang Handydaten und Bewegungsprofile. Enorme Fortschritte im Bereich Künstlicher Intelligenz machen das möglich, auch…

Photo

News • Premiere

Ähnlichkeit zwischen Schizophrenie und Demenz entdeckt

Forscher verglichen erstmals Schizophrenie und frontotemporale Demenz, Erkrankungen, die in den frontalen und Schläfenlappen-Regionen des Gehirns verortet werden.

Photo

News • Interdisziplinäre Tagung

ETIM 2022: KI und Bioinformatik im Fokus

Am 10. und 11. Juni findet zum fünften Mal der Kongress „Emerging Technologies in Medicine“ (ETIM) an der Universitätsmedizin Essen statt.

Verwandte Produkte

Fujifilm – Dynamyx

Pathology

Fujifilm – Dynamyx

FUJIFILM Europe GmbH
Fujifilm - Synapse Value

Business Intelligence

Fujifilm - Synapse Value

FUJIFILM Europe GmbH
Image Information Systems – iQ-View

Reading

Image Information Systems – iQ-View

IMAGE Information Systems Europe GmbH
Siemens Healthineers – syngo.via

Reading

Siemens Healthineers – syngo.via

Siemens Healthineers
Newsletter abonnieren