Fortschritte bei Neuronalen Netzen: Entwicklung mit deutscher Beteiligung

Lernfähige graue Zellen - aus Draht und Silizium modelliert

15.11.1991

Seit wenigen Jahren erlebt die Erforschung der Neuronalen Netze (NN) als Teilgebiet der künstlichen Intelligenz einen gewaltigen Boom. Diese parallel und angeblich wie unsere menschlichen Gehirne arbeitenden Systeme sind fehlertolerant und lernfähig, sie können abstrahieren und generalisieren. Wie weit die Forschung ist, erläuterten Professor Eberhard Schöneburg und einer seiner Entwickler bei einem Seminar in Frankfurt.

Neuronale Netze sind für die Hirnforschung und Biologie über die Physik bis zur Informationswissenschaft gleichermaßen interessant. Alle großen Marktforschungsinstitute sagen ihnen deshalb auch zweistellige Wachstumsraten voraus.

Geht es in der Hirnforschung und der Psychologie in erster Linie darum, mit Hilfe der Neuronalen Netze herauszufinden, wie unser menschliches Gehirn und Gedächtnis funktionieren könnten, so verfolgen Biologen und Mediziner bereits Ziele, die von den meisten von uns noch der Gattung Science-fiction zugeschrieben werden: Hier geht es darum, beispielweise künstliche Handgelenke so zu bauen, daß sie nach einer Lernphase menschliche Bewegungen genauso präzise und unbewußt ausfahren können, wie wir alle dies mit gesunden Gelenken vermögen.

Die Grundlagen der Netze sind schon lange bekannt

Alle bekannten Universitäten und Forschungsinstitute der USA, vom MIT bis zu Stanford, sind mit der Erforschung der Neuronennetze befaßt. Und ausnahmsweise hinken diesmal die Deutschen nicht hinterher. Neben Professor Eckmiller von der Universität Düsseldorf beschäftigen sich auch Eberhard Schöneburg, Dozent an der Fachhochschule Furtwangen und Gründer der Firmen Expert Informatik und Neuro Informatik, intensiv mit der Implementierung von Neuronalen Netzen in konventionellen und parallel arbeitenden Computern. Die Berliner Expert Informatik erhielt für ihren "Neuro-Compiler" bereits den Innovationspreis des Landes Berlin 1990; auch werden die Forschungsprojekte des praxisorientierten Forscherteams vom BMFT unterstützt.

Schon vor hundert Jahren entwickelte der amerikanische Psychologe William James ein Modell, das die Fähigkeit des menschlichen Gehirns zur Assoziationsbildung erklärte. Bis dieses Modell jedoch zu realen Implementierungen führte, vergingen mehr als 60 Jahre. Im Jahr 1943 veröffentlichten McCulloch und Pitts eine Arbeit, in der sie erläuterten, wie sich aussagenlogische Funktionen mit Neuronalen Netzen simulieren lassen. Daraufhin stürzte sich die gesamte theoretische Informatik auf das neue Forschungsgebiet.

1958 erfolgte mit der Vorstellung des sogenannten "Perceptrons" von Frank Rosenblatt ein Durchbruch. Denn dieses Modell besaß bereits einen großen Teil der Fähigkeiten Neuronaler Netze wie Lernfähigkeit, Selbstorganisation und Generalisierung.

Leider wurde diese vielversprechende Entwicklung durch eine Veröffentlichung der MIT-Forscher Marvin Minsky und Seymour Papert jäh unterbrochen. In einem Buch hatten sie das Perceptron heftig angegriffen und nachgewiesen, daß dieses Modell nicht in der Lage sei, bestimmte logische Grundfunktionen nachzubilden (zum Beispiel die XOR-Regel).

Erst in den 80er Jahren gelangten die Neuronalen Netze wieder zu Ehren. Denn die MIT-Forscher hatten ihre Schlußfolgerungen zu voreilig gezogen (manche sagen: zu eigennützig, denn es ging dabei auch um die Verteilung nicht unerheblicher Forschungsgelder). Die konsequente Weiterentwicklung der Neuronalen Netze durch einige unbeirrte Forscher - vor allem durch Physiker wie Hopfield, Hinton oder Sejnowski - gab diesem Forschungszweig ab Beginn der 80er Jahre neuen Auftrieb.

Heute existiert eine ganze Reihe von Netzkonzepten, die mit unterschiedlichen Lernalgorithmen Problemlösungen simulieren.

Ein Mensch ist ohne Mühe in der Lage, ausgehend vom bloßen Hören einer Stimme etwa am Telefon, ganze Assoziationsketten zu aktivieren. Er verbindet mit der Stimme des Anrufers dessen Aussehen, seine Lebensumstände, die eigenen Gefühle dem Anrufer gegenüber und noch vieles mehr.

Diese Fähigkeit, aufgrund von Teilinformationen eine Gesamtinformation herauszubilden, soll mit Neuronalen Netzen nachgebildet werden.

Konventionelle Computer sind mit solch komplexen Aufgaben der Mustererkennung oft überfordert. Neuronale Netze hingegen beweisen genau hier ihre Stärken.

Ein menschliches Gehirn verfügt über 10 Milliarden bis 100 Milliarden Neuronen, wobei jedem einzelnen die potentielle Leistungsfähigkeit eines 8086- oder 8088-Mikroprozessors zugeschrieben wird. Allerdings arbeiten die Neuronen des Gehirns im Vergleich zu einem Computer recht langsam. Dies gleicht jedoch die massive Parallelverarbeitung mehr als aus.

Lernfähigkeit und Gedächtnis des Menschen werden allein den Schnittstellen der einzelnen Neuronen nach außen zugeschrieben, nicht etwa der Erzeugung neuer Neuronen oder neuer Verbindungen zwischen ihnen.

Durch die gleichzeitige Aktivierung zweier Neuronen erfährt die "Synapse" genannte Schnittstelle eine Verstärkung. Der Informationsfluß zwischen den Neuronen wird dadurch erleichtert. Damit ist eine Verknüpfung, eine Assoziation, gelernt.

Bei der Simulation solcher Neuronen-Netze werden die Neuronen in Schichten angeordnet. Das Modell präsentiert sich dabei dein Betrachter als eine Black box: Es gibt immer eine Input-Schicht, eine oder mehrere Verarbeitungsschichten und schließlich eine Output-Schicht.

Neuronale Netze lernen aus Beispielen

Input- und Output, Schicht dienen als Schnittstellen des Netzes zur Außenwelt. Über die Input-Schicht werden Informationen in das Netz geleitet. Nach ihrer netzinternen Verarbeitung kann an der Output-Schicht das Ergebnis abgegriffen werden. Diese zwischen den beiden Randschichten liegenden Verarbeitungsschichten sind von außen nicht einzusehen und werden deshalb auch "verborgene Schichten" genannt.

Neuronale Netze zeichnen sich dadurch aus, daß sie nicht mehr wie konventionelle Computer programmiert werden müssen. Vielmehr müssen ihnen lediglich einige Beispiele und Lösungen von Problemen gezeigt werden.

Die Netze lernen aus diesen Beispielen und können ihr erworbenes "Wissen" auf ähnlich gelagerte Problemfälle anwenden. In den unterschiedlichen Netztypen kommen dabei verschiedene Lernalgorithmen zum Einsatz.

Diese verändern die den Synapsen entsprechenden Schnittstellen auf den Verbindungen der Neuronen. Im technischen Modell werden diese Schnittstellen Gewichte genannt und geben die Koppelungsstärke zwischen den Neuronen an. Durch die Anpassung der Gewichte lernt das Netz im Verkauf des Trainings auf die an die Input-Schicht angelegte Information das gewischte Ergebnis an der Output-Schicht zu erzeugen.

Welches Gehirn für welches Problem?

Obwohl es derzeit schon eine Reihe von Anwendungen gibt, sind viele Teilbereiche der Neuronalen Netze noch in den Anfängen der Forschung. Beispielsweise sind heute noch keine klaren Kriterien bekannt, mit denen sich entscheiden ließe, was für die Lösung eines gegebenen Problems die jeweils optimale Netztopologie ist.

Auch die Frage, wie lange ein Netzwerk trainiert werden soll, ist noch ungeklärt. Es hat sich nämlich herausgestellt, daß es oft unklug ist, ein Netz so lange lernen zu lassen, bis es keine Fehler produziert, weil dann das Netz quasi auswendig lernt und bei unbekannten Informationen keine so hohe Generalisierung mehr aufweist.

Einen ersten Lösungsansatz stellt die Möglichkeit dar, den Stand des Lernens aufgrund des Trainings mit den Übungsbeispielen anhand von Anwendungsbeispielen zu überprüfen. Zur Beurteilung, wie weit gelernt werden soll, werden dann allein die Netzausgaben bei den Anwendungsbeispielen herangezogen.

Der wichtigste Impuls der amerikanischen Forschung kommt hauptsächlich aus dem militärischen Bereich. Im Gegensatz dazu beschränken sich die Japaner ausschließlich auf zivile Anwendungen und die Grundlagenforschung.

Daß bei der Erforschung der Neuronalen Netze auch ethische Gesichtspunkte zu berücksichtigen sind, wird am besten anhand der möglichen Anwendungen deutlich. Denn es hört sich zwar verblüffend positiv an, wenn zukünftig ein Tauber durch ein künstliches Implantat hören, ein Blinder sehen kann, wann aber wird ein gesamtes Gehirn ausgetauscht?

Wie jede Technologie sind auch die Neuronalen Netze gleichzeitig dazu fähig, zum Nutzen und zum Schaden der Menschheit eingesetzt zu werden. Hoffen wir, daß der Nutzen überwiegt.