Neuronale Netze bilden ein zusehends dichteres Geflecht:

Künstliche Gehirnstrukturen für Militärs und Zivilisten

08.09.1989

Was gestern noch wie eine exotische Spielerei anmuten mochte, wird heute längst schon als ernsthafte - und potentiell gewinnträchtige - Technik für intelligente Systeme der 90er Jahre betrachtet. Manche auf Neuronalen Netzen basierende Systeme können handgeschriebene Briefe lesen, andere merken es, wenn der am Flughafen aufgegebene Koffer Sprengstoff enthält.

Die faszinierende Idee, statt eines oder weniger überaus leistungsfähiger Prozessoren lieber komplizierte Netz-Strukturen mit vielen Hunderten, wenn nicht gar Tausenden einzelner Primitiv-Prozessoren aufzubauen - diese, dem Gehirn eines Menschen, beziehungsweise zumindest einer Fliege abgeschaute Konzeption, ist auf dem besten Wege, heute zum wohl wichtigsten Thema der Insider-Diskussionen von Informatikern und Elektronikern, aber auch von Biologen, Neurologen und Psychologen zu werden. Und ein bei weitem nicht alles überschauender - Blick auf jüngere bis jüngste Neuheiten auf diesem Felde zeigt überdies, daß neben der Wissenschaft auch die Industrie mehr und mehr Geschmack an den neuen Möglichkeiten und Perspektiven gefunden hat.

So haben etwa die agilen Japaner, in diesem Falle der Toshiba-Konzern, schon ein neuronal arbeitendes System präsentieren können, das den Inhalt handgeschriebener Briefe mit einer Erkennungs-Rate von überaus stolzen - 999 Promille lesen soll, wie der einschlägigen Fachpresse zu entnehmen ist.

Diese Konfiguration hochintelligenter Elektronenbausteine soll in einem ersten von zwei Arbeitsschritten jene Zeichen identifizieren, die problemlos von anderen unterschieden werden können, um dann in die kompliziertere Phase zwei einzutreten. In diesem Arbeitsmodus verknüpft das System, das neben einem Neuro-Netz mit 200 Knoten auch noch Schaltungen umfaßt, die nach den herkömmlichen Methoden der statistischen Schriftenerkennung arbeiten, dann die unbekannt gebliebenen beziehungsweise unklar identifizierten restlichen Zeichen mit jenen Bedeutungen, die dem Netz als die wahrscheinlichsten erscheinen.

Im Fachkreisen wird Neuronale Netzen allgemein nachgerühmt, daß sie anhand "richtiger" und "falscher" Beispiele auf vergleichsweise einfache, eher natürlich anmutende Weise lernen können, zwei Muster - wie etwa zwei geschriebene Buchstaben - voreinander zu unterscheiden und korrekt zu klassifizieren. Und auch das Toshiba-Netz soll in diesem Punkt ausgesprochen befriedigende Leistungen zeigen, denn seine Schöpfer behaupten, daß es beim Lernen neuer Schriften glatt viermal so schnell sein soll, wie frühere Modelle ähnlicher Konzeption.

Neuronale Netze für die Spracherkennung

Nicht mit geschriebenen Briefen, sondern mit gesprochenen Aussagen befaßt sich ein Spracherkennungssystem von Hitachi, dessen Prototyp bei allerdings sprecherabhängigem Betrieb 95 Prozent von insgesamt 3000 verschiedenen Wörtern korrekt erkennen soll. Auch hier beruht der Erfolg auf der sinnvollen Kombination herkömmlicher Techniken mit neuronalen Konzepten. Dieses Hitachi-Gerät, das übrigens in Echtzeit operieren soll, weist nämlich neben mehreren Gruppen neuronaler Knoten noch Einheiten mit unscharfer, sogenannter Fuzzy-KI-Logik sowie Systeme zur Erkennung von Sprach- beziehungsweise von akustisch aufgenommenen Laut-Mustern auf herkömmliche Weise auf.

Bei diesem System dienen zwölf neuronale Knoten-Einheiten in einem ersten Schritt der raschen Erkennung der zwölf Grundmuster japanischer Konsonanten, wobei spezielle Identifizierungsregeln für die schnelle Begrenzung der möglichen Interpretationen eines neu gehörten Wortes auf einen möglichst kleinen Kreis sorgen.

Ergänzend zu diesen zwölf neuronalen Knoten treten beim Hitachi-System Knoten-Schaltungen eines zweiten Neuronalen Netzes auf, das nun anhand der Intonation eines Wortes versucht, noch näher an dessen Bedeutung heranzukommen. Und ein drittes Neuronensystem schließlich, das nun speziell die hier linguistischen - Regeln der Fuzzy-Logik beherrscht, präsentiert an seinem Ausgang ein Resultat, das mittels herkömmlicher Logik am Ende der Spracherkennungs-Kette nun bloß noch "konzeptionell" überprüft werden muß: Besteht das Resultat diesen Test nämlich, so hat das Neuronal-System der Japaner wieder mal eines der 3000 Wörter korrekt erkannt.

Sprecherabhängige, also immer nur die gleiche Stimme zuverlässig erkennende Systeme, haben es laut Hitachi bei vergleichbarem Wortschatz bislang bloß auf eine etwa achtzigprozentige Trefferquote gebracht. Und daß die neue Kombination von nicht weniger als drei Neuronalen Netzen mit herkömmlichen Mustererkennungs-Schaltungen nun gar auf 95 Prozent kommen soll, habe damit zu tun, daß die innovativen Erkennungs-Einheiten in ihrer Gesamtheit eben noch sieben von zehn jener Worte korrekt klassifizieren, die herkömmliche Systeme im allgemeinen falsch zuordnen.

Neuronale Netze lassen sich konkret in Form spezieller elektronischer Schaltungen aufbauen; man kann sie in Gestalt von besonderen Programmen auf herkömmlichen, beziehungsweise leicht modifizierten konventionellen Computern simulieren; und man kann sie auch in Gestalt primär optisch und nicht elektrisch arbeitender Chips darstellen. Dies jedenfalls ist eines der Ziele, an denen die Microelectronics and Computer Technology Corporation im texanischen Austin interessiert ist. Diese "Ideenausbrüt-Institution" arbeitet nämlich unter anderem an einem Neuronalen Netz optischer Funktionsweise, das innovative Konzepte photorefraktiver Schaltelemente nutzen und mithin auf der Basis von Lichtstrahlen statt elektrischen Strömen arbeiten soll.

In diesem aktuellen Zusammenhang verdient auch die Nachricht Aufmerksamkeit, wonach der japanische NEC-Konzern (Nippon Electric Corporation) einen weltweit bislang einmaligen Opto-Parallel-Chip präsentiert haben soll: eine äußerst stromsparend aufgebaute Funktionsgruppe nämlich, in die 1024 Elemente integriert sind, von denen wiederum jedes einzelne aus Ein-Ausgabeeinheiten, einer Speicherzelle und einer Logik-Einheit bestehen soll.

Neuronale Computer als Sprengstoffexperten

Annähernd zeitgleich mit dieser Novität wurde außerdem bekannt, daß das ebenso renommierte wie von manchen Managern außerhalb Japans gefürchtete MITI, also das japanische Außenhandels- und Industrie-Ministerium, in drei Jahren offiziell ein Programm starten will, das der Entwicklung Neuronaler Netze und Systeme gelten soll. Dieses Programm soll das spektakuläre Forschungsprojekt der Rechner der "Fünften Generation" ablösen und die Fundamente für weitere japanische Erfolge auf den internationalen Märkten legen.

Den leicht gelangweilten, ermüdeten und dann bald unaufmerksamen und generell als eher unzuverlässig eingeschätzten Menschen ersetzen sollen neue Systeme auf amerikanischen Flughäfen, die das Gepäck der Reisenden auf Sprengstoff kontrollieren sollen. Sie nennen sich Thermal Neutron Analysis System (TNA), wurden bereits erfolgreich getestet und basieren auch auf einem Neuronalen Netz.

Bei diesen Einheiten, die in Tests mit 40 000 Koffern zufriedenstellend gearbeitet haben sollen, nehmen Sensoren die Gammastrahlen auf, die ein Gepäckstück in der Meßkammer aussendet. Das gemessene Strahlungsmuster wird dann in sinnvoller elektrischer Kodierung einem Neuronalen Netz präsentiert, das zuvor gelernt hat, die spezifischen Gamma-Emissionsmuster diverser Explosivstoffe von den Mustern harmloser Herrenhemden oder auch Bademäntel zu unterscheiden. Das Netz klassifiziert die Objekte dann nach einem Gut-Verdächtig-Unklar-Schema und kann anhand von Zweifelsfällen, die manuell kontrolliert und deren Befund dem Netz dann wieder eingebenen wird, sogar lernen. Es wird in seiner Tätigkeit um so sicherer, je mehr solcher Fälle es bearbeitet hat.

Mit den Neuronen kommen hochintegrierte Chips

Ein weiteres Plus der Neuronalen Netze im Zentrum dieser Zehn-Tonnen-Geräte mit ihren 1-Million-Dollar-Preisschildchen besteht darin, daß man sie problemlos auf zusätzliche, zuvor vielleicht unbekannte Sprengstoffe trainieren kann: Es genügt, diese Zusatzstoffe der normalen Klassifizierung zu unterziehen und dem System als gefährlich bekanntzugeben, denn fortan wird das Netz dann auch sie automatisch als Risiko erkennen. Und überdies kann dieses neue Wissen, das ein bestimmtes Netz erworben hat, leicht auf alle anderen Systeme gleicher Bauart übertragen werden.

In dem Maße, in dem die Technik der Neuronalen Netze in immer mehr Entwicklungen innovativer Systeme praktische Anwendung findet - siehe die obigen Beispiele -, beginnen mehr und mehr Unternehmen, sich um die Produktion spezieller und möglichst kosteneffektiver Chips für diese Art von Rechnern zu bemühen. Das wurde erst vor wenigen Wochen deutlich, als auf einer internationalen Konferenz über Neuronale Netze gleich mehrere Chips der skizzierten Art ins Licht der Öffentlichkeit rückten.

So präsentierte beispielsweise der japanische Konzern NTT (Nippon Telephone and Telegraph) eine Anordnung von nicht weniger als 65.536 Ein-Bit-Prozessoren, verteilt auf 1.024 speziell entwickelte Chips, sowie außerdem 64 MByte Hauptspeicher. Die Konfiguration soll ersten Berichten zufolge, zum Lernen befähigt sein; sie soll pro Sekunde 18 Millionen Verbindungen modifizieren und in jedem einzelnen ihrer Ein-Bit-Prozessoren mit einem 144-Bit-Register, einem Steuer-Register von 15 Bit und einem 8 KBit lokalen Speicher ausgestattet sein.

Unbegrenzt kaskadierbar, unbegrenzt erweiterbar

Mehr an der konventionellen Mikroprozessor-Technik orientiert sich hingegen ein Chip für Neuronale Netze, den die kleine Firmen-Neugründung Accotech aus Accokeek im US-Bundesstaat Maryland vorstellte. Diese Entwicklung mit der Bezeichnung AK107 basiert auf dem Standard-Mikroprozessor 8051 plus zusätzlichem Nur-Lese-Speicher, der sie für Neuronale Netze tauglich machen soll.

Mit Hilfe des AK107 sollen vorhandene Servo-Systeme um Fähigkeiten zur adaptiven Steuerung erweitert werden, wobei die adaptiven Algorythmen, mit denen der neue Chip arbeitet, die Reaktionszeiten des Systems verkürzen und dessen Stabilität verbessern soll.

Als zweites japanisches Unternehmen machte auf der Konferenz Hitachi mit einem Chip von sich reden, der sechs Neuronen und je 42 erregende beziehungsweise hemmende synaptische Gewichte umfaßt, von denen wiederum jedes einzelne 64 verschiedene Werte annehmen kann. Diese Schaltung mit ihren 18 000 Gattern soll laut Hersteller unbegrenzt kaskadierbar und mithin unbegrenzt erweiterbar sein, wie das Beispiel einer Platine mit 54 Neuronen und je 2916 erregenden und hemmenden Synapsen andeutete.

Die Arbeitsweise dieser Schaltung sieht unter anderem vor, daß bestimmte Multiplizier-Schaltungen in den Synapsen die Zahl ankommender Impulse entsprechend dem aktuellen Gewicht der Synapsen vergrößern - maximal um das Vierundsechzigfache. Laufen also beispielsweise drei Impulse ein und lautet das Gewicht der Synapse gerade auf acht, so werden 24 Impulse erzeugt.

150 000 000 Verbindungen in einer Sekunde bearbeiten

Die erregenden oder hemmenden Impulse, die eine Synapse erzeugt, gehen an Busse beziehungsweise Daten-Sammelleitungen, die wiederum einfache Zähler ansteuern: Dabei erhöht jeder erregende Impuls den Zählerstand um Eins, während hemmende Impulse das Gegenteil bewirken. Am Ende steht auf dem Zähler dann eine Summe, die einen bestimmten, momentanen Zustand der Schaltung ausdrückt und die wiederum, entsprechend impulskodiert, anderen Neuro-Chips der Kaskade übergeben werden kann.

Von der US-Firma Nestor aus Providence in Rhode Island wurde bekannt, daß dieser alteingesessene Hersteller von Simulatoren Neuronaler Netze zusammen mit einem bekannten Chip-Produzenten nunmehr eine Schaltung auf die Beine stellen wolle, die speziell der Abarbeitung des wohlbekannten Nestor-Simulationsprogramms für Neuronale Netze dienen soll. Sie wird direkt auf dem Chip veränderbare synaptische Gewichte aufweisen, insgesamt 150 000 Verbindungen umfassen und pro Sekunde gar die tausendfache Zahl an Verbindungen bearbeiten können.

Nicht nur die Hitachi-Chips kann man nach Art einer Kaskade beliebig aneinanderreihen, auch drei ICs der Nasa können modular kombiniert werden und somit ein Neuronales Netz beliebiger Größe bilden.

"Computer für das Schlachtfeld"

Diese Schaltungen sind eine Entwicklung der Nasa-Laboratorien für Strahlantriebe und präsentieren sich dem neugierigen Reporter als Mischung aus analogen und digitalen Formen der Informations-Darstellung. Dabei dienen Kondensatoren als analog arbeitende synaptische Gewichte, deren Neigung zum langsamen Ladungsverlust infolge sogenannter Leck-Ströme indes digitalen Auffrischungs-Mechanismen entgegenwirken.

Von den drei Nasa-Chips dient einer als das eigentliche Neuronale Netz mit hier übrigens 32 Neuronen, während die beiden anderen als Synapsen-Chips mit 32x32 Leitungen beziehungsweise 1024 Verknüpfungen, sowie als Eingabe-IC mit 64 Kanälen dienen; dabei wird der letztere übrigens in Verbindung mit der digitalen Auffrisch-Technik benutzt, die den "richtigen" Wert des synaptischen Kondensators aus einem externen Speicher liest und den Kondensator dann dementsprechend neu lädt.

Das Trio soll pro Sekunde 1 Million Verbindungen behandeln können, doch leider können Lernvorgänge hier nicht - wie etwa bei der NTT-Technik - direkt auf dem Chip stattfinden; sie müssen vielmehr erst noch im Digitalteil der Konfiguration simuliert werden. Ihre Resultate werden dann später in das Trio übertragen.

Einer der bekannten Namen in der amerikanischen KI- und NN-Szene ist der des Unternehmens Hecht-Nielsen aus San Diego. In dieser südkalifornischen Metropole entwickeln Neuroexperten im Auftrag der amerikanischen Armec und mit der Zielsetzung, einen "Computer für das Schlachtfeld" zu bauen, einen Chip namens HNC-100X, der als digitaler Emulator ausgegeben wird und auf dem man Simulationen mit höchstem Tempo ausfahren können soll.

Dieser Rüstungs-Chip soll es pro Sekunde auf 100 Millionen Verbindungen bringen und dabei spezielle Rechenwerke einsetzen, die pro Sekunde etwa 200 Millionen Gleitkomma-Operationen bearbeiten können.

Da aber selbst dieses Tempo so manchem Krieger nicht flott genug sein dürfte, bauen die Leute aus San Diego speziell für Zwecke der Bildverarbeitung auch noch den Typ HNC-200X, der übrigens in Gruppen zu je acht mal acht Einheiten benutzt werden soll; und zwar werkeln sie diesmal für jene Behörde im Pentagon, die für fortschrittliche Forschungsprojekte zuständig ist (DARPA). Auch hierbei geht es um einen schnellen Simulator, doch soll der es pro Sekunde nun gar auf mehr als 2,5 Milliarden Verbindungen bringen; und dazu verhelfe ihm, so hört man, eine digitale Arithmetik-Einheit mit einer "Nennleistung" von 5 Milliarden Instruktionen pro Sekunde beziehungsweise 5000 MIPS. Was rund hundertmal so schnell wie ein schon recht flotter Allzweck-Rechner heutiger Bauart wäre.

Neuronale Netze mit analoger Technik

Eine besonders interessante Neuentwicklung schließlich stellte unlängst auch der große US-Chiphersteller Intel vor: nämlich einen für die Marine entwickelten, sogenannten "Cognizer", der auf Prinzipien der Neuronalen Netze basiert, aber stark auf Analogtechnik setzt. Er wurde auf N64 getauft, weil er intern doch 64 Neuronen aufweist. Seine Väter zählen ihn zur Gattung der elektrisch trainierbaren, künstlichen Neuronalen Netze oder kurz ETANNs.

Der N64 arbeitet mit analog operierenden, elektrisch löschbaren programmierbaren Speichern (EE-PROMs), die der Speicherung der analogen synaptischen Gewichte dienen und die somit quasi das Gedächtnis des Chips bilden; sie sollen ihre Ladung übrigens selbst ohne Stromzufuhr über 15 Jahre hinweg mit maximal sieben Prozent Abweichung vom Sollwert nach unten halten können. Außerdem sind besondere Multiplizier-Schaltungen vorgesehen, die gegen Temperaturschwankungen unempfindlich sein sollen. Insgesamt werden hier 64 Eingänge über 8192 synaptische Gewichte mit 64 Ausgängen verbunden.

Neuronale Netze stoßen an die Grenzen der EDV

Zum - anscheinend Starwars-tauglichen - Intel-ETANN, der es auf 100 000 Verbindungs-Schaltungen pro Sekunde bringen soll, gehören außerdem 8192 weitere Synapsen, die der Behandlung von Rückkopplungssignalen - wie man sie aus Netzen vom Typus Hopfield her kennt dienen. Doch lassen diese Synapsen sich auch nutzen, wenn man beispielsweise eine zweite Ebene für einen zweiten Satz gewichteter Eingangsleitungen vorsehen und das System mit 128 Eingängen betreiben will.

Viele der hier in Kürze präsentierten neuen Chips beziehungsweise Systeme aus der großen weiten Welt der Neuronalen Netze, geben schon jetzt eine Vorstellung von den immensen Möglichkeiten, die in dieser neuartigen Technik zu stecken scheinen. Und im gleichen Maße, in dem die Novitäten auf diesem Feld immer rascher aufeinanderfolgen, wird sicher auch dem letzten Skeptiker nun rasch klar werden: Neuronale Netze sind längst schon weit mehr, als nur die Kuriosität einiger weltvergessener KI-Freaks. Nämlich eine Technik, die die Grenzen der elektronischen Datenverabeitung und insbesonderer der elektronisch-maschinellen, automatischen Erkennung und Klassifizierung selbst schwer identifizierbarer Objekte - und Sachverhalte - rapide immer weiter hinausschieben wird.