Kein Zweifel: Der Computer hat die menschliche Zivilisation ein gutes Stück weitergebracht. Fragt sich nur, ob auch die Wegrichtung stimmt. Einer, der das seit längerem bezweifelt und immer wieder warnend den Finger hebt, ist Joseph Weizenbaum. Der Deutsch-Amerikaner ist seit 25 Jahren Professor für Computerwissenschaften am Massachusetts Institute of Technology. Der vorliegende Artikel basiert auf einem Referat zum Thema "Mensch & Computer", das Weizenbaum in Basel gehalten hat. Die redaktionelle Bearbeitung des Textes übernahm Felix Weber.

Das Paradoxe am Computer ist, daß er in einer Hinsicht sehr wichtig ist für unser Leben, unsere Kultur und unsere Gesellschaft, in anderer Hinsicht jedoch absolut nicht wichtig ist.

Sehr wichtig ist der Computer deshalb, weil er die Erfüllung eines uralten Menschheitstraums verspricht: des Traums, einem technischen Gerät nicht nur Leben, sondern auch Intelligenz einzuhauchen.

Bisher ist uns die Verwirklichung der großen Menschheitsträume - die griechischen Sagen schildern sie sehr anschaulich - trotz anfänglicher Rückschräge, noch immer gelungen: Prometheus, der das Feuer vom Himmel stahl, wurde für seine Tat schwer bestraft. Vor 50 Jahren haben wir uns dieses Himmelsfeuer selbst geholt, indem wir eine Methode fanden, die Energie aus dem Atomkern herauszuholen. Was Daedalus und Ikarus noch mit fatalen Folgen probierten, ist heute beinahe selbstverständlich: Wir fliegen nicht nur rund um den Erdball, sondern sogar ins Weltall hinaus.

Auf dem Weg zum künstlichen Menschen?

Und nun kommen wir also zur Geschichte von Pygmalion, der eine Frauenfigur aus Elfenbein schnitzt und sehnlichst wünscht, daß sie lebendig werde. Sein Wunsch geht tatsächlich in Erfüllung: Die Göttin Aphrodite haucht der Statue Leben ein, und Pygmalion verliebt sich prompt in sein Werk.

Die Verwirklichung dieses letzten Menschheitstraums, Leben zu schaffen, ist uns bisher noch nicht gelungen. Es gibt allerdings eine ganze Reihe von Forschern, die behaupten, wir seien auf dem besten Weg, auch hier erfolgreich zu sein. Ich meine die Wissenschaftler, die sich mit Biologie, Gentechnik und Künstlicher Intelligenz beschäftigen.

Es ist bestimmt kein Zufall, daß die sogenannten Lebenswissenschaften, also Biologie, Neurologie, Psychologie und so weitere, immer enger zusammenrücken: Offenbar verfolgen ihre Vertreter alle dasselbe Ziel: nämlich das Leben selbst zu verstehen und schließlich auch zu synthetisieren. Dabei beschränken sie sich nicht etwa auf simple, elementare Lebensformen, sondern steuern gleich den Menschen selber an - auch wenn es den Untergang der Menschheit bedeuten sollte.

Wie das vor sich gehen und was dabei herauskommen soll, kann man jetzt in einem Buch von Hans Marawec nachlesen. Es ist ein schreckliches Buch, aber wahrscheinlich wird es große Beachtung finden, denn der Autor ist Professor an der Carnegie Mellon University in Pittsburgh, einer der drei wichtigsten amerikanischen Universitäten für Informatik und Computerwissenschaften, und außerdem erscheint es in der Harvard University Press, einem sehr renommierten Verlag.

Marawec schreibt über Roboter und ihre Entwicklungsgeschichte, wobei er zu dem Schluß kommt, daß in etwa 40 Jahren ihre Intelligenz die des Menschen erreichen wird. Ganz neu ist dieser Gedanke nicht: Schon 1956 wurde geschrieben, daß Computer in zehn Jahren, also 1966, so schlau sein würden wie die Menschen...

Doch mit dieser Behauptung ist Marawec noch nicht am Ende: Nach einer kurzen Zeit der Symbiose zwischen Mensch und intelligentem Computer, behauptet er, würden die Maschinen viel gescheiter werden als die Menschen und es würde nicht lange dauern, bis die Menschen überflüssig würden und von der Bildfläche verschwinden. Was mich als Leser vor allem erschreckt hat, ist der Nachsatz, den Marawec anhängt: ". . . und dabei werden wir nicht sehr viel verlieren." Ich zitiere das mit Entsetzen und betone, daß Marawec keineswegs ein Einzelfall ist: Bedeutende Wissenschaftler an bedeutenden Universitäten - zum Beispiel die meisten meiner Kollegen am MIT und in Stanford - sagen nicht nur das Gleiche, sondern sind davon auch noch ganz begeistert.

In anderer Hinsicht ist der Computer - zum Glück - viel weniger wichtig, als wir uns manchmal einreden. Man sieht das zum Beispiel daran, daß die Computer immer mehr in den Hintergrund treten - etwa so wie die Elektromotoren. Praktisch jeder von uns besitzt ein paar Elektromotoren, ohne sich dessen bewußt zu sein: zum Beispiel in der Armbanduhr oder im Auto, wo mindestens zwei stecken, einer für den Anlasser und einer für den Scheibenwischer. Aber wir denken gar nicht daran; die Dinger arbeiten im Verborgenen und werden fast als selbstverständlich hingenommen.

Das gleiche passiert seit einiger Zeit mit den Computern. Es kann ohne weiteres sein, daß es heute in den USA sehr viel mehr Computer gibt als Menschen, sogar mehr Computer als Elektromotoren. Die meisten davon sind nicht sichtbar, da sie in Fotoapparate, Waschmaschinen, Autos und so weiter integriert sind. Das führt dazu, daß in der nahen Zukunft immer weniger Menschen "echte" Computer - ich meine damit die Dinger, die man als Einzelgeräte auf den Tisch stellt - entwerfen, programmieren und verkaufen werden. Wir werden im Lauf der Zeit immer weniger direkten Zugriff zur eigentlichen Maschine "Computer" haben.

Das ist keine Wortklauberei, denn ein Gerät, das einen Computer enthält, wie etwa ein Textsystem, ist deswegen noch lange kein Computer. Würde man das Textsystem als Computer bezeichnen, müßte man jeden Staubsauger zum elektrischen Motor erklären, was natürlich völliger Unsinn wäre. Das Textsystem ist eine Weiterentwicklung der elektrischen Schreibmaschine, die ihrerseits dank dem Motor eine Weiterentwicklung der mechanischen Schreibmaschine ist. Um ein Textsystem zu verstehen und zu bedienen, braucht man nicht das Geringste über Computer zu wissen. Daran sieht man, daß das ganze Gerede von der sogenannten Computerbildung zu einem großen Teil reiner Quatsch ist.

Die Entwicklung der Informatik hat natürlich eine große Bedeutung für die Schule. Aber das heißt noch lange nicht, daß deswegen der Computer im Vordergrund stehen muß. Über Informatik und Information kann man nämlich auch sprechen, ohne das Wort "Computer" überhaupt in den Mund zu nehmen.

Die wesentliche Frage ist: Was sollen wir Menschen mit dem Computer tun? Die meisten Leute hingegen fragen, was der Computer kann oder, wenn's hochkommt, was er nicht kann. Das aber sind sekundäre, passive Fragen.

Wir sollten technische Geräte nicht einfach schicksalsergeben hinnehmen wie das Weltklima, wo man allenfalls spekulieren kann, ob es im nächsten Jahrtausend wärmer wird und später vielleicht wieder eine Eiszeit kommt. Technik ist nichts, das einfach passiert, ohne daß wir etwas dazu beitragen: Wir schaffen die Technik, wir lassen sie zu. Die Frage ist also nicht "Was passiert?", sondern "Was wollen wir überhaupt?"

Erst wenn wir so fragen, werden wir (vielleicht) verstehen welche unerwarteten Effekte der Computer schon hervorgebracht hat. In dieser Beziehung gleicht diese Maschine nämlich vielen anderen komplizierten und weitverbreiteten Dingen: Die direkten Effekte, die wir bei ihrer Entwicklung im Auge hatten, werden öfter, als uns lieb ist, überschattet von irgendwelchen Nebeneffekten, an die wir nicht gedacht haben.

Ein typisches Beispiel dafür ist das Zusammenwachsen von Computerei und Telekommunikation. Was damit erreicht wird, könnte man als gesellschaftliche Implosion bezeichnen: ein plötzliches, erzwungenes Zusammenbringen, das wir gar nicht so recht im Griff haben.

Das Phänomen der Implosion kennen wir von der Atombombe her. Diese besteht aus einem kleinen Ball aus Uran, der mit konventionellem Sprengstoff umhüllt ist, der seinerseits in einem Stahlmantel verpackt ist. Das ganze Gebilde gleicht einer Zwiebel. Um die Atombombe zu zünden, bringt man die Sprengstoffhülle zur Explosion, was zunächst zu einer Implosion des Urans führt. Das Uran wird dabei so zusammengepreßt, daß die sogenannte kritische Masse erreicht wird, bei der die nukleare Kettenreaktion in Gang kommt und die Atombombe explodiert.

Für mich ist das eine Metapher für die Entwicklung, die vor ein paar Jahren auf dem Computersektor begonnen hat. Konkret meine ich das weltweite Zusammenschalten von Computer-Ressourcen - insbesondere die elektronische Verbindung der großen Finanzzentren Tokio, New York, Chicago, London, Frankfurt, Hongkong, Zürich etc.

Man muß sich einmal klar machen, was da eigentlich passiert: Seit 30 oder 35 Jahren erst ist es möglich, beispielsweise von Zürich nach Tokio zu telefonieren. Wie kompliziert das war, kann man noch in alten Filmen sehen: Oft mußte man solche Telefonate lange im voraus anmelden; die Herstellung der Verbindung dauerte eine ganze Weile, und die Gespräche, die man tatsächlich führte, begannen meistens mit dem Satz: "Können Sie mich verstehen?" Man konnte nur sehr kleine Informationsmengen austauschen. Kaum zu glauben, aber das ist wirklich noch nicht lange her!

Systeme, die von selbst entstehen

Seither haben wir es aber mit Hilfe des Computers geschafft, daß wir zum Beispiel riesige Mengen von Börseninformationen mit Lichtgeschwindigkeit rund um die Erde schicken können. Vom finanziellen Standpunkt aus gesehen hat das zur Folge, daß London unmittelbar neben Zürich liegt, aber auch gleich neben Tokio, Chicago und New York. Was am einen Ort passiert, wirkt sich auch an allen andern Orten unmittelbar aus. Dieses künstliche Zusammenbringen des Geschehens an weit voneinander entfernten Finanzplätzen ist es, was ich als Implosion der digitalen Kommunikation bezeichne.

Das hat nichts mit dem berühmten globalen Dorf zu tun, wo alle mit allen verbunden sind und die gleichen Fernsehprogramme sehen. Hier geht es um die schnelle und häufig auch überstürzte Abwicklung einer der folgenschwersten gesellschaftlichen Aktivitäten: dem Management der riesigen Geldmittel fast aller westlichen Länder der Welt.

Wohin das führen kann, hat der Börsenkrach vom 19. Oktober 1987 gezeigt. Man muß sich vorstellen, daß Wertpapiermakler über ihre Computer laufend Informationen von den Finanzmärkten in aller Welt abrufen und berechnen, in welcher Sekunde sie einen bestimmten Titel kaufen oder verkaufen sollen, um so mit winzigen Gewinnmargen, dafür aber um so größerem Umsatzvolumen (zum Beispiel 100 000 Aktien von General Motors im Wert von mehreren Millionen Dollar), Geld zu machen.

Am besagten 19. Oktober wurden diese über die ganze Welt verstreuten, voneinander unabhängigen Computer plötzlich zu einem System - obwohl sie gar nicht miteinander verdrahtet waren. Die Information suchte sich eben einen andern Weg: Sie floß durch die Märkte selber und kam sozusagen durch die Hintertür in die Computer.

Das Verrückte an der Sache: Niemand hat dieses System entworfen, niemand hat es hergestellt, niemand ist wirklich dafür verantwortlich, niemand kann das System abschalten - es ist einfach da, es hat sich gewissermaßen selbst entwickelt. Da läuft es mir kalt den Rücken runter und ich frage mich: Welche anderen, ähnlichen Systeme gibt es, die wir noch nicht als solche erkannt haben?

Was müßte ein Schulabgänger eigentlich über Computer wissen, damit er sich so etwas selber ausdenken kann oder es wenigstens versteht, wenn es ihm erklärt wird? Braucht er dazu Kenntnisse in Programmiersprachen wie Fortran oder Basic? - Sicher nicht! Soll er vielleicht die Schaltungslogik der Computer verstehen, elektronische Bauteile kennen oder mit Textverarbeitung umgehen können? Auch das ist wohl kaum der richtige Zugang.

Programmieren als Pflichtfach?

Wenn ich gefragt werde, was man denn tun müsse, um den Schülern die wichtigsten Aspekte der Informationsgesellschaft beizubringen, kommt mir immer die folgende Geschichte in den Sinn: Vor rund 100 Jahren wurde es möglich, telegrafisch von der Ostküste zur Westküste der USA zu kommunizieren - man konnte also ein Telegramm von New York nach San Francisco schicken. Nun kann ich mir gut vorstellen, daß es damals vielleicht Leute gab, die sagten: Das ist eine sehr wichtige Entwicklung, die Amerika und vielleicht die ganze Welt verändern wird. Wir sind jetzt nicht mehr im Zeitalter der Postkutsche, sondern im Zeitalter des Telegrafen - darauf müssen wir unsere Kinder vorbereiten. Schauen wir zu, daß sie das Morsealphabet lernen!

Ich glaube, wir sind jetzt bei den Computern in einer ähnlichen Lage: Weil die Leute sehen, daß wir im Computerzeitalter leben, meinen sie, jeder müsse programmieren können. Das ist ungefähr genauso unsinnig, wie wenn man nach der Erfindung des Telegrafen das Morsen zum Pflichtfach erklärt hätte.

In den letzten Jahren sind immer mehr bedeutende Computerfachleute zur Erkenntnis gekommen, daß selbst relativ einfache Systeme recht wackelig sind. Das hat der letzte Start der Raumfähre "Discovery" wieder einmal sehr deutlich gezeigt. Der Computer, der die Raumfähre in den ersten Minuten steuert, ist wirklich einfach. Erstens ist er schon alt, das heißt, daß die NASA damit sehr viel Erfahrung hat, und zweitens ist er, gemessen am heutigen Standard, relativ klein. Auch das Programm ist ziemlich klein, nach heutigen Maßstäben.

Trotzdem wurde in der letzten Stunde vor dem geplanten Start der Countdown abgebrochen, weil die Winde in der Atmosphäre anders wehten, als man es dem Computer einprogrammiert hatte. Ein Laie würde sich nun vorstellen, daß man in einem solchen Fall die tatsächlichen Windverhältnisse einfach in den Computer eintippt und dann weitermacht weshalb soll man stundenlang warten, bis die Winde in die vorgesehene Richtung drehen?

Tatsache aber ist, daß sogar dieses kleine System im Space Shuttle im Prinzip undurchschaubar ist. Niemand würde es wagen, in so einem kritischen Moment auch nur ein einziges Bit zu ändern - aus Angst, das könnte unvorhergesehene Nebenwirkungen haben. Also wartete das Kontrollzentrum eben, bis sich die Winde so gedreht hatten, wie das ursprünglich programmiert worden war.

Zu dieser äußerst vorsichtigen Haltung möchte ich - mit einem Augenzwinkern folgendes anmerken: Das ganze SDI-Programm, das auf dem kompliziertesten Computersystem beruht, das je ins Auge gefaßt wurde, wird ganz bestimmt auf Anhieb funktionieren. Oder kann sich jemand vorstellen, daß der Präsident der Vereinigten Staaten nach der Entdeckung eines feindlichen Angriffs den Kollegen Gorbatschow anruft und sagt: "Wissen Sie, lieber Michail, wir haben bei SDI eigentlich alles programmiert, aber leider blasen im Moment die Winde aus der falschen Richtung - können Sie den Angriff nicht um einen halben Tag verschieben?"

Expertensysteme sind zweifelhafte Helfer

Ein Wort noch zur Künstlichen Intelligenz. 1955 gab es in der Branche, die damals noch nicht den Namen Informatik beziehungsweise Computerwissenschaften trug, einen großen Streit. Es ging darum, ob man in den Computer die sogenannte Gleitkomma-Arithmetik hardwaremäßig einbauen solle oder nicht. Ein Experte empfahl damals, darauf zu verzichten. Seine Begründung: Wenn man dem Computer ein Rechenproblem eingebe, müsse man auch stets wissen, wo das Komma während des Rechenprozesses überall hinwandert. Wenn man das nicht unter Kontrolle habe, solle man das Problem überhaupt nicht auf dem Computer rechnen. Nun, man hat nicht auf den Warner gehört und das Gleitkomma eingebaut. Das hat sich schon in vielen Fällen gerächt.

Die Sorglosigkeit hat zugenommen

Heute, 33 Jahre später, sind wir in dieser Beziehung noch viel sorgloser geworden, um nicht zu sagen tollkühn, und das hat viel mit der Künstlichen Intelligenz zu tun. Manche Leute - in erster Linie völlig technikgläubige Computeranwender - sind nämlich bereits soweit, daß sie ausgerechnet jene Probleme dem Computer anvertrauen, die sie selber nicht überblicken.

Wenn dann Fachleute, die sich mit SDI auseinandergesetzt haben, ehrlich sind und sagen, sie hielten es für unmöglich, daß ein so komplexes System je funktionieren würde, dann gibt man ihnen zur Antwort, mit Hilfe von Expertensystemen werde man die Sache schon hinkriegen. Im Prinzip heißt das, daß es gar nicht nötig sei, SDI je wirklich zu verstehen!

Wenn wir aber die Künstliche Intelligenz als Zaubermittel zulassen, müssen wir auch damit rechnen, daß es uns wie dem Zauberlehrling geht - mit allen Konsequenzen, die Goethes Geschichte vom Zauberlehrling aufzeigt.

Was soll der Computer in der Schule?

Die allererste Pflicht der Schule ist es, den Kindern ihre eigene Sprache beizubringen - Computer hin oder her. Sie sollen lernen, Geschriebenes zu lesen und zu verstehen, sich klar und deutlich auszudrücken, und zwar mündlich wie schriftlich.

Um im Arbeitsleben und im Leben überhaupt weiterzukommen, muß man auch eine gewisse Skepsis entwickeln. Man muß die Fähigkeit haben, Fragen zu stellen - auch Fragen, die nicht sehr leicht zu beantworten sind. Dabei jedoch bringt einen der Umgang mit

Computern nicht einen Schritt weiter.

Wie sollen denn die jungen Menschen auf unsere Arbeitswelt vorbereitet werden, die doch so stark von Computern und andern High-Tech-Geräten durchdrungen ist? Ist es nicht unsere Pflicht, ihnen den Computer von A bis Z zu erklären?

Ich glaube, daß das ein großer Fehler wäre. Denn erstens sind die meisten Computer sowieso nicht sichtbar, sondern stecken irgendwo in Fotoapparaten, Waschmaschinen oder Autos, und zweitens hilft technisches Computerwissen auch den Leuten nicht weiter, die zu Dutzenden oder Hunderten an Bildschirmen sitzen - sei es nun im Reisebüro oder an der Wall Street. Selbst Fluglotsen oder Jumbo-Piloten, die von hochtechnischen Geräten umgeben sind, nützt es wenig, wenn sie sich in Informatik auskennen, weil das mit ihrem Job überhaupt nichts zu tun hat. Mit andern Worten: Computerunterricht, der vorwiegend technische Details von Hardware und Software vermittelt, ist für die allermeisten Berufe irrelevant.

Damit möchte ich aber nicht sagen, daß Computer in der Schule völlig überflüssig seien - im Gegenteil: Es gibt tatsächlich Unterrichtsfächer, wo die schnellen Rechner sehr nützliche Dienste leisten können. Diese Fächer haben aber in der Regel mit dem Computer an sich gar nichts zu tun. Ich denke vor allem an Biologie oder Physik, wo man Modelle für die verschiedensten Vorgänge konstruieren und dann auf dem Werkzeug "Computer" durchrechnen kann. Mit solchen Simulationen lassen sich wiederholt und gefahrlos die unterschiedlichsten Erfahrungen sammeln.

Leider ist Ausbildungs-Software, die das ermöglicht, noch kaum erhältlich. Die wenigen Leute, die fähig sind, solche Programme zu schreiben, sind eben meist mit anderen Aufgaben eingedeckt. Manchmal fehlt auch schlicht das nötige Geld, um solche Entwicklungen zu fördern.

Auch im Fach "Buchhaltung" ist der Computereinsatz sinnvoll, denn Bilanzen werden heute fast ausschließlich auf dem Computer gemacht. Wenn man das schon in der Schule zeigen und lehren kann, bereitet man die Schüler jedenfalls besser auf die Arbeitswelt vor, als wenn man ihnen das Programmieren in Basic oder Fortran beibringt.

Nun noch zur Maschine "Computer" selbst. Ich will nicht kategorisch behaupten, daß man seine Zeit verschwendet, wenn man etwas über die technischen Details lernt. Die

Frage ist nur, was man denn überhaupt davon wissen soll. Sollen es Computersprachen sein? Wenn ja, die sogenannten "höheren" wie Fortran und Pascal, oder besser die "niedrigeren" wie Assembler?

Oder soll man nicht noch eine Stufe tiefer anfangen: bei den Schaltkreisen? O.k., Schaltkreise, das muß wohl jeder wissen, denkt man. Kaum hat man damit begonnen, die Logik der Schaltkreise zu erklären, merkt man, daß da immer noch ein Geheimnis dahintersteckt: Wie funktionieren denn die Schaltkreise physikalisch? So kommt man bald zur Quantenmechanik und sagt sich: Das ist jetzt doch zu speziell. Dann geht man wieder zurück zur Computerlogik, den Sprachen und so weiter. Kurz: Wer mir nicht genau begründen kann, warum er gerade auf dieser oder jener Erklärungsebene beginnt, wenn er Schülern den Computer beibringen will, der soll bloß nicht behaupten, detailliertes Wissen über die Funktionsweise dieser Maschinen sei für uns sehr wichtig.