DV-Systeme sind letztlich so klug oder fehlbar wie der Mensch

Verantwortung der DV-Profis: Anwendungsrisiken nicht verdrängen

19.08.1988

Computer im Dauer-Kreuzfeuer der Kritik: Der Airbus-Abschuß im Golf ist nur eines von vielen Beispielen, das Kritikern die Möglichkeiten gibt, DV-Systeme als Bedrohung oder gar als tödliche Waffe anzuprangern. Mit Unverständnis reagieren indes DV-Profis auf derart massive Kritik. Ihrer Meinung nach sei der Rechner zunächst einmal nichts anderes als ein Werkzeug. Allerdings warnen sie vor einer allzu großen Technik-Gläubigkeit. Betont KI-Experte Jörg Siekmann: "Auch die leistungsfähigsten militärischen Elektronengehirne können letztlich nur so klug wie der Mensch

sein ñ und der ist allemal fehlbar." Auch wenn sich, so der einhellige Tenor der DV-Verantwortlichen, die Schwierigkeiten der militärischen Projekte nicht unmittelbar mit denen der kommerziellen Anwendungen vergleichen ließen, sei es doch in beiden Bereichen entscheidend, daß Anwender und DV-Profis verstärkt lernen, die gleiche Sprache zu sprechen. An die DV-Anwendungs-Entwickler wird zudem die Forderung gestellt, sich stärker zu emanzipieren: Weg von der Handwerker-, hin zur Gestalter-Mentalität. Dazu zähle auch, Anforderungen der Benutzer künftig kritischer zu hinterfragen.

"Dies könnte, wenn wir nicht sehr vorsichtig sind, zur Grabinschrift unserer Zeit werden: Es war niemandes Fehler ñ die Computer haben es getan." Mit diesem Zitat des amerikanischen Kommentators Richard Reeves leiteten Spiegel-Reakteure in der Ausgabe vom 11. Juli dieses Jahres ihre Titelgeschichte "Amerikas tödliche Computer-Waffen" über den Airbus-Abschuß am Golf ein.

Die Technik steht wieder einmal am Pranger. Dabei hat die Bevölkerung dem Computer gegenüber bereits seit langem eine ambivalente Haltung. Immer wieder zeigen Untersuchungen, daß der Rechner sowohl als Fluch als auch als Segen empfunden wird. Ohnehin häufig im Kreuzfeuer der Kritik, schlägt die Betroffenheit der DV-Profis auf Ereignisse wie im Golf rasch in Empörung um, wenn die Computertechnik wieder einmal als Prügelknabe herhalten muß. Peter Brentle, DV-Leiter bei der Panavia Aircraft GmbH in München, reagiert mit Unverständnis auf den Imageverlust des Computers: "Negativschlagzeilen bestätigen doch nur diejenigen, die mit Pauschalurteilen wie ,gläserner Mensch' oder ,Jobkiller' schnell bei der Hand sind." Der Münchner DV-Experte wehrt jeden Angriff auf den Rechner ab: "Wie gefährlich ist denn ein Küchenmesser? Man kann damit Kartoffeln schneiden oder einen Menschen umbringen." Er findet es jedenfalls erstaunlich, daß ein Computer, der nichts anderes als ein Werkzeug sei, derartig kritisiert werde. Seiner Ansicht nach ist jedes DV-System zunächst einmal wertneutral. "Das soll aber nicht heißen", betont Brentle, "daß die Geräte fehlerfrei arbeiten. Denn programmiert werden sie schließlich von Menschen."

In puncto "zuviel Vertrauen in die Technik" stimmt ihm Robert Hürten, Berater der ECU EDV Controlling Unternehmensberatung GmbH, Heppenheim, zu: "Gerade aufgrund dieser übertriebenen und gefährlichen Technik-Gläubigkeit verläßt sich der Mensch zu sehr auf den Computer." Hürten erinnert in diesem Zusammenhang an den Börsen-Crash in den USA. Aufgrund eines Software-Fehlers wurden im November 1985 bei der Bank of New York anstatt Staatsanleihen zu verkaufen, Papiere im Wert von zirka 25 Milliarden Dollar erworben. Die Bank war aus diesem Grunde gezwungen, der Federal Reserve zur Finanzierung des Kaufs ungefähr fünf Millionen Dollar Zinsen zu zahlen.

Aber auch im täglichen Umgang mit der Informationsverarbeitung, erzählt Hürten, tritt diese "Blauäugigkeit" gegenüber der Technik in erschreckendem Maße auf. So habe ihm ein Unternehmer voller Stolz erzählt, daß es für ihn keine Datensicherheitsprobleme mehr gebe, da er nur Standardprogramme einsetze. DV-Fachmann Hürten resigniert: "Dieser

Topmanager hat von der Informationsverarbeitung nichts begriffen und gibt sich einer trügerischen Sicherheit hin. Der Heppenheimer Berater weist darauf hin, wie wichtig es grundsätzlich ist, immer noch menschliche Kontrollmöglichkeiten einzubauen und das "Vier- Augen-Prinzip" nicht zu vernachlässigen. Nur so könne man Fehler erkennen, die in den meisten Fällen bereits im Vorfeld der Projektarbeit enstanden sind und sich später verselbständigten. Um hier Abhilfe schaffen zu können, sei Zusammenarbeit zwischen allen Projektbeteiligten notwendig.

Dr. Gerhard Adler, Geschäftsführer der Diebold Deutschland GmbH, wird häufig mit dem Problem "Auswirkungen von Automatiken" konfrontiert: "Das DV-System wertet lediglich die Informationen aus, die eingegeben werden. Allerdings ist unsere Welt mehr als kompliziert, und diese gesamte Komplexität spiegelt sich im Rechner wider." Kein Anwendungsentwickler könne aber wirklich an alle Eventualitäten denken. Etwas im Programm "zu übersehen" sei im kommerziellen Bereich kritisch genug ñ in militärischen Krisensituationen führt es seiner Meinung nach unweigerlich zur Katastrophe. Also müsse das organisatorische Umfeld in Ordnung gebracht werden. In der Politik hieße das: Krisengebiete aus der Welt schaffen. Zumindest aber sollten künftig die Entscheidungszeiträume in der Militärtechnik verlängert werden. Nur so könnten Geschehnisse wie am Golf verhindert werden. Betont Adler: "Zwischenmenschliche Kommunikationsprobleme nämlich wird der Computer niemals für uns lösen können." An die Informatiker selbst richtet der Frankfurter Berater die Forderung, sich und ihre Arbeit künftig weniger zu überschätzen.

Noch einen Schritt weiter geht Professor Jörg Siekmann von der Universität Kaiserslautern: "Aufgabe gerade der Datenverarbeiter ist es, öffentlich gegen die absolute Technikgläubigkeit anzukämpfen." Auch die leistungsfähigsten militärischen Elektronengehirne könnten letztlich nur so klug wie der Mensch sein - und der sei allemal fehlbar. Der Kaiserslauterner KI-Experte plädiert dafür, das Verantwortungsgefühl der Informatiker bereits in der Ausbildung zu schärfen. Siekmann: "Wie in anderen Bereichen der Wissenschaft, sollten sich auch die Informatiker Gedanken über die Folgen ihrer Arbeit machen." Die Uni Kaiserslautern bietet deshalb ihren Studenten Seminare zum Thema "Die gesellschaftliche Verantwortung des Informatikers" an.

Auch wenn die Schwierigkeiten der militärischen Projekte nicht unmittelbar mit denen der kommerziellen Anwendungen zu vergleichen sind, so ist die Problematik im Grunde die gleiche - darin sind sich DV-Manager, Berater und Wissenschaftler einig. Für

Robert Hürten beginnen die Schwierigkeiten in beiden Bereichen bereits in der Vorbereitungsphase: "Die Beteiligten sprechen nicht die gleiche Sprache und nehmen sich nicht genügend Zeit für einander." Dabei sei für den Erfolg eines Projekts entscheidend, daß zunächst einmal Vorurteile abgebaut würden. Der Heppenheimer Berater wünscht sich, daß die DV-Profis von ihrem hohen Roß herunterkommen und ohne Eifersüchteleien darangehen, die Fachabteilungen schlau zu machen. Ohne eine beide Seiten zufrie- denstellende Zusammenarbeit könne es passieren, daß unrealistische Forderungen das Ergebnis unbrauchbar machen.

Erinnert sich Hürten an einen Vorfall in den USA: Ende der 70er Jahre beauftragte das Pentagon ein amerikanisches Unternehmen, für über 60 Millionen Dollar das Super-Kommunikations-System "Beta " (Battlefield Exploration and Target Acquisition) zu entwickeln. "Beta" hatte die Aufgabe, Daten von einer großen Anzahl von Sensoren zu sammeln, auszuwerten und den

Kommandeuren im Feld für deren Entscheidungsfindung zur Verfügung zu stellen. Obgleich das System genau die von der Armee geforderten Aufgaben erfüllte, war es in dieser Form nicht zu gebrauchen: Die Stäbe waren überfordert, denn "Beta" schüttete sie mit Informationen zu.

Diebold-Berater Adler kann seinem Kollegen hier nur zustimmen. Auch er sieht die Teamarbeit als einzige Chance, Mißverständnisse und daraus entstehende Folgen zu verhindern. Neben einer vertrauensvollen Zusammenarbeit muß bei den Datenverarbeitern jedoch auch eine Mentalitätsänderung einsetzen, fordert Dr. Helmut Fritzsche, stellvertretender Leiter des Zentralbereichs Informatik und Kommunikationswesen bei der Wacker-Chemie GmbH in München: "Weg von der Handwerker-/Mechaniker-

Mentalität, hin zu einer Konstrukteur-/Gestalter-Mentalität des DV-Anwendungsentwicklers." Der Münchner DV-Fachmann kritisiert, daß sich in den Unternehmen an der Grundhaltung wenig geändert habe. Immer noch machen "mündige Fachabteilungen" dem DV-Anwendungsentwickler Vorgaben, die dieser dann möglichst kritiklos in DV-Technik umsetzen soll. Hier müsse sich der DV-Anwendungsentwickler noch viel stärker emanzipieren. Dazu zähle auch, Anforderungen künftig kritischer zu hinterfragen. Nur so könne er dem Anspruch auch nur annähernd gerecht werden, als Organisator und Mitgestalter von Abläufen anerkannt zu werden. Dies sei auch die Voraussetzung, einen positiven Beitrag zur Zielerreichung des Unternehmens zu liefern.

Jörg Siekmann hält diese gestalterische Verantwortung sowohl im kommerziellen als auch im militärischen Bereich für gleichermaßen wichtig: "Zuwenig Anwendungsentwickler wissen im Grunde, in welchen Bereichen und für welche Aufgaben ihre Systeme hinterher eingesetzt werden."

Deshalb seien fehlerhafte Folgewirkungen häufig vorprogrammiert. Nur: "Im militärischen Bereich können sie tödlich sein."