BONN (ih) - Die Verantwortung beim Einsatz von Expertensystemen muß beim Menschen bleiben. Denn gerade bei "intelligenten Rechnern" sind Fehler nicht auszuschließen. Dies war die Forderung von Wissenschaftlern zu einer Anhörung der Enquete-Kommission "Technikfolgen-Abschätzung" des Bundestages über den Einsatz von KI-Systemen.
Zum Thema "Expertensysteme" hat die Bonner Enquete-Kommission Fachleute aus Industrie und Forschung zu einer Anhörung geladen. Zur Debatte standen vor allem Fragen zur Verantwortung und Haftung beim Einsatz dieser Systeme. Fazit: Die Experten warnten eindringlich davor, mit "Künstlicher Intelligenz" ausgestattete Computer direkte Entscheidungen treffen zu lassen. In schriftlichen Stellungnahmen forderten die Wissenschaftler einhellig, in jedem Fall sicherzustellen, daß die letzte Verantwortung beim Einsatz solcher Rechner beim Menschen liegen müsse. Gerade bei Expertensystemen, in die häufig auch Erfahrungswissen einfließe, seien Fehler nicht auszuschließen. Einhelliger Tenor: Es gibt so gut wie keine fehlerfreie Software-Programme.
Für Professor Christiane Floyd, Fachbereich Informatik der TU Berlin, Institut für Angewandte Informatik, Fachgebiet Softwaretechnik, ist das Kernproblem nicht so sehr ob, sondern vielmehr wie Expertensysteme eingesetzt werden sollen. Hierzu seien unter anderen folgende Voraussetzungen zu schaffen: Die Systeme müssen Experten unterstützen, nicht ersetzen, Voraussetzung für den verantwortbaren Einsatz sind anwendungsspezifische Szenarios, der Anwender muß beim Einsatz von KI-Systemen über autonome Kompetenz verfügen.
Werner Schmid, Geschäftsführer der Gesellschaft zur Prüfung von Software mbH in Ulm wies darauf hin, daß die heute verfügbaren Methoden und Werkzeuge zur Prüfung und zum Testen von Software in der Praxis weitgehend ignoriert würden. Dies läge zum einen an den undefinierten Zielvorstellungen darüber, was Software leisten soll sowie im unbefriedigenden Angebot an Programmen. Jeder Softwarehersteller, auch die Anbieter von Expertensystemen, seien bereit, ein selbst ihnen in seinen Funktionen und Auswirkungen unbekanntes System auf den Markt zu bringen. Schmid: "Die Folgen sind offensichtlich. Die Mehrzahl der eingesetzten Softwaresysteme funktionieren nur dann, wenn die Anwender nach sorgfältiger Schulung und langer Übungszeit immer noch 'behutsam' damit umgehen." Fatale Systemfehler wie Absturz des Systems seien die tägliche Praxis.
Auch der Einsatz medizinischer Expertensysteme für die Diagnose und Therapie von Krankheiten birgt nach Meinung der Wissenschaftler eine Reihe von Risiken. So warnte der Mannheimer Pädagogik-Professor Ernst Schuberth vor der Gefahr, daß die Pharma-Industrie Expertensysteme für die ärztliche Praxis anbieten könnte, "deren Expertisen unausweichlich auf Produkte der Pharma-Industrie hinfuhren" und damit zugleich den eigenen wirtschaftlichen Interessen dienten.
Keinen Konsens gab es indes in der Frage der rechtlichen Verantwortlichkeiten und der Haftung für Schäden durch den Einsatz von Computersystemen. Überwiegende Antwort war, daß auf Software die Regelungen der Produkt- und Produzentenhaftung - wenn auch nur begrenzt - anwendbar sind. So gibt Christiane Floyd zu bedenken: "Software weist neue Probleme der Verantwortung und Haftung auf." Zwar könne im Ernstfall ein Defekt im Programm festgestellt werden, aber unter Umständen nicht geklärt werden, wer für ihn verantwortlich ist. Professor Ulrich Sieber, Lehrstuhl für Strafrecht, Strafprozeßrecht und Informationsrecht in Bayreuth, schlägt vor, die Rechtsprobleme im Bereich Expertensysteme genau zu untersuchen. Schließlich stelle die "Information" einen neuen Produktions- und Risikofaktor dar, sodaß eine Analyse von speziellen Aspekten des "lnformationsrechts" oder des "Rechts der Informationstechnik" im Hinblick auf die künftige Rechtspolitik ergiebig sein könne.
Einen Anstoß für die Einrichtung der Enquete-Kommission zur Technikfolgen-Abschätzung und -Bewertung gab die ambivalente Haltung der Bundesbürger zur Technik. Nach demoskopischen Studien nämlich ist in der Bundesrepublik der Anteil derer, die Technik eher für einen Segen halten, von 72 Prozent im Jahre 1966 auf 56 Prozent im Jahre 1976 und schließlich auf 46 Prozent im vergangenen Jahr zurückgegangen, teilt der Vorsitzende der Enquete-Kommission des Deutschen Bundestages mit.