Die von der deutschen Bundesregierung eingesetzte Datenethikkommission (DEK) hat mit ihren soeben erschienenen Handlungsempfehlungen zum "Umgang mit Daten und algorithmischen Systemen für die nationale, europäische und internationale Ebene" teils heftige Kritik ausgelöst. Verbände monieren das Gutachten, weil sie befürchten, dass eine übermäßige Regulierung den Umbau der Wirtschaft für die digitale Zukunft durch zu viel Regulierung bremsen oder sogar im Keim ersticken könnte.

Hier geht's zum Gutachten der Datenethik-Kommission (PDF)

Die Handlungsempfehlungen der DEK enthalten unter anderem folgende Vorschläge (im Wortlaut):

• ein risikoadaptiertes Regulierungssystem für den Einsatz von algorithmischen Systemen mit einer nach Schädigungspotenzial abgestuften Regulierung,

• den Aufbau beziehungsweise die Stärkung sektorenspezifischer Aufsichtsinstitutionen zur risikoadäquaten Kontrolle von algorithmischen Systemen,

• die Schaffung eines bundesweiten "Kompetenzzentrums Algorithmische Systeme",

• abhängig vom "Schädigungspotenzial algorithmischer Systeme" eine gesetzliche Verankerung von Regelungsinstrumenten wie "Ex-ante-Zulassungsverfahren oder Vorabprüfungen durch Aufsichtsinstitutionen", Transparenzpflichten (Kennzeichnungspflichten, Informationspflichten, Offenlegungspflichten gegenüber Aufsichtsbehörden) und die Pflicht zur Protokollierung verwendeter Datensätze und von Software-Programmabläufen sowie zu Risikofolgenabschätzungen,

• die Etablierung einer EU-Verordnung mit Grundanforderungen an die Zulässigkeit von algorithmischen Systemen und

• spezifische rechtliche Vorgaben für persönlichkeitssensible Profilbildungen von Qualitätsanforderungen bis hin zu absoluten Grenzen.

Die DEK hatte vor gut einem Jahr von der Bundesregierung den Auftrag erhalten, ethische Leitlinien und rechtliche Handlungsempfehlungen zum Umgang mit Daten, Algorithmen und KI zu erarbeiten. Die Kommission besteht aus 16 Mitgliedern aus den Bereichen Technik, Ethik und Recht. Sie hat als unabhängiges und eigenverantwortliches Expertengremium gearbeitet und ihre Beratungen im September 2019 abgeschlossen. Sprecherinnen der Kommission sind die Juristin Prof. Dr. Christiane Wendehorst und die Ethikerin Prof. Dr. Christiane Woopen, zu den Mitgliedern gehören unter anderem BDI-Präsident (und ehemaliger Bitkom-Sprecher) Dieter Kempf sowie der deutsche KI-Papst Wolfgang Wahlster. Seitens der Bundesregierung sind Justiz- und Innenministerium verantwortlich.

Bitkom fürchtet Rückbau Deutschlands "zum analogen Inselstaat"

Der Digitalverband Bitkom warnt nun vor überzogener Regulierungswut. "Wir begrüßen sehr, dass wir in Deutschland einen breiten gesellschaftlichen Dialog über Datenethik führen. Unser Wertekodex gilt auch in der digitalen Welt und wir müssen ihn dort konsequent zur Geltung bringen", sagte Bitkom-Präsident Achim Berg. Ziel könne es aber nicht sein, "den Weg in die digitale Welt zu verstellen und Deutschland zu einem analogen Inselstaat zurückzubauen".

Deutschland müsse weg von einer theoretischen Diskussion, die sich ausschließlich mit Risiken und Gefahren beschäftige. Jetzt sei die Zeit gekommen, die Chancen neuer Technologien für die Lösung der großen aktuellen Herausforderungen unserer Gesellschaft zu nutzen. Ein Ärgernis sind für den Bitkom etwa die Offenlegungs- und Transparenzpflichten.

"Man sollte deutsche Unternehmen nicht zwingen, die von ihnen erhobenen Daten letztlich auch der Konkurrenz zur Verfügung zu stellen. Unsere internationalen Wettbewerber klopfen sich auf die Schenkel, wenn wir ihnen unsere Datenschätze auf dem Silbertablett überreichen. Datenzugangsregeln können und dürfen nur sehr punktuell greifen", so Berg. "Es geht beim Datenzugang auch um wichtige Fragen von Innovationskraft, Datenschutz sowie Vertragsfreiheit und Marktentwicklungschancen." Nach Ansicht des Bitkom reichen die geltenden Gesetze und Vorschriften aus. Datenzugang müsse grundsätzlich auf dem Prinzip der Vertragsfreiheit und damit der Freiwilligkeit beruhen.

Algorithmen unter Generalverdacht

Auch bei den Vorschlägen zur Algorithmenregulierung sei die Kommission zu weit gegangen. Anstatt bestimmte Algorithmen zu identifizieren, die wegen ihres Gefährdungspotenzials besonders reguliert werden müssten, würden in dem Abschlussbericht fast alle Algorithmen unter einen Generalverdacht gestellt. "Algorithmen sind bereits heute Teil unseres täglichen Lebens", sagte Berg. "Die allerwenigsten bergen das Risiko von Diskriminierung oder Gefahr für Leib und Leben." Sie seien die die Grundlage jeglicher Digitalisierung.

Eine Risikobewertung für jeden einzelnen Algorithmus sei angesichts der Fülle an Anwendungen nicht praktikabel. Um Missbrauch oder Fehlverhalten auszuschließen, könnten geltendes Vertrags- und Verbraucherrecht, Antidiskriminierungsgesetze, das Haftungsrecht oder Datenschutzgesetze herangezogen werden. "Wir brauchen mehr Verständnis von Algorithmen, nicht mehr Verbote", mahnte Berg.

eco-Verband warnt vor Algorithmen-Verordnung

Auch der Internet-Verband eco kann dem Vorstoß der DEK nicht viel abgewinnen. "Mit einigen Forderungen ist die Kommission deutlich übers Ziel hinausgeschossen", sagte eco-Vorstand Oliver Süme. "Regulierungsphantasien wie eine allgemeine europäische Algorithmen-Verordnung (EUVAS) könnten zur echten Digitalisierungs-Bremse werden, denn Algorithmen sind die Basis digitaler Transformation."

Der eco warnt vor Unmengen neuer Gesetze und Regeln. Er schlägt vor, einen "diskursiven Ansatz" zu verfolgen. Eine "blinde Überregulierung" würde nach Einschätzung des Verbandes die Entwicklung und den Einsatz von KI als Schlüsseltechnologie der deutschen Wirtschaft massiv beeinträchtigen und die Digitalisierung weiter verzögern. Zahlreiche Unternehmen übernähmen bereits Verantwortung für ethische Herausforderungen im Zusammenhang mit der digitalen Transformation und trügen im Rahmen von Selbstverpflichtungsinitiativen erfolgreich zur Einhaltung ethischer Normen bei.

Werden Firmen zu Opfern einer Überregulierung?

Eine schallende Ohrfeige erhalten die deutschen Regulierer vom unabhängigen Non-Profit-Forschungsinstitut und Think Tank Center for Data Innovation mit Sitz in Brüssel und Washington. Eline Chivot, Senior Policy Analyst, schreibt in einem Kommentar, die Kommission sende ein besorgniserregendes Signal an Unternehmen, die sich derzeit "auf eigene Gefahr" mit KI beschäftigten. Die Firmen seien bereits Opfer der strengen und in der Praxis kaum vollständig umsetzbaren Europäischen Datenschutz-Grundverordnung (DSGVO). Jetzt für die gesamte Wirtschaft KI-Regeln aufzustellen, nicht für einzelne Branchen, zeige, dass die Politiker KI als Bedrohung sähen, nicht als Chance.

Eine von der EU-Kommission eingesetzte hochrangige Expertengruppe für KI habe ausdrücklich davor gewarnt, nicht mit kontraproduktiven und unnötigen KI-Vorschriften den Fortschritt zu hemmen. Trotzdem scheine Deutschland gewillt zu sein, Unternehmen mit immer mehr Anforderungen an die Nutzung von KI Steine in den Weg zu legen, schreibt die Analystin. Wenn Europa in der digitalen Wirtschaft wettbewerbsfähiger werden wolle, dürfe man nicht Innovation durch Regulierung ersetzen.

Europas Politiker sollten sich demnach lieber auf die Entwicklung einer KI-Strategie konzentrieren, die in Menschen, Daten und digitale Infrastrukturen investiert. Wichtig sei eine innovationsfreundliche Regulierung, damit europäische Unternehmen auf Dauer mit amerikanischen und chinesischen Konkurrenten mithalten könnten.

Sollten die deutschen Richtlinien der Maßstab für künftiges EU-Recht werden, so Chivot abschließend, würden die EU-Standards eine Blaupause dafür, wie man in der digitalen Ökonomie scheitern kann. Versuche Deutschland einen Alleingang zu machen und die Empfehlungen der Kommission für sich umsetzen, werde das sämtliche Ziele im Zusammenhang mit Industrie 4.0 und einem digitalen europäischen Binnenmarkt zunichtemachen.