Vertrauen in der KI-Welt: Prüfportal für Niedrigrisiko-Apps

SWKStock – Shutterstock.com

Ist meine KI-Lösung vertrauenswürdig und wie kann ich das überprüfen? Vor dieser Frage stehen immer mehr Unternehmen. Mit einem einen neuen, freiwilligen Qualitätsstandard sowie einem ergänzenden digitalen Prüfportal für Niedrigrisiko-KI-Systeme gibt die Initiative MISSION KI jetzt eine mögliche Antwort. Das Duo soll Unternehmen ein strukturiertes Instrument an die Hand geben, um die Qualität ihrer KI-Anwendungen nachzuweisen und damit einen Wettbewerbsvorteil sichern.

Mit dem Vorstoß adressiert die Initiative gezielt eine regulatorische Lücke. Für KI-Systeme, die sich unterhalb der Hochrisikoschwelle befinden, sieht der EU-AI-Act bislang lediglich Transparenzpflichten vor. MISSION KI, ein von der acatech – Deutsche Akademie der Technikwissenschaften getragenes und vom Bundesministerium für Digitales und Staatsmodernisierung (BMDS) gefördertes Projekt, hat in den vergangenen zwei Jahren mit führenden Partnern aus Normung, Prüfwesen, Beratung und Forschung an dieser Thematik gearbeitet.

Die Projektpartner

Mit im Boot waren dabei PwC Deutschland, das TÜV AI.Lab, der VDE, der AI Quality & Testing Hub sowie das Fraunhofer-Institut IAIS. Die Praxistauglichkeit wurde anhand realer KI-Systeme von Partnern wie der KfW, CLAAS, ZEISS, enamentis und BeIntelli erprobt.  Ergänzend dazu arbeitet man mit dem Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) an einer Qualitäts- und Testplattform für Hochrisiko-KI-Anwendungen in Bereichen wie der Medizin.

Der MISSION-KI-Qualitätsstandard, so die Initiative, übersetzt zentrale Prinzipien vertrauenswürdiger KI – darunter Transparenz, Nicht-Diskriminierung und Verlässlichkeit – in sechs definierte Qualitätsdimensionen. Diese seien wiederum in klare Kriterien und messbare Maßnahmen überführt worden, die die Basis für ein selbstständig durchführbares Prüfverfahren bilden.

KI-Schutzbedarf analysieren

Herzstück des Verfahrens ist eine Schutzbedarfsanalyse. Sie legt fest, welche Anforderungen im jeweiligen Einsatzkontext im Fokus stehen müssen. Das abschließende Ergebnis ist ein detaillierter Prüfbericht, der den Erfüllungsgrad der Qualitätsanforderungen aufzeigt. Zudem zeigt er Unternehmen präzise Verbesserungspotenziale ihrer KI-Systeme auf.

Um die Anwendung des Standards in der Praxis zu erleichtern, wurde ergänzend dazu ein digitales Prüfportal eingerichtet. Dieses bildet das Prüfverfahren digital ab, wobei geführte Prozesse und integrierte Hilfestellungen die Selbstprüfung für Unternehmen effizienter gestalten.

Das digitale KI-Prüfportal

Das Portal steht ab sofort in einer Beta-Version zur Verfügung. Perspektivisch will die Initiative das Portal um automatisierte Prüfschritte sowie Schnittstellen zu akkreditierten Prüfstellen erweitern.

Die Vorteile für die Wirtschaft sind nach Ansicht der MISSION KI evident: KI-Anbieter erhalten einen strukturierten Qualitätsnachweis. Er kann als tragfähige Grundlage für den Dialog mit Kunden, Investoren und regulierenden Stakeholdern dienen.

Wettbewerbsvorteil durch Verantwortung

Besonders Start-ups und KMU würden von der Möglichkeit profitieren, Qualitätsmaßnahmen systematisch zu dokumentieren und bei Beschaffungs- und Ausschreibungsverfahren nachzuweisen. Gleichzeitig schaffe der Standard einheitliche Kriterien für öffentliche Auftraggeber, wodurch KI-Lösungen vergleichbar werden.

Hendrik Reese, PwC EMEA Responsible AI Leader, unterstreicht die Relevanz der freiwilligen Prüfung: „So wird verantwortungsvolle KI zum Wettbewerbsfaktor.” Er hält den Standard für ein wichtiges Instrument, das es Unternehmen ermöglicht, ihre KI-Systeme praxisnah und nachvollziehbar entlang konkreter Kriterien zu bewerten und dabei an regulatorische Entwicklungen wie den EU-AI-Act anschlussfähig zu bleiben.