Podcast Digitale Ethik

Fehler können peinlich und teuer werden

20.09.2022
Von 
Heinrich Vaske ist Editorial Director von COMPUTERWOCHE, CIO und CSO sowie Chefredakteur der europäischen B2B-Marken von IDG. Er kümmert sich um die inhaltliche Ausrichtung der Medienmarken - im Web und in den Print-Titeln. 
Im Podcast TechTalk von COMPUTERWOCHE, CIO und CSO warnt Christoph Bräunlich davor, ethische Fragestellungen in KI-Projekten zu vernachlässigen.
Ethik-Probleme im Zusammenhang mit Künstlicher Intelligenz können Unternehmen teuer zu stehen kommen.
Ethik-Probleme im Zusammenhang mit Künstlicher Intelligenz können Unternehmen teuer zu stehen kommen.
Foto: Nadia Snopek - shutterstock.com

Bräunlich ist nicht nur KI-Verantwortlicher beim auf Kunden-Management-Software spezialisierten Schweizer Softwarehaus BSI, sondern auch Vize-Präsident der Swiss Data Insights Association, die sich mit ethischen Fragestellungen rund um KI und Datenmanagement beschäftigt. Er ist davon überzeugt, dass es den Unternehmen schadet, wenn sie im Umfeld von KI das Thema Ethik nicht ernstnehmen.

Ethische Probleme stellen sich demnach oft erst im Verlauf eines Projekts ein, wenn zuvor nicht ausreichend darüber nachgedacht wurde. Die Beispiele von Facebook und Amazon, wo die KI-gestützte Vorauswahl von Bewerbern zu einer Benachteiligung von Minderheiten und Frauen führte, sind weltweit bekannt. Die Fehlerursachen liegen in solchen Fällen in der Datenauswahl, in Modellierungsmängeln und auch in der Voreingenommenheit mancher Datenspezialisten:

Ethik-Probleme zeigen sich oft erst später

Laut Bräunlich können solche Probleme auch in ganz anderen Bereichen auftreten. Der BSI-Manager nennt als Beispiel eine CRM-Software, die auch dazu dient, einlaufende E-Mails via KI automatisiert auf die Teams zu verteilen. Dabei wird natürlichsprachiger Text analysiert - und wenn sich ein Kunde nicht auszudrücken weiß, kann es sein, dass die E-Mail in eine falsche Kategorie einsortiert wird oder ganz aus dem System herausfällt.

Christoph Bräunlich vom Schweizer Softwarehaus BSI empfiehlt, bei KI-Projekten das Thema digitale Ethik ernstzunehmen.
Christoph Bräunlich vom Schweizer Softwarehaus BSI empfiehlt, bei KI-Projekten das Thema digitale Ethik ernstzunehmen.
Foto: BSI Business Systems Integration AG

Bräunlich empfiehlt, in KI-Projekten immer die Rolle eines "Ethical Challengers" einzurichten. Jedes Projekt sollte darauf abgeklopft werden, ob sich ethische Fragestellungen ergeben, die von den Data Scientists berücksichtigt werden sollten. Dafür brauche es vor allem Zeit, die bei allem Deadline-Druck und Kostenzwängen unbedingt aufgebracht werden sollte. Ethische Fehler müssen Unternehmen sonst teuer bezahlen, oftmals mit der eigenen Reputation. (hv)