KI-Ethik: Braucht Ihr Unternehmen einen Chief AI Ethics Officer?

Zunehmende Bedeutung von KI-Ethik

Der Einsatz von KI in Unternehmen nimmt bereits seit geraumer Zeit zu, sowohl in der Breite als auch in der Tiefe der Anwendungsfälle. Dieser Trend wurde zuletzt durch das wachsende Angebot an generativen KI-Tools verstärkt. Während dies auf der einen Seite zu enormen Potenzialen für die Unternehmen führt, erhöht es gleichzeitig auch das Risiko, ein KI-System zu verwenden, das in Teilen zu unethischen und unangemessen Ergebnissen führt. Zukünftig wird die Interaktion zwischen Mensch und KI weiter zunehmen, sodass es unerlässlich ist, den komplexen ethischen Herausforderungen von KI umfassend zu begegnen. 

Von KI-Systemen wird zurecht erwartet, dass sie den vorherrschenden sozialen Normen und ethischen Grundsätzen entsprechen. Dass sie zu fairen Entscheidungen führen, die konsistent, transparent, erklärbar und unvoreingenommen sind. Dabei ist es selbstverständlich nicht immer offensichtlich, was ethisch und sozial akzeptabel ist - selbst für das menschliche Auge. Systematische Verzerrungen und Vorurteile bleiben daher eine schwierige Herausforderung für unsere Gesellschaft im Allgemeinen. Durch den Einsatz von KI vergrößern sich diese Probleme jedoch exponentiell.

Heutigen „schwachen“ KI-Anwendungen fehlt der Aspekt allgemeiner Intelligenz, der erforderlich ist, um komplexe soziale Normen eigenständig zu verstehen und zu respektieren. Dies kann zu Ergebnissen der KI-Nutzung führen, die technisch korrekt, aber gesellschaftlich inakzeptabel sind.

Um das Problem zu lösen, braucht es Teamarbeit

Eine naheliegende Lösung für den digital ethischen Einsatz von KI ist die Schaffung einer fachspezifischen Stelle. Mit Blick auf die aufkommenden Herausforderungen im Umgang mit KI wird jedoch schnell deutlich, dass dies zukünftig nicht ausreichen wird:

• Komplexe, vielfältige Anforderungen: Keine einzelne Person kann diesen Anforderungen in allen erforderlichen Bereichen gerecht werden, da Implikationen der KI-Ethik interdisziplinärer Natur sind und über verschiedene Fachbereiche hinweg wirken.
• Stetige Weiterentwicklung von KI und Zunahme an Komplexität: KI wird immer ausgefeilter und relevanter, sodass auch der Umfang an digital-ethischen Fragestellungen sowie deren Komplexität weiter zunimmt.

Eine ähnliche Situation ließ sich in den letzten Jahren im Bereich Data Science und Analytics beobachten: Viele Unternehmen haben mit allen Mitteln nach Data Scientists gesucht. Dabei waren die Anforderungen an diese Rollen ebenso facettenreich, wie dies im Bereich der Operationalisierung von KI-Ethik der Fall ist: Meist wurde eine vielfältige Mischung aus technischen und fachlichen Fähigkeiten gesucht, die kaum in einer einzelnen Person zu finden waren. Obwohl sich viele Organisationen der Notwendigkeit von Data Scientists angesichts der wachsenden Bedeutung von Daten und deren Analyse bewusst waren, scheiterten sie in der Praxis doch in der Regel an unspezifischen und unrealistischen Erwartungen. Diesem Problem ist mit einer koordinierten Teamlösung begegnet worden: Anstatt die Anforderungen und Erwartungen einer Person aufzubürden, finden sich heute diverse Teams in Data-Science-Projekten, in denen Fachleute einzelne Spezialbereiche besetzen, wie zum Beispiel Data Engineering, Maschinelles Lernen oder DevOps.

In dem Moment, in dem KI zu einem strategischen Wettbewerbsvorteil werden soll, muss sich jede Person, die in das Thema KI involviert ist, der Verantwortung für die digital-ethischen Implikationen bewusst sein. Es kann durchaus notwendig sein, eine Position rein formell für die Betrachtung von KI-Ethik verantwortlich zu machen. Allerdings sollte diese nur ein Element in einem großen Netz an KI-Ethik-Maßnahmen darstellen, die als Teil einer umfassenderen KI-Ethik-Strategie zu verstehen sind. Wie an vielen anderen Stellen ist Teamwork der Schlüssel zum Erfolg.

Spezifische Verantwortlichkeiten und essenzielle Fähigkeiten

Eine der Hauptaufgaben eines mit KI-Ethik beauftragten Teams wäre es, die technische Herangehensweise an KI zu verbessern, indem es ethische und soziale Perspektiven in das Design, die Entwicklung und den Einsatz von KI-Systemen einbringt. Außerdem steht die Beratung zu ethischen KI-Praktiken, der Schutz vor unbeabsichtigten Folgen des KI-Einsatzes sowie die Sicherstellung der Verantwortlichkeit für KI-bezogene Entscheidungen und Handlungen im Vordergrund. Auch der Aufbau einer verlässlichen Governance ist unerlässlich.

Die Erfüllung dieser Aufgaben erfordert ein breites Spektrum an Fachwissen und Fähigkeiten, die ein entsprechendes Team in sich vereinen sollte. Dazu zählen u.a.:

• Geschäfts- und Branchenerfahrung: KI-Ethik in einem geschäftlichen Kontext ist auf der Anwendungsebene verortet. Richtlinien, Frameworks und Empfehlungen zur KI-Ethik müssen in der realen Welt anwendbar sein. Dies erfordert praktisches Fachwissen und Erfahrung. Ohne das Verständnis der Branche sowie der Geschäftsaktivitäten und -prozesse können KI-Ethik-Anforderungen schnell als Hemmnis anstatt als Innovationskatalysator aufgefasst werden.
• Technisches Wissen: Da Technologie die Grundlage von KI ist, müssen KI-Ethik-Teams über ein solides Fachwissen in Bezug auf die KI-Technologien verfügen. Dazu gehört das Verständnis für die Vor- und Nachteile unterschiedlicher Modelle in unterschiedlichen Anwendungsszenarien.
• Regulatorisches Wissen: KI-Ethik umfasst viel mehr als die Einhaltung gesetzlicher Vorschriften. Tatsächlich ist das Tempo der KI-Innovation so rasant, dass die damit verbundenen Gesetze und Vorschriften fast immer dem hinterherhinken, was die Technologie leisten kann (und wie sich die gesellschaftlichen Normen und die öffentliche Wahrnehmung verändern). Dennoch ist regulatorisches Wissen nach wie vor eine unerlässliche Basis. 
• Kommunikations- und Kollaborationsfähigkeiten: Die Fragen, die sich aus dem technischen Fortschritt in der KI-Entwicklung ergebenden, sind komplex. Um Menschen zu helfen, digital-ethische Probleme zu erkennen und richtig zu handeln, müssen sie geschult werden. Dazu sind starke kommunikative Fähigkeiten notwendig – auch die Fähigkeit, effektiv über organisatorische Grenzen hinweg zu agieren, sowohl innerhalb der Unternehmenshierarchie als auch über Funktionen und Geschäftsbereiche hinweg.

Der Blick nach vorne: Ohne KI-Ethik wird es schwer

Auch wenn es von Organisation zu Organisation unterschiedlich sein kann, wie und mit welchen Rollen genau den Herausforderungen der KI-Ethik begegnet wird: Die Tatsache, dass KI immer stärker die Grundlage zukünftiger Geschäftsmodelle und -prozesse bildet und ihre Verwendung daher digital-ethischen Prinzipien folgen muss, ist kaum zu leugnen. Die Zeit, Teams für KI-Ethik aufzubauen, ist jetzt.

Wollen Sie mehr über KI-Ethik erfahren und wie sie diese in Ihrem Unternehmen berücksichtigen können? Kontaktieren Sie uns oder laden Sie sich die komplette Publikation (in Englisch) mit weiteren Informationen und Hinweisen hier herunter.