Article

KI-Ethik: Braucht Ihr Unternehmen einen Chief AI Ethics Officer?

Den Herausforderungen der ethischen Dimension von Künstlicher Intelligenz begegnen

Durch die fortschreitende Verwendung Künstlicher Intelligenz sowie deren zunehmender Autonomie rücken ethische Aspekte mehr und mehr in den Vordergrund. Sowohl in der gesellschaftlichen als auch in der politischen Debatte nimmt das Thema KI-Ethik eine immer größere Rolle ein, wie zuletzt auch die Vorschläge der EU-Kommission zum Thema „Exzellenz und Vertrauen“ in KI zeigen. Gleichzeitig gehen immer noch viele Unternehmen fälschlicherweise davon aus, dass sie dem Thema KI-Ethik mit minimalem Ressourcenaufwand begegnen können.

Zunehmende Bedeutung von KI-Ethik

Der Einsatz von KI in Unternehmen nimmt bereits seit geraumer Zeit zu, sowohl in der Breite als auch in der Tiefe der Anwendungsfälle. Dieser Trend wurde zuletzt auch durch die anhaltende COVID-19-Krise und das damit einhergehende Erfordernis sozialer Distanz verstärkt. Während dies auf der einen Seite zu enormen Potenzialen für die Unternehmen führt, erhöht es gleichzeitig auch das Risiko, eine KI zu verwenden, die sich in Teilen unethisch und unangemessen verhält. Zukünftig wird die Interaktion zwischen Mensch und KI weiter zunehmen, sodass es unerlässlich ist, den komplexen ethischen Herausforderungen von KI umfassend zu begegnen. 

Von KI-Systemen wird zurecht erwartet, dass sie sich genau wie ihre menschlichen Teammitglieder an soziale Normen und ethische Grundsätze halten. Dass sie faire Entscheidungen treffen, die konsistent, transparent, erklärbar und unvoreingenommen sind. Dabei ist es selbstverständlich nicht immer offensichtlich, was ethisch und sozial akzeptabel ist - selbst für das menschliche Auge. Systematische Verzerrungen und Vorurteile bleiben daher eine schwierige Herausforderung für unsere Gesellschaft im Allgemeinen. Durch den Einsatz von KI vergrößern sich diese Probleme jedoch exponentiell.

Der KI fehlt derzeit der menschliche Aspekt allgemeiner Intelligenz, der erforderlich ist, um den gesunden Menschenverstand bei der Entscheidungsfindung anzuwenden und komplexe soziale Normen eigenständig zu verstehen und zu respektieren. Dies kann zu Verhaltensweisen von KI führen, die technisch korrekt, aber gesellschaftlich inakzeptabel sind.

Um das Problem zu lösen, braucht es Teamarbeit

Der auf den ersten Blick einfachste Weg, der Herausforderung zu begegnen, besteht darin, eine einzelne Person mit Fachwissen in allen erforderlichen Bereichen einzustellen und ihr die Verantwortung zu übertragen, dass alle Fragen rund um Ethik und KI im Unternehmen angemessen adressiert werden. Vorausgesetzt, wir sind an einer tatsächlichen Lösung interessiert und wollen den Aspekt der KI-Ethik nicht einfach nur „abhaken“, gibt es mindestens zwei Gründe, die gegen dieses Vorgehen sprechen:

  1. Komplexe, vielfältige Anforderungen: Keine einzelne Person kann diesen Anforderungen glaubhaft in allen erforderlichen Bereichen gerecht werden, da Anforderungen an KI-Ethik oft im Widerspruch zu den Anforderungen der Entwickler und Business Stakeholder stehen.
  2. Stetige Weiterentwicklung von KI und Zunahme an Komplexität: KI wird immer ausgefeilter und wichtiger, sodass auch der Umfang an ethischen Fragestellungen sowie deren Komplexität weiter zunimmt und die Fähigkeiten einer Person zukünftig übersteigen wird.

Eine ähnliche Situation konnten wir in den letzten Jahren im Bereich Data Science und Analytics beobachten: Viele Unternehmen haben händeringend nach Data Scientists gesucht. Dabei waren die Anforderungen an diese Rollen ähnlich wie die an KI-Ethiker: Meist wurde eine vielfältige Mischung aus technischen und fachlichen Fähigkeiten gesucht, die kaum in einer einzelnen Person zu finden waren. Obwohl sich viele Organisationen der Notwendigkeit von Data Scientists angesichts der wachsenden Bedeutung von Daten und deren Analyse bewusst waren, scheiterten sie in der Praxis doch in der Regel an unspezifischen und unrealistischen Erwartungen. Diesem Problem ist mit einer koordinierten Teamlösung begegnet worden: Anstatt die Anforderungen und Erwartungen einer Person aufzubürden, finden sich heute diverse Teams in Data-Science-Projekten, in denen Fachleute einzelne Spezialbereiche besetzen, wie zum Beispiel Data Engineering, Maschinelles Lernen oder DevOps.

In dem Moment, in dem KI zu einem strategischen Wettbewerbsvorteil werden soll, muss jede Person, die mit dem Thema KI involviert ist, die Verantwortung für die ethischen Implikationen übernehmen. Es kann durchaus notwendig sein, eine Person rein formell für die Betrachtung von KI-Ethik verantwortlich zu machen. Allerdings sollte diese nur ein Element in einem großen Netz an KI-Ethik-Ressourcen darstellen. 

Spezifische Verantwortlichkeiten und essenzielle Fähigkeiten

Eine der Hauptaufgaben einer beauftragten Person für KI-Ethik wäre es, die technische Herangehensweise an KI zu verbessern, indem sie ethische, soziale und politische Perspektiven in das Design, die Entwicklung und den Einsatz von KI-Systemen einbringt. Außerdem steht die Beratung zu ethischen KI-Praktiken, der Schutz vor unbeabsichtigten Folgen falsch handelnder KI sowie die Sicherstellung der Verantwortlichkeit für KI-bezogene Entscheidungen und Handlungen im Vordergrund.

Die Erfüllung dieser Aufgaben erfordert ein breites Spektrum an Fachwissen und Fähigkeiten, darunter:

  • Technisches Wissen: Da Technologie die Grundlage von KI ist, müssen KI-Ethiker und ihr Team über ein solides Fachwissen in Bezug auf die KI-Technologien verfügen. Sie können nicht glaubwürdig zu KI-Ethikfragen beraten, wenn sie die Möglichkeiten und Grenzen der Technologie nicht vollständig verstehen. Sie müssen sich auskennen mit all den kleinen, aber wichtigen Details, die sich darauf auswirken, wie ein KI-System konzipiert, entwickelt und eingesetzt wird.
  • Regulatorisches Wissen: KI-Ethik umfasst viel mehr als die Einhaltung gesetzlicher Vorschriften. Tatsächlich ist das Tempo der KI-Innovation so rasant, dass die damit verbundenen Gesetze und Vorschriften fast immer dem hinterherhinken, was die Technologie leisten kann (und wie sich die gesellschaftlichen Normen und die öffentliche Wahrnehmung verändern). Dennoch ist regulatorisches Wissen nach wie vor unerlässlich. 
  • Geschäfts- und Branchenerfahrung: KI-Ethik in einem geschäftlichen Kontext kann und darf nicht nur eine philosophische Übung sein. Richtlinien, Frameworks und Empfehlungen zur KI-Ethik müssen in der realen Welt anwendbar sein. Dies erfordert praktisches Fachwissen und Erfahrung. Ein fehlendes Verständnis der Branche und des Geschäfts kann leicht darin resultieren, dass KI-Ethik-Anforderungen als lästig angesehen werden und einfach ignoriert werden. 
  • Kommunikations- und Kollaborationsfähigkeiten: Fragen rund um Ethik und KI sind von Natur aus komplex und nicht von jetzt auf gleich zu verstehen. Um Menschen zu helfen, diese Probleme zu verstehen und richtig zu handeln, sind starke kommunikative Fähigkeiten notwendig. Es erfordert auch die Fähigkeit, effektiv über organisatorische Grenzen hinweg zu agieren, sowohl innerhalb der Unternehmenshierarchie als auch über Funktionen und Geschäftsbereiche hinweg.

Der Blick nach vorne: Ohne KI-Ethik wird es schwer

Auch wenn sich darüber streiten lässt, wie und mit welchen Rollen man genau den Herausforderungen der KI-Ethik in einem Unternehmen oder einer Organisation begegnet: Die Tatsache, dass KI immer stärker die Grundlage zukünftiger Geschäftsmodelle und -prozesse bildet und sie sich entsprechend ethisch und angemessen verhalten muss, ist kaum zu leugnen. Es ist daher keine Option, das Thema KI-Ethik einfach zu ignorieren. Unabhängig davon, ob Sie sich für einen individuellen oder teambasierten Ansatz entscheiden, es ist wichtig, jetzt loszulegen. Die Zeit, sich ausführlich mit KI-Ethik zu befassen, hat soeben erst begonnen.

Wollen Sie mehr über KI-Ethik erfahren und wie sie diese in Ihrem Unternehmen berücksichtigen können? Kontaktieren Sie uns oder laden Sie sich die komplette Publikation (in Englisch) mit weiteren Informationen und Hinweisen hier herunter