Interview mit Cornelia Diethelm

swissVR Monitor: Sie sind Expertin für digitale Ethik. Was bedeutet es aus Unternehmenssicht, generative KI-Tools ethisch respektive verantwortungsvoll einzusetzen?

Cornelia Diethelm: KI-generierte Inhalte beruhen nur auf Wahrscheinlichkeitsrechnungen und Zufall, ausgehend von den Trainingsdaten. Deshalb können die Ergebnisse veraltet, irreführend oder gar falsch sein. KI-Tools verantwortungsvoll einzusetzen bedeutet, dass Mitarbeitende und Führungskräfte wissen, wie sie die neuen Möglichkeiten richtig und gesetzeskonform nutzen und dass sie sich immer kritisch mit den Ergebnissen auseinandersetzen müssen. Ich empfehle Unternehmen, eine KI-Leitlinie zu formulieren und in Schulungen zu investieren. So werden KI-Tools da eingesetzt, wo sie wirklich einen Mehrwert bieten, zum Beispiel zur Inspiration, Optimierung von Texten oder für einfache Illustrationen und automatisierte Untertitel.

swissVR Monitor: Welche Verantwortung kommt dem Verwaltungsrat beim Einsatz generativer KI im Unternehmen zu?

Cornelia Diethelm: Der Verwaltungsrat muss sicherstellen, dass gesetzliche und interne Vorgaben eingehalten werden, zum Beispiel beim Datenschutz, bei der Datensicherheit oder indem finanzielle und reputationsbedingte Risiken vermieden werden. Dies gehört zum Risikomanagement und ist eine nicht delegierbare Aufgabe. Klar ist auch, dass die generative KI viele Geschäftsmodelle, Prozesse und Jobprofile mittel- bis langfristig verändern wird. Für den Unternehmenserfolg, die Strategie und die Aufsicht der Geschäftsleitung wird es deshalb immer wichtiger, dass im Gremium genügend digitale Kompetenz aus unterschiedlichen Blickwinkeln vertreten ist.

swissVR Monitor: Welche sind die inhaltlichen und organisatorischen Voraussetzungen, die bei diesem Thema im Verwaltungsrat gegeben sein müssen?

Cornelia Diethelm: Inhaltlich ist wichtig, dass generative KI nicht mit KI oder IT gleichgesetzt wird, sondern als ein wichtiges Puzzleteil der digitalen Transformation verstanden wird. Im Zentrum sollte nicht eine bestimmte Technologie stehen, sondern die Frage, wie das Unternehmen noch besser auf die Bedürfnisse am Markt eingehen kann. Oder anders formuliert: Nur weil etwas heute mit generativer KI möglich ist, bedeutet es noch nicht, dass es sinnvoll ist und sich für das Unternehmen rechnet. Organisatorisch sollten die Chancen und Risiken von KI inklusive generative KI mindestens einmal pro Jahr thematisiert werden, weil KI zu einer Basistechnologie wird, die (fast) überall drinsteckt. Diese Auseinandersetzung kann im Rahmen des Risikomanagements, der Marktanalyse oder anlässlich einer
VR-Klausur geschehen. Bei manchen Unternehmen könnte sogar ein Digitalisierungsausschuss sinnvoll sein.

swissVR Monitor: Gemäss unserer Befragungsergebnisse sieht circa ein Viertel der Verwaltungsratsmitglieder ethische Bedenken als Teil der wichtigsten Herausforderungen beim Einsatz generativer KI. Welche sind diese grössten ethischen Herausforderungen bei diesem Thema aus Ihrer Sicht?

Cornelia Diethelm: Besonders herausfordernd ist, dass KI-generierte Inhalte plausibel klingen, inhaltlich aber komplett falsch oder unpassend sein können. Deshalb muss das Ergebnis immer auf seine Qualität, den Wahrheitsgehalt und mögliche Vorurteile überprüft werden. Bei Bildern, Audio- und Videomaterial kommt die Gefahr der Täuschung oder sogar der Manipulation hinzu, zum Beispiel bei einem fotorealistischen Bild, wenn eine Stimme oder Person einer real existierenden Person nachempfunden wird oder wenn Deepfakes ohne Erlaubnis der betroffenen Personen verbreitet werden. Unterschätzt werden auch die schlechten Arbeitsbedingungen und die Umweltbelastung. Hier besteht Handlungsbedarf bei den Anbietern. KI-Tools werden leider auch vermehrt von Kriminellen genutzt, zum Beispiel für neue Betrugsarten, personalisierte Cyberattacken und Identitätsdiebstahl.

swissVR Monitor: Rund zwei Drittel der Befragten gibt an, dass ihr Verwaltungsrat bisher die eigenen Werte in Bezug auf den Einsatz generativer KI nicht diskutiert hat. Wie können VR-Gremien eine solche Auseinandersetzung mit ihren ethischen Grundsätzen zu diesem Thema initiieren?

Cornelia Diethelm: Ich kenne Verwaltungsräte, die dieses Thema auf einer VR-Klausur besprechen, was ich mit Blick auf die Relevanz des Themas sinnvoll finde. Ein schöner Nebeneffekt davon ist, dass alle von einem Basiswissen zur generativen KI profitieren können. Eine andere Möglichkeit wäre es, sich von der Geschäftsleitung eine Auslegeordnung vorbereiten zu lassen, die im Verwaltungsrat mit Blick auf die Strategie besprochen wird. Das Ergebnis der Diskussion im VR könnte zu Ergänzungen in der Strategie und beim Risikomanagement führen oder als Basis für eine KI-Leitlinie dienen.

swissVR Monitor: Welche Best Practices empfehlen Sie für die Implementierung ethischer Richtlinien zur Nutzung generativer KI?

Cornelia Diethelm: Für die erfolgreiche Implementierung ist zuerst einmal zentral, dass die Richtlinie möglichst konkret und gut verständlich ist. Das ist der beste Garant dafür, dass sie intern verstanden und umgesetzt wird. Ausserdem empfehle ich, eine Person oder ein Team zu bezeichnen für Fragen und Anregungen. Und das Wichtigste: Schulungen, interne Anlässe und eine regelmässige Kommunikation helfen, alle Mitarbeitenden auf die Reise mitzunehmen, mögliche Ängste abzubauen und wertvolles Wissen intern aufzubauen. Der verantwortungsvolle Umgang mit KI-Tools ist definitiv eine Investition in die Zukunft des Unternehmens und der Mitarbeiten!