swissVR Monitor: Vous êtes experte en éthique numérique. Qu’est-ce que cela signifie, pour une entreprise, d’utiliser des outils d’IA générative de manière éthique ou responsable?
Cornelia Diethelm: Les contenus générés par l’IA ne reposent que sur des calculs de probabilité et le hasard à partir des données d’apprentissage. Par conséquent, les résultats peuvent se révéler obsolètes, trompeurs ou même inexacts. Utiliser des outils d’IA de manière responsable nécessite pour les collaborateurs et les cadres dirigeants de savoir comment exploiter correctement et conformément à la loi les nouvelles opportunités qu’offrent ces outils et de toujours faire preuve d’esprit critique face aux résultats obtenus. Je conseille aux entreprises de définir une ligne de conduite en matière d’IA et d’investir dans la formation. Grâce à une telle approche, les outils d’IA seront utilisés dans les domaines où ils apportent une réelle valeur ajoutée, par exemple comme source d’inspiration, pour l’optimisation de textes ou pour des illustrations simples et des sous-titres automatisés.
swissVR Monitor: Quelle est la responsabilité incombant au conseil d’administration dans le cadre de l’utilisation de l’IA générative dans l’entreprise?
Cornelia Diethelm: Le conseil d’administration doit s’assurer que les obligations légales et internes sont respectées, par exemple en matière de protection et de sécurité des données ou en prévenant les risques financiers et réputationnels. Cette responsabilité relève de la gestion des risques et ne peut être déléguée. Une autre chose est sûre: l’IA générative va transformer à moyen et long terme de nombreux modèles économiques, processus et profils d’emploi. Aussi, il est de plus en plus important que le comité dispose en son sein de compétences numériques suffisantes et variées afin de garantir le succès de l’entreprise, de la stratégie et de la surveillance de la direction.
swissVR Monitor: Quelles sont les conditions préalables devant être réunies en matière de contenu et d’organisation pour aborder ce thème au sein du conseil d’administration?
Cornelia Diethelm: Sur le plan du contenu, il est important que l’IA générative ne soit pas assimilée à l’IA ou à une technologie de l’information, mais qu’elle soit considérée comme une pièce importante du puzzle de la transformation numérique. Il ne s’agit pas de donner la priorité à une technologie en particulier, il s’agit de savoir, avant tout, comment l’entreprise peut répondre aux exigences du marché de manière plus efficace. Autrement dit: le simple fait qu’une chose soit possible aujourd’hui grâce à l’IA générative ne signifie pas pour autant qu’elle est pertinente et rentable pour l’entreprise. Sur le plan organisationnel, les opportunités et les risques inhérents à l’IA, y compris l’IA générative, devraient être abordés au moins une fois par an, car l’IA devient une technologie de base présente (presque) partout. Cette discussion peut avoir lieu dans le cadre de la gestion des risques ou d’une analyse de marché ou à l’occasion d’une réunion du conseil d’administration. Dans certaines entreprises, un comité chargé de la digitalisation pourrait même s’avérer utile.
swissVR Monitor: D’après les résultats de notre enquête, environ un quart des membres de conseils d’administration considèrent que les préoccupations éthiques comptent parmi les défis les plus importants liés à l’utilisation de l’IA générative. Quels sont, selon vous, les principaux défis éthiques en la matière?
Cornelia Diethelm: Le fait que les contenus générés par l’IA puissent paraître plausibles mais se révéler en même temps totalement inexacts ou inappropriés constitue un défi de taille. C’est pourquoi il faut toujours vérifier leur qualité, leur véracité et les éventuels préjugés qu’ils peuvent véhiculer. S’agissant des images et du matériel audio ou vidéo vient s’ajouter le risque de tromperie, voire de manipulation, par exemple dans le cas d’une image photoréaliste, lorsqu’une voix ou une personne en imite une autre qui existe réellement ou lorsque des deepfakes sont diffusés sans l’autorisation des personnes concernées. On sous-estime également les mauvaises conditions de travail et l’impact sur l’environnement. Dans ce domaine, les fournisseurs doivent agir. Malheureusement, les outils d’IA sont aussi de plus en plus utilisés par les criminels, notamment pour de nouveaux types de fraudes, des cyberattaques personnalisées et des usurpations d’identité.
swissVR Monitor: Environ deux tiers des personnes interrogées affirment que leur conseil d’administration n’a pas encore débattu de la question de ses propres valeurs s’agissant de l’utilisation de l’IA générative. Comment les conseils d’administration peuvent-ils engager une telle discussion sur leurs principes éthiques à ce sujet?
Cornelia Diethelm: Je connais des conseils d’administration qui discutent de ce thème dans le cadre de réunions du CA, ce que je trouve judicieux au vu de la pertinence du sujet. Effet secondaire appréciable: tous peuvent ainsi avoir accès à des connaissances élémentaires sur l’IA générative. Une autre option consisterait à demander à la direction de préparer un état des lieux qui serait discuté en conseil d’administration en amont de l’élaboration d’une stratégie. Les résultats de la discussion au sein du CA pourraient servir à complémenter la stratégie et la gestion des risques ou servir de socle à une ligne directrice en matière d’IA.
swissVR Monitor: Quelles bonnes pratiques recommandez-vous pour la mise en œuvre de directives éthiques sur l’utilisation de l’IA générative?
Cornelia Diethelm: Pour une mise en œuvre réussie, il est tout d’abord essentiel que ces directives soient les plus concrètes et compréhensibles possibles. C’est la meilleure garantie pour qu’elles soient comprises et appliquées en interne. Je conseille également de désigner une personne ou une équipe chargée de répondre aux questions et aux propositions. Et le plus important: assurer des formations, organiser des événements en interne et garantir une communication régulière contribuent à embarquer tous les collaborateurs dans la démarche, à dissiper les craintes éventuelles et à développer de précieuses connaissances au sein même de l’entreprise. L’utilisation responsable d’outils d’IA représente assurément un investissement pour l’avenir de l’entreprise et de ses collaborateurs!
Cornelia Diethelm
Membre du conseil d’administration d’Ethos, vice-présidente du CA de Metron SA et présidente du comité « Corporate Development » du CA de la Sparkasse Schwyz SA
Cornelia Diethelm participe activement à la transformation numérique, à la croisée de l’économie et de la société. Experte en éthique numérique, elle sert d’intermédiaire entre l’économie et les attentes de la société et étudie les tendances en matière de stratégie. Elle transmet son savoir de conseillère indépendante, de conférencière ainsi que de directrice de cursus et d’enseignante en éthique numérique. C’est une pionnière dans la région DACH en matière d’utilisation responsable des données et des nouvelles technologies telles que l’intelligence artificielle (IA). Cornelia Diethelm est membre des conseils d’administration d’Ethos, de Metron et de la Sparkasse Schwyz et copropriétaire de l’entreprise LegalTech Datenschutzpartner. Dans le cadre d’un second cursus, elle a étudié les sciences politiques, l’économie d’entreprise et la macroéconomie, avant de suivre un MAS en Digital Business.