Gouvernance de l’IA : un impératif crucial pour les conseils d’administration d’aujourd’hui

Lorsque l’outil d’IA générative ChatGPT a explosé sur le marché mondial en novembre 2022, il a démocratisé l’accès aux plus récentes capacités d’IA en quelques jours¹. Aujourd’hui, près de deux ans plus tard, la croissance des investissements dans l’IA se poursuit : Gartner prévoit que les dépenses mondiales en TI totaliseront 5,26 billions de dollars américains en 2024, soit une hausse de 7,5 % depuis 2023, et l’essentiel de cette augmentation s’expliquerait par les investissements liés à l’IA générative².

À mesure que les organisations se préparent à aller au-delà de la phase d’essai pour intégrer l’IA de manière plus générale à leur stratégie et à leurs activités, les conseils d’administration sont-ils suffisamment proactifs dans la supervision de l’approche de leur organisation en matière d’IA? Assurent-ils un bon niveau de gestion pour aider les équipes de direction des organisations à trouver l’équilibre entre le champ des possibles de l’IA et les risques qu’elle peut présenter?

En juin 2024, le Programme mondial pour les conseils d’administration de Deloitte a mené un sondage auprès de près de 500 membres de conseils d’administration et hauts dirigeants dans 57 pays afin de comprendre le niveau de participation des conseils dans la gouvernance de l’IA. Le sondage portait sur les impressions à l’égard du rythme actuel d’adoption et du rôle du conseil d’administration dans la surveillance stratégique de cette technologie émergente (voir la méthodologie). Nous avons également discuté avec des administrateurs et des spécialistes de Deloitte afin de comprendre comment la gestion de l’IA évolue dans les conseils d’administration partout dans le monde. Il est à noter que, même si le sondage interrogeait à la fois les répondants sur l’IA générative et l’intelligence artificielle en général, nos entrevues ont révélé que de nombreux leaders d’affaires se concentrent principalement sur l’adoption de l’IA générative à l’heure actuelle.

Accroître l’engagement du conseil d’administration pour renforcer la surveillance

Le sondage révèle que, jusqu’à présent, les conseils d’administration ont fait montre d’un engagement limité à l’égard de l’IA : dans l’ensemble des secteurs et des régions, l’IA n’est pas un sujet de discussion souvent abordé lors des réunions du conseil. Seulement 14 % des répondants affirment que leur conseil d’administration discute de l’IA lors de chaque réunion, 25 % affirment qu’elle figure à l’ordre du jour deux fois par année et 16 % affirment que l’IA est abordée une fois par an. Près de la moitié (45 %) des répondants affirment que l’IA n’a pas encore été inscrite à l’ordre du jour de leur conseil d’administration (figure 1).

Parallèlement à cette étude sur les conseils d’administration, le rapport L’état de l’IA générative dans les entreprises | Deloitte Canada³ publié chaque trimestre par Deloitte États-Unis s’intéresse aux hauts dirigeants et aux membres du conseil d’administration d’organisations qui mettent activement en œuvre des technologies d’IA générative afin de suivre en continu les progrès et les défis auxquels les leaders doivent faire face. Le rapport du troisième trimestre de 2024, qui a sondé plus de 2 500 répondants, révèle que, même si « des projets pilotes prometteurs ont conduit à une augmentation des investissements, de nombreuses initiatives en matière d’IA générative n’ont pas dépassé l’étape de la phase d’essai ou de la validation de principe ». Le sondage montre que la gouvernance de l’IA en est encore à ses débuts au sein des conseils d’administration, tout comme des nombreuses organisations qui mettent elles-mêmes à l’essai des cas d’utilisation de l’IA.

Même si l’IA ne figure pas à l’ordre du jour du conseil d’administration, le sujet est parfois abordé dans le cadre des discussions générales sur la technologie tenues avec la direction. « Sans aborder l’IA à proprement parler, les conseils d’administration inscrivent souvent la transformation numérique à l’ordre du jour, et l’IA en fait partie », explique Chikatomo Hodo, administrateur externe siégeant aux conseils d’ORIX Corporation, KONICA MINOLTA Inc., Mitsubishi Chemical Group Corporation et Sumitomo Mitsui Banking.

Lorsque l’IA figure à l’ordre du jour du conseil, près de la moitié des répondants (46 %) affirment qu’elle fait l’objet d’une discussion avec l’ensemble du conseil. Selon ceux qui ont répondu qu’un comité était chargé de questions liées à l’IA, le sujet serait le plus souvent délégué au comité responsable des risques : soit le comité des risques et de la réglementation (25 %), soit le comité d’audit (22 %).

Cependant, la question de savoir à qui incombe la surveillance de l’IA en général, ou plus précisément de l’IA générative, demeure ouverte : « On ne sait toujours pas si la gouvernance de l’IA générative devrait être un sujet pour l’ensemble du conseil d’administration ou pour son comité d’audit, ni même [comment le conseil supervisera] la direction. » Certains aspects de la surveillance et de la gouvernance de l’IA, généralement plus évidents, pourraient être pertinents pour l’ensemble du conseil d’administration, tandis que d’autres aspects seraient plus adéquatement étudiés en comité. Les conseils d’administration pourraient également avoir à réfléchir à la façon de partager la surveillance lorsque certains sujets transcenderont les comités, et certains pourraient décider de former un comité expressément pour se pencher sur l’IA.

Nous avons également demandé aux répondants à quels postes de haute direction il incombait selon eux d’aborder les questions relatives à l’IA et l’IA générative avec le conseil. La plupart (69 %) disent communiquer avec les leaders des technologies, comme le chef de l’information ou le chef des technologies. La moitié des répondants ont indiqué qu’ils discutent de ces sujets avec leur chef de la direction, tandis qu’environ le quart (26 %) des répondants ont indiqué qu’ils s’entretiennent avec le chef des finances.

Les conseils d’administration sont impatients de consacrer plus de temps aux discussions liées à l’IA

De nombreux répondants sont conscients que le niveau d’engagement actuel de leur conseil d’administration pourrait ne pas être suffisant pour superviser les risques et occasions qui pourraient se manifester avec l’utilisation de l’IA, en particulier l’IA générative. Près de la moitié (46 %) se disent insatisfaits ou préoccupés par le temps consacré aux discussions sur l’IA (figure 2).

Cependant, la plupart des répondants ne croient pas que leur organisation soit prête pour un déploiement plus large de l’IA. Seulement 3 % des répondants pensent que leur organisation est très prête, tandis que 41 % affirment que leur organisation n’est pas prête. Cette perception d’un faible niveau de préparation pourrait également expliquer le sentiment d’urgence croissant à mesure que les capacités d’IA continuent de se développer.

De nombreux répondants aimeraient voir des avancées plus rapides : seulement 16 % d’entre eux affirment être satisfaits ou très satisfaits du rythme actuel d’adoption (figure 3), et 44 % d’entre eux affirment que le rythme doit s’accélérer. Ces constatations, combinées au manque de temps consacré à l’IA à l’ordre du jour des séances des conseils d’administration jusqu’à maintenant, mettent en évidence l’occasion qu’ont les conseils d’administration de réfléchir à la surveillance de l’IA, de la définir et de l’intensifier.

L’adoption de l’IA est un parcours, et non une solution rapide

Nombreux sont ceux qui sont impatients de mettre en œuvre l’IA, mais certains conseils d’administration et leaders de secteurs non technologiques ne saisissent peut-être pas à quel point il peut être difficile d’étendre l’IA à l’échelle de l’entreprise. Le rapport L’état de l’IA générative dans les entreprises | Deloitte Canada de Deloitte États-Unis pour le troisième trimestre de 2024 explique comment se présente ce défi à l’heure actuelle : « Les leaders comprennent le caractère essentiel de la gouvernance, de la gestion des risques et de la conformité pour une adoption responsable de l’IA générative, mais il y a encore un écart entre "ce que l’on sait" et "ce que l’on fait" dans la plupart des organisations. »

Daniela Weber-Rey, administratrice indépendante pour Fnac Darty et, jusqu’à récemment, HSBC Trinkaus & Burkhardt AG, explique que les organisations doivent s’assurer qu’elles ont des fondations solides avant de mettre en œuvre l’IA : « Si vous n’avez pas un système de gestion des données adéquat en place, vous ne pouvez pas vraiment utiliser tout le potentiel de l’IA ou de l’IA générative. L’infrastructure de données doit être établie, et il doit y avoir un système de gestion des données approprié dans l’entreprise. »

Et même une fois que les outils sont disponibles, il peut s’avérer encore plus difficile de convaincre les employés de les adopter et de les utiliser réellement. « La question de l’adoption par les employés est très importante, explique Mme Weber-Rey. Il faut que vos employés soient prêts à utiliser les outils, car bon nombre des domaines dans lesquels vous retrouverez l’IA ou l’IA générative sont ceux où il y a beaucoup d’employés, comme le marketing, les ventes, les risques, l’audit et la présentation de l’information financière. »

Le rapport L’état de l’IA générative dans les entreprises | Deloitte Canada de Deloitte États-Unis souligne en outre que les données et les gens sont deux éléments essentiels pour faire passer les initiatives d’IA générative du projet pilote à la production4. Il s’agit de facteurs fondamentaux, tout comme la stratégie, les processus, la gestion des risques et la technologie. Il sera nécessaire pour les organisations d’intégrer tous ces éléments dans leur stratégie en vue des transformations majeures que l’IA et l’IA générative permettront probablement dans les prochaines années et dans un avenir plus lointain.

Les conseils d’administration devront bien comprendre le défi que représente l’expansion de l’utilisation de l’IA dans le respect de la stratégie intégrée de l’organisation. Jean-Dominique Senard, président du conseil d’administration chez Renault, souligne « [qu’]il devrait exister un lien étroit entre le conseil d’administration et la direction, un lien transparent, franc et ouvert ». Pour réaliser de la valeur à long terme, il sera essentiel d’avoir une ambition claire à l’égard de l’IA et de comprendre la valeur qu’elle peut créer.

De nombreux conseils d’administration sont encore en train de se familiariser avec l’IA

Il sera important pour les organisations d’établir un équilibre entre le désir de progresser rapidement et la patience d’évoluer efficacement. Mais pour ce faire, leurs conseils d’administration devront se tenir à jour. Selon le sondage, la plupart des conseils d’administration ont une compréhension limitée des possibilités offertes par l’IA dans leur entreprise. En ce qui concerne le niveau actuel de compréhension de l’IA au sein du conseil, plus des trois quarts des répondants (79 %) affirment que leur conseil d’administration a une connaissance ou une expérience limitée, minimale ou nulle de l’IA (figure 4). À peine 2 % ont déclaré que leur conseil d’administration était très compétent et expérimenté.

« La littératie numérique doit être élevée au sein du conseil d’administration et de la direction, mais il doit aussi y avoir une division des rôles, selon Chikatomo Hodo. En réalité, il n’y a pas beaucoup d’administrateurs externes ayant une expérience en TI, et de nombreuses entreprises accordent la priorité à la diversité des compétences et des antécédents au sein de leur conseil d’administration plutôt que de se concentrer sur la transformation numérique et l’acquisition de connaissances et d’expérience en IA. »

Au sujet de la composition du conseil d’administration, nos entrevues ont mis en évidence l’importance d’arriver à une combinaison appropriée de compétences au sein du conseil, ce qui pourrait inclure des compétences en IA. Certains conseils d’administration se tournent vers des experts externes pour renforcer leurs connaissances et leur maîtrise de l’IA. D’autres préfèrent s’appuyer davantage sur des équipes opérationnelles au sein de leur entreprise pour comprendre les occasions et les défis potentiels que présente l’IA.

Ce sondage montre que les conseils d’administration sont conscients de la nécessité de se perfectionner et prennent des mesures pour accroître les connaissances de l’IA parmi leurs membres (figure 5).

Dans de nombreux pays, la formation des conseils d’administration est recommandée ou obligatoire dans les codes de gouvernance d’entreprise ou d’autres règlements ou lignes directrices connexes. « Il existe une recommandation contraignante dans les codes français et allemand de gouvernance d’entreprise voulant que les membres du conseil d’administration doivent veiller à leur formation. D’un autre côté, l’entreprise est aussi tenue de les appuyer dans cette formation, explique Mme Weber-Rey. Cela s’applique certainement à l’IA générative et à tout changement technologique, comme la numérisation. Par le passé, les administrateurs de certaines entreprises auraient peut-être pu acquérir une grande connaissance des opérations en parcourant les étages des usines. De nos jours, vous avez absolument besoin d’un cours lorsqu’il s’agit d’IA générative, même pour obtenir une compréhension générale. »

Pour aider les conseils à mieux comprendre l’IA, une approche pratique plutôt que théorique permet aux participants d’utiliser et d’expérimenter l’IA. Les avatars numériques, les démonstrations et les expériences pratiques peuvent servir d’outils d’apprentissage pour aider les conseils d’administration à comprendre le « champ des possibles » de l’IA dans leur organisation⁵. Ces expériences peuvent également être adaptées au secteur, ce qui permet à une organisation de refléter les occasions et les défis les plus pertinents dans son environnement opérationnel⁶.

Bien que ces expériences immersives puissent jouer un rôle essentiel pour aider les conseils d’administration à mieux comprendre l’IA, certaines organisations pourraient aussi se demander si les formations seront suffisantes au bout du compte. La composition du conseil d’administration lui-même devrait-elle être modifiée? Plus particulièrement, 8 % des répondants ont indiqué que leur conseil d’administration commençait à inclure des spécialistes de l’IA parmi leurs nouveaux membres (figure 5). Cela montre peut-être que, même si l’on reconnaît plus que jamais la nécessité de la formation dans les conseils d’administration, le fait de disposer d’une véritable expertise numérique, particulièrement en IA, est de plus en plus considéré comme essentiel pour une gouvernance efficace dans le contexte d’affaires actuel.

Quelle que soit l’approche que les conseils adoptent, il sera essentiel de former continuellement les membres des conseils d’administration en apportant des perspectives multidisciplinaires et intersectorielles pour éclairer la prise de décisions.

L’utilisation à court terme de l’IA dans les organisations est principalement axée sur la productivité et l’efficience

Le sondage sur les conseils d’administration a demandé aux répondants dans quelle mesure leur organisation avait intégré l’IA à son plan d’affaires et d’exploitation. Dans leurs plans pour les 12 prochains mois, environ un tiers des répondants (31 %) ont concentré leurs efforts sur l’intégration de l’IA dans certains domaines; 33 % ont indiqué qu’ils faisaient des essais; et 32 % ont indiqué que l’IA n’avait pas encore été intégrée au plan d’affaires et d’exploitation de leur organisation pour les 12 prochains mois. Seulement 4 % d’entre eux affirment que l’IA est intégrée dans leur plan d’affaires et d’exploitation à court terme (12 prochains mois) (figure 6).

Parmi les organisations qui ont commencé à utiliser l’IA d’une manière ou d’une autre, les répondants mentionnent un certain nombre de domaines stratégiques qui sont alignés sur ces investissements (figure 7).

Sans grande surprise, l’amélioration de la productivité et de l’efficacité est le principal domaine stratégique visé (66 %), suivi par l’amélioration de l’expérience client (50 %) et le développement de nouveaux produits ou d’autres innovations (46 %).

Ces priorités stratégiques sont en grande partie alignées sur les secteurs prévus pour les investissements futurs en IA. Les principaux secteurs visés pour les investissements futurs sont les technologies (63 %), l’expérience client (46 %) et les activités principales (40 %) (figure 8).

Jean-Dominique Senard affirme que l’évolution vers l’IA chez Renault s’est faite naturellement et que l’entreprise constate déjà ses avantages comme outil de productivité et de qualité. « L’IA est omniprésente dans l’entreprise, et cela est visible partout lorsque vous visitez une usine Renault. Nous l’utilisons dans les services de conception, de l’ingénierie, des relations clients et, bien sûr, dans nos véhicules. Cet outil représentait une évolution normale pour nous et s’est avéré incroyablement puissant. »

Établir un modèle de gouvernance de l’IA pour les conseils d’administration

Dans un environnement complexe où des occasions, des défis et des priorités se présentent fréquemment, il est essentiel que les organisations exercent une gouvernance à leur échelle. Qu’il s’agisse de la surveillance de l’IA ou de toute autre question émergente, il faut remettre en question les dogmes tout en mettant en œuvre des processus équilibrés qui permettent au conseil d’administration d’exercer ses activités de manière efficiente, transparente et dans l’intérêt supérieur de l’organisation dans son ensemble, en soutenant la croissance, en créant de la valeur à long terme et en soutenant l’organisation.

Compte tenu de cette phase charnière pour l’expérimentation et l’adoption de l’IA générative, quel type de rôle le conseil d’administration devrait-il intégrer dans l’élaboration de ses modèles de gouvernance? La présente recherche a révélé quelques points à considérer pour les conseils d’administration dans le cadre de leurs activités de gouvernance à grande échelle : l’importance d’identifier et d’interagir avec les parties prenantes pertinentes, l’établissement précis des responsabilités du conseil d’administration et la gestion des risques par l’intermédiaire de mesures de protection appropriées.

À mesure que les organisations réfléchissent à l’approche de leur conseil d’administration quant à leurs responsabilités liées à l’IA, il est essentiel de comprendre d’abord les principales parties prenantes de l’organisation. À l’heure actuelle, les répondants considèrent les clients et les employés comme les deux principales parties prenantes à considérer dans la gouvernance de l’IA (figure 9). Cependant, à mesure que l’IA prendra de l’expansion, d’autres groupes de parties prenantes deviendront des facteurs dans la prise de décisions des conseils d’administration.

Daniela Weber-Rey explique : « Les organismes de réglementation examinent principalement ces questions sous l’angle des risques et des contrôles. Les règles de l’UE en matière d’IA sont toutefois très récentes et ne sont pas encore pleinement en vigueur. » Les personnes interrogées ont fait valoir qu’à mesure que le contexte réglementaire s’élargit, particulièrement dans les secteurs fortement réglementés comme les services financiers, les organismes de réglementation deviendront probablement une partie prenante encore plus importante pour les conseils d’administration.

Quels domaines de gouvernance seront dorénavant du ressort du conseil? Les répondants à ce sondage ont indiqué plusieurs aspects qui, selon eux, seront essentiels à une surveillance efficace de la part des conseils d’administration dans un avenir rapproché. Il s’agit notamment de la gouvernance et de la surveillance globales, notamment sur le plan de l’éthique (57 %); de l’élaboration de stratégies, y compris la politique sur l’IA (44 %); de la gestion des risques et des occasions (35 %); et de la surveillance de la mise en œuvre (14 %) (figure 10).

Pendant qu’ils élaborent leurs modèles de surveillance, les conseils d’administration ne devraient cependant pas attendre pour commencer à mettre en place des mesures de protection sur la gestion des risques liés à l’IA. Le danger est que les gens ne comprennent pas les risques associés à l’IA générative. Près des trois quarts (72 %) des répondants du rapport L’état de l’IA générative dans les entreprises | Deloitte Canada de Deloitte États-Unis pour le troisième trimestre estiment que moins de 40 % de leur effectif total a accès aux outils d’IA générative approuvés par leur organisation. Puisque ces employés pourraient accéder à d’autres outils par eux-mêmes, notamment des outils non autorisés, les données de l’organisation pourraient être exposées à des risques. Il s’ensuit que l’organisation pourrait avoir moins de contrôle sur la façon dont l’entreprise intègre l’IA générative.

« Le plus grand risque de l’IA générative est de ne pas prendre le risque d’adopter l’IA générative », acquiesce Daniela Weber-Rey en citant l’une de ses phrases favorites.

Mesures que les conseils d’administration peuvent prendre dès maintenant pour renforcer la surveillance de l’IA

Les données montrent que les conseils d’administration sont impatients de consacrer plus de temps à l’IA et à l’IA générative, d’améliorer leurs connaissances et leur expérience et d’accélérer le rythme d’adoption au sein de leur organisation. Mais comment les conseils d’administration peuvent-ils mieux gérer ces occasions et ces défis? Voici quelques mesures immédiates que les conseils d’administration peuvent envisager pour renforcer la gouvernance de l’IA.

1. Inscrire l’IA à l’ordre du jour du conseil d’administration et en faire une priorité stratégique. Les conseils d’administration qui ne discutent pas encore de l’IA devraient envisager de l’ajouter à l’ordre du jour. Quelques aspects à considérer :
   1. Fréquence des discussions : à quelle fréquence l’IA devrait-elle figurer à l’ordre du jour du conseil?
   2. Séances spéciales : le conseil d’administration bénéficierait-il d’une séance spéciale sur l’IA ou d’une retraite sur la stratégie?
   3. Planification de la stratégie et des scénarios : le conseil a-t-il prévu une discussion initiale avec la direction pour que celle-ci lui présente son analyse des risques et des occasions liés à l’IA et les ambitions de l’organisation en matière d’IA?
   4. Surveillance de la direction : comment le conseil évaluera-t-il, soutiendra-t-il et, au besoin, remettra-t-il en question le point de vue de la direction?
   5. Tolérance au risque : le conseil a-t-il discuté de la tolérance au risque dans l’utilisation de l’IA et, plus généralement, pour l’organisation, compte tenu de l’environnement plus incertain que suscite l’IA?
   6. Veille réglementaire : comment l’organisation se tiendra-t-elle informée sur les contextes réglementaires et de conformité de l’IA dans l’ensemble des régions et des territoires où elle exerce ses activités?
   7. Évaluation : quand et comment l’organisation évaluera-t-elle les progrès et les avantages de l’utilisation de l’IA de manière à assurer une surveillance serrée des investissements sans freiner l’innovation?
2. Définir la structure de gouvernance. Pour exercer efficacement la surveillance, les conseils d’administration devront probablement aussi définir et attribuer des responsabilités liées à l’IA. Quelques points à prendre en compte :
   1. Responsabilité de l’IA au sein du conseil : quelles sont les questions qui devraient être abordées avec l’ensemble du conseil d’administration? Certaines questions peuvent-elles être déléguées à un comité et, si oui, lequel?
   2. Obtention de renseignements fiables et utiles de la direction : le conseil d’administration reçoit-il de la direction des renseignements suffisants et pertinents sur les questions liées à l’IA, y compris la gestion des risques et les contrôles internes, pour exercer son rôle de surveillance?
   3. Accès à plus de leaders : compte tenu de l’ensemble des répercussions dans tous les secteurs de l’entreprise, le conseil d’administration communique-t-il avec d’autres membres clés de la haute direction et des leaders d’affaires au-delà du chef de la direction ou du chef des technologies?
   4. Le juste équilibre : le conseil d’administration s’implique-t-il à un niveau trop élevé pour régir efficacement l’utilisation de l’IA? Est-ce que le perfectionnement des compétences et l’engagement accru des administrateurs pourraient se traduire par une surveillance trop serrée?
3. Évaluer et améliorer les connaissances en IA. Pour superviser efficacement les occasions et les menaces que l’IA peut présenter, les conseils d’administration doivent veiller à ce que leurs membres et leur équipe de direction maîtrisent l’IA. Possibilités à envisager :
   1. Recherche d’occasions de formation pour combler les lacunes dans leurs connaissances : quelles sont les possibilités de formation et d’éducation offertes au conseil d’administration pour l’aider à améliorer ses compétences en IA et en technologies émergentes? Le conseil aurait-il avantage à faire appel à des experts internes ou externes pour éclairer les discussions?
      
   2. Réévaluation de la matrice de compétences : la composition du conseil doit-elle être ajustée pour recruter des membres ayant une plus grande expérience en IA et en technologies émergentes? Qu’en est-il parmi les hauts dirigeants?
      
   3. Refonte des plans de relève pour miser davantage sur les technologies : les plans de relève du conseil d’administration et de l’équipe de direction ont-ils été mis à jour pour mettre l’accent sur les leaders qui ont de l’expérience avec les technologies émergentes, y compris l’IA? Des possibilités d’apprentissage ont-elles été créées pour aider les futurs leaders à accroître leurs compétences et leur expertise dans ces technologies?
   4. Suivi de l’évolution : comment le conseil d’administration peut-il demeurer actif dans le contexte en évolution de l’IA pour se prémunir contre la complaisance et les perspectives dépassées et rester agile et réceptif aux nouvelles capacités de l’IA?