L'IA se ferme en grand : la réglementation de l'IA devient (encore plus) sérieuse

Bien que la réglementation soit généralement en retard sur l'innovation technologique, il semble qu'elle rattrape enfin les applications de l'intelligence artificielle (IA), notamment l'apprentissage automatique, l'apprentissage profond et les réseaux neuronaux. Deloitte Global prévoit que l'année 2022 sera marquée par de nombreuses discussions sur une réglementation plus systématique de l'IA, et que plusieurs propositions seront formulées, même si leur mise en œuvre effective n'interviendra probablement qu'à partir de 2023. Certaines juridictions pourraient même tenter d'interdire complètement des sous-domaines entiers de l'IA, tels que la reconnaissance faciale dans les espaces publics, le scoring social et les techniques subliminales. 

Nous savons pourquoi, mais savons-nous comment ? 

Normalement, les prédictions sont précises et quantifiées, mais ce n'est généralement pas possible lorsqu'on parle de changements réglementaires. Pourtant, nous avons de bonnes raisons de croire que les réglementations en matière d'IA seront en passe de devenir plus répandues et plus strictes au cours de l'année prochaine. Dès 2021, il existe des propositions détaillées de l'Union européenne¹ et des documents d'orientation de la Federal Trade Commission (FTC) aux États-Unis² sur une réglementation plus stricte de l'IA. Et la Chine propose de multiples réglementations autour des entreprises technologiques, dont certaines incluent la réglementation de l'IA.³

Pourquoi maintenant et pas avant ? Nous voyons plusieurs raisons :

• L'IA en 2022 sera plus puissante qu'il y a seulement cinq ans. Grâce à des processeurs spécialisés beaucoup plus rapides, à de meilleurs logiciels et à des ensembles de données plus importants, l'IA peut faire plus, et à un coût plus abordable, que jamais.⁴ Par conséquent, l'IA devient omniprésente et omniprésente - ce qui attire à son tour un examen réglementaire plus approfondi.
• Certains régulateurs s'inquiètent des conséquences de l'IA sur l'équité, les préjugés, la discrimination, la diversité et la vie privée. Par exemple, l'outil fondamental de l'IA d'aujourd'hui est l'apprentissage automatique, qui a fait l'objet d'un examen approfondi de la part des régulateurs et d'autres personnes en raison d'éventuels préjugés sociaux.⁵
• Les réglementations en matière d'IA sont un outil concurrentiel au niveau géopolitique. Si un pays ou une région peut établir la norme mondiale en matière de réglementation de l'IA, cela peut donner un avantage concurrentiel aux entreprises opérant dans ce pays ou cette région et désavantager les étrangers.

Certains régulateurs se sont fait entendre sur les dangers de l'IA. Par exemple, dans un document publié en août 2021, la commissaire américaine à la FTC, Rebecca Kelly Slaughter, a écrit : "Des preuves de plus en plus nombreuses révèlent que les décisions algorithmiques peuvent produire des résultats biaisés, discriminatoires et injustes dans une variété de sphères économiques à fort enjeu, notamment l'emploi, le crédit, les soins de santé et le logement".⁶ Elle a ajouté que, bien que la FTC dispose de certains outils existants qui peuvent être utilisés pour mieux réglementer l'IA, "une nouvelle législation pourrait aider à traiter plus efficacement les préjudices générés par l'IA et la prise de décision algorithmique".⁷

Trouver comment réglementer efficacement l'IA ne sera pas chose aisée. L'un des problèmes fondamentaux est que de nombreux calculs de l'IA ne sont pas "explicables" : L'algorithme prend des décisions, mais nous ne savons pas pourquoi il a pris telle ou telle décision. Ce manque de transparence rend la réglementation de l'IA exponentiellement plus difficile que celle des technologies plus explicables et vérifiables qui ont souvent éclairé la prise de décision au siècle dernier. Les réglementations visent à empêcher les décisions prises par l'IA d'avoir des conséquences négatives, telles que la partialité et l'injustice, mais comme les systèmes d'IA responsables de ces décisions sont difficiles à comprendre et à auditer, il peut être difficile de prévoir quand des conséquences négatives se produiront - jusqu'à ce que des personnes ou des institutions aient été touchées.

 Un autre problème potentiel est la qualité des données de formation. Le projet de règlement de l'Union européenne sur l'IA précise que "les ensembles de données de formation, de validation et de test doivent être pertinents, représentatifs, exempts d'erreurs et complets". Toutefois, à l'échelle des données requises pour l'apprentissage automatique, cette norme, en particulier la stipulation selon laquelle elles doivent être "exemptes d'erreurs et complètes", fixe une barre extrêmement élevée que la plupart des entreprises et des cas d'utilisation pourraient ne pas être en mesure de respecter⁸.

 À mesure que l'IA devient utilisée partout, tout le monde a des raisons de se préoccuper de la manière dont elle est réglementée, car ces réglementations peuvent déterminer l'étendue des avantages et des inconvénients que son utilisation pourrait entraîner. Les grandes parties prenantes suivantes devraient être particulièrement intéressées :

Les utilisateurs d'outils d'IA. Les régulateurs sont susceptibles de sévir dans les cas où le biais algorithmique ou d'autres problèmes nuisent à des catégories de personnes. De multiples études montrent que les biais codés par l'IA peuvent entraîner des discriminations en fonction du sexe, de la race, de la sexualité, de la richesse ou du revenu, etc. Ces préjugés ont généralement pour effet de désavantager davantage les personnes déjà défavorisées. Cela s'explique par le fait que l'intelligence artificielle n'est pas vraiment artificielle à 100 % : elle doit être entraînée sur des ensembles de données, qui peuvent refléter les préjugés humains. Le résultat est que l'IA formée sur ces ensembles de données n'élimine pas les préjugés humains, mais les amplifie souvent.   

Un exemple célèbre de biais induit par les jeux de données est celui d'une entreprise qui essayait d'embaucher plus de femmes, mais qui savait que l'outil d'IA continuait à recruter des hommes. Peu importe les efforts déployés par l'entreprise pour éliminer les préjugés, ils ont persisté en raison des données d'entraînement, et l'entreprise a donc cessé d'utiliser l'outil d'IA.⁹

Les réglementations relatives à l'IA affecteront l'utilisation des outils d'IA par les différentes industries et fonctions au sein de celles-ci à des degrés différents. Par exemple, l'IA dans les ressources humaines, spécifiquement pour l'embauche ou la gestion des performances, risque d'être profondément affectée.¹⁰ Il existe déjà de multiples cas où des décisions alimentées par l'IA en matière de recrutement, d'embauche, de promotion, de mesures disciplinaires, de licenciement et de rémunération ont posé problème.

Les régulateurs peuvent également être particulièrement préoccupés par les plateformes Internet qui modèrent le contenu généré par les utilisateurs, dont beaucoup s'appuient fortement sur l'IA pour le faire. Modérer quotidiennement des millions de contenus en temps réel est essentiellement impossible, ou du moins inabordable, sans l'IA. Cependant, une étude réalisée en 2020 affirme que les systèmes de modération algorithmique "restent opaques, ne sont pas soumis à l'obligation de rendre des comptes et sont mal compris" et "pourraient exacerber, au lieu de les résoudre, de nombreux problèmes liés à la politique de contenu mise en œuvre par les plateformes ".¹¹

Du point de vue de l'industrie, le secteur public - la santé, l'éducation, les avantages sociaux, le zonage, la sécurité publique, le système de justice pénale et bien d'autres - peut être profondément affecté. Par exemple, la reconnaissance faciale dans les espaces publics pour l'application de la loi et la justice pénale est déjà largement utilisée, mais c'est l'une des technologies que les réglementations de l'Union européenne envisagent d'interdire, à quelques exceptions près.¹² La réglementation sera également un enjeu important pour les soins de santé et l'éducation du secteur privé, affectant des questions telles que les notes, les bourses, les prêts étudiants et les actions disciplinaires. Le secteur des services financiers sera probablement lui aussi confronté à des implications substantielles, car il utilise l'IA pour tout renseigner, depuis les scores de crédit, les prêts et les hypothèques jusqu'aux assurances et à la gestion de patrimoine.    

Les industries telles que la logistique, l'exploitation minière, la fabrication, l'agriculture et d'autres secteurs pourraient être moins touchées. Les algorithmes d'IA de ces industries peuvent bien sûr présenter des problèmes, mais ils ont tendance à porter sur la précision et les erreurs plutôt que sur la partialité. Cependant, bien que ces problèmes soient moins susceptibles d'entraîner des dommages humains directs, ils peuvent avoir un impact environnemental.

Vendeurs d'outils d'IA. Des dizaines d'entreprises technologiques vendent des outils ou des solutions d'IA pure. Certaines d'entre elles proposent des sous-ensembles de la technologie de l'IA susceptibles d'être plus fortement réglementés ou interdits ; certaines ne proposent même que ces sous-ensembles. Des dizaines d'autres fournissent des solutions globales comportant des composants ou des fonctionnalités d'IA qui pourraient être affectés par la réglementation. Les hyperscalers, en particulier, ont des raisons de surveiller de près les régulateurs. Tous ont des offres d'IA en tant que service qui pourraient être affectées à des degrés divers ; les réglementations pourraient les empêcher de vendre certains services dans certaines zones géographiques, ou les entreprises pourraient même être tenues responsables de l'utilisation de leurs services d'IA par les clients. 

Les utilisateurs d'IA qui sont aussi des vendeurs. De nombreuses plateformes et applications Internet technologiques sont de gros utilisateurs des mêmes technologies d'IA qu'elles vendent directement, qu'elles utilisent pour exécuter leur modèle commercial, ou les deux. Parmi ces technologies, on trouve la reconnaissance faciale, la détection des sentiments et la prédiction du comportement, qui sont toutes des caractéristiques de l'IA susceptibles d'être litigieuses. 

Les régulateurs et la société. Ceux qui établissent les règles sont confrontés à des défis qui leur sont propres, à savoir trouver un équilibre entre les avancées technologiques en évolution rapide et les préoccupations des parties prenantes. Ils auront besoin que les objectifs politiques mondiaux et nationaux soient clairement définis, afin de pouvoir élaborer des lois, des règlements et des codes de conduite qui y répondent. Une approche réglementaire agile, fondée sur l'amélioration, sera probablement plus efficace qu'une législation inflexible fondée sur des règles. Enfin, bien que les régulateurs et les objectifs sociétaux soient globalement liés, ils sont séparés, distincts et parfois non alignés.