Intelligence artificielle : quelles évolutions pour les profils de risques des entreprises ? 

Diminution, augmentation ou encore apparition de risques... l'introduction de l'IA risque d'avoir de nombreuses conséquences en entreprise.

Les facteurs générateurs de risque :

• Qualité, quantité et pertinence des données utilisées. Les résultats des systèmes d'IA seront dépendants de la qualité et de la quantité des données. Si les jeux de données utilisés pour construire les algorithmes contiennent des biais, l’algorithme généré reflétera vraisemblablement lui aussi ces biais, voire les amplifiera.
• L’opacité de fonctionnement (boîte noire lorsqu’on parle d’IA). Contrairement aux anciennes générations de l’IA, où les systèmes prenaient des décisions très claires et établies par l’homme, les nouvelles générations s’appuieront sur des méthodes statistiques très complexes, basées sur des milliers de paramètres. Tous ces facteurs vont rendre la décision finale difficilement interprétable et explicable par l’homme. 
• Des dysfonctionnements possibles. Les algorithmes ne disposent pas des capacités de compréhension conceptuelle et de sens commun propres à l’homme, et qui sont nécessaires pour évaluer des situations radicalement nouvelles. En particulier, il existe de fortes incertitudes en cas d’évènements de type « cygne noir » . Par exemple, dans le cadre des voitures autonomes, il est complexe de prédire le comportement de l’IA du véhicule confronté à un scénario de travaux de construction sur la route, d’un objet tombant d’un camion, d’une combinaison inédite de conditions météorologiques, etc.

Ces 3 facteurs entraineront des modifications dans le profil des risques des entreprises. 

Les risques pour les entreprises :

• Bouleversement de l’environnement concurrentiel. La compétition traditionnelle sera bouleversée par le renforcement de nouveaux acteurs tels que les GAFA. 
• Dépendance à l’égard de tiers. Dans l’entreprise il y a également un risque de dépendance à l’égard de tiers. 33 % des entreprises internalisent le développement des systèmes de l’IA et 67 % l’externalisent. Ce recours massif à l’externalisation peut avoir des impacts importants sur l’indépendance des entreprises à long terme. 
• La défaillance des systèmes de l’IA. Les enjeux de fiabilité de l’IA peuvent contribuer à renforcer un risque classique dans les entreprises : celui de la défaillance des systèmes d’information. Les systèmes d’intelligence artificielle peuvent être défaillants et provoquer une interruption de l’activité et/ou des dysfonctionnements majeurs (pertes de données, erreurs, informations incohérentes, etc.).
• Risques humains. L’introduction massive d’IA dans la société va modifier le marché de l’emploi avec la disparation de certains emplois et la création de nouveaux. Ces changements vont réduire les besoins en personnel sur certains types de tâches, avec la nécessité de réallouer et former ces ressources sur d’autres activités.
• Des risques liés à la transformation des modèles de compétences. L’IA va permettre la création de nouveaux emplois, comme cela a été le cas dans les dernières décennies avec l’apparition de nouvelles fonctions comme chief data officer, data scientist, community manager, data personal officer, etc. Les entreprises auront donc besoin de trouver de nouvelles compétences pour mettre en place, tester et gérer les nouvelles applications d’IA. La rareté actuelle sur ce type de compétences pourrait constituer un risque à court terme. Une fois les compétences trouvées, la mise en place d’une gouvernance appropriée et leur interaction avec les fonctions traditionnelles vont représenter des défis majeurs pour les entreprises.