Contrôler et auditer la maîtrise de l'intelligence artificielle

Bonjour et bienvenue pour cette ressource vidéo consacrée au contrôle et à l’audit. Je suis Jean-François Caron, consultant et formateur au sein de la SAS FormaConseils. Je vous propose dans cette ressource quelques points en particulier pour auditer la capacité d’une organisation à maîtriser et contrôler l’intelligence artificielle qu’elle exploite. Ce sujet est particulièrement d’actualité eu égard l’ampleur toujours croissante de l’intelligence artificielle dans nos existences tant personnelles que professionnelles.  L’entreprise s’est vite emparée de ces technologies qui dépassent les procédés mécanistes pour produire des dynamiques cognitives. Les algorithmes et les modèles sont ainsi entrés dans l’espace professionnel pour certainement ne plus le quitter.

L’intelligence artificielle n’en suscite pas moins nombre de réactions pour la plupart contradictoires, entre l’espoir et la crainte. Espoir que les nouvelles technologies nous permettent d’aller plus loin dans la recherche, la connaissance, la compréhension, et ainsi accroître notre bien-être. A l’opposé, crainte que l’intelligence artificielle ne franchisse un jour un palier en termes d’autonomie lui permettant de prendre conscience d’elle-même, et ainsi l’être humain se trouverait dominé par sa création. Nul ne peut dire de quoi demain sera fait, pas même d’ailleurs l’intelligence artificielle.

Toujours est-il que son exploitation au sein des organisations professionnelles génère de nouveaux risques ou en accroît certains qui lui préexistaient. Ainsi, les auditeurs internes comme les contrôleurs se doivent d’intégrer, dans leurs travaux, la gestion des risques inhérents au déploiement de l’intelligence artificielle au sein de l’entité dans laquelle ils interviennent. Cependant, le sujet n’est pas simple. L’immatérialité qui caractérise l’intelligence artificielle complexifie la démarche de contrôle et d’audit. Les auditeurs ont ainsi besoin de repères. C’est ce que je vous propose dans cette ressource, c’est-à-dire des points de contrôle et d’audit ventilés selon trois axes d’investigation, à mon sens essentiels, pour l’exercice et qui sont les suivants : la stratégie déployée par l’organisation en matière d’exploitation de l’intelligence artificielle ; ensuite la gouvernance qui en résulte ; puis la qualité des données compte tenu de la place centrale de l’information dans tour procédé cognitif.

Commençons avec les points de contrôle et d’audit relatifs à la stratégie engagée par et au sein de l’organisation en matière d’intelligence artificielle. Premièrement, les contrôleurs et les auditeurs veilleront à s’assurer que la démarche stratégique est dûment validée par les instances concernées, en l’occurrence le Conseil, et correctement documentée, en décrivant les hypothèses retenues, les moyens alloués, les objectifs assignés, les indicateurs retenus pour tout suivi. A ce stade, il s’agit de vérifier que les orientations spécifiques au déploiement de l’intelligence artificielle s’inscrivent bien dans l’objet social de l’organisation et sont compatibles avec ses activités historiques.

Deuxièmement, toute décision stratégique appelant un cadre d’appétence aux risques, l’intelligence artificielle n’échappe pas à la règle. Il convient en conséquence de contrôler que le cadre de gestion des risques ordonné par le Conseil intègre des facteurs de risques résultant de l’emploi des technologies cognitives, comme la cybersécurité par exemple. Afin d’évaluer cette intégration, le contrôleur ou l’auditeur peut mener une analyse de type SWOT pour apprécier si les forces et les faiblesses en interne, tout comme les opportunités et les menaces extérieures, ont été intégrées dans la démarche d’identification des risques.

Enfin, toujours à propos des aspects stratégiques, la question des moyens est primordiale. Ainsi, le contrôle et l’audit s’intéresseront à la façon dont les besoins fondent les moyens alloués pour développer et exploiter l’intelligence artificielle, que ce soit sur un plan financier, matériel et bien évidemment humain. Les technologies cognitives exigent en effet des compétences spécifiques et de l’expérience avérée.

Le second axe d’investigation pour les contrôleurs et les auditeurs concerne la gouvernance. A ce sujet, l’Institut international d’audit distingue la gouvernance comme l’ensemble des structures, des processus, des procédures déployés pour la réalisation, la gestion et la surveillance des activités liées à l’intelligence artificielle, dont la maîtrise des risques inhérents. Partant de cette définition, le contrôle et l’audit s’assurent que le Conseil, avec l’appui s’il existe du Comité des risques, examine régulièrement la couverture des risques générés par l’emploi des nouvelles technologies. Il importe également de vérifier que tous les processus sont encadrés par des procédures à la disposition de toutes les parties prenantes. Ensuite, les contrôleurs ou les auditeurs constatent si les responsabilités en termes d’intelligence artificielle ont été ou non correctement circonscrites, notamment au travers des fiches de poste. En outre, sachant que les responsabilités sont supportables à condition de détenir les moyens pour les assumer, il convient de s’assurer que l’exercice budgétaire inclut tous les aspects relevant de l’intelligence artificielle.

Pour terminer sur la gouvernance, veillons en tant que contrôleur ou auditeur que le plan de contrôle interne concourt effectivement et efficacement à réduire les risques opérationnels induits par l’usage de technologies cognitives.

Sans donnée de bonne qualité, l’intelligence artificielle ne peut fonctionner correctement. Les informations, le Big Data, sont des matières premières pour les technologies cognitives. Leur imperfection conduit à des raisonnements erronés, aussi puissant soient les modèles qui les sous-tendent. Dans tel cas, les conséquences sont élevées en lorsque l’intelligence artificielle est employée pour décider. Aussi réfléchie soit la décision, elle n’en est pas moins inappropriée si elle se nourrit de fausse information. A ce titre, le contrôle et l’audit interne incluent dans leur tâche des travaux relevant de la qualité des données, plus particulièrement sur base des trois attributs suivants : contrôle, traçabilité, alerte.

Tout d’abord, les contrôleurs et les auditeurs internes vérifient l’existence de points de contrôle concernant le paramétrage des algorithmes et les modèles de calcul, comme le backtesting. D’une façon générale, les contrôles pour la qualité des données portent sur leur exhaustivité, leur unicité, leur disponibilité. Le contrôle et l’audit regardent également la capacité de l’organisation à agréger correctement les informations. La compilation des données représente en effet un processus clé pour le bon fonctionnement de l’intelligence artificielle, avec entre autres la production d’indicateurs en lien avec la stratégie et disponibles dans des délais requis.

S’agissant de la traçabilité, tout flux d’informations doit être identifiable, que ce soit concernant son origine, son contenu, son traitement, sa destination. Tester régulièrement la piste d’audit par une fonction de contrôle de second niveau représente un dispositif efficace en la matière.

Enfin, la possibilité pour l’organisation d’être alertée au plus vite de toute erreur, de toute anomalie, de tout dysfonctionnement, est vitale à propos de l’intelligence artificielle. Compte tenu du volume astronomique d’informations collectées, traitées et diffusées, mais aussi de la multitude des hypothèses et des corrélations retenues, tout grain de sable peut très vite prendre des proportions très significatives pour l’entité. Avec l’intelligence artificielle, la vitesse d’exécution des contrôles et la diffusion des alertes qui en découle sont des éléments essentiels de maîtrise des risques. Le contrôleur et l’auditeur internes ne peuvent donc pas l’ignorer dans leur démarche.

Ainsi se termine cette ressource. J’espère vous avoir sensibilisé et renseigné sur l’implication du contrôle et de l’audit internes à propos de l’intelligence artificielle. N’hésitez pas à me contacter pour tout échange sur le sujet, ou alors si vous souhaitez des renseignements pour une formation ou un accompagnement professionnel. Vous pouvez me joindre par mail ou par Whatsapp aux coordonnées qui s’affichent dans le générique de fin. Il ne me reste plus qu’à vous remercier de votre attention et de vous donner rendez-vous pour une prochaine ressource.

Vous avez des questions à propos de cette ressource vidéo, ou vous souhaitez des renseignement sur les formations que je propose, n'hésitez pas à me laisser un message :