Introduction
L’intelligence artificielle (IA) refaçonne le paysage commercial mondial à une vitesse presque vertigineuse. De nombreuses organisations et leurs directeurs sont impatients de tirer parti de son potentiel pour transformer les opérations commerciales et la prestation de services, et craignent de se faire distancer s’ils ne le font pas. Comme pour toute question commerciale en évolution, les conseils d’administration des entreprises au Canada s’interrogent peut-être sur leur rôle et leurs responsabilités pour aider leur organisation à franchir le cap de l’IA. Même si chaque secteur possède ses particularités, les stratégies efficaces en matière d’IA reposent sur les mêmes éléments clés, soutenus par une solide gouvernance.
Au Canada, les dirigeants sont déjà rompus à l’exercice qui consiste à trouver un équilibre entre l’innovation et l’évolution de l’environnement réglementaire et des pratiques exemplaires émergentes. Pour suivre le rythme effréné du changement, les conseils d’administration des entreprises devront être attentifs à l’avenir de la réglementation sur l’IA et aux normes canadiennes et mondiales émergentes, notamment le cadre de gestion des risques liés à l’IA, l’AI Risk Management Framework du National Institute of Standards and Technology (NIST) des États-Unis et la Loi sur l’intelligence artificielle et les données proposée par le gouvernement fédéral. Certes, le conseil d’administration devra veiller à ce que l’entreprise dispose des procédures nécessaires pour se conformer aux nouvelles règles sur l’IA et l’utilisation des données, mais il occupe également une position clé pour encourager et guider la croissance de l’organisation axée sur l’IA, et s’assurer de sa rentabilité.
Le présent bulletin d’actualité vise à répondre à quelques-unes des questions clés que les conseils d’administration des entreprises sont susceptibles de se poser face aux défis que soulève l’IA.
Comment le conseil d’administration doit-il envisager l’intégration de l’IA dans la stratégie globale de l’entreprise?
Il est indispensable de mettre en adéquation les priorités de l’IA avec les objectifs de l’entreprise. Le conseil d’administration qui cherche à déterminer les priorités pour l’application d’une stratégie d’IA devrait commencer par faire le point sur sa stratégie commerciale existante et les principaux objectifs de l’entreprise, puis évaluer la manière d’intégrer l’IA dans les plans de l’organisation.
Les entreprises qui réussissent le mieux dans leurs stratégies d’IA font appel à des solutions d’IA qui résolvent un problème commercial bien défini. Les premières étapes consistent généralement à trouver des moyens d’optimiser ou d’automatiser les processus opérationnels et à saisir les occasions qui exigent moins d’efforts de mise en œuvre. Le calcul de l’analyse de rentabilité pour les économies de coûts est généralement plus simple, et les premières réussites peuvent être cruciales pour obtenir l’adhésion des parties prenantes à une vision ultérieure et plus vaste de l’IA. L’expérience acquise dans la mise en œuvre de tels projets permet d’acquérir une expertise et un savoir-faire internes qui préparent mieux l’organisation à s’attaquer à des projets plus ambitieux.
Au-delà des premières réussites rapides, la mise en œuvre réfléchie d’une stratégie d’IA oblige souvent l’organisation à porter son regard au-delà des gains d’efficacité à court terme et à envisager des approches systémiques à plus long terme susceptibles de l’aider à se distinguer sur le marché, comme de nouveaux moyens de fournir des services ou d’offrir de nouveaux services jusque-là impossibles à mettre en œuvre. Les administrateurs d’entreprise devront faire preuve d’expérience et de discernement pour évaluer les capacités de la direction et l’état de préparation de l’organisation à percevoir de nouvelles opportunités commerciales innovantes en appliquant l’IA et les données, pour superviser la mise en œuvre du projet et l’intégration de l’IA dans les objectifs et les processus fondamentaux de l’entreprise, et pour assurer la responsabilisation de la direction à l’égard des résultats des investissements.
Quels sont les principaux piliers d’une stratégie de gouvernance de l’IA?
La priorité doit être donnée à une stratégie de gouvernance de l’IA responsable de bout en bout. Les éléments suivants sont des piliers fondamentaux communs que les conseils d’administration des entreprises doivent prendre en compte :
- Responsabilité et gestion des risques. Une bonne gouvernance d’entreprise exige de définir clairement la répartition des responsabilités du développement et de l’utilisation de l’IA, dans un cadre d’analyse des risques et un programme de conformité proportionnels à l’ampleur des activités et à leur répercussion à l’intérieur comme à l’extérieur de l’entreprise.
- Éthique. Un conseil d’administration doit prendre en compte les considérations éthiques éventuelles liées à la mise en œuvre de l’IA dans l’entreprise, notamment les préoccupations relatives à la collecte des données sous-jacentes et les utilisations potentielles des résultats des systèmes d’IA, et évaluer si le système est conforme aux valeurs de l’organisation.
- Transparence. Comme c’est le cas pour les cadres existants de données et de protection des renseignements personnels, il sera essentiel d’assurer la transparence (tant en ce qui concerne l’utilisation des outils d’IA que les risques qui y sont associés) d’une organisation pour gérer les risques associés à l’utilisation de l’IA.
- Partialité et équité. Les systèmes d’IA peuvent avoir des incidences négatives sur la justice et l’équité, notamment en perpétuant des préjugés. Aussi le conseil d’administration devra-t-il évaluer les plans de la direction visant à atténuer ces risques.
Pour les organisations canadiennes, le Code de conduite volontaire visant un développement et une gestion responsables des systèmes d’IA générative avancés d’ISDE constitue une référence précieuse.
Quels sont les principaux risques et les principales préoccupations éthiques liés à l’adoption de l’IA?
Les conseils d’administration devraient se tenir au courant des plans de la direction visant à atténuer de façon proactive les principaux risques associés à l’utilisation des systèmes d’IA et les évaluer régulièrement. Même si les risques évoluent et dépendent du contexte, voici quelques-uns des principaux défis à relever :
- Réputation et équité. Un conseil d’administration doit établir ou mettre à jour des lignes directrices et des normes éthiques claires pour le développement et l’utilisation de l’IA, examiner les mesures proposées par la direction pour surveiller le fonctionnement des systèmes d’IA, et évaluer les plans de la direction pour faire face à tout risque d’atteinte à la réputation qui pourrait découler d’un déploiement non géré.
- Confidentialité. Un conseil d’administration doit se demander s’il n’y a pas lieu de clarifier les politiques existantes en matière de confidentialité dans le contexte de l’utilisation de l’IA, par exemple en interdisant de soumettre des renseignements sensibles, confidentiels ou exclusifs dans des services d’IA générative fournis par des prestataires externes.
- Propriété intellectuelle. Il est possible que le cadre d’analyse de la propriété intellectuelle existant ne protège pas adéquatement les modèles d’IA, ainsi que leurs attributs et leur architecture. Un conseil d’administration doit examiner attentivement la manière dont l’organisation aborde la protection des avantages concurrentiels qu’elle peut tirer des modèles d’IA.
Les conseils d’administration doivent exiger de la direction qu’elle rende compte régulièrement des systèmes qu’elle mettra en œuvre, et des mesures qu’elle utilisera, pour évaluer le fonctionnement du système d’IA, et doivent exiger que l’organisation réexamine et mette à jour périodiquement ses cadres d’analyse de la gestion des risques, parallèlement à l’adoption de la technologie.
Même si la mise en œuvre responsable est importante, le fait de ne pas s’adapter rapidement aux nouvelles possibilités technologiques et de ne pas intégrer rapidement l’IA dans sa stratégie peut également nuire à la viabilité à long terme d’une organisation.
Quelle est la responsabilité des membres des conseils d’administration en matière de formation à l’IA?
Pour guider avec succès les organisations dans l’adoption de l’IA, les conseils d’administration doivent être conscients des possibilités et des risques liés à l’utilisation de cette technologie, en particulier dans la mesure où ils sont liés à la stratégie de l’organisation. Comme les capacités de la technologie et le rythme des initiatives de réglementation dans ce domaine évoluent rapidement, les membres du conseil d’administration devront également actualiser régulièrement leurs connaissances.
À cet effet, nos clients organisent périodiquement des séances de formation à l’intention des administrateurs, qui comprennent des lectures pertinentes et des présentations par la direction, ainsi que des exposés périodiques d’experts externes (technologues, ingénieurs et éthiciens), afin d’aider les membres de leur conseil d’administration à améliorer leurs connaissances.
Comment le conseil d’administration devrait-il répartir la responsabilité de la surveillance de l’IA?
À mesure que l’IA s’intègre à la stratégie de l’entreprise, les directeurs doivent avoir une certaine compréhension de l’IA et de l’approche de l’organisation en matière d’investissement, de développement, d’utilisation et de déploiement de cette technologie. En outre, la diversité des expériences est essentielle à l’adoption d’une IA responsable, et la collaboration entre les disciplines est importante pour prendre des décisions bien équilibrées sur l’utilisation de cette technologie, reflétant une appréciation éclairée de l’activité de l’entreprise.
Il peut être utile de confier à un comité spécial de supervision et de développement de la technologie ou de l’IA la responsabilité de mener une étude plus approfondie des opportunités, des risques et des plans de l’organisation en matière d’IA, de faire rapport au conseil d’administration dans son ensemble et de superviser le déploiement des initiatives d’IA approuvées.
Perspectives
La clé de la réussite dans l’adoption de l’IA réside dans l’engagement total des dirigeants. En outre, plus on attirera l’attention sur la nécessité d’une gouvernance responsable et d’une réglementation de l’IA de la part du gouvernement et des organisations de régulation, plus les administrateurs devront maintenir un même niveau de sensibilisation et se préparer à un examen plus approfondi. Compte tenu du potentiel de perturbation stratégique, opérationnelle et concurrentielle de l’IA, le conseil d’administration a un rôle clé à jouer pour superviser l’adoption de l’IA et aider leur organisation à franchir ce nouveau cap.
