La gouvernance de l’IA : risques, incertitudes et avantages

Résumé et recommandations

L’intelligence artificielle, ou IA — la capacité qu’ont les machines d’effectuer des tâches intelligentes comme le tri, l’analyse, la prévision et l’apprentissage — promet des avantages considérables pour les Canadiens et les Canadiennes. Les entreprises qui développent et commercialisent l’IA ont un potentiel de croissance et de création d’emplois. Les organisations qui adoptent les technologies de l’IA peuvent quant à elles améliorer leurs opérations, accroître leur productivité et générer des avantages sanitaires, sociaux et économiques dont tout le monde pourra profiter.

Certaines applications de l’IA présentent pourtant des risques pour les individus et les communautés :

• l’automatisation activée par l’IA menace de perturber les marchés du travail et l’emploi;
• les analyses prédictives dans les secteurs de la finance, de l’éducation, des forces de l’ordre, etc. peuvent renforcer les préjugés raciaux, sexistes et de classe; et
• les méthodes de collecte des données utilisées dans le développement et les applications de l’IA enfreignent souvent la vie privée et sont appliquées sans le consentement des intéressés (voir par example Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, Twitter and Tear Gas: The Power and Fragility of Networked Protest, Data Governance in the Digital Age)

Les décideurs politiques en matière d’IA sont tiraillés entre deux choses. D’un côté, ils doivent établir les conditions qui permettront à l’IA de prospérer et de procurer des avantages qui profiteront à tous. De l’autre, ils doivent être conscients des méfaits que certaines applications de l’IA peuvent générer et renforcer, et les combattre. Face à ce dilemme, plusieurs options sont possibles, qui vont du laisser-faire propice au développement et à la diffusion sans limites de l’IA à une approche prudente qui limiterait le développement de l’IA jusqu’à ce que les risques soient mieux compris et que la capacité à les gérer soit en place. L’IA est une technologie de plateforme dont les applications possibles — et donc les profils de risque — sont multiples. Nous recommandons par conséquent de régir l’IA en adoptant une approche contextuelle au cas par cas de la gestion des risques, plutôt que de laisser faire sans réserve ou d’adopter une approche préventive. Cela rendrait possible le développement des technologies et des applications de l’IA tout en surveillant et gérant les risques à mesure que ceux-ci se pointent dans certaines applications spécifiques.

Pour institutionnaliser au Canada une approche de la gouvernance de l’IA axée sur la gestion des risques, nous recommandons au gouvernement du Canada de créer deux nouveaux organismes :

• un conseil de gouvernance des risques associés à l’IA; et
• une agence d’évaluation de l’impact des algorithmes.

Lire le rapport au complet