Le Canada n'a pas d'équivalent à la Loi européenne sur l'IA. Ce qu'il a, c'est une mosaïque de lignes directrices sectorielles, un code de conduite volontaire et la Loi sur l'intelligence artificielle et les données qui progresse au Parlement depuis 2022. Pendant ce temps, la Loi européenne sur l'IA est entrée en vigueur en août 2024.
Si votre organisation vend à des clients européens, a des opérations européennes ou fait partie d'une chaîne d'approvisionnement qui inclut des entités européennes, la Loi européenne sur l'IA vous concerne. Dans les services financiers canadiens, ça décrit plus d'organisations qu'on ne le pense.
La Loi européenne sur l'IA est un cadre basé sur le risque. Elle classe les systèmes d'IA en quatre catégories: risque inacceptable (interdit), risque élevé (fortement réglementé), risque limité (obligations de transparence) et risque minimal (aucune obligation spécifique).
Pour les services financiers canadiens, la catégorie à risque élevé est celle qui importe le plus. Les systèmes d'IA utilisés dans la notation de crédit, la souscription d'assurance et les décisions d'emploi entrent dans cette catégorie quand ils sont utilisés dans l'UE ou affectent des individus de l'UE.
La Loi européenne sur l'IA n'exige pas que votre IA soit développée dans l'UE. Elle exige que l'IA affecte des personnes de l'UE ou soit placée sur le marché de l'UE. Pour les institutions financières mondiales avec une exposition européenne quelconque, le seuil est plus bas que la plupart des équipes juridiques ne l'anticipent.
Je détiens la certification de la Loi européenne sur l'IA et j'ai travaillé sur le processus d'évaluation de la préparation à l'IA avec mon équipe à Canada Life. Les pratiques de gouvernance que la Loi exige sont, avec quelques adaptations, de bonnes pratiques pour toute organisation utilisant l'IA dans un environnement réglementé.
Documentation de la logique de décision de l'IA. Tests de biais et de précision avant le déploiement. Mécanismes de surveillance humaine pour les décisions importantes. Surveillance des performances du modèle après le déploiement. Ce ne sont pas des ajouts bureaucratiques au développement de l'IA. Ce sont les pratiques qui empêchent les types d'échecs qui créent un risque réglementaire et de réputation.
La Loi européenne sur l'IA est le cadre de gouvernance de l'IA le plus important jamais adopté. Les organisations de services financiers canadiennes qui la comprennent maintenant seront mieux positionnées que celles qui attendent que la réglementation canadienne crée l'urgence.