En 2017, le Conseil européen a souligné la nécessité de prendre en compte les tendances de l'intelligence artificielle (IA) tout en maintenant des normes élevées en matière de protection des données et d'éthique. En 2023, les préoccupations concernant l'utilisation abusive de ChatGPT ont conduit à l'interdiction temporaire de l'Italie. L'Union européenne (UE) élabore actuellement la loi sur l'IA afin de créer des directives éthiques en matière d'IA.
Qu'est-ce que la loi européenne sur l'IA ?
La loi européenne sur l'IA vise à créer un cadre juridique unifié pour le développement et le déploiement de l'IA dans les États membres. En établissant des règles cohérentes, le règlement cherche à prévenir un marché fragmenté tout en favorisant l'innovation et en garantissant un niveau élevé de protection pour les citoyens.
Il favorise l'adoption d'une IA centrée sur l'humain et digne de confiance tout en garantissant un niveau élevé de santé, de sécurité, de droits fondamentaux, y compris la démocratie et l'État de droit, la protection de l'environnement contre les effets néfastes de l'IA, et en soutenant l'innovation. Il assure également la libre circulation de l'IA et empêche les États membres d'imposer des restrictions au développement, à la commercialisation et à l'utilisation de l'IA sauf autorisation explicite du présent règlement. Son objectif est de favoriser une IA digne de confiance en Europe et au-delà, et de garantir que les systèmes d'IA respectent les droits fondamentaux, la sécurité et les principes éthiques.
Quels sont les risques de l'IA ?
Bien que l'objectif ultime de l'IA soit d'accroître le bien-être humain, les composantes mêmes qui génèrent les avantages socio-économiques de l'IA peuvent également introduire de nouveaux risques ou des conséquences négatives pour les individus ou la société. Ces risques peuvent causer un préjudice à l'intérêt public et aux droits fondamentaux protégés par le droit de l'Union, à savoir : un préjudice matériel ou immatériel, y compris physique, psychologique, sociétal ou économique.
La loi offre un cadre réglementaire équitable et mesuré pour l'IA qui adopte une approche horizontale, se concentrant uniquement sur les exigences essentielles pour traiter les risques et problèmes associés sans restreindre excessivement le progrès technologique ni gonfler déraisonnablement les coûts de mise sur le marché des solutions d'IA. La législation utilise une approche fondée sur les risques (AFR) en catégorisant les risques en quatre catégories, chaque niveau nécessitant un degré de réglementation différent :
1. Risque minimal : Ces systèmes ne seront pas soumis aux réglementations de l'UE.
2. Risque limité : Ces systèmes devront se concentrer sur la transparence envers leurs clients pour se conformer à la législation.
3. Risque élevé : Ces systèmes doivent faire l'objet d'une évaluation rigoureuse des risques.
4. Risque inacceptable : Ces systèmes seront interdits dans l'UE car ils constituent une menace pour les droits de l'homme.
Des évaluations de conformité seront effectuées sur les systèmes d'IA à haut risque pour évaluer leur conformité au règlement, ainsi qu'une procédure d'urgence, "permettant aux forces de l'ordre de déployer un outil d'IA à haut risque n'ayant pas passé la procédure d'évaluation de conformité en cas d'urgence". Les systèmes d'IA à haut risque devront respecter des exigences strictes, comprenant des mécanismes d'atténuation des risques, des ensembles de données de haute qualité, la journalisation des activités, une documentation complète, une communication transparente avec les utilisateurs, une supervision humaine et des niveaux élevés de robustesse, de précision et de cybersécurité. Les bacs à sable réglementaires favoriseront l'innovation responsable et la création de systèmes d'IA conformes aux normes réglementaires.
L'autonomie et la supervision humaines, la robustesse technique et la sécurité, la confidentialité et la gouvernance des données, la transparence, la diversité, la non-discrimination et l'équité, le bien-être social et environnemental et la responsabilité sont les principes éthiques non contraignants de l'IA.
L'innovation rencontrera-t-elle des difficultés ?
Bien que ces exigences puissent initialement sembler entraver l'innovation, elles pourraient en fin de compte favoriser un écosystème d'IA plus durable et digne de confiance dans la finance. Le cadre réglementaire clair offre une certitude aux entreprises qui investissent dans le développement de l'IA, ce qui pourrait encourager une adoption plus large des technologies d'IA.
L'accent mis par le règlement sur la qualité des données et l'atténuation des biais pourrait conduire à des systèmes d'IA plus fiables et équitables, renforçant la confiance des clients et ouvrant potentiellement de nouvelles opportunités de marché. De plus, l'accent mis sur l'explicabilité et la transparence pourrait stimuler les innovations en matière d'IA interprétable, un domaine d'importance croissante dans la finance.
Quels seront les principaux défis pour les services financiers ?
Charge de conformité : Le règlement catégorise les applications d'IA en fonction d'une approche fondée sur les risques. Les applications à haut risque, telles que la notation de crédit basée sur l'IA ou les systèmes de détection des fraudes, seront confrontées à des exigences de conformité plus strictes. Les institutions financières, les fintechs et les sociétés de regtech devront investir dans des ressources et une expertise pour garantir que leurs systèmes d'IA respectent ces réglementations en développant des processus de documentation plus robustes et en formant leur personnel à la supervision de l'IA.
Gouvernance des données : La loi met l'accent sur l'utilisation responsable des données et interdit les systèmes d'IA discriminatoires. Les entreprises devront examiner leurs pratiques de collecte de données et s'assurer que les modèles d'IA sont formés sur des ensembles de données non biaisés pour éviter de perpétuer des biais dans la prise de décision financière.
Explicabilité et transparence : La nature "boîte noire" de certains modèles d'IA peut être problématique. La loi souligne la nécessité d'une IA explicable, exigeant que les différentes entreprises comprennent comment leurs systèmes d'IA parviennent à des décisions et soient capables de les expliquer aux régulateurs et aux consommateurs. Pour les entreprises multinationales, le défi de se conformer à la loi parallèlement à d'autres réglementations régionales (comme celles des États-Unis ou de l'Asie) pourrait créer une complexité supplémentaire.
Bien qu'elle introduise indéniablement des défis réglementaires pour les services financiers, elle présente également des opportunités significatives. En favorisant un cadre solide pour le développement responsable de l'IA, la loi peut servir de catalyseur pour l'innovation. Une gestion des risques améliorée, des systèmes sophistiqués de détection des fraudes et des expériences client personnalisées ne sont que quelques-uns des avantages potentiels. Alors que les entreprises naviguent dans ce nouveau paysage, une approche stratégique axée sur la conformité, la gouvernance des données et l'explicabilité sera cruciale. En fin de compte, la loi européenne sur l'IA positionne le secteur financier pour exploiter la puissance de l'IA tout en protégeant les intérêts des consommateurs et en maintenant la confiance.
Que se passe-t-il en cas de non-conformité ?
Les entreprises qui ne respectent pas les réglementations seront confrontées à des sanctions. Ces sanctions varieront. Pour les violations impliquant des applications d'IA interdites, les amendes pourraient s'élever à 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial de l'entreprise (le montant le plus élevé étant retenu), tandis que les violations d'autres obligations pourraient entraîner des amendes de 15 millions d'euros ou 3 %. La fourniture d'informations inexactes peut entraîner des amendes de 7,5 millions d'euros ou 1 %. La loi sur l'IA prévoit des limites plus proportionnées pour les amendes administratives infligées aux petites et moyennes entreprises (PME) et aux start-ups en cas de violations.
Comment les institutions financières peuvent-elles transformer la réglementation de l'IA en un avantage concurrentiel ?
Malgré la charge de conformité, la loi européenne sur l'IA présente des opportunités pour les institutions financières avant-gardistes. Les entreprises qui adoptent les principes d'une IA éthique et digne de confiance pourraient obtenir un avantage concurrentiel, tant en termes de confiance des clients que de conformité réglementaire. Le soutien du règlement aux pôles d'innovation et aux bacs à sable réglementaires de l'IA pourrait fournir des terrains d'essai précieux pour de nouveaux produits et services financiers basés sur l'IA. De plus, alors que l'UE se positionne comme un leader de l'IA digne de confiance, les entreprises financières basées dans l'UE qui adhèrent à ces normes élevées pourraient trouver de nouvelles opportunités sur le marché mondial.
Quelle est la prochaine étape pour les services financiers à l'ère de l'IA ?
La loi européenne sur l'IA marque un moment charnière pour le secteur des services financiers. Alors que les entreprises sont confrontées aux complexités de ce nouveau paysage réglementaire, une approche stratégique est essentielle. La réalisation d'un inventaire complet des systèmes d'IA et l'évaluation de leurs profils de risque constituent la première étape vers la conformité. La mise en place de structures de gouvernance d'IA robustes, associée à des investissements dans l'IA explicable et la qualité des données, sera cruciale pour atténuer les risques et favoriser la confiance.
Un engagement actif auprès des régulateurs et des organismes professionnels est primordial. En participant à l'élaboration de la mise en œuvre de la loi, les institutions financières peuvent influencer l'environnement réglementaire et éviter les pièges potentiels. De plus, l'adoption de principes d'IA éthiques peut positionner les entreprises comme des leaders du secteur, améliorant leur réputation et attirant des clients qui valorisent des pratiques commerciales responsables.
La loi européenne sur l'IA représente un changement significatif dans le paysage réglementaire de l'IA dans les services financiers. Bien qu'elle présente des défis de conformité, elle offre également un cadre pour construire des systèmes d'IA plus dignes de confiance et plus robustes. Les institutions financières qui naviguent avec succès dans ce nouvel environnement pourraient se trouver bien positionnées pour une croissance durable dans un avenir axé sur l'IA.
