Mise en application de l'AI EU Act : la supervision humaine est loin de constituer un frein pour l'innovation

Après la clôture du sommet sur l'IA, elle s'est vue opposer 2 visions qui semblent irréconciliables. Toutefois, l'Europe continue d'appliquer son agenda avec la 1ère mise en application De l'AI EU Act

Quelques jours seulement après la clôture du sommet de Paris sur l'intelligence artificielle, l’IA s’est surtout vue opposer deux visions qui semblent irréconciliables : celle des Etats-Unis qui prêche pour une IA « ouverte » pour "ne pas tuer une industrie en plein essor" et celle de l’Europe appelant à une plus forte régulation. La tension est même montée d’un grand cran quand un consortium mené par Elon Musk a proposé 97,4 milliards de dollars, pour racheter OpenAI reprochant à Sam Altman de vouloir développer une IA « raisonnée ».

Toutefois, l’Europe continue d’appliquer son agenda avec la première mise en application majeure de la loi de l’Union européenne (UE) sur l’intelligence artificielle (AI EU Act), se focalisant sur les systèmes d’IA interdits. Son ambition reste intacte : établir la norme internationale concernant le fonctionnement de l’IA dans le domaine des services financiers – et c’est exactement ce dont le secteur a besoin.

La réalité de l’IA dans la finance : une approche ciblée face à l’IA généraliste

L’AI EU Act n’est pas simplement un nouvel outil réglementaire destiné à alourdir la charge de travail de mise en conformité des entreprises. Il s’agit d’un cadre qui favorise la conception de systèmes d’IA plus efficaces, en particulier pour les services financiers. En classant certaines applications financières, comme le credit scoring ou la tarification des assurances, parmi les systèmes d’IA à haut risque, la loi reconnaît que les systèmes d’IA destinés aux services financiers doivent être à la fois pertinents, exacts et transparents.

Cela se vérifie également sur le marché. Alors que certains se laissent séduire par les IA généralistes, les leaders du secteur de la finance adoptent des IA « bien dimensionnées », concentrant leurs efforts sur une « automatisation ciblée » à l’aide d’agents IA ou grâce au déploiement de modèles de plus petite taille – le tout encadré par une gouvernance rigoureuse.

L’importance des IA « bien dimensionnées » dans le monde actuel

Les dispositions de l’AI EU Act en matière d’explicabilité, de supervision humaine et de gestion des risques ne doivent pas être perçues comme des obstacles. Au contraire, il s’agit de critères essentiels qui permettent de déterminer si une IA est en mesure de gérer des opérations financières.

Dans le domaine des services financiers, de nombreuses applications d’IA essentielles sont classées parmi les systèmes à haut risque en raison de leur impact potentiel sur les décisions des entreprises et les résultats pour leurs clients. C’est pourquoi il est particulièrement crucial que ces systèmes fassent l’objet d’une supervision humaine stricte.

L’expérience montre que pour bénéficier d’une IA efficace dans le secteur financier, il ne s’agit pas de créer des systèmes tout-puissants. Il faut concevoir des agents intelligents qui remplissent un rôle spécifique et accomplissent des tâches clairement définies. En outre, chacun de ces agents doit opérer au sein d’un cadre adapté et disposer de permissions limitées. Cela implique de mettre en place une remontée d’informations claires pour les cas limites, tout en maintenant des pistes d’audit complètes des décisions assistées par l’IA et en garantissant la capacité des experts humains à réviser et à remettre en cause les recommandations du système lorsque cela se révèle nécessaire.

Lorsqu’il s’agit d’analyser les tendances en matière de dépenses de l’entreprise, de monitorer le respect de la conformité avec les politiques de dépenses ou de détecter les fraudes, il est essentiel de pouvoir se reposer sur des systèmes d’IA clairement explicables et efficaces dès leur déploiement – qui ne nécessitent pas un entraînement intensif et respectent des normes strictes de protection des données. Les décisions inexpliquées et les résultats imprévisibles n’ont tout simplement pas leur place au sein des opérations financières.

Une opportunité pour l’Europe de prendre une longueur d’avance

Tandis que les Etats-Unis et la Chine se font concurrence afin de bâtir le plus vaste modèle d’IA, l’Europe se positionne parmi les leaders lorsqu’il s’agit de concevoir les systèmes les plus fiables. Les exigences de la loi de l’UE sur l’IA en matière de détection des biais, d’évaluation régulière des risques et de supervision humaine ne constituent pas un frein pour l’innovation. Au contraire, elles contribuent à forger la définition d’une IA performante dans le domaine des services financiers.

Ce cadre réglementaire dote les entreprises européennes d’un avantage considérable. À mesure que les marchés internationaux demandent des systèmes d’IA de plus en plus transparents et responsables, l’approche européenne est en passe de devenir la norme de facto pour les services financiers dans le monde entier.

La réussite des entreprises sera déterminée par leur capacité à déployer des agents intelligents qui remplissent des rôles bien définis, avec des limites claires et des normes de gouvernance strictes. Le potentiel d’une telle approche ne réside pas dans ses limites, mais dans sa précision.

L’avenir des services financiers est clair : la réussite ne découlera pas de déclarations ambitieuses sur l’IA, mais de déploiements ciblés et concrets qui font de la sécurité et de la fiabilité des priorités.