L'ACPR, régulateur du secteur financier, a lancé mercredi une consultation publique sur les moyens à mettre en place pour éviter que l'usage de l'intelligence artificielle provoque des discriminations parmi les clients sollicitant un crédit ou ouvrant des assurances vie et santé.

L'Autorité de contrôle prudentiel et de résolution a été désignée pour surveiller l'application de l'IA pour les cas d'usage à haut risque liés aux services financiers, en application du Règlement IA européen.

Elle exercera, à partir du 2 décembre 2027, ses nouvelles missions en coopération avec les autres autorités nationales et européennes compétentes au titre du Règlement IA.

Dans cette perspective, l'ACPR a lancé mercredi une consultation publique sur "l'équité algorithmique", c'est-à-dire le moyen de réussir à évaluer les risques de tarification des personnes physiques en assurance vie et assurance santé ainsi que la solvabilité des personnes en cas d'octroi de crédit sans créer de discriminations.

L'usage de l'IA pour améliorer les processus internes et la gestion des risques, "c'est sans équivoque une nécessité" de déployer ce type d'outils dans les institutions financières, a expliqué la secrétaire générale de l'ACPR Emmanuelle Assouan, lors d'une conférence téléphonique.

Mais dans le secteur des crédits, des assurances vie et santé, comment empêcher l'IA de tenir compte du genre, de l'âge ou de l'état de santé d'une personne avant de lui proposer un tarif ?

Segmenter les prix selon la clientèle est une pratique normale dans le domaine financier, mais "comment est-ce qu'on fait pour segmenter la clientèle sans discriminer ?", quand c'est l'IA et non plus l'humain qui analyse les données, a interrogé Olivier Fliche, directeur de l'innovation, et des risques technologiques à l'ACPR.

Les exigences de protection de la clientèle passent souvent "par une logique d'abstention. On s'abstient d'accorder des crédits, de vendre des produits d'assurance pour protéger les clients, notamment des clients fragiles, alors qu'avec le Règlement IA, lui, c'est plutôt une logique inverse d'accès", a souligné Julien Uri du service de surveillance des risques technologiques.

Il faut donc lancer un "processus de réflexion" pour savoir "quels biais vous souhaitez prévenir ou corriger", a-t-il ajouté.

La consultation s'achèvera au mois de septembre et une synthèse sera publiée avant la fin 2026.