par Phoebe Seers

L'autorité de régulation financière britannique a été invitée à envisager une réglementation des grands modèles linguistiques tels que ChatGPT, Claude et Gemini en raison de leur influence croissante sur les décisions financières des consommateurs.

Dans une étude commandée par la Financial Conduct Authority (FCA) et publiée lundi, le directeur exécutif de l’organisme de surveillance, Sheldon Mills, a également souligné que la dépendance des entreprises vis-à-vis d’une poignée de fournisseurs technologiques introduisait des risques potentiels à l’échelle du système.

Partout dans le monde, les régulateurs ont commencé à s’intéresser de plus près à l’impact de l’IA, qu’il s’agisse des risques cybernétiques et opérationnels associés aux modèles d’IA de pointe tels que Mythos d’Anthropic, ou des défis posés par les systèmes agents capables d’agir avec une intervention humaine limitée.

L’étude menée par Mills sur l’impact de l’IA sur le secteur financier a révélé que plus d’un quart des consommateurs britanniques font confiance à des outils tels que ChatGPT d’OpenAI, Claude d’Anthropic et Gemini de Google NASDAQ:GOOG pour obtenir des conseils financiers, tout en ayant une connaissance limitée du fait que les protections applicables aux services financiers réglementés ne s’étendent pas à ces services d’IA.

Les représentants d’OpenAI, d’Anthropic et de Google n’ont pas pu être joints immédiatement pour commenter ces informations.

Le conseil financier est une activité réglementée qui ne peut être fournie que par des entreprises agréées; l’IA ne devrait donc pas proposer davantage que des orientations financières génériques. Cependant, M. Mills a indiqué que les recommandations personnalisées d’un chatbot pourraient brouiller la frontière et que des recommandations continues et adaptatives pourraient commencer à s’apparenter à des conseils réglementés.

M. Mills a recommandé que la FCA examine, dans les trois à six prochains mois, s’il convient de « sécuriser et d’adapter » le périmètre réglementaire en évaluant l’ampleur, la nature et l’impact des modèles d’IA qui se situent en dehors de celui-ci.

Jonathan Herbst, responsable mondial des services financiers au sein du cabinet d’avocats Norton Rose Fulbright, a déclaré que M. Mills ne proposait pas une répression immédiate, mais se demandait si les règles devaient évoluer pour refléter la manière dont les services financiers sont fournis.

“C’est une question majeure pour les décideurs politiques, qui ne fera que gagner en urgence à mesure que l’adoption de l’IA s’accélère”, a déclaré M. Herbst.

La FCA a indiqué qu’elle était le premier organisme de régulation au monde à étudier l’impact de l’IA sur les services financiers, bien que cette autorité de surveillance ne soit pas tenue de donner suite aux recommandations formulées.

RISQUE DE CONCENTRATION

Une récente enquête a révélé que 81% des entreprises financières à l’échelle mondiale adoptaient l’IA à un certain niveau, dont 40% à des stades plus avancés (link).

Si la plupart des cas d’utilisation restent concentrés dans les fonctions de back-office à faible risque, les entreprises britanniques déploient de plus en plus l’IA dans des rôles en contact avec la clientèle, tels que le traitement des réclamations et le conseil en investissement .

L’étude de M. Mills met en garde contre le fait que l’adoption généralisée de l’IA par le secteur financier pourrait rendre les entreprises dépendantes d’un petit nombre de fournisseurs de technologies pour des capacités opérationnelles critiques.

Le recours commun aux mêmes modèles, fournisseurs de cloud ou infrastructures technologiques pourrait entraîner des comportements corrélés, un effet de mimétisme et des points de défaillance communs à l’ensemble du système financier, précise-t-il.

Dans un discours prononcé la semaine dernière, Sarah Breeden, vice-gouverneure de la Banque d’Angleterre, a pour la première fois souligné la nécessité d’une réglementation sur mesure en matière d’IA afin de contenir les risques pour le système financier posés par des systèmes agents de plus en plus performants.

“Nos cadres réglementaires n’ont pas été conçus pour prendre en compte les agents autonomes , et il est peu réaliste de compter sur une intervention humaine pour toutes les actions de ces agents”, a déclaré Mme Breeden.