Por Phoebe Seers
Se ha instado al regulador financiero británico a que considere la regulación de los grandes modelos de lenguaje, como ChatGPT, Claude y Gemini, debido a su creciente influencia en las decisiones financieras de los consumidores.
En un estudio encargado por la Autoridad de Conducta Financiera (FCA) y publicado el lunes, el director ejecutivo del organismo regulador, Sheldon Mills, también destacó cómo la dependencia de las empresas respecto a un puñado de proveedores tecnológicos introduce riesgos potenciales para todo el sistema.
Los reguladores de todo el mundo han comenzado a centrarse más intensamente en el impacto de la IA, desde los riesgos cibernéticos y operativos asociados a modelos de IA de vanguardia, como Mythos de Anthropic, hasta los retos que plantean los sistemas agentivos capaces de actuar con una intervención humana limitada.
El análisis de Mills sobre el impacto de la IA en el sector financiero reveló que más de una cuarta parte de los consumidores del Reino Unido confía en herramientas como ChatGPT de OpenAI, Claude de Anthropic y Gemini de Google NASDAQ:GOOG para obtener asesoramiento financiero, con un conocimiento muy limitado de que las protecciones aplicadas a los servicios financieros regulados no se extienden a dichos servicios de IA.
Los representantes de OpenAI, Anthropic y Google no estuvieron disponibles de inmediato para hacer comentarios.
El asesoramiento financiero es una actividad regulada que solo pueden prestar empresas autorizadas, por lo que la IA no debería ofrecer más que orientación financiera genérica. Sin embargo, Mills señaló que las recomendaciones personales de un chatbot podrían difuminar la frontera y que las recomendaciones continuas y adaptativas podrían empezar a parecerse a un asesoramiento regulado.
Mills recomendó que la FCA considere, en los próximos tres a seis meses, si conviene «asegurar y adaptar» el perímetro regulatorio mediante una revisión de la escala, la naturaleza y el impacto de los modelos de IA que se sitúan fuera de él.
Jonathan Herbst, director global de servicios financieros del bufete de abogados Norton Rose Fulbright, señaló que Mills no proponía una medida coercitiva inmediata, sino que se preguntaba si las normas deben evolucionar para reflejar la forma en que se prestan los servicios financieros.
«Esa es una gran cuestión para los responsables políticos y una que solo se volverá más apremiante a medida que se acelere la adopción de la IA», afirmó Herbst.
La FCA señaló que era el primer organismo regulador del mundo en estudiar el impacto de la IA en los servicios financieros, aunque el organismo no está obligado a actuar en función de las recomendaciones formuladas.
RIESGO DE CONCENTRACIÓN
Una encuesta reciente reveló que el 81 % de las entidades financieras a nivel mundial estaban adoptando la IA en mayor o menor medida, y que el 40 % se encontraba en fases más avanzadas (link).
Aunque la mayoría de los casos de uso siguen concentrándose en funciones administrativas de menor riesgo, las empresas británicas están implementando cada vez más la IA en funciones de atención al cliente, como la gestión de reclamaciones y el asesoramiento en materia de inversiones .
El informe de Mills advertía de que la adopción generalizada de la IA por parte del sector financiero podría hacer que las empresas dependieran de un número reducido de proveedores de tecnología para capacidades operativas críticas.
La dependencia compartida de los mismos modelos, proveedores de servicios en la nube o infraestructura tecnológica podría generar comportamientos correlacionados, efectos de manada y puntos comunes de fallo en todo el sistema financiero, según se indicaba en el informe.
En un discurso pronunciado la semana pasada, la vicegobernadora del Banco de Inglaterra, Sarah Breeden, señaló por primera vez la necesidad de una regulación específica de la IA para contener los riesgos que suponen para el sistema financiero los sistemas agentivos, cada vez más capaces.
«Nuestros marcos normativos no se diseñaron para contemplar agentes autónomos , y es poco probable que resulte realista depender de la intervención humana en todas las acciones de los agentes», afirmó Breeden.