Los reguladores financieros se están quedando sin tiempo para abordar los riesgos que plantea el uso de agentes autónomos de inteligencia artificial en los mercados. El Banco de Inglaterra teme que estos sistemas puedan desencadenar episodios de fuertes turbulencias y ya estudia incluso mecanismos de emergencia, una suerte de “botón de apagado”, para detenerlos si amenazan la estabilidad financiera.
Sarah Breeden, vicegobernadora del banco central británico, reconoció este lunes que todavía no está claro cómo podría funcionar una herramienta de este tipo, pero advirtió de que los supervisores deben prepararse antes de que la negociación mediante agentes autónomos se generalice. “Tenemos que darnos prisa para entender adecuadamente estos riesgos y asegurarnos de que, cuando este tipo de negociación mediante agentes sea habitual, contemos con una respuesta de estabilidad financiera”, afirmó en un podcast de Wharton School. “No creo que vayamos tarde, pero tampoco estoy segura de que nos quede demasiado tiempo”.
El temor del Banco de Inglaterra se centra especialmente en que distintos agentes de IA puedan reaccionar de forma similar ante una misma señal, coordinarse de manera implícita o retroalimentar sus propias decisiones. En un mercado dominado crecientemente por sistemas automatizados, una orden de venta podría provocar nuevas ventas en cuestión de segundos y transformar una corrección ordinaria en una espiral de volatilidad, problemas de liquidez y caídas abruptas de los precios.
La preocupación no es exclusiva de Londres. La Reserva Federal lleva meses alertando de riesgos similares. Su informe de estabilidad financiera señala que una utilización generalizada de algoritmos que reaccionen de forma parecida ante los acontecimientos puede exacerbar la volatilidad y provocar movimientos bruscos de los precios, episodios de flash crash y dislocaciones en los mercados. La Fed identifica además entre los riesgos de la IA el aumento de las operaciones correlacionadas, la colusión entre algoritmos, la manipulación y una mayor concentración del mercado.
El exvicepresidente de Supervisión de la Fed Michael Barr llegó a advertir de que algoritmos de negociación diseñados para maximizar beneficios podrían aprender por sí mismos comportamientos que desemboquen en colusión tácita o manipulación de los mercados, así como desarrollar estrategias capaces de provocar una volatilidad significativa e incluso generar riesgo sistémico. La gobernadora Lisa Cook ha insistido posteriormente en que la IA generativa introduce una diferencia respecto a los algoritmos tradicionales: puede analizar enormes cantidades de información, adaptarse a las condiciones del mercado y desplegar estrategias de forma autónoma y difícil de interpretar para los propios humanos.
El Banco Central Europeo también ha comenzado a poner a prueba estos riesgos. Un estudio publicado en mayo simuló el comportamiento de diferentes arquitecturas de inteligencia artificial y descubrió que determinados algoritmos de aprendizaje por refuerzo alcanzaban un elevado grado de coordinación y podían generar dinámicas extremas comparables a una corrida bancaria. Los modelos de lenguaje mostraron menos tendencia a estos episodios, pero produjeron comportamientos más heterogéneos e impredecibles. Para los investigadores del BCE, la propia arquitectura de los sistemas de IA puede convertirse así en una fuente de inestabilidad financiera.
El Banco de Pagos Internacionales (BIS), el organismo que reúne a los principales bancos centrales del mundo, comparte el diagnóstico. Advierte de que la IA permite acelerar enormemente las operaciones y los ajustes de las carteras. En condiciones normales esa velocidad puede mejorar la eficiencia de los mercados, pero en episodios de estrés puede intensificar las fluctuaciones de los precios, aumentar la presión sobre la liquidez y contribuir a generar condiciones desordenadas. El organismo también alerta de la dependencia de un reducido número de proveedores de modelos, capacidad informática, servicios en la nube y datos, lo que introduce nuevas vulnerabilidades operativas en el sistema financiero.
Los supervisores reconocen, no obstante, que la IA no tiene por qué aumentar necesariamente la inestabilidad. La Fed señala que modelos capaces de procesar más información también pueden diversificar las señales utilizadas por los inversores y reducir algunas conductas gregarias. El problema para los bancos centrales es que la tecnología avanza más deprisa que su capacidad para determinar qué comportamiento tendrán millones de sistemas autónomos cuando llegue el próximo episodio de estrés.
Es precisamente ahí donde la advertencia del Banco de Inglaterra da un paso adicional. El debate ya no se limita a determinar si la inteligencia artificial puede provocar una crisis en los mercados, sino a establecer qué herramientas tendrán los reguladores para detenerla si los algoritmos comienzan a retroalimentarse. La posibilidad de crear un “botón de apagado” refleja hasta qué punto los bancos centrales empiezan a prepararse para un mercado en el que algunas de las decisiones más importantes podrían tomarse a una velocidad y con un grado de autonomía fuera del alcance inmediato de los operadores humanos.