Integrante do BoE diz que agentes de IA podem ampliar volatilidade em momentos de estresse
A vice-presidente do Banco da Inglaterra (BoE) para Estabilidade Financeira, Sarah Breeden, alertou nesta terça-feira, 30, que agentes de inteligência artificial (IA) podem amplificar a volatilidade em momentos de estresse nos mercados financeiros e representam um risco crescente à estabilidade financeira devido ao avanço de suas capacidades cibernéticas.
Em discurso no Fórum de Sintra, organizado pelo Banco Central Europeu (BCE), Breeden afirmou que sua “principal preocupação” para a estabilidade financeira é uma “mudança de patamar” nas capacidades de ciberataques da IA agentiva.
Segundo a dirigente, embora as companhias financeiras ainda utilizem sistemas autônomos principalmente para tarefas de menor risco, como pesquisa, esse quadro pode mudar rapidamente. Ela advertiu que, se diferentes agentes de IA reagirem de maneira semelhante aos mesmos estímulos, “eles poderão amplificar a volatilidade em momentos de estresse”, especialmente caso seus objetivos se desviem das metas originais ou das políticas públicas.
Breeden disse que os bancos centrais precisam avaliar não apenas se as instituições utilizam esses modelos de forma adequada, mas também se o sistema financeiro é capaz de observar e conter os comportamentos gerados por eles. Nesse contexto, defendeu estudos sobre mecanismos de mitigação, incluindo salvaguardas semelhantes aos circuit breakers dos mercados que interrompam negociações em caso de colapso provocado por modelos defeituosos.
Na área de segurança cibernética, Breeden afirmou que o avanço da IA fortalece as defesas quando usada por agentes legítimos, mas também aumenta significativamente o potencial de ataques quando cai em mãos mal-intencionadas.
A dirigente também afirmou que a IA deverá transformar pagamentos, comércio eletrônico e a própria atuação dos bancos centrais, exigindo novos marcos regulatórios, aprimoramento das habilidades das autoridades e maior cooperação internacional para evitar que os avanços tecnológicos se convertam em ameaças à estabilidade financeira.