A IA agêntica no sistema financeiro pode exigir regras específicas à medida que sistemas autônomos assumem mais decisões em pagamentos, operações e negociações. Por isso, o Banco da Inglaterra começou a avaliar novos mecanismos para reduzir riscos caso agentes de inteligência artificial provoquem falhas ou movimentos inesperados no mercado.
A mudança de posição chama atenção porque, durante anos, o banco central britânico sustentou que as estruturas regulatórias existentes poderiam lidar com os riscos da inteligência artificial.
Agora, porém, o avanço de sistemas capazes de tomar decisões e agir com menor supervisão humana começa a revelar possíveis lacunas.
Entre as medidas em discussão estão novos limites operacionais, mecanismos de interrupção e até dispositivos capazes de restringir ou suspender negociações em todo o mercado caso modelos defeituosos de IA contribuam para uma crise.
IA agêntica no sistema financeiro desafia regras atuais
A inteligência artificial tradicional costuma atuar como ferramenta de apoio. Em geral, um sistema analisa informações, apresenta uma recomendação e deixa a decisão final para uma pessoa.
A IA agêntica muda esse fluxo.
Esses agentes podem interpretar um objetivo, tomar decisões intermediárias e executar ações sem depender de uma autorização humana para cada etapa. No sistema financeiro, por exemplo, isso pode significar iniciar pagamentos, movimentar recursos ou participar de operações de mercado.
Segundo Sarah Breeden, vice-governadora do Banco da Inglaterra, as estruturas atuais não consideraram originalmente a presença de agentes autônomos.
Além disso, a autoridade reconheceu que manter uma pessoa acompanhando e aprovando todas as ações de um agente provavelmente não representa uma solução realista.
Esse ponto ajuda a explicar o desafio regulatório.
Quanto mais operações os sistemas executarem automaticamente, menos viável será depender apenas do chamado “humano no circuito” como principal mecanismo de segurança. Portanto, embora a supervisão humana continue importante, o setor também precisará de controles técnicos capazes de agir antes que uma falha provoque efeitos maiores.
Pagamentos e operações autônomas ampliam os riscos
A preocupação não significa que todos os usos de agentes de IA apresentem o mesmo nível de risco.
Atualmente, muitas empresas financeiras ainda utilizam sistemas autônomos principalmente em atividades operacionais consideradas menos sensíveis. No entanto, esse cenário pode mudar rapidamente conforme a tecnologia se torna mais capaz.
Uma pesquisa citada pelo Banco da Inglaterra indica que 52% das empresas do setor financeiro já utilizam alguma forma de IA agêntica.
No comércio, agentes costumam recomendar produtos. No mercado financeiro, por outro lado, muitas empresas ainda concentram a adoção em tarefas operacionais mais controladas.
O risco aumenta quando esses sistemas começam a participar de decisões com efeitos diretos sobre pagamentos e negociações.
Um agente pode, por exemplo, reagir automaticamente a preços, notícias, indicadores ou sinais produzidos por outros sistemas. Caso várias instituições utilizem modelos parecidos, uma mesma informação pode provocar respostas semelhantes em grande escala.
Em períodos de estabilidade, esse comportamento pode não gerar consequências graves. Entretanto, em momentos de estresse, agentes que reagem da mesma maneira podem acelerar movimentos e aumentar a volatilidade.
Agentes de IA podem repetir o mesmo comportamento
Um dos riscos destacados pelo Banco da Inglaterra está no comportamento coletivo dos sistemas.
Modelos treinados com dados semelhantes ou configurados com objetivos próximos podem reagir de forma parecida diante do mesmo evento.
No mercado financeiro, decisões individuais podem se transformar em um problema sistêmico quando muitas instituições repetem essas ações ao mesmo tempo.
Imagine, por exemplo, que diferentes agentes interpretem um mesmo sinal como motivo para reduzir posições ou vender ativos. Se todos seguirem uma direção semelhante, o próprio comportamento automatizado poderá ampliar a pressão no mercado.
Além disso, esse risco não depende necessariamente de um ataque ou de uma falha completa no sistema.
Um modelo pode funcionar conforme sua configuração e, ainda assim, contribuir para um resultado indesejado quando milhares de outras automações adotam comportamentos semelhantes.
A preocupação aumenta ainda mais caso os objetivos de um agente se afastem da intenção original ou entrem em conflito com metas mais amplas de estabilidade financeira.
Por isso, a discussão sobre IA agêntica no sistema financeiro vai além da precisão de um modelo. Também envolve a forma como diferentes sistemas interagem entre si em ambientes de alta velocidade.
Banco da Inglaterra considera kill switches para IA
Entre as propostas avaliadas estão mecanismos conhecidos como circuit breakers e kill switches.
Esses controles poderiam limitar ou interromper operações caso sistemas defeituosos de IA provocassem movimentos perigosos no mercado.
O setor financeiro já utiliza mecanismos de interrupção em diferentes contextos. Bolsas, por exemplo, podem suspender temporariamente as negociações diante de movimentos extremos.
Agora, porém, o crescimento da inteligência artificial autônoma pode exigir controles adaptados a uma nova origem de risco: agentes capazes de tomar decisões e executar ações continuamente.
Ainda assim, um kill switch não resolveria todos os problemas.
Antes de interromper um sistema, as instituições precisariam detectar comportamentos anormais, avaliar a gravidade da situação e definir quais operações deveriam parar.
Além disso, em sistemas altamente integrados, desligar uma automação pode afetar serviços legítimos.
O desafio regulatório, portanto, será encontrar um equilíbrio entre permitir o uso de sistemas autônomos e garantir mecanismos capazes de conter rapidamente uma falha.
Sistemas financeiros podem precisar de recuperação reforçada
O Banco da Inglaterra também analisa a possibilidade de exigir mecanismos mais robustos de recuperação para sistemas essenciais.
Uma das ideias permitiria que um banco assumisse determinadas funções básicas de outra instituição durante uma interrupção grave.
Nesse caso, a preocupação não se limita a impedir falhas. O regulador também quer preservar serviços essenciais caso uma crise aconteça.
Para instituições financeiras, isso pode exigir novas estratégias de continuidade operacional.
Sistemas baseados em agentes precisarão passar por avaliações não apenas em condições normais, mas também diante de erros, indisponibilidade de dados e respostas inesperadas de outros serviços.
Assim, a resiliência da infraestrutura se torna tão importante quanto a capacidade do modelo.
APIs e integrações entram no centro do controle
A expansão da IA agêntica no sistema financeiro também aumenta a importância das APIs e das camadas de integração.
Um agente só consegue executar uma ação quando se conecta aos sistemas responsáveis por pagamentos, cadastros, contas, negociações ou outras operações.
Por isso, o risco não está apenas no modelo de inteligência artificial.
Também importa como a empresa construiu a integração, quais permissões concedeu e quais limites estabeleceu entre o agente e o sistema final.
Um agente autorizado a consultar um saldo, por exemplo, não precisa receber permissão para movimentar recursos. Da mesma forma, um sistema capaz de sugerir uma operação não deve ganhar automaticamente autorização para executá-la sem restrições.
Nesse cenário, as APIs podem funcionar como uma camada importante de controle.
Autenticação, autorização por escopo, limites de requisições, registros de atividades e regras de aprovação ajudam a restringir o que cada sistema pode fazer.
Além disso, as empresas precisam conseguir revogar acessos rapidamente.
Em um cenário de falha, não basta desligar o modelo. Também pode ser necessário bloquear credenciais, interromper integrações e impedir novas ações nos sistemas conectados.
Consequentemente, o avanço dos agentes autônomos tende a aproximar ainda mais inteligência artificial, segurança de APIs e governança de acessos.
Regulação começa a acompanhar uma IA mais autônoma
O posicionamento do Banco da Inglaterra mostra uma mudança importante no debate sobre inteligência artificial.
O foco deixa de estar apenas na qualidade das respostas produzidas por um modelo.
Quando a IA passa a agir, as instituições também precisam avaliar quais decisões ela pode tomar, quais recursos consegue acessar e como interromper suas ações caso algo dê errado.
No sistema financeiro, essa preocupação se torna ainda maior porque operações automatizadas podem ocorrer em grande escala e alta velocidade.
As discussões sobre recuperação reforçada, circuit breakers e kill switches mostram, portanto, que reguladores começam a considerar controles específicos para um ambiente em que a supervisão humana não consegue acompanhar cada decisão individual.
Para as empresas, o recado também é relevante.
Adotar agentes de IA exige mais do que escolher um modelo capaz. Antes de conectar sistemas autônomos a processos críticos, as organizações precisam definir permissões, limites, monitoramento e procedimentos de resposta a falhas.
A APIBrasil oferece APIs que ajudam empresas e desenvolvedores a integrar sistemas, automatizar consultas e estruturar fluxos digitais com mais eficiência. Conheça as soluções da APIBrasil e fortaleça a base de integração dos seus projetos de automação e inteligência artificial.
