O Google DeepMind apresentou um plano de segurança para lidar com um risco cada vez mais relevante: agentes de IA capazes de executar tarefas dentro de sistemas, códigos e fluxos internos de uma empresa. A proposta trata esses agentes não apenas como ferramentas de produtividade, mas como possíveis ameaças internas que precisam de monitoramento, limites de acesso e resposta rápida.
A iniciativa aparece em um momento em que empresas começam a usar agentes de IA para programar, pesquisar, analisar dados, operar sistemas e automatizar tarefas complexas. Porém, quanto mais autonomia esses agentes recebem, maior também fica o risco de ações inesperadas, interpretações erradas ou uso indevido de permissões.
Com isso, o debate sobre segurança em inteligência artificial muda de foco. Em vez de depender apenas do alinhamento, ou seja, da tentativa de fazer a IA agir sempre conforme a intenção humana, a DeepMind propõe uma defesa em camadas. Na prática, a empresa parte da ideia de que o alinhamento pode falhar e, por isso, as organizações precisam de mecanismos para limitar danos.
Agentes de IA como possíveis ameaças internas
O plano da DeepMind se inspira em práticas tradicionais de cibersegurança, especialmente na prevenção contra ameaças internas. Em empresas, esse conceito costuma se referir a funcionários, prestadores ou contas com acesso legítimo que podem causar danos de forma intencional ou acidental.
A diferença é que agentes de IA podem agir em velocidade muito maior do que uma pessoa. Além disso, eles podem executar tarefas em escala, acessar ferramentas, consultar bases de dados, modificar arquivos, escrever código ou interagir com outros sistemas em poucos segundos.
Por esse motivo, a DeepMind defende que empresas controlem com precisão quais dados, ferramentas e permissões cada agente pode usar. Além disso, a organização precisa monitorar o comportamento desses agentes em tempo real para identificar padrões fora do esperado.
Esse ponto é importante porque muitos incidentes podem não nascer de intenção maliciosa. Segundo a própria DeepMind, grande parte dos eventos sinalizados em seus testes internos surgiu de interpretação equivocada ou excesso de iniciativa do agente para cumprir uma tarefa, e não de comportamento adversarial deliberado.
Controle de acesso precisa ser mais dinâmico
Um dos pontos mais relevantes do plano envolve permissões. Em sistemas tradicionais, empresas costumam conceder acessos com base no cargo ou na função de uma pessoa. Um administrador de sistemas tem permissões diferentes das de alguém do atendimento, por exemplo.
Com agentes de IA, essa lógica pode falhar. Um mesmo agente pode atuar em diferentes fluxos, executar tarefas associadas a várias áreas e alternar rapidamente entre contextos. Portanto, copiar as permissões de um funcionário humano para um agente nem sempre resolve o problema.
A DeepMind defende controles mais dinâmicos. Em vez de permitir acesso fixo a uma base ou ferramenta, o sistema avaliaria a tarefa em execução, o contexto do fluxo e o comportamento esperado naquele momento. Assim, um agente poderia acessar determinado recurso em uma etapa específica, mas perder essa permissão minutos depois em outro processo.
Essa abordagem se aproxima do que empresas já buscam em arquiteturas modernas de segurança: menor privilégio possível, revisão constante de permissões e bloqueio rápido quando algo foge do padrão.
Monitoramento em tempo real vira peça central
Além do controle de acesso, o plano destaca o monitoramento contínuo. A DeepMind afirma que já criou um protótipo interno para acompanhar trajetórias de agentes de programação e enviar atividades suspeitas para revisão humana. Segundo a empresa, esse sistema analisou cerca de 1 milhão de tarefas de agentes de código e ajudou a criar um monitor em tempo real para o Gemini Spark, inclusive em situações como exclusão acidental de dados.
Esse tipo de monitoramento pode incluir logs de atividade, análise de comportamento, revisão de comandos, acompanhamento de raciocínios declarados pelo modelo e alertas quando o agente tenta executar ações incomuns.
A DeepMind também propõe uma taxonomia chamada TRAIT&R, inspirada no framework ATT&CK, da MITRE, usado em cibersegurança para mapear comportamentos adversários. A ideia é organizar possíveis táticas de agentes problemáticos, como perda de controle, sabotagem de trabalho e dano direto.
Impacto para empresas, APIs e automação
Para empresas que usam agentes de IA por meio de APIs, a discussão é especialmente relevante. Um agente conectado a sistemas internos pode consultar dados, disparar webhooks, atualizar registros em CRMs, abrir tickets, escrever código, enviar mensagens, modificar permissões ou executar comandos em ambientes de nuvem.
Portanto, a segurança não pode ficar limitada ao modelo de IA. Ela precisa envolver toda a integração. Isso inclui autenticação, controle de escopo, limites de chamadas, logs detalhados, revisão humana em ações sensíveis e mecanismos para interromper processos automaticamente.
Além disso, empresas precisam separar tarefas simples de fluxos críticos. Um agente que resume documentos tem um perfil de risco diferente de outro que altera cadastros, aprova solicitações, mexe em infraestrutura ou acessa dados pessoais. Quanto maior o impacto da ação, maior deve ser o nível de controle.
Esse movimento também reforça a importância de projetar integrações com flexibilidade. Em vez de dar acesso amplo a um agente, empresas podem usar camadas intermediárias de API para validar ações, filtrar dados, registrar eventos e aplicar regras de negócio antes que qualquer comando chegue ao sistema final.
Conclusão
O plano da Google DeepMind mostra que agentes de IA estão deixando de ser apenas assistentes e começando a operar como componentes ativos da infraestrutura digital. Essa mudança aumenta o potencial de automação, mas também exige uma nova disciplina de segurança.
Para empresas, o recado é direto: agentes de IA precisam de identidade própria, permissões limitadas, monitoramento contínuo e capacidade de bloqueio em tempo real. Além disso, times de tecnologia devem tratar cada integração como parte de uma superfície de risco maior.
A APIBrasil ajuda empresas a criar integrações mais seguras, escaláveis e preparadas para automação inteligente. Conheça as soluções da APIBrasil e veja como conectar sistemas, organizar fluxos digitais e fortalecer sua operação em um cenário cada vez mais orientado por APIs, dados e inteligência artificial.
