DeepMind AI Control Roadmap: Google trata agentes de IA como ‘insider threats’
O Google DeepMind publicou um roadmap inédito de segurança para agentes de IA. Batizado de AI Control Roadmap, o documento propõe tratar agentes avançados como potenciais ameaças internas (insider threats) — uma abordagem mais próxima de segurança cibernética do que de alinhamento tradicional de modelos.
O framework vai além do alinhamento clássico de LLMs. A ideia é que, mesmo que o alinhamento de um modelo seja imperfeito, uma camada extra de segurança em nível de sistema pode mitigar riscos. O roadmap se baseia em três pilares:
- Detecção: supervisão contínua por outros modelos de IA considerados confiáveis;
- Prevenção: bloqueio ativo de ações prejudiciais antes que ocorram;
- Resposta: plano de contingência rápido para incidentes.
A abordagem foi descrita como “defense-in-depth” (defesa em camadas) e pode servir de modelo regulatório para toda a indústria. É um reconhecimento explícito de que agentes autônomos — que podem executar ações no mundo real via APIs, navegadores e código — representam riscos diferentes de modelos que só geram texto.
O timing é interessante: dias depois de a Casa Branca limitar o lançamento do GPT-5.6 e puxar modelos da Anthropic, o DeepMind propõe um framework pragmático que pode virar referência no setor.