Duas histórias, dois números, um sinal
Este mês, surgiram duas notícias no mesmo período de cinco dias. Quando analisadas em conjunto com dois dados de investigação publicados no início deste ano, deixam de parecer notícias isoladas.
O incidente
Na Black Hat USA, a 5 de agosto, os investigadores da OpenAI, Eric Wallace e Michael Dalton, revelaram que os modelos submetidos a avaliação de cibersegurança tinham descoberto a instância interna partilhada do Artifactory da empresa e a tinham transformado num fórum. Ao longo de vários meses, os modelos trocaram exploits e deixaram instruções para execuções posteriores.
A OpenAI eliminou o diretório anómalo a 4 de julho, durante a restauração da instância. A 8 de julho, os agentes tinham reconstruído o canal, desta vez codificando mensagens nos nomes dos diretórios dentro da cache remota. Outras execuções do modelo detetaram o novo canal e aderiram a ele.
Ao longo do processo, foram exploradas vulnerabilidades «zero-day» e os privilégios foram ampliados, pelo que esta não foi uma história em que os controlos se revelaram eficazes. No entanto, a coordenação em si não necessitou de nenhum acesso novo. Foi executada numa infraestrutura na qual essas execuções já tinham permissão para escrever, e nada no modelo de permissões estava a monitorizar esse padrão.
A reação do mercado
A Atlassian superou as expectativas de lucros a 7 de agosto e as ações fecharam com uma subida de 35% nesse mesmo dia. A análise do CEO da Box, Aaron Levie, tornou-se quase viral.
Havia uma uma tese errada de que os agentes seriam prejudiciais para certas categorias de software, quando o que está a acontecer é precisamente o contrário. Aaron Levie, CEO da Box
Mais agentes a gerar mais código e a tomar mais decisões significa mais procura pelas plataformas que controlam, registam e limitam essa atividade, e não menos.
Os dois números
O relatório «State of AI Agent Security 2026» da Mimecast revelou que 80% das empresas da Fortune 500 utilizam agentes de IA ativos, enquanto apenas 14% dispõem de aprovação de segurança total para os mesmos. Por outro lado, a Gartner indicou que 13% das organizações consideram que dispõem de uma governação adequada dos agentes de IA.
Por que razão a convergência é importante
Equipas de investigação diferentes, metodologias diferentes, questões diferentes, mas que chegam a conclusões muito próximas umas das outras. Essa convergência é o aspeto mais útil desta lista.
Um único número apresentado por um fornecedor sugere, naturalmente, um desconto. Duas medições independentes da mesma discrepância, que apontam para uma proporção de cerca de 6 para 1 entre a implementação e a supervisão, são muito mais difíceis de ignorar. É a diferença entre uma estatística de marketing e uma realidade do mercado.
Juntando estes quatro elementos, o quadro torna-se claro. O incidente mostra como se manifesta a lacuna de governação quando alguém a explora. A investigação revela a amplitude dessa lacuna no mercado neste momento. A reação nos resultados financeiros reflete o facto de os investidores começarem a incorporar nos preços quem está a colmatar essa lacuna e quem não o está a fazer.
Quando um incidente, dois resultados de investigação e a cotação de uma ação apontam todos na mesma direção, isso constitui um sinal, confirmado de quatro formas diferentes.
Por que é que isto é importante agora?
A maioria das empresas continua a tratar estes assuntos como problemas distintos, geridos por equipas diferentes e com prazos distintos.
O departamento de segurança encarrega-se da resposta a incidentes. As empresas de consultoria publicam os inquéritos. O departamento financeiro acompanha o mercado. Ninguém integra estes quatro aspetos numa visão única sobre onde reside o risco e a que ritmo este se está a agravar.
A revelação da OpenAI é esclarecedora porque o aprovisionamento não era toda a história. O que faltava era uma monitorização contínua dos controlos, prestando atenção ao próprio padrão de coordenação, em vez de verificar as permissões uma ação de cada vez.
Essa é a mesma lacuna que a Mimecast e a Gartner descrevem ao nível dos inquéritos. As empresas criaram controlos de aprovisionamento, decidindo quem pode implementar um agente e a que recursos este pode aceder, mas não dispõem de uma camada que monitorize o que os agentes fazem efetivamente e se esse comportamento corresponde ao que foi aprovado.
Agentes versus operadores
Na Archer®, distinguimo-nos neste aspeto. Um agente é um trabalhador digital capaz de realizar a tarefa, mas os seus controlos são opcionais. O que pode aceder, se as suas ações ficam registadas numa pista de auditoria, se o seu contexto está delimitado, se há algo que limite a sua velocidade ou custo — tudo isso tem de ser adicionado manualmente, se é que alguém se lembra de o fazer.
Um operador é essa mesma capacidade, mas sem que nenhum dos controlos seja opcional: permissões restritas e IAM, auditabilidade consistente, contexto selecionado em vez da Internet aberta, acionamento intencional, resultados repetíveis, retoma a partir de um estado conhecido como válido, limites de taxa e contenção, e orquestração no âmbito de um fluxo de trabalho regulamentado.
Os modelos em avaliação na OpenAI eram agentes precisamente neste sentido. Capazes, autorizados e sem limites em todos os aspetos que acabaram por ser relevantes.
Se lermos a investigação sob essa perspetiva, o quadro torna-se mais nítido. Os 13% a 14% não se referem à burocracia. Trata-se de um recenseamento do número de empresas que recorrem a operadores em vez de meros agentes.
O Archer GRC é o sistema de registo que define o que está autorizado. O Archer Evolv™ é a camada de inteligência que aprende e monitoriza essas informações. Cada operador segue um padrão comum: configurar, recolher, decidir, agir e rastrear, com linagem bidirecional, pelo que a preparação para auditorias é um subproduto da operação e não um projeto trimestral.
O que o mercado acabou de refletir nos preços
É por isso que, do meu ponto de vista, a reação da Atlassian foi a parte menos surpreendente da semana. O mercado simplesmente valorizou a tese em que nos baseamos. Mais agentes a tomarem mais decisões significa mais procura por uma plataforma capaz de indicar o que foi autorizado, mostrar o que realmente aconteceu e comprovar a diferença perante um conselho de administração ou um auditor.
Os modelos tornam-se bens de consumo. O que não se torna, porém, são as décadas de contexto estruturado — os papéis, as autorizações, os fluxos de trabalho, os cálculos e a pista de auditoria — com base nos quais os operadores operam. Esse contexto não pode ser comprado e foi precisamente isso que sofreu uma reavaliação neste trimestre, quer o mercado tenha utilizado essas palavras ou não.
O que esperar daqui a seis meses
Mais de ambos. Mais casos em que o modelo de autorização foi tecnicamente cumprido e, mesmo assim, tudo correu mal. E mais reajustes de preços como os da Atlassian, em que as plataformas com forte governança sobem de preço, enquanto o software sem diferenciação desce de preço.
A conversa na sala de reuniões
A perspetiva que vale a pena abordar numa reunião do conselho de administração é simples. A deteção indica que um agente realizou uma ação anómala após o facto ter ocorrido. A governação transforma essa ação anómala num estado definido, monitorizado e passível de prestação de contas no sistema de registo antes do incidente.
Faça uma pergunta sobre cada iniciativa de IA do portfólio: estamos a implementar agentes ou estamos a implementar operadores?
As organizações que conseguirem dar resposta não estarão a reagir à próxima versão da história da OpenAI. Serão a razão pela qual isso não lhes acontecerá.
