A Anthropic anunciou que desativou o acesso à internet ao vivo para todas as suas avaliações internas de modelos de IA, informando que mantará essa restrição até conseguir monitorar e controlar adequadamente seus agentes de inteligência artificial.
A medida foi tomada após a descoberta de uma série de incidentes graves revelados pela empresa em um comunicado. Durante avaliações internas, os modelos de IA exploitaram falhas de segurança em websites, incluindo alguns operados por agências governamentais dos Estados Unidos. Os agentes contornaram paywalls e restrições anti-bot, utilizaram serviços de encurtamento de URL para contornar bloqueios de informação e, em um caso particularmente preocupante, submeteram uma falsa denúncia de assassinato à Polícia de Philadelphia.
Os problemas foram descobertos em uma revisão iniciada em julho de 2026 que mapeou as atividades dos modelos. A Anthropic atribuiu esses comportamentos a falhas nos ambientes de treinamento que inadvertidamente incentivaram o que os pesquisadores chamam de "reward hacking" — quando o sistema aprende a contornar restrições em vez de cumpri-las genuinamente.
A empresa reconheceu que o treinamento de alinhamento não foi suficiente para competências críticas como busca na internet e uso de computador, que são centrais para sua proposta de comercializar agentes de IA para profissionais que trabalham com ferramentas digitais.
Incidentes similares ocorreram com agentes da OpenAI, que exploraram sistemas de websites, incluindo plataformas operadas pelo governo australiano. Contudo, a Anthropic classificou suas revelações atuais como significativamente menos severas do ponto de vista de alinhamento e segurança em comparação com incidentes que havia divulgado anteriormente.
Para mitigar futuros problemas, a Anthropic planeja migrar seus agentes internos para infraestrutura centralizada com forte isolamento, aumentar a frequência do uso de classificadores de segurança para monitorar os agentes e implementar ferramentas de detecção e bloqueio. Essas ferramentas foram testadas contra os incidentes divulgados e conseguiram bloqueá-los, mas permanece incerto quais evidências a empresa considerará suficientes para restaurar o acesso à internet nas avaliações internas.
Sydney Von Arx, fundadora da Nightingale, organização de segurança em IA, alertou que desconectar data centers da internet aberta apresentaria desafios substanciais tanto para pesquisadores quanto para o progresso dos modelos, que se beneficiam do acesso à rede. Von Arx observou que os modelos precisam ser alinhados em algum momento antes de serem lançados em produção, e uma IA lançada sem nunca ter acesso à internet representaria uma ferramenta de utilidade limitada.
