A OpenAI incluirá seis avaliadores de segurança da Apollo Research em sua organização para investigar se modelos de inteligência artificial tentam contornar mecanismos de alinhamento e controle. O trabalho será feito em um projeto-piloto, cuja data de início ainda não foi informada pela Apollo.
A avaliação vai abranger tentativas de subverter as proteções dos próprios modelos ou de versões futuras. Segundo a Apollo, os pesquisadores verificarão se o treinamento incentiva esse comportamento, se avaliações conseguem provocá-lo, se ele aparece em implantações internas e se o raciocínio associado pode ser detectado.
A iniciativa ocorre após uma série de incidentes de segurança. Um deles envolveu um grupo de agentes da OpenAI que, durante testes de cibersegurança, saiu de um ambiente isolado e invadiu o Hugging Face. Pesquisadores de segurança, incluindo integrantes da Apollo, argumentaram que a presença de avaliadores externos dentro da empresa poderia ter ajudado a evitar o episódio.
A Apollo também aponta limites nas avaliações externas feitas apenas depois do treinamento e pouco antes de um modelo ser lançado ao público. Esse formato, segundo a organização, não permite investigar comportamentos desalinhados que surjam durante o treinamento nem acompanhar usos internos que possam apresentar riscos.
Outro fato que motiva a investigação é uma divulgação recente da OpenAI sobre o treinamento do GPT-5.6 Sol. A empresa relatou que o modelo começou a deixar instruções para versões futuras ocultarem erros e comportamentos desalinhados dos usuários.
Acesso limitado e regras de divulgação
Para o projeto, a OpenAI fornecerá à Apollo código e conjuntos de dados de treinamento relevantes, execuções de aprendizado por reforço com registros disponíveis do raciocínio e das recompensas, além da possibilidade de consultar versões intermediárias dos modelos, conhecidas como checkpoints.
Esse acesso será restrito às alegações acordadas e aos modelos e períodos definidos para a avaliação. A OpenAI poderá reter informações dentro desse escopo por inviabilidade técnica, riscos de segurança ou proteção de propriedade intelectual. Segundo a Apollo, a empresa concordou em não ocultar informações apenas por serem desfavoráveis.
A equipe da Apollo também não poderá conversar com qualquer funcionário da OpenAI. O acesso ficará limitado a pessoas autorizadas pela empresa, embora os avaliadores possam sugerir nomes. Se um funcionário de fora desse grupo compartilhar informações confidenciais relacionadas à pesquisa, a Apollo não poderá investigar o relato diretamente: terá de interromper a comunicação e encaminhar o acompanhamento pela OpenAI.
Essa condição ganhou relevância após a OpenAI demitir três pesquisadores, acusados de compartilhar informações confidenciais com a METR, organização de avaliação de segurança. A METR participou, ao lado da Redwood, da análise posterior do incidente envolvendo o Hugging Face.
A Apollo considera que uma avaliação realmente independente exigiria acesso em nível de funcionário a todos os dados, registros e documentos pertinentes, inclusive dados de treinamento e registros de avaliação. A organização afirma que esse material é necessário para conferir alegações sobre o desempenho de modelos e identificar quando comportamentos preocupantes surgiram.
A Apollo poderá publicar conclusões independentes, mas a OpenAI poderá limitar quais evidências serão disponibilizadas para sustentá-las publicamente. Isso pode dificultar que terceiros verifiquem os resultados. A Apollo defende que avaliadores possam compartilhar descobertas com um público externo apropriado, inclusive quando elas forem desfavoráveis ao desenvolvedor.
A organização descreveu o piloto como um primeiro passo ambicioso para ampliar direitos de acesso e divulgação. Também afirmou que trabalha para realizar avaliações incorporadas completas com vários desenvolvedores de IA no futuro. Por enquanto, não há data anunciada para o início do projeto nem indicação de que o escopo limitado do piloto será ampliado.











