A Anthropic está desenvolvendo o FlashProve, um sistema de código aberto que pretende permitir a verificação de qual modelo de inteligência artificial produziu uma resposta. A proposta é associar cada saída a um modelo específico por meio de uma prova criptográfica, para que usuários possam conferir se receberam uma resposta do modelo que acreditavam estar usando.
Segundo os pesquisadores, o sistema foi pensado para resistir a tentativas de apresentar um modelo como se fosse outro, inclusive quando a troca for feita pelo próprio laboratório que opera a IA. Entre os possíveis usos citados está detectar a substituição secreta de um modelo por outro mais barato, para reduzir custos, ou por um modelo mais caro, para inflar resultados de desempenho.
A ferramenta também poderia ajudar a verificar afirmações de terceiros sobre o uso de modelos em tarefas específicas. Os pesquisadores mencionam, por exemplo, uma alegação de que uma biblioteca de software foi examinada em busca de vulnerabilidades por um modelo avançado de cibersegurança, ou de que um plano de negócios recebeu a aprovação de um modelo considerado adequado.
Para viabilizar a verificação, os laboratórios de IA precisariam publicar uma “impressão digital” de cada modelo lançado. Ela poderia ser comparada a respostas e validada criptograficamente. De acordo com a descrição do projeto, essas impressões digitais não revelariam os pesos do modelo — os valores internos que definem seu comportamento e que empresas como Anthropic e OpenAI mantêm privados. Assim, a proposta poderia ser compatível também com modelos comerciais fechados.
O FlashProve foi projetado para ser leve, de modo que a checagem possa ser feita em um dispositivo local. A Anthropic publicou uma especificação técnica detalhada e código funcional para diferentes partes do sistema, disponível sob licença de código aberto no GitHub.
A pesquisa ainda está em andamento. A empresa afirma que não há planos de implantar o sistema na Anthropic nem em outro laboratório. Os pesquisadores descrevem o material divulgado como um avanço intermediário, e não como uma agenda de pesquisa concluída; a publicação busca permitir que outras pessoas examinem o trabalho e contribuam para aprimorá-lo.
