Jasmine Wang, Tomek Korbak e Mikita Balesni, três pesquisadores de segurança demitidos pela OpenAI na semana anterior, publicaram carta aberta negando alegações da empresa de que manipularam informações sensíveis fora dos procedimentos estabelecidos e alertando que suas demissões sinalizaram um efeito paralisador com possíveis consequências na cultura da organização.
Contexto das demissões
Os pesquisadores foram desligados após supostamente compartilharem informações confidenciais da empresa com uma organização externa de segurança em IA. A OpenAI afirmou na época que violaram políticas ao "acessar e manipular informações sensíveis da empresa".
Posicionamento dos pesquisadores
Em carta aberta dirigida ao Safety and Security Committee, Safety Advisory Group e Mission Advisory Council da OpenAI, os três afirmaram estar preocupados com comunicações internas e externas que criaram clima de medo entre colegas. "Comportamento que até a semana passada era parte integral do trabalho na OpenAI agora gera demissões", escreveram.
Os pesquisadores argumentam que a liberdade para colaboração com especialistas externos sem temor representa um mecanismo essencial de segurança. "AI não é uma tecnologia normal, e OpenAI não é uma empresa normal", escreveram. "Aqueles que trabalham em segurança veem riscos antes de qualquer outro, e dependemos de colaboração próxima com especialistas externos para resolver como abordá-los."
Apontaram mudança na cultura corporativa, que historicamente encorajava colaboradores a "questionar preocupações de segurança e discordar abertamente". Agora, afirmaram, funcionários ficam "incertos sobre sua posição" quando ações aparentemente rotineiras se tornam motivo para desligamento.
Negação de envolvimento em vazamento
Os pesquisadores negaram envolvimento em vazamento para The Information sobre arquiteturas menos monitoráveis nos modelos mais recentes da OpenAI. Também negaram engajamento com partes externas fora de seus mandatos profissionais.
Detalhes sobre as demissões individuais
Em discussão no X, Wang explicou que foi demitida por acessar email de executivo. Segundo ela, a OpenAI delegou esse acesso para recrutamento. Quando deixou de precisar, pediu ao departamento de TI para remover acesso, mas o pedido não foi atendido e ela não conseguiu removê-lo manualmente. Ao abrir email sensível acidentalmente, notificou o executivo minutos depois e solicitou novamente à TI a remoção do acesso.
"OpenAI me disse que fui demitida por isso", afirmou. Wang questionou se as razões para os desligamentos "estão fazendo sentido" e mencionou que ela e colegas "não são os primeiros a serem afastados de OpenAI em circunstâncias suspeitas".
Balesni trabalhava internamente em problemas crescentes de monitorabilidade de IA, esforço que, segundo a carta, "só pode ter sucesso através de comunicação extensa com partes externas". A carta afirma que coordenou com e recebeu suporte de membros do board e executivos em seu trabalho, removendo detalhes sensíveis de materiais antes do compartilhamento.
