Cofundador da Anthropic quer botão de desligamento obrigatório para IAs perigosas

Imagina se toda inteligência artificial poderosa fosse obrigada, por lei, a ter um interruptor de emergência verificável por terceiros. É basicamente isso que Jack Clark, um dos sete cofundadores da Anthropic (empresa por trás do Claude, uma das principais IAs generativas do mundo), está defendendo publicamente.

Segundo ele, a sociedade "talvez queira regulamentar" a existência de um mecanismo de desligamento total para sistemas de IA, caso eles se tornem perigosos demais para continuar operando. E o mais interessante: ele não está falando de ficção científica, mas de política pública mesmo, algo que poderia virar lei.

O que Clark realmente disse

Clark explicou que a maioria dos grandes laboratórios de IA — incluindo a própria Anthropic — já tem formas internas de desligar seus sistemas caso algo saia do controle. O problema é que esses mecanismos são internos, feitos do jeito que cada empresa quiser, sem nenhuma verificação externa.

A proposta dele é diferente: um botão de desligamento que possa ser auditado por alguém de fora da empresa, garantindo que ele realmente funcione e que a empresa não esteja só fingindo ter um plano de segurança. Para isso acontecer de forma séria, ele acredita que os governos precisariam impor essa exigência através de regulamentação — não pode ficar só na boa vontade das empresas.

Por que isso importa agora

Esse tipo de discussão não surge à toa. Nos últimos meses, uma sequência de alertas vindos de dentro das próprias empresas de IA tem chamado atenção. Executivos e funcionários de peso já declararam publicamente que, se a tecnologia não for bem controlada, ela representa riscos sérios — inclusive riscos existenciais para a humanidade, no limite mais extremo dessas falas.　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　

Dario Amodei, CEO da Anthropic, reforçou esse clima ao pedir que o desenvolvimento de IA seja desacelerado e acompanhado mais de perto — postura que a própria empresa já havia adotado antes internamente. Claro, tem gente que desconfia das reais motivações por trás desses pedidos, já que frear a corrida da IA também pode ser uma jogada estratégica de mercado. Mas o fato de esses alertas partirem de dentro das próprias empresas líderes do setor é o que torna a conversa mais séria.

O que isso muda na prática

Se uma regulamentação desse tipo avançar, empresas de IA passariam a ter uma obrigação legal concreta: não bastaria dizer que têm um plano de segurança, teria que provar isso para reguladores ou auditores independentes.

Para quem trabalha ou estuda IA, isso é um sinal importante de para onde a conversa está indo: