Dario Amodei, CEO da Anthropic, reafirmou que a empresa pretende avançar no desenvolvimento de inteligência artificial sem ceder a pressões comerciais ou políticas. Em discurso antes da abertura da Nasdaq, na quinta-feira, ele disse que a companhia vai ritmar o treinamento e a implantação de seus sistemas até ter confiança de que são seguros e permanecerão sob controle humano.
A declaração ocorreu no dia em que a Anthropic estreou em Wall Street por meio de uma oferta pública inicial (IPO) que a reportagem descreveu como a maior da história. Amodei afirmou que a nova posição financeira da empresa reforça, e não reduz, seu compromisso com a segurança.
“Vamos levar o tempo que for necessário para ter confiança de que os sistemas são seguros e permanecerão sob controle humano”, disse o executivo. Ele também afirmou que a Anthropic não cederá a pressões de negócios ou de governos. A promessa, segundo ele, envolve manter investimentos em alinhamento e testes de IA e desenvolver formas de compreender melhor o comportamento dos sistemas.
Riscos e medidas de segurança
Amodei citou riscos como o uso indevido da tecnologia por indivíduos ou Estados, a disrupção econômica e a possibilidade de perder o controle de sistemas de IA. Na avaliação da Anthropic, esses riscos podem ser evitados, desde que as empresas que desenvolvem a tecnologia façam escolhas voltadas à segurança.
O executivo disse que o trabalho está longe de terminar e que as etapas mais difíceis ainda estão por vir. Ele afirmou que a equipe da Anthropic precisará dedicar ainda mais esforço à verificação de que seus sistemas são seguros e continuam sob controle humano. Entre as medidas mencionadas no discurso estão salvaguardas contra riscos biológicos e cibernéticos, treinamento e testes de alinhamento e pesquisas para entender e direcionar o comportamento dos modelos.
Em setembro, Amodei havia apresentado uma proposta para controlar o ritmo do desenvolvimento de IA. Entre as ideias estavam coordenar padrões de segurança com outras empresas líderes e incluir avaliadores de organizações externas para verificar se as companhias cumprem seus compromissos. Sam Altman, CEO da OpenAI, Demis Hassabis, chefe da Google DeepMind, e Elon Musk, dono da xAI, disseram concordar com a posição de Amodei. A reportagem ressalva, porém, que poucos compromissos concretos foram assumidos.
Aplicações na ciência ainda são iniciais
O discurso começou com a história familiar de Amodei: ele e sua irmã, Daniela, cofundadora da Anthropic, perderam o pai para uma doença que se tornou curável alguns anos depois. O episódio, disse o executivo, contribuiu para sua motivação para trabalhar com biologia e para a ideia de desenvolver tecnologia capaz de beneficiar a humanidade.
Amodei argumentou que a inteligência artificial pode ajudar pesquisadores a avançar em áreas médicas. Citou o uso do Claude em pesquisas sobre dobramento de proteínas, desenho de medicamentos, genética do câncer e administração de ensaios clínicos. Segundo ele, pesquisadores de diferentes áreas da biologia e da medicina já usam o modelo para acelerar parte do trabalho. No entanto, classificou os resultados como iniciais: experimentos e ensaios clínicos continuam exigindo tempo, ainda que, em sua avaliação, a IA possa acelerar esses processos.
O CEO disse acreditar que uma IA suficientemente poderosa, trabalhando em conjunto com pessoas, poderia comprimir um século de progresso científico e médico em uma década. Ele apresentou isso como uma possibilidade futura, não como um resultado já alcançado, e afirmou esperar que menos famílias deixem de ter acesso a uma cura por poucos anos.
A cofundadora Daniela Amodei também comentou os riscos e as possibilidades da tecnologia em entrevista à CNBC. Ela afirmou que a Anthropic foi criada com a missão de reduzir esses riscos e que a empresa continua comprometida com a segurança, embora reconheça que ainda há trabalho a fazer.
No encerramento, Dario Amodei disse que a Anthropic quer incentivar uma “corrida para o topo” na indústria: uma competição em que as empresas avancem sem abrir mão da segurança. Segundo ele, o objetivo é melhorar as práticas de todo o setor, independentemente de a Anthropic estar vencendo ou perdendo em determinado momento.









