Estamos vendo um grande debate sobre segurança em IA e uma possível desaceleração, já que o CEO da Anthropic, Dario Amodei, publicou recentemente um plano para "regular a fronteira", enquanto o CEO da Nvidia, Jensen Huang, ecoou publicamente as afirmações do presidente Donald Trump de que o contracuasse à IA é uma farsa e que a regulação é desnecessária.
No episódio mais recente do podcast Equity do TechCrunch, Kirsten Korosec, Sean O'Kane e Anthony Ha discutiram se executivos como Amodei e Sam Altman, CEO da OpenAI, estão sendo sérios sobre querer desacelerar.
Enquanto Anthony ficou surpreso com quantos líderes do setor pareciam apoiar o plano de Amodei, Sean apontou que o plano parecia pouco detalhado.
E quando Kirsten perguntou se uma combinação de regulação existente e o funcionamento do mercado livre poderiam fornecer salvaguardas suficientes por conta própria, Sean respondeu: "Temos um governo federal no momento que certamente não parece ansioso para aplicar regulações em termos gerais, muito menos especificamente aqui."
Além disso, ele argumentou: "Não parece haver muita escolha do consumidor impulsionando este mercado, no sentido de que, ok, se uma dessas empresas fizer algo realmente ruim, veremos um impacto em quantos cancelamentos há ou o que quer que seja."
A conversa em detalhes
Anthony Ha: Sean, o que você acha? Vamos realmente "regular a fronteira"?
Sean O'Kane: Isso soa, por alguma razão, como algo de "Point Break". É apenas uma declaração muito californiana, como, "Vamos regular a fronteira, mano."
Não sei. Eu disse neste programa semana passada que não achava que estávamos indo para uma desaceleração de nenhum tipo, em grande parte porque não acho que essas empresas sejam estruturadas de forma que funcione.
Então foi uma reviravolta bem imediata do que eu disse uma semana atrás, ouvir isso de Dario na Anthropic e Sam na OpenAI e até mesmo de Elon Musk em certa medida — e podemos entrar se acreditamos nisso ou não. Devo dizer, não acho que estava completamente errado, porque mesmo com esses planos vagos que Dario apresentou em um post de blog e algumas das outras coisas que os líderes conversaram, sinto que ainda estamos perdendo muitos detalhes aqui, não apenas em algumas das alegações sobre por que essas pessoas acham que existem perigos e riscos, mas também especificidades sobre o que eles entendem por desaceleração.
Anthony, sei que você leu esse material com bastante atenção no fim de semana passado enquanto tudo isso estava acontecendo, então estou curioso se você é talvez mais generoso que eu, no que diz respeito a entender o que eles estão tentando dizer aqui.
Anthony: Bem, também tenho perguntas. O que realmente me chamou atenção é o fato de que tantas pessoas no setor pareciam convergir em torno disso bem rápido. Até antes de Amodei publicar seu post de blog, eu estava vendo outras pessoas postarem alguma versão disso, nos dias anteriores.
Meu entendimento é que essas sugestões que surgiram da comunidade de segurança em IA são coisas que estão circulando há um tempo. Não são coisas que ele pensou por conta própria. Mas apenas pareceu que muitas pessoas estavam dispostas a abraçar isso e, em alguns aspectos, é animador ver que há um consenso. Mas isso também me deixa um pouco cético de que isso representaria passos genuínos e importantes em direção a uma desaceleração.
Kirsten Korosec: Em primeiro lugar, consenso pode ser uma coisa boa. Também pode ser o início de formar um cartel. Então, vamos ser claros sobre quem estamos falando aqui. Estamos falando sobre laboratórios de IA de fronteira, e isso é específico e importante.
Você disse há um minuto que os detalhes não estão realmente claros, mas sabemos que a ideia geral aqui é que avaliadores independentes de terceiros viriam que funcionariam dentro de empresas como Anthropic ou OpenAI e monitorariam práticas de segurança em IA e incidentes. Mas há muita vagueza em torno disso.
Depois há outra proposta para que grandes empresas de IA em países democráticos coordenem padrões de segurança e limites. E então este pedaço de coordenação internacional. Então essas são as ideias gerais em torno disso.
Vou também adicionar que houve um contracuasse muito considerável de pessoas bem específicas. E surpreendentemente, de algumas pessoas que eu não achava que fariam objeção a isso. O óbvio, suponho, seria o CEO da Nvidia, Jensen Huang, que teve algumas palavras bem escolhidas. Não sei o que vocês dois pensam de algumas de suas observações e da ligação que ele recebeu do presidente Trump no palco na Conferência All-In.
Sean: Acho que Jensen entende que, até certo ponto, ele é visto como o adulto na sala aqui. O que é interessante, porque é uma dinâmica que acho que mudou. Se você perguntasse a pessoas um ano, quase dois anos atrás agora, quem estava desempenhando esse papel enquanto essas empresas de IA estavam realmente começando a explodir de maneiras grandes, acho que muitas pessoas apontariam para Microsoft e Satya Nadella, e sinto que a Microsoft — por várias razões que não precisamos entrar agora — perdeu esse controle de ser o adulto na sala. Certamente em parte porque Nadella disse que iria fazer o Google dançar, e então isso nunca aconteceu. e de fato, o oposto aconteceu, em muitos aspectos.
Jensen, acho, entende não apenas que precisa agradar a maioria das pessoas e assim quer dizer a coisa mais medida, ele também é um dos mais úteis elos de ligação entre este campo e esta administração, ao ponto em que está recebendo uma ligação do presidente enquanto está no palco nesta conferência muito bem-frequentada e de alto perfil que permitiu a ambos responder a toda essa bagunça.
Kirsten: Corroborando seu ponto sobre ele ser o adulto na sala e o elo de ligação, ele está em uma posição em que poderia fazer isso. Mas em minha opinião, eu diria que o aparecimento dele, que pareceu um pouco encenado, foi longe demais e realmente destacou o fato de que a Nvidia se beneficia muito de IA avançando de uma maneira não regulada.
Odiei ser cínica sobre isso, mas essa foi minha reação inicial a isso.
Anthony: Os interesses de Trump e Huang estão alinhados, e também Huang está dizendo a Trump o que ele quer ouvir.
Achei que algumas das coisas em que ele estava se focando especificamente valem a pena desempacotar um pouco. Primeiro ele falou sobre a ideia de "Não vamos ter uma desaceleração." É interessante, apenas a frase "desaceleração", que surgiu muito — mas ao mesmo tempo, tanto Altman quanto Amodei usarão a linguagem de desaceleração, mas a palavra que eles preferem usar é "regular", certo?
E essas três propostas — as que você acabou de descrever, Kirsten — em teoria, poderiam resultar em coisas desacelerando, mas eles não estão dizendo isso explicitamente. Está dizendo, "Ei, estamos tomando algumas medidas básicas de segurança e tendo algumas pessoas de olho em nós." Mas nenhuma dessas coisas está intrinsecamente dizendo que as coisas têm que ir mais devagar do que estão agora, pelo menos como entendo.
Kirsten: Então tenho uma pergunta para Sean. Você não poderia argumentar que em uma sociedade de mercado livre, temos regulações existentes em vigor, e também em um ambiente competitivo em que não há protecionismo, se há algo inseguro que é lançado por uma empresa, que ela não seria mais capaz de ser uma empresa viável? E existem reguladores em vigor hoje que poderiam ir atrás dessas empresas? Ou você rejeita essa ideia?
Sean: Em um vácuo, ou em um mercado que não está sendo distorcido por um monte de pressões externas diferentes, sim, acho que há um elemento disso. Mas temos um governo federal no momento que certamente não parece ansioso para aplicar regulações em termos gerais, muito menos especificamente aqui.
E também estamos nessa situação estranha onde — realmente não sei a maneira certa de dizer isso, mas não parece haver muita escolha do consumidor impulsionando este mercado, no sentido de, ok, se uma dessas empresas fizer algo realmente ruim, eles verão um impacto em quantos cancelamentos há ou o que quer que seja.
Especialmente agora, quando eles se movimentaram para a empresa e estão ganhando muito mais de seu dinheiro vendendo seus serviços para empresas, é naturalmente mais difícil votar com seus dólares ali. As corporações não vão se mudar de Codex da OpenAI para Claude Code da Anthropic apenas porque discordam em princípio de algo que OpenAI fez.
E então eles também estão sendo sustentados por tanto dinheiro de investimento que facilita para eles absorver qualquer uma dessas perdas se realmente as enfrentarem. Então acho que é uma ideia legal em teoria, mas sinto que na prática, nada disso realmente está acontecendo.
