A indústria de IA está realmente pronta para desacelerar? O debate entre executivos revela contradições

Meu entendimento é que essas sugestões que surgiram da comunidade de segurança em IA são coisas que estão circulando há um tempo. Não são coisas que ele pensou por conta própria. Mas apenas pareceu que muitas pessoas estavam dispostas a abraçar isso e, em alguns aspectos, é animador ver que há um consenso. Mas isso também me deixa um pouco cético de que isso representaria passos genuínos e importantes em direção a uma desaceleração.

Kirsten Korosec: Em primeiro lugar, consenso pode ser uma coisa boa. Também pode ser o início de formar um cartel. Então, vamos ser claros sobre quem estamos falando aqui. Estamos falando sobre laboratórios de IA de fronteira, e isso é específico e importante.

Você disse há um minuto que os detalhes não estão realmente claros, mas sabemos que a ideia geral aqui é que avaliadores independentes de terceiros viriam que funcionariam dentro de empresas como Anthropic ou OpenAI e monitorariam práticas de segurança em IA e incidentes. Mas há muita vagueza em torno disso.

Depois há outra proposta para que grandes empresas de IA em países democráticos coordenem padrões de segurança e limites. E então este pedaço de coordenação internacional. Então essas são as ideias gerais em torno disso.

Vou também adicionar que houve um contracuasse muito considerável de pessoas bem específicas. E surpreendentemente, de algumas pessoas que eu não achava que fariam objeção a isso. O óbvio, suponho, seria o CEO da Nvidia, Jensen Huang, que teve algumas palavras bem escolhidas. Não sei o que vocês dois pensam de algumas de suas observações e da ligação que ele recebeu do presidente Trump no palco na Conferência All-In.

Sean: Acho que Jensen entende que, até certo ponto, ele é visto como o adulto na sala aqui. O que é interessante, porque é uma dinâmica que acho que mudou. Se você perguntasse a pessoas um ano, quase dois anos atrás agora, quem estava desempenhando esse papel enquanto essas empresas de IA estavam realmente começando a explodir de maneiras grandes, acho que muitas pessoas apontariam para Microsoft e Satya Nadella, e sinto que a Microsoft — por várias razões que não precisamos entrar agora — perdeu esse controle de ser o adulto na sala. Certamente em parte porque Nadella disse que iria fazer o Google dançar, e então isso nunca aconteceu. e de fato, o oposto aconteceu, em muitos aspectos.

Jensen, acho, entende não apenas que precisa agradar a maioria das pessoas e assim quer dizer a coisa mais medida, ele também é um dos mais úteis elos de ligação entre este campo e esta administração, ao ponto em que está recebendo uma ligação do presidente enquanto está no palco nesta conferência muito bem-frequentada e de alto perfil que permitiu a ambos responder a toda essa bagunça.

Kirsten: Corroborando seu ponto sobre ele ser o adulto na sala e o elo de ligação, ele está em uma posição em que poderia fazer isso. Mas em minha opinião, eu diria que o aparecimento dele, que pareceu um pouco encenado, foi longe demais e realmente destacou o fato de que a Nvidia se beneficia muito de IA avançando de uma maneira não regulada.

Odiei ser cínica sobre isso, mas essa foi minha reação inicial a isso.

Anthony: Os interesses de Trump e Huang estão alinhados, e também Huang está dizendo a Trump o que ele quer ouvir.

Achei que algumas das coisas em que ele estava se focando especificamente valem a pena desempacotar um pouco. Primeiro ele falou sobre a ideia de "Não vamos ter uma desaceleração." É interessante, apenas a frase "desaceleração", que surgiu muito — mas ao mesmo tempo, tanto Altman quanto Amodei usarão a linguagem de desaceleração, mas a palavra que eles preferem usar é "regular", certo?

E essas três propostas — as que você acabou de descrever, Kirsten — em teoria, poderiam resultar em coisas desacelerando, mas eles não estão dizendo isso explicitamente. Está dizendo, "Ei, estamos tomando algumas medidas básicas de segurança e tendo algumas pessoas de olho em nós." Mas nenhuma dessas coisas está intrinsecamente dizendo que as coisas têm que ir mais devagar do que estão agora, pelo menos como entendo.

Kirsten: Então tenho uma pergunta para Sean. Você não poderia argumentar que em uma sociedade de mercado livre, temos regulações existentes em vigor, e também em um ambiente competitivo em que não há protecionismo, se há algo inseguro que é lançado por uma empresa, que ela não seria mais capaz de ser uma empresa viável? E existem reguladores em vigor hoje que poderiam ir atrás dessas empresas? Ou você rejeita essa ideia?

Sean: Em um vácuo, ou em um mercado que não está sendo distorcido por um monte de pressões externas diferentes, sim, acho que há um elemento disso. Mas temos um governo federal no momento que certamente não parece ansioso para aplicar regulações em termos gerais, muito menos especificamente aqui.

E também estamos nessa situação estranha onde — realmente não sei a maneira certa de dizer isso, mas não parece haver muita escolha do consumidor impulsionando este mercado, no sentido de, ok, se uma dessas empresas fizer algo realmente ruim, eles verão um impacto em quantos cancelamentos há ou o que quer que seja.

Especialmente agora, quando eles se movimentaram para a empresa e estão ganhando muito mais de seu dinheiro vendendo seus serviços para empresas, é naturalmente mais difícil votar com seus dólares ali. As corporações não vão se mudar de Codex da OpenAI para Claude Code da Anthropic apenas porque discordam em princípio de algo que OpenAI fez.

E então eles também estão sendo sustentados por tanto dinheiro de investimento que facilita para eles absorver qualquer uma dessas perdas se realmente as enfrentarem. Então acho que é uma ideia legal em teoria, mas sinto que na prática, nada disso realmente está acontecendo.