A Amazon Web Services anunciou nesta segunda-feira o TorchNeuron, uma ferramenta que permite que aplicações de inteligência artificial rodem no chip Trainium da Amazon com apenas uma mudança de linha de configuração, sem necessidade de reescrever código.
O movimento representa uma tentativa direta da Amazon de quebrar o domínio que a Nvidia exerce sobre o PyTorch, o toolkit gratuito e open source utilizado por aproximadamente 85% dos aplicativos de IA para construir, treinar e executar modelos. Originalmente desenvolvido pelo Facebook e mantido pela Linux Foundation desde 2022, o PyTorch tornou-se profundamente integrado ao ecossistema de hardware Nvidia através do CUDA, a infraestrutura de software que permite que aplicações rodem em GPUs e outros hardwares da empresa.
O TorchNeuron é adaptado do PyTorch, preservando a familiaridade de desenvolvedores que já conhecem o framework. A ferramenta representa a mais ambiciosa investida da Amazon contra a dominância Nvidia, ainda que não seja a primeira empresa a oferecer portabilidade simplificada. Usuários de PyTorch já podem portar suas aplicações para GPUs AMD ou chips Apple com simples mudança de configuração.
Contudo, a Amazon argumenta que portar para Trainium oferece não apenas facilidade de migração, mas também acesso ao ecossistema completo da AWS. A empresa enfatiza isso como vantagem sobre nuvens especializadas ligadas a Nvidia, como CoreWeave, Nebius e Firmus, que oferecem capacidade de computação mais limitada.
"Você está construindo na AWS. Você não está apostando em um único provedor de computação e se esforçando para construir tudo mais ao redor disso", afirmou Colin Brace, vice-presidente de Technology Software na AWS Annapurna Labs, a unidade responsável por fabricar os chips customizados da Amazon.
O Trainium diferencia-se por suportar tanto treinamento quanto inferência de modelos no mesmo chip, integrado à infraestrutura em nuvem necessária para startups. A Amazon afirma que essa abordagem unificada economiza custos mesmo sem oferecer o menor preço por token. Deepgram, fornecedor de aplicações de voz com IA e concorrente de ElevenLabs, migrou para Trainium utilizando suporte nativo de PyTorch e conseguiu processar 70% mais áudio por dólar mantendo qualidade em nível de produção.
Além de facilitar a migração para seu próprio hardware, a Amazon está atuando diretamente no PyTorch para reduzir o acoplamento automático do framework ao ecossistema Nvidia. A empresa contribuirá código ao projeto principal do PyTorch, trabalhando com a comunidade para remover código que prende o framework a chips específicos. O objetivo é tornar PyTorch mais agnóstico a hardware para toda a comunidade de desenvolvedores, não apenas usuários de Trainium.
Essa estratégia representa potencial impacto mais amplo sobre a Nvidia do que simplesmente oferecer competição em hardware e serviços em nuvem. Conforme destacou Brace: "A verdadeira história é remover o bloqueio que impedia desenvolvedores de ter uma escolha real."
O sucesso da Amazon em desacoplar PyTorch de Nvidia poderia ter ramificações significativas para a gigante de GPUs. Enquanto tal movimento beneficia empresas que vendem hardware e serviços em nuvem concorrentes, um propósito central do PyTorch é ocultar as dificuldades de executar código de IA em diferentes hardwares. Os resultados práticos ainda dependerão de se a iniciativa realmente oferecerá aos desenvolvedores mais escolhas e opções mais acessíveis, como promete a Amazon, ou se resultará em complexidade adicional de configuração.
