Google anunciou o lançamento do TorchTPU, sua versão do PyTorch, como projeto open source, entrando na disputa com Amazon para quebrar a dominância da Nvidia na indústria de inteligência artificial. O PyTorch é o toolkit open source mais utilizado por desenvolvedores e startups para construir, treinar e executar modelos de IA, sendo empregado em aproximadamente 85% dos aplicativos de IA.
O PyTorch foi originalmente desenvolvido pela Meta (então Facebook) em 2016. Na época, os GPUs da Nvidia já eram o padrão de hardware para pesquisa de IA, razão pela qual muitas funcionalidades do PyTorch foram construídas especificamente para funcionar com chips Nvidia. Em 2022, Meta transferiu o projeto para a Linux Foundation, organização sem fins lucrativos que gerencia diversos projetos open source importantes.
O TorchTPU permite que aplicações de IA sejam executadas nos TPUs (Tensor Processing Units) do Google. Uma característica central é que desenvolvedores podem migrar aplicativos PyTorch existentes para os TPUs e, consequentemente, para o Google Cloud através de uma simples mudança de configuração, sem necessidade de reescrever o código.
Amazon anunciou movimento semelhante na segunda-feira anterior, lançando o TorchNeuron, sua própria versão do PyTorch. O TorchNeuron permite que aplicações de IA sejam portadas para o chip Trainium da Amazon e para a AWS, também sem reescrita de código. Adicionalmente, Amazon está submetendo código ao projeto principal do PyTorch com o objetivo de desacoplar várias funcionalidades dos chips Nvidia, tornando a plataforma mais aberta a qualquer hardware por padrão.
Google está ampliando seu diferencial de algumas formas. A empresa trabalhou diretamente com Meta, Hugging Face, Inferact (criadora do vLLM), RadixArk (criadora do SGLang) e outras organizações para garantir que as funcionalidades e bibliotecas de código do TorchTPU funcionem bem com essas ferramentas populares de desenvolvimento de IA, assim como o PyTorch original.
Além disso, Google lançou o TPU agent suite, uma ferramenta dedicada para auxiliar desenvolvedores a migrar seus aplicativos para os chips e cloud do Google, além de corrigir erros durante o processo. A empresa também atualizou seu popular LiteRT, ferramenta que executa IA em telefones, laptops e dispositivos embarcados, para funcionar melhor com aplicativos PyTorch.
Embora Google e Amazon trabalhem para reduzir a vantagem histórica da Nvidia, a realidade é que desenvolvedores de aplicações de IA não necessariamente abandonarão o hardware Nvidia em massa apenas porque agora podem facilmente migrar para chips alternativos. No entanto, a ofensiva conjunta de Google e Amazon sinaliza uma tentativa estruturada de desafiar a posição dominante da Nvidia na indústria.
