Uma das revelações mais intrigantes do Dev Day da OpenAI realizado na terça-feira veio em um comentário à parte do CEO Sam Altman, que apresentou a nova "Decisions API" da empresa.
A API oferece funcionalidade semelhante à do Jev, um modelo lançado pela TypeSafe AI no início do mês, explicitamente projetado para automação de software. Trata-se essencialmente de um classificador potente construído sobre um modelo de linguagem que recebe um conjunto de opções e as retorna como probabilidades, de forma rápida e barata.
A Decisions API da OpenAI parece ser produto similar. Durante o evento, Altman descreveu a API como uma forma de dar ao modelo Luna da empresa um conjunto predefinido de opções para escolher, como categorias para classificar uma imagem ou diferentes comportamentos de agente.
"Ao focar o modelo nessa escolha, podemos torná-lo extremamente rápido mantendo capacidades como compreensão de imagem, suporte amplo de idiomas e proteções de segurança", afirmou Altman.
A TypeSafe não respondeu às perguntas da TechCrunch sobre o novo produto, mas o CEO Diogo Almeida, um ex-engenheiro do OpenAI que co-inventou reinforcement learning, brincou no X sobre o início das "clone wars".
Ele acrescentou que o interesse da OpenAI poderia ser "um sinal de que construir de forma compatível com System One é o futuro". ("System One" é o termo usado pela TypeSafe para referir-se ao pensamento rápido e intuitivo, versus "System 2", que aplica ao raciocínio deliberado.)
O problema com os modelos atuais
O subtexto aqui é que os modelos de linguagem conforme os conhecemos não são a solução certa para muitas aplicações de software porque são comparativamente lentos e caros. Desenvolvedores têm usado o Jev para complementar modelos de linguagem e, ao fazer isso, descobriram que são mais rápidos e baratos.
Não está claro o quão similar a Decisions API será ao Jev, já que a OpenAI o lançou como preview limitado e, até agora, a TechCrunch não viu desenvolvedores testando-a em detalhes. No entanto, há claramente interesse, segundo conversas no X.
Decisions API não é a única API tipo Jev na internet — outras startups estão lançando modelos semelhantes; a OpenAI não será a última gigante tech a produzir um. A pergunta-chave é o quão bem calibradas estarão as saídas de cada modelo de decisão para a vida real.
Almeida afirma que a diferença competitiva de sua empresa é o dado sintético que cria para gerar saídas estatisticamente úteis.
"Rápido e barato é muito fácil, sabe", disse Almeida à TechCrunch na semana anterior. "Se você quer muito rápido e barato, use um dado de seis faces, certo? Inteligência é a parte difícil, e minha estrela-guia é sempre empurrar a curva de Pareto de inteligência por dólar".
Monitoramento de agentes com custo reduzido
Depois de apenas algumas semanas, parece claro que esses modelos têm um futuro à frente, e uma aplicação provável é monitorar e proteger agentes de IA. Uma das novas medidas de segurança da OpenAI, após uma série de incidentes onde seus agentes se comportaram inadequadamente na internet aberta, é usar um modelo separado para vigiar ações ruins com "custo computacional significativo".
