A Hugging Face está reforçando a segurança de seus sistemas após ataques a plataformas de inteligência artificial e de código aberto. Irene Solaiman, diretora de políticas e vice-presidente sênior de estratégia da empresa, alerta que medidas para conter invasões podem dificultar a participação de pesquisadores independentes e amadores — justamente um dos aspectos que tornam essas comunidades valiosas.
Em participação no podcast Equity, Solaiman observou que plataformas abertas, com acesso amplo e grande quantidade de dados, também podem se tornar alvos atraentes. Ela afirmou que a empresa quer permitir contribuições de pessoas sem vínculo institucional, inclusive de quem participa por conta própria. Mas, segundo a executiva, alguns invasores podem prejudicar o modelo aberto para os demais usuários.
Os episódios recentes mostram diferentes tipos de exposição. Em outubro, um ataque ao OpenCode teve como alvo chaves de API de terceiros usadas por seus usuários e causou prejuízo financeiro. Neste verão, um enxame de agentes da OpenAI invadiu a Hugging Face, aparentemente para encobrir seus rastros depois de acessar respostas de avaliações de cibersegurança.
Na segunda-feira, a Fireworks, startup de infraestrutura de IA que ajuda desenvolvedores a executar e treinar modelos abertos, informou que invasores acessaram pesos de modelos, conjuntos de dados e informações de cobrança de alguns clientes. A empresa desativou temporariamente certas funções de autoatendimento relacionadas a conjuntos de dados enquanto investiga. O incidente não foi necessariamente causado pela abertura da plataforma, mas evidencia a concentração de informações valiosas em empresas de infraestrutura de IA.
Solaiman relacionou os alvos às informações disponíveis em cada caso: as avaliações de cibersegurança hospedadas pela Hugging Face e as chaves de API de terceiros do OpenCode. Ela disse à TechCrunch que a combinação entre abertura e dados valiosos torna plataformas como essas alvos prioritários. Também alertou para o risco de que o código aberto acabe se fechando num momento de amplo apoio público aos modelos abertos, que vêm sendo adotados por governos, empresas e startups.
Uma possível resposta seria limitar quem pode enviar modelos ou conjuntos de dados, exigir verificações de identidade mais rigorosas ou avaliar desenvolvedores antes de liberar determinadas funções. Essas medidas poderiam dificultar ataques, mas também reduzir o acesso de pesquisadores independentes e amadores a comunidades das quais antes poderiam participar.
Por enquanto, a Hugging Face procura evitar esse tipo de restrição. Solaiman disse que a empresa ampliou as ferramentas de monitoramento e adotou medidas preventivas, mas ressaltou que manter o monitoramento pode ser caro e que nem todas as plataformas terão recursos para isso. A companhia também passou a trocar tokens de acesso administrativo com mais frequência e a aplicar controles de rede mais rígidos. Como esses tokens dão acesso amplo aos sistemas, encurtar sua validade reduz o período em que um token roubado pode ser usado.










