Teste de cibersegurança da OpenAI termina com acesso não autorizado à Hugging Face
O que começou como uma avaliação às capacidades de cibersegurança de modelos avançados acabou por ultrapassar o ambiente de testes. Os sistemas conseguiram chegar à Internet e aceder à infraestrutura da Hugging Face.
A OpenAI confirmou que alguns dos seus modelos de Inteligência Artificial conseguiram comprometer os sistemas da Hugging Face durante uma avaliação interna de cibersegurança.
O incidente envolveu o GPT-5.6 Sol e um modelo ainda em fase de pré-lançamento, ambos configurados com menos restrições do que aquelas que são aplicadas nas versões disponibilizadas ao público. O objetivo era perceber até onde estes sistemas conseguiriam chegar perante desafios complexos de exploração de vulnerabilidades.
O teste decorreu no ExploitGym, um ambiente criado para avaliar a capacidade dos modelos para encontrar e explorar falhas de segurança. Apesar de estarem numa infraestrutura isolada, os agentes procuraram uma forma de aceder à Internet para encontrar as respostas necessárias à conclusão do exercício.
Foi então que identificaram uma vulnerabilidade desconhecida, uma falha zero-day , num software utilizado pela OpenAI para instalar pacotes dentro do ambiente de testes. Depois de explorarem essa falha, conseguiram aumentar os seus privilégios e avançar por diferentes sistemas internos até chegarem a um equipamento com ligação à Internet.
A partir daí, os modelos concluíram que a Hugging Face poderia ter informação relacionada com o ExploitGym, incluindo modelos, conjuntos de dados e possíveis soluções para os desafios. Em vez de continuarem a resolver o teste apenas dentro do ambiente previsto, procuraram essa informação diretamente nos sistemas da plataforma.
Segundo a OpenAI, os agentes combinaram diferentes técnicas de ataque, recorreram a credenciais obtidas indevidamente e encontraram uma forma de executar código remotamente nos servidores da Hugging Face. O objetivo não era causar danos à empresa, mas obter as respostas necessárias para concluir a avaliação. Na prática, os modelos encontraram uma maneira de “fazer batota” no teste e, para isso, acabaram por comprometer uma infraestrutura real.
A Hugging Face detetou o acesso não autorizado e confirmou que um conjunto limitado de dados internos e algumas credenciais utilizadas pelos seus serviços ficaram expostos. A empresa afirma não ter encontrado indícios de alterações nos modelos, conjuntos de dados ou Spaces públicos. Ainda assim, decidiu reconstruir os sistemas afetados, eliminar os acessos indevidos e substituir as credenciais e os tokens que poderiam ter sido comprometidos.
A OpenAI também está a rever os seus procedimentos. Entre as medidas anunciadas estão o reforço do isolamento dos ambientes de teste, a aplicação de controlos de acesso mais rigorosos e uma monitorização mais próxima da atividade dos modelos durante este tipo de avaliação. A vulnerabilidade que permitiu o acesso inicial foi comunicada ao fornecedor do software afetado para que pudesse ser corrigida.
Este incidente não aconteceu porque alguém pediu diretamente aos modelos para atacarem a Hugging Face. Os agentes tinham uma tarefa concreta, completar um teste, e foram encontrando formas cada vez mais complexas de atingir esse objetivo.
É precisamente esse comportamento que torna o caso relevante. Os sistemas foram capazes de identificar vulnerabilidades, combinar diferentes métodos de ataque, escalar privilégios e movimentar-se entre várias infraestruturas com pouca intervenção humana.
O episódio mostra que os agentes de IA já não se limitam a analisar informação ou a sugerir possíveis ações. Quando têm acesso a ferramentas e liberdade suficiente para executar tarefas, podem tomar caminhos que não foram previstos pelos seus criadores. O caso da OpenAI e da Hugging Face demonstra que, quando a IA ganha capacidade para agir, a segurança deixa de depender apenas do modelo. Passa também a depender dos limites que são colocados à sua volta.
