A OpenAI, empresa responsável pelo ChatGPT, informou que o ataque cibernético realizado por um de seus modelos mais avançados de inteligência artificial atingiu mais de um serviço online durante um teste de segurança.
Inicialmente, acreditava-se que a Hugging Face — plataforma amplamente utilizada por desenvolvedores para compartilhar modelos e ferramentas de IA — havia sido a única afetada. No entanto, a OpenAI revelou que a inteligência artificial também acessou outros “serviços disponíveis publicamente”.
Segundo a empresa, o modelo encontrou quatro credenciais expostas na internet e utilizou esses logins para acessar quatro serviços distintos, que não tiveram seus nomes divulgados.
Enquanto isso, durante uma reunião de emergência com centenas de especialistas em segurança cibernética, representantes da Hugging Face relataram como ocorreu o primeiro ataque conhecido realizado de forma totalmente autônoma por uma inteligência artificial.
De acordo com a empresa, a IA operou em velocidade muito superior à humana, mas também apresentou comportamentos incomuns, tomando decisões consideradas ilógicas e cometendo erros que dificilmente seriam praticados por hackers experientes.
A Hugging Face, que funciona como um repositório de modelos e aplicações de inteligência artificial, afirmou que os agentes automatizados executaram milhares de tentativas simultâneas utilizando diferentes métodos para alcançar seus objetivos.
A companhia revelou o incidente em 16 de julho e informou o caso às autoridades. Dias depois, a OpenAI confirmou que o ataque havia sido realizado por um de seus modelos durante um teste interno.
Segundo a empresa, a IA buscava solucionar um desafio de segurança elaborado pela própria OpenAI e, durante esse processo, acabou atacando a infraestrutura da Hugging Face.
Na quarta-feira (29/07), a OpenAI atualizou seu posicionamento e informou que o incidente foi mais amplo do que se imaginava.
“Os modelos identificaram e usaram credenciais expostas publicamente em nível de conta em outros serviços disponíveis publicamente. Isso inclui quatro contas em quatro serviços como parte do incidente com a Hugging Face”, informou a empresa.
A OpenAI não esclareceu se os “serviços disponíveis publicamente” mencionados correspondem a empresas ou a outras plataformas online.
IA apresentou comportamento incomum durante ataque
Na terça-feira (28), a Cloud Security Alliance (CSA) divulgou um relatório baseado em uma reunião de emergência realizada com a Hugging Face. O documento foi posteriormente revisado pela própria empresa.
Segundo a CSA, os agentes de IA seguiram caminhos considerados ineficientes e apresentaram comportamentos incomuns durante o ataque.
“Os agentes seguiram rotas ineficientes e exibiram comportamentos desajeitados que nenhum humano escolheria”, destacou o relatório.
Ainda conforme o documento, os modelos repetiram tarefas já concluídas, perderam o contexto em diversos momentos, produziram comandos incoerentes, deixaram rastros da invasão e cometeram falhas que chamaram a atenção dos especialistas.
Apesar disso, a Hugging Face afirmou que os agentes também demonstraram elevada capacidade técnica, adaptando rapidamente suas estratégias diante das barreiras encontradas ao longo da invasão, que se estendeu por vários dias.
Ataque exigiu reconstrução de parte da infraestrutura
Segundo a Hugging Face, foram necessários três dias para que os agentes fossem identificados dentro da rede da empresa. Após a descoberta, especialistas em inteligência artificial e segurança cibernética trabalharam durante várias horas para conter a invasão.
A companhia informou que precisou reconstruir aproximadamente um terço de sua infraestrutura, mas não divulgou os prejuízos financeiros causados pelo incidente.
A transparência da empresa ao comunicar o ataque foi elogiada por especialistas do setor.
A Cloud Security Alliance afirmou que o episódio demonstra que agentes autônomos de IA “encontraram um meio”, em referência à frase do personagem Dr. Ian Malcolm, do filme Jurassic Park, sobre a capacidade de adaptação da vida.
“Eles são orientados por objetivos, definem suas próprias submetas, adaptam-se em tempo real para contornar defesas e operam com uma persistência na velocidade de uma máquina que pode sobrepujar operações manuais”, afirma o relatório.
Para Ritesh Patel, especialista em segurança cibernética que participou da reunião com cerca de 450 profissionais, os agentes autônomos representam um novo desafio para o setor.
“Esta é a realidade dos agentes autônomos movidos por modelos de ponta: eles são implacavelmente persistentes, às vezes extremamente ruidosos e tentarão todos os caminhos possíveis para atingir seu objetivo, o que pode facilmente sobrecarregar as defesas tradicionais”, afirmou.
A hacker ética Valentina Palmiotti, conhecida como Chompie, avaliou que, embora as ações dos agentes pareçam desorganizadas, elas acabam sendo eficientes.
“Eles lançam um monte de coisas e veem o que funciona”, disse.
“Mas eles também não se entediam, não dormem e podem ser infinitamente tenazes.”
Especialistas alertam para novo cenário de segurança
O relatório da CSA lembra que esta não é a primeira vez que modelos de inteligência artificial apresentam comportamentos considerados “descontrolados”. Como exemplo, cita um episódio ocorrido em setembro de 2024, quando um modelo anterior do ChatGPT conseguiu escapar das restrições de um teste interno para obter informações necessárias à execução de uma tarefa.
Na ocasião, o incidente permaneceu restrito aos sistemas da própria OpenAI.
Segundo a CSA, esse tipo de comportamento tende a se tornar cada vez mais frequente e exige uma mudança na forma como empresas lidam com segurança digital.
O relatório também recomenda que desenvolvedores e organizações adotem mecanismos que permitam identificar os responsáveis por agentes autônomos de IA, aumentando a transparência e facilitando a resposta a futuros incidentes.
Relatos anteriores indicam que a OpenAI levou quatro dias para identificar que um de seus modelos havia invadido a Hugging Face durante o teste. A empresa informou que divulgará, em breve, os resultados completos da investigação para compartilhar as lições aprendidas com o episódio.
