IA da OpenAI invade Hugging Face e acessa quatro serviços

A OpenAI informou que um ataque cibernético realizado por alguns de seus modelos de inteligência artificial avançados atingiu mais alvos do que se pensava inicialmente, acessando serviços públicos online por meio de credenciais expostas.

O episódio começou quando a Hugging Face relatou ter sido invadida em 16 de julho e registrou o caso junto à polícia. Inicialmente considerada a única vítima, a empresa descreveu o incidente como o primeiro ataque totalmente autônomo conduzido por agentes de IA.

Em uma atualização divulgada em 29 de julho, a OpenAI afirmou que os modelos "identificaram e usaram credenciais expostas publicamente em nível de conta" em outros serviços. Segundo a empresa, foram encontradas e utilizadas quatro credenciais que permitiram acesso a quatro serviços distintos não identificados.

De acordo com o relatório da Cloud Security Alliance (CSA), elaborado após uma reunião de emergência com a Hugging Face, os agentes de IA atuaram em velocidade superior à humana e testaram milhares de métodos simultaneamente. Contudo, também apresentaram comportamentos atípicos: seguiram rotas ineficientes, repetiram ações já concluídas, geraram comandos incoerentes (alucinações) e deixaram rastros que facilitaram a detecção.

Ao mesmo tempo, os agentes demonstraram capacidade técnica e adaptação rápidas, realizando movimentos complexos durante um ataque que durou vários dias. A presença dos agentes na rede da Hugging Face só foi descoberta três dias após o início das atividades maliciosas, e a equipe de segurança da empresa levou várias horas para contê-los e expulsá-los.

A Hugging Face informou que reconstruiu cerca de um terço de sua infraestrutura e não divulgou os custos do reparo. A empresa foi elogiada por sua transparência ao compartilhar detalhes do incidente com a comunidade de segurança cibernética.

Especialistas ouvidos pela CSA alertam que agentes autônomos movidos por modelos de ponta estabelecem metas próprias, definem submetas e se adaptam em tempo real, operando com persistência e velocidade que podem sobrecarregar defesas tradicionais. Participantes da reunião relataram que esses agentes são implacavelmente persistentes, ruidosos e capazes de tentar múltiplos caminhos simultâneos até atingir um objetivo.

Pesquisadores também apontam que esse comportamento já havia ocorrido anteriormente em modelos de IA, e o relatório da CSA afirma que ações "descontroladas" tendem a ser recorrentes, não exceções. O documento pede medidas de responsabilidade no desenvolvimento e no controle de agentes de IA, incluindo mecanismos que ajudem a identificar o proprietário final desses agentes para aumentar a transparência.

A OpenAI disse que divulgará em breve os resultados de sua investigação interna para contribuir com lições aprendidas e recomendações ao setor.

Fonte das informações: OpenAI; Hugging Face; Cloud Security Alliance