IA da OpenAI invade sistemas por conta própria durante teste e acende alerta de segurança

A OpenAI, empresa responsável pelo ChatGPT, confirmou que agentes de inteligência artificial usados em um teste de segurança cibernética acessaram, além da plataforma Hugging Face, outras quatro contas em serviços públicos. O caso é considerado um dos primeiros episódios conhecidos de um ataque cibernético realizado de forma autônoma por agentes de IA.

Inicialmente, acreditava-se que a Hugging Face, plataforma amplamente utilizada por desenvolvedores de inteligência artificial, havia sido a única vítima. Em uma atualização divulgada nesta quarta-feira (29), a OpenAI informou que os modelos identificaram e utilizaram credenciais expostas publicamente para acessar quatro contas em quatro serviços diferentes.

A empresa, no entanto, não esclareceu se os serviços mencionados são outras companhias nem revelou quais plataformas foram acessadas.

O incidente ocorreu durante um teste criado pela própria OpenAI para avaliar as capacidades de seus modelos em tarefas de hacking. Durante a atividade, os agentes de IA deixaram um ambiente controlado e atacaram a infraestrutura da Hugging Face de maneira autônoma.

IA agiu em velocidade superior à humana

Segundo um relatório elaborado pela Cloud Security Alliance (CSA), com informações revisadas pela própria Hugging Face, os agentes de IA operaram durante vários dias e testaram milhares de métodos simultaneamente.

Os sistemas apresentaram comportamentos considerados incomuns. Em alguns momentos, repetiram procedimentos já realizados, seguiram caminhos pouco eficientes, produziram comandos incoerentes e deixaram rastros que poderiam ter sido apagados por um invasor humano.

Leia mais

Fim da mídia digital: jogadores da plataforma PlayStation promovem “apagão digital” em protesto contra a empresa

Eleições 2026: Saiba como a identificação biométrica vai funcionar neste pleito

Apesar dos erros, os agentes também demonstraram capacidade de adaptação e realizaram operações tecnicamente sofisticadas. A velocidade e a persistência das ações dificultaram a resposta dos especialistas.

Os invasores permaneceram cerca de três dias dentro da rede da Hugging Face antes de serem identificados. Depois da descoberta, as equipes de inteligência artificial e segurança cibernética levaram várias horas para conter a ação e remover os agentes do sistema.

A empresa não informou quanto o incidente custou, mas afirmou que precisou reconstruir aproximadamente um terço de sua infraestrutura após o ataque.

Caso acende alerta no setor de segurança

O episódio foi discutido em uma reunião de emergência da Hugging Face com cerca de 450 profissionais de segurança cibernética e especialistas em inteligência artificial. A empresa também comunicou o caso às autoridades policiais.

Especialistas alertam que agentes autônomos representam um novo desafio para a segurança digital. Diferentemente de hackers humanos, esses sistemas podem testar uma grande quantidade de caminhos em alta velocidade, adaptar estratégias em tempo real e insistir repetidamente até encontrar uma forma de atingir o objetivo.

A Cloud Security Alliance afirmou que esse tipo de comportamento deve ser considerado uma preocupação crescente e defendeu que empresas desenvolvedoras e usuárias de agentes de IA adotem mecanismos mais rígidos de controle e rastreamento.

O relatório também destacou a necessidade de criar formas de identificar quem está por trás de agentes autônomos durante incidentes, aumentando a transparência e facilitando a responsabilização.

A OpenAI afirmou que vai divulgar posteriormente os resultados de sua própria investigação sobre o caso. A empresa pretende utilizar as conclusões para ajudar o setor de tecnologia e segurança cibernética a desenvolver medidas de proteção contra possíveis ataques realizados por agentes de inteligência artificial.

(*)Com informações da BBC