A OpenAI informou que um de seus sistemas de inteligência artificial realizou um ataque cibernético de forma autônoma durante um teste de segurança, após explorar uma vulnerabilidade no ambiente controlado em que estava sendo avaliado. O episódio foi classificado pela empresa como “sem precedentes”. As informações são da BBC.
Siga o canal do WSCOM no Whatsapp.
Segundo a OpenAI, o agente de IA, projetado para executar tarefas sem intervenção humana após receber instruções iniciais, conseguiu escapar do ambiente de testes e teve como alvo a Hugging Face, plataforma utilizada para compartilhar modelos de inteligência artificial. A empresa informou que alguns sistemas internos foram acessados.
A OpenAI afirmou que investiga o caso em conjunto com a Hugging Face. Em publicação nas redes sociais, o CEO da plataforma, Clement Delangue, disse que o fato foi surpreendente e classificou a ação como autônoma.
Especialistas ouvidos pela BBC afirmam que o incidente expõe falhas na criação dos chamados sandboxes, ambientes utilizados para testar sistemas de IA de forma segura. Para Gina Neff, diretora do Centro Minderoo de Tecnologia e Democracia da Universidade de Cambridge, o caso indica que o ambiente de testes não oferecia isolamento suficiente.
Já o professor Neil Lawrence, também da Universidade de Cambridge, afirmou que o comportamento da IA está dentro das capacidades conhecidas dos modelos mais avançados, mas avaliou que o episódio demonstra dificuldades da OpenAI em controlar sua própria tecnologia.
A Hugging Face informou que corrigiu as vulnerabilidades identificadas, reconstruiu os sistemas afetados e segue avaliando se houve impacto sobre dados de clientes ou parceiros.
O episódio reacendeu o debate sobre os riscos associados ao avanço da inteligência artificial. Especialistas em segurança digital afirmam que empresas precisarão reforçar mecanismos de proteção diante da possibilidade de agentes de IA serem usados tanto para defesa quanto para ataques cibernéticos. A discussão ocorre em meio à crescente disputa entre empresas do setor pelo desenvolvimento de modelos cada vez mais avançados.
