IA da OpenAI invadiu outra empresa antes de fazer ataque 'sem precedentes'

IA pode decidir atacar empresas? Como foi a invasão 'sem precedentes' por modelo da OpenAI
O ataque virtual "sem precedentes" realizado por modelos de inteligência artificial da OpenAI, dona do ChaGPT, exigiu a invasão de um sistema intermediário mantido por outra empresa, informou a Reuters nesta terça-feira (28).
A infraestrutura da empresa de tecnologia Model Labs foi usada pelos modelos de IA da OpenAI para comprometer o sistema da Hugging Face, uma plataforma para compartilhamento de modelos de inteligência artificial.
🗒️ Tem alguma sugestão de reportagem? Envie para o g1
"Estamos cientes de que um cliente da Modal publicou um endpoint sem autenticação que permitia a qualquer pessoa na internet usar seus sandboxes para executar código", disse Akshat Bubna, diretor de tecnologia da Model Labs, em comunicado.
A Hugging Face disse na segunda-feira (27) que um agente malicioso explorou um ambiente de teste controlado "hospedado na infraestrutura de um provedor terceirizado", mas não havia revelado o nome da empresa.
O logotipo da OpenAI é visto em um telefone celular em frente a uma tela de computador que exibe a tela inicial do ChatGPT
AP/Michael Dwyer, Arquivo
Ainda segundo a Hugging Face, esse ambiente controlado foi transformado em uma plataforma de lançamento de ataques que permitiu uma invasão durante dois dias e meio à sua infraestrutura.
IA pode decidir atacar empresas? Entenda como foi a invasão 'sem precedentes' por modelo da OpenAI
Como aconteceu a invasão?
A OpenAI revelou que o GPT-5.6 Sol, lançado no início de julho, e em um modelo ainda não divulgado conseguiram invadir o sistema da Hugging Face, uma plataforma para compartilhamento de modelos de inteligência artificial.
A própria Hugging Face já havia revelado na última quinta-feira (16) que detectou uma invasão feita por um agente de IA. A empresa afirmou que ação permitiu acesso indevido a dados e credenciais.
O incidente aconteceu durante testes em que OpenAI faz os modelos de IA buscarem falhas em outros sistemas para melhorarem suas capacidade de segurança.
Esses experimentos costumam acontecer em ambientes controlados, mas com uma versão sem as barreiras de proteção que costumam existir em modelos disponíveis para usuários comuns.
Em seu comunicado, a OpenAI afirmou que o GPT-5.6-Sol e o sistema que ainda será lançado atuaram em conjunto para encontrar brechas no ambiente de pesquisa da empresa e na infraestrutura da Hugging Face.
A Hugging Face, por sua vez, disse que sua plataforma executou dois códigos enviados por um agente de IA, que então conseguiu aumentar suas permissões na infraestrutura da empresa e obter credenciais para atacar outros sistemas internos.
Esse tipo de ataque deverá se tornar mais comum com o avanço de modelos de IA que entendem de cibersegurança, avaliou a OpenAI ao revelar o ataque. "Consideramos este um incidente cibernético sem precedentes, envolvendo recursos de última geração", afirmou.
Para a Hugging Face, a invasão alerta para o cenário de ataques virtuais conduzidos por agentes como já vinha sendo projetado por especialistas. "Foi diferente de tudo que havíamos enfrentado antes", disse a companhia, em sua primeira manifestação sobre o caso. ...