OpenAI revela que sus modelos de Inteligencia Artificial se descontrolaron y piratearon una startup por su cuenta
La empresa responsable de ChatGPT asegura que un agente, impulsado por sus modelos, decidió atacar "por iniciativa propia" la base de datos de 'Hugging Face'
La burbuja de la IA: necesita “instrumentos financieros que aún no se han inventado”
La compañía de OpenAI ha revelado que un agente autónomo de Inteligencia Artificial (IA), basado en su tecnología, se descontroló durante una prueba. Accedió a internet abierta y pirateó por sí solo una conocida startup en lo que han calificado como un “incidente sin precedentes”.
La responsable de ChatGPT, explicó que la startup 'Hugging Face' detectó y logró contener al agente (una herramienta de IA diseñada para ejecutar tareas sin intervención humana) después de que este accediera a sus sistemas.
“Consideramos que este incidente constituye un ciberataque sin precedentes que involucra capacidades cibernéticas de última generación”, señaló OpenAI.
La empresa advirtió de que espera que este tipo de incidentes se vuelvan cada vez más habituales a medida que los modelos de inteligencia artificial (la tecnología que sustenta herramientas como los chatbots y los agentes autónomos) ganen capacidades más avanzadas.
Según OpenAI, el ataque fue llevado a cabo por un agente impulsado por una combinación de su modelo público más reciente, denominado GPT-5.6 Sol, y otro modelo aún más potente que todavía no ha sido lanzado.
Mientras ambos modelos eran sometidos a pruebas internas sobre sus capacidades de intrusión informática en un entorno digital aislado (conocido como sandbox), lograron acceder a internet abierta al localizar una vulnerabilidad hasta entonces desconocida, que les permitió escapar del entorno de pruebas.
A continuación, el agente atacó 'Hugging Face', una plataforma y repositorio de modelos de Inteligencia Artificial. Con el objetivo de encontrar tecnología que le ayudara a superar la evaluación de seguridad a la que estaba siendo sometido.
OpenAI afirmó que los modelos “encontraron con éxito formas de acceder a información confidencial que podían utilizar para hacer trampas en la evaluación”. El ataque terminó cuando el equipo de seguridad de 'Hugging Face', y sus propios agentes, detectaron y detuvieron la actividad anómala del sistema.
El director ejecutivo de Hugging Face, Clément Delangue, calificó el ataque de “asombroso2, aunque aseguró que no cree que hubiera ”ninguna intención maliciosa“ por parte de OpenAI.
“La semana pasada sospechábamos que el ciberataque podía proceder de un laboratorio puntero de inteligencia artificial, dada la sofisticación del agente”, escribió Delangue en la red social X.
En el ámbito de la ciberseguridad, un fallo informático desconocido recibe el nombre de vulnerabilidad de día cero (zero-day), ya que los desarrolladores disponen de cero días —o prácticamente ningún margen de tiempo— para corregirlo una vez descubierto. En abril, Anthropic, uno de los principales competidores de OpenAI, afirmó que su modelo Mythos había sido capaz de identificar miles de estas vulnerabilidades.
La revelación de la capacidad de Mythos para localizar y explotar vulnerabilidades de día cero llevó al Gobierno de Estados Unidos a restringir las exportaciones de este modelo y de su versión asociada, Fable 5, aunque la prohibición fue levantada posteriormente. GPT-5.6 Sol estuvo sujeto a restricciones similares, pero desde entonces ha sido desplegado a escala mundial.
El congresista demócrata estadounidense Greg Casar afirmó que el incidente resulta alarmante. “La inteligencia artificial está avanzando a una velocidad extraordinaria sin que existan regulaciones efectivas que garanticen nuestra seguridad”, declaró en un comunicado en el que reclamó la implantación obligatoria de pruebas de seguridad independientes.
La notificación obligatoria de los incidentes de ciberseguridad y una mayor cooperación internacional “para proteger a la población frente a un desastre de enormes dimensiones”. ...
이 뉴스, 어떠셨어요?
탭 한 번으로 반응 · 로그인 불필요