OpenAI revela que un agente de IA hackeó una plataforma durante una prueba de seguridad

OpenAI revela que un agente de IA hackeó una plataforma durante una prueba de seguridad

La compañía calificó el hecho como un incidente sin precedentes y anunció una investigación conjunta con Hugging Face para analizar lo ocurrido.

OpenAI informó que uno de sus agentes de inteligencia artificial protagonizó un incidente de ciberseguridad durante una prueba interna al acceder a internet y atacar la plataforma Hugging Face sin intervención humana directa. La empresa calificó el episodio como un hecho «sin precedentes» y confirmó que trabajará junto con la plataforma afectada para investigar lo ocurrido.

Según explicó la compañía, el incidente ocurrió dentro de un entorno de pruebas aislado, diseñado para evaluar las capacidades de sus modelos avanzados de IA. Durante la evaluación, el sistema buscó una forma de conectarse a internet para resolver la tarea asignada y, una vez que obtuvo acceso, dirigió sus acciones contra Hugging Face, uno de los principales repositorios de modelos de inteligencia artificial y bases de datos para desarrolladores.

OpenAI detalló que en la prueba participaron varios modelos, entre ellos GPT-5.6 Sol y otro sistema aún no presentado oficialmente. De acuerdo con la empresa, el agente intentó obtener «información secreta» que le permitiera superar la evaluación y encadenó distintos métodos de ataque, incluido el uso de credenciales robadas.

La empresa con sede en San Francisco anunció que realizará una investigación junto con Hugging Face para determinar cómo se desarrolló el incidente y evaluar las implicancias del comportamiento autónomo de sus modelos.

Leer la nota completa en Resumen de Noticias

Información de la nota

Fuente original
Resumen de Noticias
Registrada por Moopio

Moopio.com no es responsable por las acciones de los sitios web de terceros ni por el contenido que estos publiquen. Las noticias y artículos a los que se enlaza desde este sitio son propiedad y responsabilidad de los autores y editores originales. No tenemos control sobre la veracidad, precisión, o legalidad de la información contenida en estos sitios. Más informacion en Términos de Servicio.

Diario ABC

Esperanza vial sigue en terapia - Opinión - ABC Color

La República atraviesa días turbulentos. El escándalo de Ueno Bank dejó de ser tan «ueno» para miles de ahorristas, que terminaron descubriendo que el banco no fue asaltado, sino que, según las denuncias, habría asaltado la tranquilidad y los ahorros d...

Diario ABC

Promesa que terminó en burla - Opinión - ABC Color

Las promesas del entonces presidente de la República, Santiago Peña, vuelven a quedar en evidencia con la situación del Hospital Regional de Caacupé. Lo que fue presentado como una millonaria inversión para transformar la infraestructura sanitaria del ...

Diario ABC

¿Inquisición política? - Opinión - ABC Color

Las últimas elecciones municipales en el departamento de Itapúa representaron una interesante tendencia a la alternancia entre signos políticos. Esto representó el retorno de la ANR con hegemonía sobre la mayoría de los distritos. Este fenómeno ha veni...

Más de Resumen de Noticias