Agentes fuera de control de OpenAI trataron de borrar rastros de sus acciones, según informe

Agentes fuera de control de OpenAI trataron de borrar rastros de sus acciones, según informe

Agentes de inteligencia artificial (IA) de OpenAI que accedieron de manera autónoma a sitios gubernamentales intentaron borrar el rastro de su actividad, señalaron expertos en un informe publicado este jueves, aunque dicen que no se puede determinar si esa acción fue deliberada.

La empresa de ciberseguridad Asymmetric Security analizó la actividad de estos agentes -programas de IA capaces de actuar por sí mismos-, que tuvieron como objetivo sitios del gobierno australiano y de otras organizaciones públicas entre marzo y septiembre.

Su informe se suma a investigaciones realizadas por e investigadores independientes sobre una serie de incidentes revelados desde julio, entre ellos el hackeo de la plataforma de IA Hugging Face.

Estos análisis buscan determinar hasta dónde pueden llegar las herramientas de IA autónomas cuyos comportamientos imprevistos alimentan el temor a perder el control sobre esta tecnología.

La propia OpenAI calificó el ataque contra Hugging Face como el “primer caso conocido” de agentes que actúan de manera ofensiva sin autorización.

Leer la nota completa en Diario UltimaHora

Información de la nota

Fuente original
Diario UltimaHora
Registrada por Moopio
Interacciones registradas
8 sin variación en la última medición

Moopio.com no es responsable por las acciones de los sitios web de terceros ni por el contenido que estos publiquen. Las noticias y artículos a los que se enlaza desde este sitio son propiedad y responsabilidad de los autores y editores originales. No tenemos control sobre la veracidad, precisión, o legalidad de la información contenida en estos sitios. Más informacion en Términos de Servicio.

Popular

Popular / ¡"Segovinha" presentó a su cuerona novia rapai!

El pelotero Matías Segovia, más conocido como “Segovinha” presentó en sus redes a su chuli. Aprovechando que la señorita en cuestión estaba de cumple, el mediocampista le dedicó un tierno mensaje. “Feliz cumpleaños vida, ¡qué Dios te bendiga siempre! T...

Más de Diario UltimaHora