Los detalles en la nota.
Un exempleado de OpenAI, que monitoreaba la seguridad y alineación de modelos de IA con valores humanos, alertó sobre los peligros de una carrera por crear una súper inteligencia artificial (IA) más inteligente que los humanos.
Carroll Wainwright, un exempleado de OpenAI que formaba parte del equipo encargado de vigilar la seguridad y alineación de los modelos de inteligencia artificial (IA) más potentes con los valores humanos, lanzó una advertencia sobre el peligro latente en la carrera por crear una súper IA o inteligencia artificial general (IAG) que sea tan o más inteligente que el ser humano.
Wainwright, quien renunció la semana pasada a su puesto, fue uno de los firmantes de una carta en la que empleados de la empresa creadora de ChatGPT denunciaron la opacidad sobre los posibles riesgos de la IA. Su preocupación gira en torno a la ambición de desarrollar una IA que no solo pueda reproducir acciones humanas, como escribir o dibujar, sino que también comprenda la complejidad y el contexto de sus propias acciones.
Si bien esta tecnología aún no existe, expertos como Elon Musk predicen su creación en un plazo de dos años, mientras que otros, como Robin Li, director ejecutivo de Baidu, estiman que podría tardar una década. Wainwright, por su parte, cree que es posible que una IAG vea la luz en unos cinco años, aunque advirtió que también podría llevar mucho más tiempo.
Leer la nota completa en Resumen de Noticias
