Iniciativa Nueva de OpenAI: Dirigiendo la Inteligencia Artificial Superinteligente en la Dirección Correcta

OpenAI, un jugador líder en el campo de la inteligencia artificial, ha anunciado recientemente la formación de un equipo dedicado a gestionar los riesgos asociados con la inteligencia artificial superinteligente. Este movimiento llega en un momento en que los gobiernos de todo el mundo están deliberando sobre cómo regular las tecnologías de inteligencia artificial emergentes.

Entendiendo la Inteligencia Artificial Superinteligente

La inteligencia artificial superinteligente se refiere a modelos de inteligencia artificial hipotéticos que superan a los humanos más dotados e inteligentes en múltiples áreas de especialización, no solo en un dominio como algunos modelos de generaciones anteriores. OpenAI predice que tal modelo podría surgir antes del final de la década. La organización cree que la superinteligencia podría ser la tecnología más impactante que la humanidad ha inventado, potencialmente ayudándonos a resolver muchos de los problemas más apremiantes del mundo. Sin embargo, el vasto poder de la superinteligencia también podría plantear riesgos significativos, incluida la posible desempoderación de la humanidad o incluso la extinción humana.

Equipo de Superalineación de OpenAI

Para abordar estas preocupaciones, OpenAI ha formado un nuevo equipo de ‘Superalineación‘, codirigido por el científico jefe de OpenAI, Ilya Sutskever, y Jan Leike, jefe del laboratorio de investigación de alineación. El equipo tendrá acceso al 20% de la potencia de cómputo que OpenAI ha asegurado actualmente. Su objetivo es desarrollar un investigador de alineación automatizado, un sistema que podría ayudar a OpenAI a garantizar que una superinteligencia sea segura para usar y esté alineada con los valores humanos.

Si bien OpenAI reconoce que este es un objetivo increíblemente ambicioso y el éxito no está garantizado, la organización permanece optimista. Los experimentos preliminares han mostrado promesa, y las métricas de progreso cada vez más útiles están disponibles. Además, los modelos actuales se pueden utilizar para estudiar muchos de estos problemas de manera empírica.

<strong-La Necesidad de Regulación

La formación del equipo de Superalineación llega cuando los gobiernos de todo el mundo están considerando cómo regular la industria de inteligencia artificial en ciernes. El CEO de OpenAI, Sam Altman, se ha reunido con al menos 100 legisladores federales en los últimos meses. Altman ha declarado públicamente que la regulación de la inteligencia artificial es “esencial” y que OpenAI está “ansioso” por trabajar con los formuladores de políticas.

Sin embargo, es importante abordar tales proclamaciones con un grado de escepticismo. Al centrar la atención del público en riesgos hipotéticos que pueden nunca materializarse, las organizaciones como OpenAI podrían potencialmente desviar la carga de la regulación hacia el futuro, en lugar de abordar los problemas inmediatos sobre la inteligencia artificial y el trabajo, la desinformación y el copyright que los formuladores de políticas necesitan abordar hoy.

La iniciativa de OpenAI para formar un equipo dedicado a gestionar los riesgos de la inteligencia artificial superinteligente es un paso significativo en la dirección correcta. Subraya la importancia de las medidas proactivas para abordar los posibles desafíos planteados por la inteligencia artificial avanzada. A medida que continuamos navegando las complejidades del desarrollo y la regulación de la inteligencia artificial, las iniciativas como esta sirven como un recordatorio de la necesidad de un enfoque equilibrado, que aproveche el potencial de la inteligencia artificial al mismo tiempo que salvaguarda contra sus riesgos.