La nueva iniciativa de OpenAI: Dirigiendo la superinteligencia artificial en la dirección correcta

OpenAI, un líder en el campo de la inteligencia artificial, ha anunciado recientemente la formación de un equipo dedicado a gestionar los riesgos asociados con la superinteligencia artificial. Esta medida se produce en un momento en que los gobiernos de todo el mundo están debatiendo sobre cómo regular las tecnologías de inteligencia artificial emergentes.

Entendiendo la superinteligencia artificial

La superinteligencia artificial se refiere a modelos de inteligencia artificial hipotéticos que superan a los humanos más dotados y inteligentes en múltiples áreas de especialización, no solo en un dominio único como algunos modelos de generaciones anteriores. OpenAI predice que tal modelo podría surgir antes del final de la década. La organización cree que la superinteligencia podría ser la tecnología más impactante que la humanidad haya inventado, potencialmente ayudándonos a resolver muchos de los problemas más apremiantes del mundo. Sin embargo, el vasto poder de la superinteligencia también podría plantear riesgos significativos, incluyendo la posible desaparición de la humanidad o incluso la extinción humana.

El equipo de superalineación de OpenAI

Para abordar estas preocupaciones, OpenAI ha formado un nuevo equipo de ‘superalineación‘, codirigido por el científico jefe de OpenAI, Ilya Sutskever, y Jan Leike, jefe del laboratorio de investigación de alineación. El equipo tendrá acceso al 20% de la potencia de cálculo que OpenAI ha asegurado actualmente. Su objetivo es desarrollar un investigador de alineación automatizado, un sistema que podría ayudar a OpenAI a garantizar que una superinteligencia sea segura para usar y esté alineada con los valores humanos.

Aunque OpenAI reconoce que este es un objetivo increíblemente ambicioso y el éxito no está garantizado, la organización sigue siendo optimista. Los experimentos preliminares han mostrado promesa, y las métricas de progreso cada vez más útiles están disponibles. Además, los modelos actuales se pueden utilizar para estudiar muchos de estos problemas de manera empírica.

La necesidad de regulación

La formación del equipo de superalineación se produce en un momento en que los gobiernos de todo el mundo están considerando cómo regular la industria de inteligencia artificial en ciernes. El CEO de OpenAI, Sam Altman, ha reunido con al menos 100 legisladores federales en los últimos meses. Altman ha declarado públicamente que la regulación de la inteligencia artificial es “esencial” y que OpenAI está “ansioso” por trabajar con los formuladores de políticas.

Sin embargo, es importante abordar tales proclamaciones con un grado de escepticismo. Al centrar la atención pública en riesgos hipotéticos que pueden no materializarse, las organizaciones como OpenAI podrían potencialmente desplazar la carga de la regulación hacia el futuro, en lugar de abordar los problemas inmediatos sobre la inteligencia artificial y el trabajo, la desinformación y los derechos de autor que los formuladores de políticas necesitan abordar hoy en día.

La iniciativa de OpenAI para formar un equipo dedicado a gestionar los riesgos de la superinteligencia artificial es un paso importante en la dirección correcta. Subraya la importancia de las medidas proactivas para abordar los posibles desafíos planteados por la inteligencia artificial avanzada. A medida que seguimos navegando las complejidades del desarrollo y la regulación de la inteligencia artificial, las iniciativas como esta sirven como recordatorio de la necesidad de un enfoque equilibrado, uno que aproveche el potencial de la inteligencia artificial al mismo tiempo que salvaguarda contra sus riesgos.