OpenAI forma un consejo de seguridad, entrena un nuevo modelo de IA de última generación entre controversias

OpenAI ha realizado avances significativos en el desarrollo de tecnologías de inteligencia artificial, con su logro más reciente siendo el sistema GPT-4o que impulsa el popular chatbot ChatGPT. Hoy, OpenAI anunció la creación de un nuevo comité de seguridad, el Consejo de Seguridad de OpenAI, y reveló que ha comenzado a entrenar un nuevo modelo de IA.

¿Quién está en el Consejo de Seguridad de OpenAI?

El recién formado Consejo de Seguridad de OpenAI tiene como objetivo proporcionar orientación y supervisión en decisiones críticas de seguridad y seguridad relacionadas con los proyectos y operaciones de la empresa. El objetivo principal del consejo es garantizar que las prácticas de desarrollo de IA de OpenAI prioricen la seguridad y se alineen con principios éticos. El comité de seguridad está compuesto por un grupo diverso de individuos, incluyendo ejecutivos de OpenAI, miembros de la junta y expertos técnicos y de políticas.

Miembros destacados del Consejo de Seguridad de OpenAI incluyen:

• Sam Altman, CEO de OpenAI
• Bret Taylor, Presidente de OpenAI
• Adam D’Angelo, CEO de Quora y miembro de la junta de OpenAI
• Nicole Seligman, ex consejera general de Sony y miembro de la junta de OpenAI

En su fase inicial, el nuevo comité de seguridad y seguridad se centrará en evaluar y fortalecer los procesos y salvaguardias de seguridad existentes de OpenAI. El Consejo de Seguridad de OpenAI ha establecido un plazo de 90 días para proporcionar recomendaciones a la junta sobre cómo mejorar las prácticas de desarrollo de IA y los sistemas de seguridad de la empresa. Una vez que se adopten las recomendaciones, OpenAI planea publicarlas públicamente de manera consistente con consideraciones de seguridad y seguridad.

Entrenamiento del nuevo modelo de IA

En paralelo con la creación del Consejo de Seguridad de OpenAI, OpenAI ha anunciado que ha comenzado a entrenar su próximo modelo de vanguardia. Este último modelo de inteligencia artificial se espera que supere las capacidades del sistema GPT-4 actual que subyace a ChatGPT. Aunque los detalles sobre el nuevo modelo de IA son escasos, OpenAI ha dicho que liderará la industria en capacidad y seguridad.

El desarrollo de este nuevo modelo de IA subraya el ritmo rápido de innovación en el campo de la inteligencia artificial y el potencial para inteligencia artificial general (AGI). A medida que los sistemas de IA se vuelven más avanzados y poderosos, es crucial priorizar la seguridad y garantizar que estas tecnologías se desarrollen de manera responsable.

Controversias y salidas recientes de OpenAI

El enfoque renovado de OpenAI en la seguridad llega en un momento de agitación interna y escrutinio público. En las últimas semanas, la empresa ha enfrentado críticas desde dentro de sus propias filas, con el investigador Jan Leike renunciando y expresando preocupaciones de que la seguridad había tomado un asiento trasero en el desarrollo de “productos brillantes”. La renuncia de Leike fue seguida por la salida de Ilya Sutskever, cofundador y científico jefe de OpenAI.

Las salidas de Leike y Sutskever han planteado preguntas sobre las prioridades de la empresa y su enfoque en la seguridad de la IA. Los dos investigadores lideraron conjuntamente el equipo de “superalineación” de OpenAI, que se dedicaba a abordar riesgos de IA a largo plazo. Después de sus renuncias, el equipo de superalignación se disolvió, lo que alimentó aún más las preocupaciones sobre el compromiso de la empresa con la seguridad.

Además del disturbio interno, OpenAI también ha enfrentado acusaciones de imitación de voz en su chatbot ChatGPT. Algunos usuarios han afirmado que la voz del chatbot se parece mucho a la de la actriz Scarlett Johansson. Aunque OpenAI ha negado intencionalmente imitar a Johansson, el incidente ha desencadenado una conversación más amplia sobre las implicaciones éticas del contenido generado por IA y el potencial de mal uso.

Una conversación más amplia sobre ética de IA

A medida que el campo de la inteligencia artificial continúa evolucionando rápidamente, es crucial que empresas como OpenAI participen en un diálogo y colaboración continuos con investigadores, formuladores de políticas y el público para garantizar que las tecnologías de IA se desarrollen de manera responsable y con salvaguardias robustas. Las recomendaciones presentadas por el Consejo de Seguridad de OpenAI y el compromiso de OpenAI con la transparencia contribuirán a la conversación más amplia sobre la gobernanza de la IA y ayudarán a dar forma al futuro de esta tecnología transformadora, pero solo el tiempo dirá qué resultará de ello.