A OpenAI Forma Conselho de Segurança, Treina Novo Modelo de IA Amidst Controvérsias

A OpenAI deu passos significativos no avanço das tecnologias de inteligência artificial, com seu último feito sendo o sistema GPT-4o que alimenta o popular chatbot ChatGPT. Hoje, a OpenAI anunciou a criação de um novo comitê de segurança, o Conselho de Segurança da OpenAI, e revelou que começou a treinar um novo modelo de IA.

Quem Está no Conselho de Segurança da OpenAI?

O recém-formado Conselho de Segurança da OpenAI tem como objetivo fornecer orientação e supervisão sobre decisões críticas de segurança e segurança relacionadas aos projetos e operações da empresa. O objetivo principal do conselho é garantir que as práticas de desenvolvimento de IA da OpenAI priorizem a segurança e estejam alinhadas com princípios éticos. O comitê de segurança é composto por um grupo diversificado de indivíduos, incluindo executivos da OpenAI, membros do conselho e especialistas técnicos e de políticas.

Membros Notáveis do Conselho de Segurança da OpenAI Incluem:

• Sam Altman, CEO da OpenAI
• Bret Taylor, Presidente da OpenAI
• Adam D’Angelo, CEO da Quora e membro do conselho da OpenAI
• Nicole Seligman, ex-advogada-geral da Sony e membro do conselho da OpenAI

Na sua fase inicial, o novo comitê de segurança e segurança se concentrará em avaliar e fortalecer os processos e salvaguardas de segurança existentes da OpenAI. O Conselho de Segurança da OpenAI estabeleceu um prazo de 90 dias para fornecer recomendações ao conselho sobre como melhorar as práticas de desenvolvimento de IA e sistemas de segurança da empresa. Uma vez que as recomendações sejam adotadas, a OpenAI planeja liberá-las publicamente de forma consistente com considerações de segurança e segurança.

Treinamento do Novo Modelo de IA

Em paralelo com a criação do Conselho de Segurança da OpenAI, a OpenAI anunciou que começou a treinar seu próximo modelo de fronteira. Este último modelo de inteligência artificial deve superar as capacidades do sistema GPT-4 atualmente utilizado no ChatGPT. Embora os detalhes sobre o novo modelo de IA sejam escassos, a OpenAI disse que ele liderará a indústria em capacidade e segurança.

O desenvolvimento deste novo modelo de IA destaca o ritmo rápido de inovação no campo da inteligência artificial e o potencial para inteligência artificial geral (AGI). À medida que os sistemas de IA se tornam mais avançados e poderosos, é crucial priorizar a segurança e garantir que essas tecnologias sejam desenvolvidas de forma responsável.

Controvérsias e Saídas Recentes da OpenAI

A renovação do foco da OpenAI na segurança ocorre em um período de turbulência interna e escrutínio público. Nas últimas semanas, a empresa enfrentou críticas de dentro de suas próprias fileiras, com o pesquisador Jan Leike renunciando e expressando preocupações de que a segurança havia sido relegada ao desenvolvimento de “produtos brilhantes”. A renúncia de Leike foi seguida pela saída de Ilya Sutskever, co-fundador e cientista-chefe da OpenAI.

As saídas de Leike e Sutskever levantaram questões sobre as prioridades da empresa e sua abordagem à segurança da IA. Os dois pesquisadores lideraram juntos a equipe de “superalinhamento” da OpenAI, que se dedicava a abordar riscos de IA de longo prazo. Após suas renúncias, a equipe de superalinhamento foi dissolvida, alimentando ainda mais as preocupações sobre o compromisso da empresa com a segurança.

Além da agitação interna, a OpenAI também enfrentou alegações de imitação de voz em seu chatbot ChatGPT. Alguns usuários alegaram que a voz do chatbot se assemelha fortemente à da atriz Scarlett Johansson. Embora a OpenAI tenha negado intencionalmente imitar Johansson, o incidente desencadeou uma conversa mais ampla sobre as implicações éticas do conteúdo gerado por IA e o potencial para mau uso.

Uma Conversa Mais Ampliada sobre Ética de IA

À medida que o campo da inteligência artificial continua a evoluir rapidamente, é crucial que empresas como a OpenAI participem de um diálogo contínuo e colaboração com pesquisadores, formuladores de políticas e o público para garantir que as tecnologias de IA sejam desenvolvidas de forma responsável e com salvaguardas robustas em vigor. As recomendações apresentadas pelo Conselho de Segurança da OpenAI e o compromisso da OpenAI com a transparência contribuirão para a conversa mais ampla sobre governança de IA e ajudarão a moldar o futuro dessa tecnologia transformadora, mas apenas o tempo dirá o que sairá disso.