OpenAI, 안전위원회 결성, 논란 속에 차세대 AI 모델 교육

OpenAI는 인공 지능 기술 발전에 있어 상당한 진전을 이루었습니다. 가장 최근의 성과는 다음과 같습니다. GPT-4o 인기 있는 ChatGPT 챗봇을 구동하는 시스템입니다. 오늘은 오픈AI 발표 새로운 안전 위원회인 OpenAI Safety Council을 설립하고 새로운 AI 모델 훈련을 시작했다고 밝혔습니다.

OpenAI의 안전 위원회에는 누가 있나요?

새로 구성된 OpenAI 안전 위원회는 회사의 프로젝트 및 운영과 관련된 중요한 안전 및 보안 결정에 대한 지침과 감독을 제공합니다. 위원회의 주요 목표는 OpenAI의 AI 개발 관행이 안전을 최우선으로 하고 윤리 원칙에 부합하도록 하는 것입니다. 안전 위원회는 OpenAI 임원, 이사회 구성원, 기술 및 정책 전문가를 포함한 다양한 구성원으로 구성됩니다.

OpenAI 안전 위원회의 주목할만한 구성원은 다음과 같습니다.

• Sam Altman 샘 올트먼, OpenAI 대표
• 브레 트 테일러, 오픈AI 회장
• Adam D' Angelo, Quora CEO 및 OpenAI 이사회 회원
• 니콜 셀리그만, 전 Sony 법무 자문위원 및 OpenAI 이사회 회원

새로운 안전 및 보안 위원회는 초기 단계에서 OpenAI의 기존 안전 프로세스와 안전 장치를 평가하고 강화하는 데 집중할 것입니다. OpenAI 안전 위원회는 이사회에 회사의 AI 개발 관행 및 안전 시스템 개선 방안에 대한 권고안을 제공하기 위해 90일의 기간을 설정했습니다. 권고안이 채택되면 OpenAI는 안전 및 보안 고려 사항을 준수하는 방식으로 이를 공개할 계획입니다.

새로운 AI 모델 훈련

OpenAI 안전위원회 설립과 병행하여 OpenAI는 차세대 프론티어 모델 교육을 시작했다고 발표했습니다. 이 최신 인공 지능 모델은 현재 ChatGPT를 뒷받침하는 GPT-4 시스템의 기능을 능가할 것으로 예상됩니다. 새로운 AI 모델에 대한 세부 정보는 아직 부족하지만 OpenAI는 기능과 안전성 모두에서 업계를 선도할 것이라고 밝혔습니다.

이 새로운 AI 모델의 개발은 인공 지능 분야의 빠른 혁신 속도와 잠재력을 강조합니다. 인공 일반 지능 (AGI). AI 시스템이 더욱 발전하고 강력해짐에 따라 안전을 우선시하고 이러한 기술을 책임감 있게 개발하는 것이 중요합니다.

OpenAI의 최근 논란과 이탈

OpenAI가 안전에 다시 집중하는 것은 내부 혼란과 대중의 감시 속에서 이루어졌습니다. 최근 몇 주 동안 OpenAI는 내부 비판에 직면했습니다. 연구원 얀 라이케가 사임하면서 안전이 "화려한 제품" 개발에 밀려 뒷전으로 밀려났다는 우려를 표명했습니다. 라이케의 사임에 이어 OpenAI의 공동 창립자이자 수석 과학자인 일리아 수츠케버도 사임했습니다.

라이케와 수츠케버의 사임은 회사의 우선순위와 AI 안전에 대한 접근 방식에 대한 의문을 제기했습니다. 두 연구원은 장기적인 AI 위험 해결을 전담하는 OpenAI의 "슈퍼얼라인먼트" 팀을 공동으로 이끌었습니다. 두 사람의 사임 이후 슈퍼얼라인먼트 팀은 해체되었고, 이는 회사의 안전에 대한 의지에 대한 우려를 더욱 증폭시켰습니다.

내부 혼란 외에도 OpenAI는 자사 챗봇 ChatGPT의 음성 사칭 의혹에 직면했습니다. 일부 사용자는 해당 챗봇의 음성이 배우 스칼렛 요한슨의 목소리와 놀라울 정도로 유사하다고 주장했습니다. OpenAI는 의도적으로 요한슨을 사칭했다는 의혹을 부인했지만, 이 사건은 AI가 생성한 콘텐츠의 윤리적 의미와 오용 가능성에 대한 광범위한 논의를 촉발했습니다.

AI 윤리에 대한 더 넓은 대화

인공지능 분야가 계속해서 빠르게 발전함에 따라, OpenAI와 같은 기업들은 연구자, 정책 입안자, 그리고 대중과 지속적인 대화와 협력을 통해 AI 기술이 책임감 있게 개발되고 강력한 안전장치가 마련되도록 하는 것이 매우 중요합니다. OpenAI 안전 위원회의 권고안과 OpenAI의 투명성 확보 노력은 AI 거버넌스에 대한 더 폭넓은 논의에 기여하고 이 혁신적인 기술의 미래를 형성하는 데 기여할 것입니다. 하지만 그 결과는 오직 시간만이 알려줄 것입니다.