오픈AI, 안전성위원회 구성 및 차세대 AI 모델 훈련 시작

오픈AI는 인공지능 기술을 발전시키는 데 있어 중요한 성과를 이루어 왔으며, 최근에는 GPT-4o 시스템을 개발하여 인기 있는 ChatGPT 채팅봇을 구동합니다. 오늘, 오픈AI는 안전위원회를 구성하고 새로운 AI 모델의 훈련을 시작했다고 발표했습니다.

오픈AI의 안전성위원회는 누구인가?

새로 구성된 오픈AI 안전성위원회는 회사 프로젝트와 운영에 대한 중요한 안전과 보안 결정에 대한 지침과 감독을 제공하기 위한 것입니다. 위원회의 주요 목표는 오픈AI의 AI 개발 관행이 안전을 우선하고 윤리적 원칙에 따라야 한다는 것입니다. 안전위원회는 오픈AI의 임원, 이사, 기술 및 정책 전문가 등 다양한 개인으로 구성됩니다.

오픈AI 안전성위원회에 속한 주목할 만한 회원은 다음과 같습니다.

• 샘 알트만, 오픈AI의 CEO
• 브렛 테일러, 오픈AI의 의장
• 아담 댄젤로, Quora의 CEO이자 오픈AI 이사
• 니콜 셀리그만, 전 소니 법률고문이자 오픈AI 이사

초기 단계에서, 새로운 안전 및 보안 위원회는 오픈AI의 기존 안전 프로세스와 방어망을 평가하고 강화하는 데 중점을 둘 것입니다. 오픈AI 안전성위원회는 90일 일정으로 이사회에 회사의 AI 개발 관행과 안전 시스템을 강화하는 방법에 대한 권고를 제공할 예정입니다. 한 번 권고가 채택되면, 오픈AI는 안전과 보안 고려에 따라 공개적으로 발표할 계획입니다.

새로운 AI 모델의 훈련

오픈AI 안전성위원회를 구성하는 동시에, 오픈AI는 새로운 차세대 모델의 훈련을 시작했다고 발표했습니다. 이 최신 인공지능 모델은 현재 ChatGPT를 구동하는 GPT-4 시스템의 능력을 넘어설 것으로 예상됩니다. 새로운 AI 모델에 대한 자세한 정보는 아직 공개되지 않았지만, 오픈AI는 이 모델이 능력과 안전성 모두에서 업계를 선도할 것이라고 밝혔습니다.

이 새로운 AI 모델의 개발은 인공지능 분야의 혁신 속도와 인공 일반 지능(AGI)의 잠재성을 강조합니다. AI 시스템이 더 발전하고 강력해짐에 따라, 안전성을 우선하고 책임감 있게 개발하는 것이 중요합니다.

오픈AI의 최근 논란과 이탈

오픈AI의 안전성에 대한 재조명은 내부 혼란과 공공의 비판 속에서 이루어졌습니다. 최근 몇 주 동안, 회사 내부에서 비판을 받았으며, 연구자 Jan Leike는 안전성이 개발의 “빛나는 제품”에 비해 뒤처진다는 우려를 표명하며 사임했습니다. Leike의 사임은 오픈AI의 공동 창립자이자 수석 과학자인 Ilya Sutskever의 이탈로 이어졌습니다.

Leike와 Sutskever의 이탈은 회사의 우선순위와 AI 안전성에 대한 접근 방식에 대한 질문을 제기했습니다. 두 연구자는 오픈AI의 “초일관성” 팀을共同으로 이끌었으며, 장기적인 AI 위험을 해결하기 위한 팀이었습니다. 그들의 사임 이후, 초일관성 팀은 해산되었으며, 이는 회사에 대한 안전성에 대한 우려를 더욱 고조시켰습니다.

내부 혼란 외에도, 오픈AI는 ChatGPT 채팅봇의 음성 모방에 대한 비난을 받았습니다. 일부 사용자는 채팅봇의 음성이 여배우 스칼렛 요한슨과 놀라운 유사성을 보인다고 주장했습니다. 오픈AI는 요한슨을 의도적으로 모방하지 않았다고否認했지만, 이 사건은 AI 생성 콘텐츠의 윤리적 의미와 악용 가능성에 대한 더广泛한 논의를 촉발했습니다.

인공지능 윤리에 대한 더广泛한 논의

인공지능 분야가 빠르게 발전함에 따라, 오픈AI와 같은 회사들은 연구자, 정책입안자, 공공과 지속적인 대화와 협력을 통해 책임감 있게 개발되고 강력한 안전장치가 있는 AI 기술을 개발하는 것이 중요합니다. 오픈AI 안전성위원회가 제시한 권고와 오픈AI의 투명성에 대한 약속은 인공지능 거버넌스에 대한 더广泛한 논의에 기여할 것이며, 이 기술의 미래를 형성하는 데 도움이 될 것입니다. 그러나, 이러한 노력의 결과는 시간이 지나면 밝혀질 것입니다.