Открытый ИИ создает Совет по безопасности, обучает новую модель ИИ среди противоречий

Открытый ИИ сделал значительные шаги в продвижении технологий искусственного интеллекта, и его последнее достижение – система GPT-4o, которая питает популярного чат-бота ChatGPT. Сегодня Открытый ИИ объявил о создании нового комитета по безопасности, Совета по безопасности Открытого ИИ, и раскрыл, что начал обучать новую модель ИИ.

Кто входит в Совет по безопасности Открытого ИИ?

Недавно сформированный Совет по безопасности Открытого ИИ направлен на предоставление рекомендаций и надзора по критическим решениям, связанным с безопасностью и безопасностью проектов и операций компании. Основная цель совета – обеспечить, чтобы практики разработки ИИ компании Открытый ИИ отдали приоритет безопасности и соответствовали этическим принципам. Комитет по безопасности состоит из разнообразной группы лиц, включая руководителей Открытого ИИ, членов совета директоров и технических и политических экспертов.

Заметные члены Совета по безопасности Открытого ИИ включают:

• Сэм Альтман, генеральный директор Открытого ИИ
• Брет Тейлор, председатель Открытого ИИ
• Адам Д’Анджело, генеральный директор Quora и член совета директоров Открытого ИИ
• Николь Селигман, бывший юрисконсульт Sony и член совета директоров Открытого ИИ

На начальном этапе новый комитет по безопасности и безопасности будет сосредоточен на оценке и укреплении существующих процессов безопасности и мер безопасности Открытого ИИ. Совет по безопасности Открытого ИИ установил 90-дневный срок для предоставления рекомендаций совету директоров о том, как улучшить практики разработки ИИ и системы безопасности компании. Как только рекомендации будут приняты, Открытый ИИ планирует опубликовать их публично в соответствии с соображениями безопасности и безопасности.

Обучение новой модели ИИ

Параллельно с созданием Совета по безопасности Открытого ИИ компания объявила, что начала обучать свою следующую модель ИИ. Эта последняя модель ИИ, как ожидается, превзойдет возможности системы GPT-4, которая в настоящее время используется в ChatGPT. Хотя подробности о новой модели ИИ скудны, Открытый ИИ заявил, что она будет лидером в отрасли как по возможностям, так и по безопасности.

Разработка этой новой модели ИИ подчеркивает быстрый темп инноваций в области искусственного интеллекта и потенциал искусственного общего интеллекта (ИОИ). По мере того, как системы ИИ становятся более совершенными и мощными, важно уделять приоритетное внимание безопасности и обеспечивать, чтобы эти технологии были разработаны ответственно.

Последние противоречия и уходи Открытого ИИ

Обновленный фокус Открытого ИИ на безопасности возникает на фоне внутренних потрясений и общественной критики. В последние недели компания столкнулась с критикой внутри своих собственных рядов, когда исследователь Ян Лейке уволился и выразил обеспокоенность, что безопасность отошла на второй план в пользу разработки “блестящих продуктов”. Уход Лейке был последован уходом Ильи Суцкевера, сооснователя и главного ученого Открытого ИИ.

Уход Лейке и Суцкевера вызвал вопросы о приоритетах компании и ее подходе к безопасности ИИ. Два исследователя совместно возглавляли команду “суперсогласования” Открытого ИИ, которая была посвящена решению долгосрочных рисков ИИ. После их ухода команда суперсогласования была распущена, что еще больше подогрело обеспокоенность по поводу приверженности компании безопасности.

Помимо внутренних потрясений, Открытый ИИ также столкнулся с обвинениями в имитации голоса в своем чат-боте ChatGPT. Некоторые пользователи утверждают, что голос чат-бота имеет поразительное сходство с голосом актрисы Скарлетт Йоханссон. Хотя Открытый ИИ отрицает намеренную имитацию Йоханссон, инцидент вызвал более широкий разговор об этических последствиях контента, сгенерированного ИИ, и потенциале для злоупотребления.

Более широкий разговор об этике ИИ

По мере того, как область искусственного интеллекта продолжает быстро развиваться, важно, чтобы компании, такие как Открытый ИИ, участвовали в постоянном диалоге и сотрудничестве с исследователями, политиками и общественностью, чтобы обеспечить, что технологии ИИ разрабатываются ответственно и с надежными мерами безопасности. Рекомендации, представленные Советом по безопасности Открытого ИИ, и приверженность компании прозрачности будут способствовать более широкому разговору о управлении ИИ и помогут формировать будущее этой трансформирующей технологии, но только время покажет, что из этого выйдет.