OpenAI створює Раду з безпеки, тренує нову модель AI серед суперечок

OpenAI зробила значний крок у розвитку технологій штучного інтелекту, і її останнє досягнення – система GPT-4o, яка живить популярного чат-бота ChatGPT. Сьогодні OpenAI оголосила про створення нової Ради з безпеки, Ради з безпеки OpenAI, і повідомила, що почала тренування нової моделі AI.

Хто входить до Ради з безпеки OpenAI?

Нова Рада з безпеки OpenAI має на меті надавати рекомендації та нагляд за критичними рішеннями щодо безпеки та безпеки проектів і операцій компанії. Основною метою Ради є забезпечення того, щоб практика розробки AI в OpenAI віддавала пріоритет безпеки та відповідала етичним принципам. Рада складається з різноманітної групи осіб, включаючи виконавчих директорів OpenAI, членів ради директорів та технічних і політичних експертів.

Відомі члени Ради з безпеки OpenAI включають:

• Сем Алтман, генеральний директор OpenAI
• Брет Тейлор, голова ради директорів OpenAI
• Адам Д’Анджело, генеральний директор Quora і член ради директорів OpenAI
• Ніколь Селігман, колишній юрисконсульт Sony і член ради директорів OpenAI

На першому етапі нова Рада з безпеки та безпеки буде зосереджена на оцінці та зміцненні існуючих процесів та заходів безпеки OpenAI. Рада з безпеки OpenAI встановила 90-денний термін для надання рекомендацій раді директорів щодо покращення практики розробки AI та систем безпеки компанії. Як тільки рекомендації будуть прийняті, OpenAI планує опублікувати їх у спосіб, що відповідає вимогам безпеки та безпеки.

Тренування нової моделі AI

Паралельно з створенням Ради з безпеки OpenAI компанія оголосила про початок тренування своєї наступної моделі AI. Ця остання модель штучного інтелекту очікується перевершить можливості системи GPT-4, яка зараз використовується в ChatGPT. Хоча деталі про нову модель AI залишаються неясними, OpenAI заявила, що вона буде лідером у галузі як за можливостями, так і за безпекою.

Розробка цієї нової моделі AI підкреслює швидкий темп інновацій у сфері штучного інтелекту та потенціал штучного загального інтелекту (AGI). Коли системи AI стають більш просунутими та потужними, важливо пріоритезувати безпеку та забезпечувати, щоб ці технології розроблялися відповідально.

Недавні суперечки та відходи OpenAI

Поновлений акцент OpenAI на безпеку відбувається на тлі внутрішніх потрясінь та публічної критики. За останні тижні компанія зазнала критики з боку власних працівників, коли дослідник Ян Лейке подав у відставку та висловив занепокоєння, що безпека зайняла другорядне місце у розвитку “блискучих продуктів”. Відхід Лейке був слідований відходом Іллі Сутскевера, співзасновника та головного наукового співробітника OpenAI.

Відходи Лейке та Сутскевера викликали питання щодо пріоритетів компанії та її підходу до безпеки AI. Два дослідники спільно очолювали команду “супералінування” OpenAI, яка займалася питаннями довгострокових ризиків AI. Після їх відходу команда була розпущена, що ще більше підігріло занепокоєння щодо зобов’язань компанії щодо безпеки.

Крім внутрішніх потрясінь, OpenAI також зазнала звинувачень у наслідуванні голосу в своєму чат-боті ChatGPT. Деякі користувачі стверджують, що голос чат-бота нагадує голос акторки Скарлетт Йоганссон. Хоча OpenAI заперечує намірене наслідування Йоганссон, інцидент викликав ширшу дискусію щодо етичних наслідків вмісту, згенерованого AI, та потенціалу його неправильного використання.

Ширша розмова про етику AI

Оскільки галузь штучного інтелекту продовжує розвиватися швидко, важливо, щоб компанії, такі як OpenAI, брали участь у постійному діалозі та співробітництві з дослідниками, політиками та громадськістю, щоб забезпечити, що технології AI розробляються відповідально та з потужними заходами безпеки. Рекомендації Ради з безпеки OpenAI та зобов’язання компанії щодо прозорості будуть внеском у ширшу розмову про управління AI та допоможуть формувати майбутнє цієї трансформативної технології, але тільки час покаже, що з цього вийде.