OpenAI выпускает коммерческую версию знаменитой модели генерации текста

Исследовательская лаборатория искусственного интеллекта OpenAI будет продавать свою знаменитую модель генерации текста GPT-3, что станет первым коммерческим продуктом, произведенным этой лабораторией машинного обучения.

В феврале прошлого года OpenAI сделала свою модель генерации текста GPT-2 открытым исходным кодом. GPT-2 смогла генерировать впечатляюще связный текст при предоставлении короткого запроса, и эта модель была признана значительным шагом вперед в области обработки естественного языка и искусственного интеллекта. Фактически, OpenAI изначально отказалась выпустить модель GPT-2, утверждая, что она слишком опасна для открытого исходного кода, опасаясь злоупотребления. Однако после того, как версия модели стала доступна некоторое время, и некоммерческая организация сообщила, что не видела никаких доказательств злонамеренного использования, было принято решение сделать модель открытым исходным кодом. Недавно OpenAI объявила о выпуске следующей модели GPT-3.

Модель GPT-3 примерно в 100 раз больше, чем ее предшественник, и именно эту модель они предлагают в качестве коммерческого продукта. Модель GPT-2 состояла из примерно 1,5 миллиарда параметров, в то время как GPT-3 состоит из примерно 175 миллиардов параметров. Уровень сложности и надежности модели GPT привел к тому, что эти модели стали стандартом для проектов машинного обучения, связанных с текстом. Как и в случае с свёрточными нейронными сетями, которые стали стандартом для проектов, связанных с изображениями, так и проекты, связанные с текстом, все чаще используют GPT-2 и, возможно, скоро GPT-3.

По сообщению The Verge, OpenAI, кажется, надеется стимулировать принятие стандарта GPT, сделав модель GPT-3 коммерчески доступной. В настоящее время доступ к API GPT-3 возможен только по приглашению. Однако это, вероятно,只是 тестовый запуск, и, вероятно, GPT-3 скоро будет более широко доступен. OpenAI заявила, что будет проверять клиентов своих моделей, чтобы предотвратить злоупотребление технологией для неэтичных целей, таких как спам, создание дезинформации или преследование.

Не совсем ясно, как именно GPT-3 предназначена для использования клиентами. Это, вероятно, связано с тем, что GPT-3 очень гибка и имеет множество потенциальных применений. Модели GPT можно дообучать по мере необходимости для генерации текста, подходящего для конкретных задач. Модель может адаптироваться к широкому спектру различных запросов и стилей ввода, что означает, что ее можно использовать для создания инструментов для суммирования текста, ответов на простые вопросы или в качестве основы для сложного чат-бота. Как объяснил технический директор OpenAI Грег Брокман в интервью Wired:

«Большой сдвиг в мышлении заключается в том, что это больше похоже на разговор с человеком, чем на форматирование вещей для машины», – говорит Грег Брокман, технический директор OpenAI. «Вы даете ему несколько вопросов и ответов, и вдруг он находится в режиме вопросов и ответов».

Неизвестно, насколько надежными будут коммерческие модели, полученные из GPT-3. Хотя GPT-3 может генерировать синтаксически правильный, естественно звучащий язык, она лишена интуитивного понимания реального мира и того, как концепции связаны друг с другом. Это может оказаться проблематичным для случаев, когда сохранение контекста особенно важно, таких как чат-боты, предназначенные для поддержки клиентов.

Джо Дэвисон, исследовательский инженер в Hugging Face, выразил Digital Trends мнение, что огромный размер GPT-3 может ограничить ее потенциальные применения. Дэвисон утверждал, что, хотя OpenAI существенно продвинула состояние искусства в области генерации текста, продемонстрировав, что создание универсальных моделей может уменьшить необходимость в данных, специфичных для задачи, вычислительные ресурсы, необходимые для использования GPT-3, делают ее довольно нецелесообразной для многих компаний.

OpenAI ранее была некоммерческой организацией, но с 2019 года лаборатория перешла на коммерческую модель. GPT-3 – это первый крупный коммерческий продукт, произведенный лабораторией, и остается неясным, изменит ли переход на коммерческую модель приоритеты исследований OpenAi.