OpenAI выпускает коммерческую версию знаменитой модели генерации текста

Исследовательская лаборатория искусственного интеллекта OpenAI будет предлагать свою знаменитую инструмент для генерации текста GPT-3 для покупки, что станет первым коммерческим продуктом, произведенным этой некоммерческой организацией, занимающейся машинным обучением.

В феврале прошлого года OpenAI сделала свою модель генерации текста GPT-2 открытым исходным кодом. GPT-2 могла генерировать впечатляюще связный текст при предоставлении короткого запроса, и модель считалась значительным шагом вперед в области обработки естественного языка и искусственного интеллекта. На самом деле, OpenAI изначально отказалась выпустить модель GPT-2, утверждая, что она слишком опасна для открытого исходного кода, опасаясь злоупотребления. Однако после того, как версия модели стала доступна некоторое время, и некоммерческая организация не обнаружила никаких доказательств злонамеренного использования, было принято решение сделать модель открытым исходным кодом. Недавно OpenAI объявила о продолжении GPT-2, получившем название GPT-3.

Модель GPT-3 примерно в 100 раз больше, чем ее предшественник, и именно эту модель они предлагают в качестве коммерческого продукта. Модель GPT-2 состояла из примерно 1,5 миллиардов параметров, в то время как GPT-3 состоит из примерно 175 миллиардов параметров. Усовершенствованность и надежность модели GPT привели к тому, что модели стали стандартом для проектов машинного обучения, связанных с текстом. Как и в случае с сверточными нейронными сетями, которые стали стандартной моделью для проектов, связанных с изображениями, проекты, связанные с текстом, все чаще используют GPT-2, и, возможно, скоро GPT-3.

Как сообщает The Verge, OpenAI, кажется, надеется стимулировать принятие стандарта GPT, сделав свою модель GPT-3 коммерчески доступной. В настоящее время доступ к API GPT-3 осуществляется только по приглашению. Однако это, скорее всего,只是 тестовый запуск, и, вероятно, GPT-3 скоро будет более широко доступен. OpenAI заявила, что будет проверять клиентов своих моделей, чтобы предотвратить злоупотребление технологией для неэтичных целей, таких как спам, создание дезинформации или преследование.

Несколько неясно, как именно GPT-3 предназначена для использования клиентами. Это, вероятно, связано с тем, что GPT-3 так гибка и имеет так много потенциальных применений. Модели, основанные на GPT, могут быть дообучены по мере необходимости для генерации текста, подходящего для конкретных задач. Модель может адаптироваться к широкому разнообразию различных запросов и стилей ввода, что означает, что ее можно использовать для создания инструментов суммирования текста, ответов на простые вопросы или в качестве основы для сложного чат-бота. Как объяснил Грег Брокман, технический директор OpenAI, в интервью Wired:

“Большой сдвиг в мышлении заключается в том, что это гораздо больше похоже на разговор с человеком, чем на форматирование вещей для машины”, – говорит Грег Брокман, технический директор OpenAI. “Вы даете ему несколько вопросов и ответов, и вдруг он находится в режиме вопросов и ответов”.

Неизвестно, насколько надежными будут коммерческие модели, полученные из GPT-3. Хотя GPT-3 может генерировать синтаксически правильный, естественно звучащий язык, она лишена интуитивного понимания реального мира и того, как понятия связаны друг с другом. Это может оказаться проблематичным для использования, где сохранение контекста особенно важно, например, для чат-ботов, предназначенных для поддержки клиентов.

Джо Дэвисон, исследовательский инженер в Hugging Face, выразил Digital Trends, что огромный размер GPT-3 может ограничить ее потенциальные применения. Дэвисон утверждал, что хотя OpenAI существенно продвинула состояние искусства в области генерации текста, продемонстрировав, что создание моделей общего назначения может уменьшить необходимость в задача-специфических данных, вычислительные ресурсы, необходимые для использования GPT-3, делают ее довольно непрактичной для многих компаний.

OpenAI ранее была некоммерческой организацией, но с 2019 года лаборатория перешла на модель с прибылью. GPT-3 является первым крупным коммерческим продуктом, произведенным лабораторией, и остается неясным, сдвинет ли переход на модель с прибылью приоритеты исследований OpenAI.