OpenAI випускає комерційну версію відомої моделі генерації тексту

Дослідницька лабораторія штучного інтелекту OpenAI буде надавати свою знамениту інструмент генерації тексту GPT-3 для покупки, що стане першим комерційним продуктом, створеним цією лабораторією машинного навчання.

У лютому минулого року OpenAI зробила свою модель генерації тексту GPT-2 відкритою. GPT-2 могла генерувати надзвичайно зрозумілі тексти при наданні короткої команди, і ця модель була розглянута як значний крок вперед у сфері обробки природної мови та штучного інтелекту. Фактично, спочатку OpenAI відмовилася випустити модель GPT-2, заявивши, що вона надто небезпечна для відкритого випуску, побоюючись зловживання. Однак після того, як версія моделі стала доступною протягом деякого часу, і неприбуткова організація повідомила, що не бачила жодних доказів зловживання, було прийнято рішення зробити модель відкритою. Нещодавно OpenAI оголосила про випуск наступника GPT-2, який отримав назву GPT-3.

Модель GPT-3 приблизно в 100 разів більша за свою попередницю, і саме цю модель вони пропонують як комерційний продукт. Модель GPT-2 складалася з приблизно 1,5 мільярдів параметрів, тоді як GPT-3 складається з приблизно 175 мільярдів параметрів. Складність і надійність моделей серії GPT призвели до того, що вони стали стандартом для проектів машинного навчання, пов’язаних з текстом. Як і те, що卷неві нейронні мережі стали стандартом для проектів, пов’язаних з зображеннями, так і проекти, пов’язані з текстом, все частіше використовують GPT-2, а можливо, скоро й GPT-3.

За повідомленням The Verge, OpenAI, здається, сподівається просунути прийняття стандарту GPT, зробивши свою модель GPT-3 комерційно доступною. Наразі доступ до API GPT-3 обмежений лише запрошеними клієнтами. Однак це, ймовірно, лише тестовий запуск, і здається ймовірним, що GPT-3 скоро стане більш широко доступним. OpenAI заявила, що буде перевіряти клієнтів своїх моделей, щоб запобігти зловживанню технологією для неетичних цілей, таких як спам, створення дезінформації або переслідування.

Дещо невідомо, як саме GPT-3 призначена для використання клієнтами. Це, ймовірно, тому, що GPT-3 надзвичайно гнучка і має багато потенційних застосувань. Моделі на основі GPT можна донастроювати за необхідності для генерації тексту, відповідного конкретним завданням. Модель може адаптуватися до широкого різноманіття команд і стилів вводу, що означає, що її можна використовувати для створення інструментів підсумовування тексту, відповіді на прості питання або як основу для складного чат-бота. Як пояснив головний технічний директор OpenAI Грег Брокман у розмові з Wired:

“Великий ментальний зсув полягає в тому, що це набагато більше схоже на розмову з людиною, ніж на форматування речей для машини”, – говорить Грег Брокман, головний технічний директор OpenAI. “Ви даєте їй кілька питань і відповідей, і раптом вона переходить у режим запитів і відповідей”.

Невідомо, наскільки надійними будуть комерційні моделі, створені на основі GPT-3. Хоча GPT-3 може генерувати синтаксично правильну, природно звучну мову, їй бракує інтуїтивного розуміння реального світу та того, як поняття пов’язані між собою. Це може виявитися проблематичним для застосувань, де збереження контексту особливо важливо, таких як чат-боти, призначені для підтримки клієнтів.

Джо Девісон, інженер-дослідник у Hugging Face, повідомив Digital Trends, що сам розмір GPT-3 може обмежити її потенційні застосування. Девісон стверджував, що хоча OpenAI суттєво просунула стан мистецтва щодо генерації тексту, продемонструвавши, що створення моделей загального призначення може зменшити потребу в даних, специфічних для завдання, обчислювальні ресурси, необхідні для використання GPT-3, роблять її досить непрактичною для багатьох компаній.

OpenAI раніше була неприбутковою організацією, але з 2019 року лабораторія перейшла на комерційну модель. GPT-3 є першим великим комерційним продуктом, створеним лабораторією, і залишається невідомим, чи змінять перехід на комерційну модель пріоритети досліджень OpenAI.