Artificial Intelligence
Стоимость обучения ИИ продолжает падать
Высокие затраты на обучение ИИ были серьезным препятствием для внедрения ИИ, не позволяя многим компаниям внедрять технологии ИИ. Согласно Отчет Forrester Consulting за 2017 г., 48% компаний назвали высокие затраты на технологии одной из основных причин отказа от внедрения решений на основе ИИ.
Однако недавние события показали, что затраты на обучение ИИ быстро снижаются, и ожидается, что эта тенденция сохранится и в будущем. Согласно Отчет ARK Invest «Большие идеи 2023», затраты на обучение большой языковой модели, аналогичной производительности на уровне GPT-3, резко упали с 4.6 млн долларов в 2020 году до 450,000 2022 долларов в 70 году, то есть на XNUMX % в год.
Давайте подробнее рассмотрим эту тенденцию снижения затрат на обучение ИИ и обсудим факторы, способствующие этому снижению.
Как изменились затраты на обучение ИИ с течением времени?
Согласно последним Исследование ARK Invest 2020, стоимость обучения моделей глубокого обучения улучшается в 50 раз быстрее, чем закон Мура. Фактически, расходы, связанные с запуском системы логического вывода ИИ, резко сократились до почти ничтожного уровня для многочисленных вариантов использования.
Более того, за последние несколько лет затраты на обучение снижались в десять раз ежегодно. Например, в 2017 году обучение классификатора изображений, такого как ResNet-50, в общедоступном облаке стоило около 1,000 долларов, но к 2019 году стоимость значительно снизилась примерно до 10 долларов.
Эти выводы согласуются с Отчет OpenAI за 2020 г., который обнаружил, что объем вычислительной мощности, необходимой для обучения модели ИИ выполнению одной и той же задачи, уменьшался в два раза каждые 16 месяцев с 2012 года.
Кроме того, отчет АРК подчеркивает снижение затрат на обучение ИИ. В отчете прогнозируется, что к 2030 году стоимость обучения модели уровня GPT-3 снизится до 30 долларов по сравнению с 450,000 2022 долларов в XNUMX году.
Стоимость обучения производительности уровня GPT-3 – ARK Invest Большие идеи 2023
Факторы, способствующие снижению затрат на обучение ИИ
Обучение моделям ИИ становится дешевле и проще по мере того, как технологии ИИ продолжают совершенствоваться, что делает их более доступными для более широкого круга предприятий. Несколько факторов, в том числе стоимость аппаратного и программного обеспечения и облачный ИИ, способствовали снижению затрат на обучение ИИ.
Давайте рассмотрим эти факторы ниже.
1. аппаратные средства
ИИ требует специализированного высококлассного дорогостоящего оборудования для обработки больших объемов данных и вычислений. Такие организации, как NVIDIA, IBM и Google, предоставляют Графические процессоры и ТПУ для выполнения рабочих нагрузок высокопроизводительных вычислений (HPC). Высокая стоимость оборудования затрудняет демократизацию ИИ в больших масштабах.
Однако по мере развития технологий стоимость оборудования снижается. Согласно Отчет АРК Инвест за 2023 год, Закон Райта предсказывает, что затраты на производство вычислительных блоков (RCU), связанных с ИИ, т. е. затраты на оборудование для обучения ИИ, должны ежегодно снижаться на 57 %, что приведет к снижению затрат на обучение ИИ на 70 % к 2030 году, как показано на графике ниже.
Стоимость оборудования для обучения ИИ – ARK Invest Большие идеи 2023
2. Программного обеспечения
Затраты на обучение программному обеспечению ИИ можно снизить за счет 47% в год за счет повышения эффективности и масштабируемости. Программные платформы, такие как TensorFlow и PyTorch позволяют разработчикам обучать сложные модели глубокого обучения в распределенных системах с высокой производительностью, экономя время и ресурсы.
Кроме того, большие предварительно обученные модели, такие как Началоv3 or RESNET а методы трансферного обучения также помогают снизить затраты, позволяя разработчикам точно настраивать существующие модели, а не обучать их с нуля.
Стоимость обучения программному обеспечению ИИ – ARK Invest Большие идеи 2023
3. Облачный искусственный интеллект
Облачное обучение ИИ снижает затраты, предоставляя масштабируемые вычислительные ресурсы по запросу. В модели оплаты по мере использования предприятия платят только за свои вычислительные ресурсы. Кроме того, облачные провайдеры предлагают готовые услуги ИИ, которые ускоряют обучение ИИ.
Например, Лазурное машинное обучение — это облачный сервис для прогнозной аналитики, позволяющий быстро разрабатывать и внедрять модели. Он предлагает гибкие вычислительные ресурсы и память. Пользователи могут быстро масштабировать до тысяч графических процессоров, чтобы повысить производительность своих вычислений. Это позволяет пользователям работать через свои веб-браузеры в предварительно настроенных средах ИИ, устраняя накладные расходы на настройку и установку.
Влияние снижения затрат на обучение ИИ
Снижение затрат на обучение ИИ имеет серьезные последствия для различных отраслей и областей, что приводит к улучшению инноваций и конкурентоспособности.
Давайте обсудим некоторые из них ниже.
1. Массовое внедрение сложных чат-ботов с искусственным интеллектом
Чат-боты с искусственным интеллектом набирают популярность из-за снижения затрат на искусственный интеллект. Особенно после разработки OpenAI ChatGPT и GPT-4 (Generative Pre-trained Transformer) наблюдается заметный рост числа компаний, стремящихся разработать чат-ботов с искусственным интеллектом с аналогичными или лучшими возможностями.
Например, через пять дней после выпуска в ноябре 2022 года ChatGPT набрал 1 миллион пользователей. Хотя сегодня стоимость запуска модели в масштабе составляет примерно 01 доллара США за запрос, закон Райта предсказывает, что к 2030 году приложения для чат-ботов, подобные ChatGPT, можно будет развертывать в массовом масштабе намного дешевле (приблизительно 650 долларов США для запуска миллиарда запросов). с потенциалом обработки 8.5 миллиардов поисковых запросов в день, что эквивалентно поиску Google.
Стоимость выполнения выводов ИИ на миллиард запросов — ARK Invest Большие идеи 2023
2. Более широкое использование генеративного ИИ
Снижение затрат на обучение ИИ привело к всплеску разработки и внедрения технологий генеративного ИИ. В 2022 году значительно увеличилось использование генеративного ИИ благодаря внедрению инновационных инструментов генеративного ИИ, таких как DALL-E 2, Meta Make-A-Video и Stable Diffusion. В 2023 году мы уже стали свидетелями новаторской модели в виде GPT-4.
Помимо генерации изображений и текста, генеративный ИИ помогает разработчикам писать код. Такие программы, как GitHub Copilot, могут помочь выполнить задачу кодирования вдвое быстрее.
Время для выполнения задач по кодированию – ARK Invest Большие идеи 2023
3. Лучшее использование обучающих данных
Ожидается, что снижение затрат на обучение ИИ позволит лучше использовать данные обучения машинного обучения. Например, Отчет АРК Инвест за 2023 год предполагает, что к 2030 году стоимость обучения модели с в 57 раз большим количеством параметров и в 720 раз большим количеством токенов, чем GPT-3 (параметры 175B), по прогнозам, снизится с 17 миллиардов долларов до 600,000 XNUMX долларов.
Доступность и качество данных будут основными ограничивающими факторами для разработки передовых моделей машинного обучения в этом мире недорогих вычислений. Тем не менее, модели обучения разовьют способность обрабатывать примерно 162 триллиона слов или 216 триллионов токенов.
Будущее ИИ выглядит очень многообещающе. Чтобы узнать больше о последних тенденциях и исследованиях в области искусственного интеллекта, посетите Unite.ai.
