Connect with us

$640 мільйонів підтримки Groq: Новий виклик у галузі чіпів штучного інтелекту

Фінансування

$640 мільйонів підтримки Groq: Новий виклик у галузі чіпів штучного інтелекту

mm

У значному розвитку для галузі чіпів штучного інтелекту, стартап Groq забезпечив масивні $640 мільйонів у своєму останньому раунді фінансування. Цей фінансовий вітер, очолюваний інвестиційним гігантом BlackRock, катапультував оцінку Groq до вражаючих $2,8 мільярдів. Значна інвестиція сигналізує про сильну довіру до потенціалу Groq для порушення ринку апаратного забезпечення штучного інтелекту, який зараз домінує індустрія-титан Nvidia.

Groq, заснований у 2016 році Джонатаном Россом, колишнім інженером Google, тихо розробляв спеціалізовані чіпи, призначені для прискорення завдань штучного інтелекту, особливо в галузі обробки мови. Флагманський продукт компанії, Language Processing Unit (LPU), має на меті пропонувати безпрецедентну швидкість і ефективність для виконання великих мовних моделей та інших застосунків штучного інтелекту.

Як попит на рішення, підтримувані штучним інтелектом, продовжує стрімко зростати в усіх галузях, Groq позиціонує себе як серйозний виклик для встановлених гравців. Фокус компанії на висновку – процесі виконання попередньо натренованих моделей штучного інтелекту – може дати їй унікальну перевагу на ринку, який голодний за більш ефективними та економічними рішеннями апаратного забезпечення штучного інтелекту.

Поява спеціалізованих чіпів штучного інтелекту

Експоненційний рост застосунків штучного інтелекту створив невгамовний апетит до обчислювальної потужності. Цей стрімкий зростання попиту викриває обмеження традиційних процесорів при обробці складних і даних інтенсивних завдань, пов’язаних зі штучним інтелектом.

Універсальні ЦП і ГП, хоча й універсальні, часто борються за те, щоб збігатися з конкретними вимогами алгоритмів штучного інтелекту, особливо коли мова йде про швидкість обробки та енергоефективність. Ця прогалина відкрила шлях для нового покоління спеціалізованих чіпів штучного інтелекту, розроблених з нуля для оптимізації завдань штучного інтелекту.

Обмеження традиційних процесорів стають особливо очевидними при роботі з великими мовними моделями та іншими застосунками штучного інтелекту, які вимагають обробки великих обсягів даних в реальному часі. Ці завдання вимагають не тільки сурової обчислювальної потужності, але й здатності ефективно обробляти паралельні завдання, мінімізуючи споживання енергії.

Технологічна перевага Groq

У центрі пропозиції Groq знаходиться його інноваційний LPU. На відміну від універсальних процесорів, LPU спеціально розроблені для того, щоб excelling у типах обчислень, найбільш поширених у завданнях штучного інтелекту, особливо тих, що включають обробку природної мови (NLP).

Архітектура LPU розроблена для мінімалізації накладних витрат, пов’язаних з управлінням多 потоками обробки, загальною瓶頸 у традиційних конструкціях чіпів. Оптимізуючи виконання моделей штучного інтелекту, Groq стверджує, що його LPU можуть досягти значно вищої швидкості обробки порівняно з традиційним апаратним забезпеченням.

За даними Groq, його LPU можуть обробляти сотні токенів за секунду навіть при виконанні великих мовних моделей, таких як Meta’s Llama 2 70B. Це перекладається у можливість генерації сотень слів за секунду, рівень продуктивності, який може бути революційним для застосунків штучного інтелекту в реальному часі.

Крім того, Groq стверджує, що його чіпи пропонують суттєві покращення енергоефективності. Мінімізуючи споживання енергії, пов’язане з обробкою штучного інтелекту, LPU можуть потенційно знизити операційні витрати центрів обробки даних та інших обчислень, інтенсивних для штучного інтелекту.

Хоча ці заяви є справді вражаючими, важливо відзначити, що Nvidia та інші конкуренти також зробили значні кроки у напрямку покращення продуктивності чіпів штучного інтелекту. Реальна перевірка для Groq буде полягати у демонстрації послідовних реальних переваг у продуктивності у широкому спектрі застосунків та завдань штучного інтелекту.

Націлювання на корпоративний та державний сектори

Розпізнавши величезний потенціал на корпоративному та державному ринках, Groq розробив багаторівневу стратегію для отримання позиції в цих секторах. Підхід компанії полягає у пропозиції високопродуктивних, енергоефективних рішень, які можуть безшовно інтегруватися до існуючої інфраструктури центрів обробки даних.

Groq запустив GroqCloud, платформу для розробників, яка забезпечує доступ до популярних відкритих моделей штучного інтелекту, оптимізованих для архітектури LPU. Ця платформа служить як демонстрацією технології Groq, так і низьким бар’єром для потенційних клієнтів, щоб досвідченно оцінити переваги у продуктивності.

Стартап також робить стратегічні кроки для задоволення конкретних потреб державних агентств та суверенних націй. Отримавши Definitive Intelligence та сформувавши Groq Systems, компанія позиціонує себе для пропозиції спеціалізованих рішень для організацій, які шукають поліпшення своїх можливостей штучного інтелекту, зберігаючи контроль над чутливими даними та інфраструктурою.

Ключові партнерства та співробітництва

Зусилля Groq щодо проникнення на ринок підтримуються серією стратегічних партнерств та співробітництв. Видатним є альянс з виробничим бізнесом Samsung, який буде виготовляти наступнє покоління 4nm LPU. Це партнерство не тільки забезпечує доступ до передових виробничих процесів, але й надає авторитет технології Groq.

У державному секторі Groq має партнерство з Carahsoft, добре встановленим постачальником ІТ. Це співробітництво відкриває двері до клієнтів державного сектора через розширену мережу партнерів-реселерів Carahsoft, потенційно прискорюючи прийняття Groq у державних агентствах.

Компанія також зробила кроки на міжнародному рівні, підписавши лист про намір встановити десятки тисяч LPU в норвезькому центрі обробки даних, який експлуатує Earth Wind & Power. Крім того, Groq співпрацює з саудівською фірмою Aramco Digital для інтеграції LPU у майбутні центри обробки даних на Близькому Сході, демонструючи свої глобальні амбіції.

Конкурентний ландшафт

Nvidia зараз стоїть як недиспутований лідер на ринку чіпів штучного інтелекту, контролюючи оцінювані 70% до 95% частки. ГП компанії стали де-факто стандартом для навчання та розгортання великих моделей штучного інтелекту, завдяки їх універсальності та потужній екосистемі програмного забезпечення.

Домінування Nvidia ще більше посилюється її агресивним циклом розробки, з планами випустити нові архітектури чіпів штучного інтелекту щороку. Компанія також досліджує послуги з проектування спеціалізованих чіпів для постачальників хмарних послуг, демонструючи свою рішучість зберегти лідерську позицію на ринку.

Хоча Nvidia є явним лідером, ринок чіпів штучного інтелекту стає дедалі більш переповненим як встановленими технологічними гігантами, так і амбітними стартапами:

  1. Постачальники хмарних послуг: Amazon, Google та Microsoft розробляють свої власні чіпи штучного інтелекту для оптимізації продуктивності та зниження витрат у своїх хмарних пропозиціях.
  2. Вагомі гравці у сфері напівпровідників: Intel, AMD та Arm посилюють свої зусилля у сфері чіпів штучного інтелекту, використовуючи свій широкий досвід у проектуванні та виробництві чіпів.
  3. Стартапи: Компанії, такі як D-Matrix, Etched та інші, з’являються зі спеціалізованими проектами чіпів штучного інтелекту, кожна з яких націлена на конкретні ніші у ширшому ринку апаратного забезпечення штучного інтелекту.

Цей різноманітний конкурентний ландшафт підкреслює величезний потенціал та високі ставки у галузі чіпів штучного інтелекту.

Виклики та можливості для Groq

Як Groq намагається викликати домінування Nvidia, компанія стикається з суттєвими перешкодами у масштабуванні виробництва та технологій:

  1. Виробнича потужність: Забезпечення достатньої виробничої потужності для задоволення потенційного попиту буде важливим, особливо враховуючи триваючу глобальну нестачу чіпів.
  2. Технологічний розвиток: Groq повинен продовжувати інновувати, щоб залишатися попереду швидко еволюючих вимог до апаратного забезпечення штучного інтелекту.
  3. Екосистема програмного забезпечення: Розробка потужної стеки програмного забезпечення та інструментів для підтримки свого апаратного забезпечення буде суттєвою для широкого прийняття.

Майбутнє інновацій у сфері чіпів штучного інтелекту

Триває інновації у сфері чіпів штучного інтелекту, очолювані компаніями, такими як Groq, мають потенціал суттєво прискорити розвиток та розгортання штучного інтелекту:

  1. Швидше навчання та висновок: Більш потужні та ефективні чіпи можуть драматично зменшити час та ресурси, необхідні для навчання та виконання моделей штучного інтелекту.
  2. Штучний інтелект на краю: Спеціалізовані чіпи можуть дозволити більш складні застосування штучного інтелекту на пристроях краю, розширюючи сферу дії технології штучного інтелекту.
  3. Енергоефективність: Прогрес у проектуванні чіпів може привести до більш сталих інфраструктур штучного інтелекту, зменшуючи екологічний вплив великомасштабних розгортань штучного інтелекту.

Як революція чіпів штучного інтелекту продовжується, інновації, запропоновані Groq та його конкурентами, відіграють важливу роль у визначенні темпу та напрямку розвитку штучного інтелекту. Хоча виклики є суттєвими, потенційні винагороди – як для окремих компаній, так і для ширшої галузі штучного інтелекту – є величезними.

Алекс Макфарленд - журналіст та письменник з питань штучного інтелекту, який досліджує останні розробки в галузі штучного інтелекту. Він співпрацював з численними стартапами та виданнями з штучного інтелекту у світі.