Моделі та платформи ШІ

EnterpriseDB вводить концепцію «інтелект на ват» для зниження споживання енергії штучного інтелекту

mm
Додайте Unite.AI до бажаних джерел у Google

EnterpriseDB оголосив про новий набір показників продуктивності та архітектурних удосконалень у своїй платформі EDB Postgres AI, вводячи концепцію «інтелект на ват» для підприємства штучного інтелекту. Ця концепція призначена для вирішення зростаючої проблеми: як масштабувати системи штучного інтелекту без пропорційного збільшення споживання енергії та витрат на інфраструктуру.

Останні результати компанії свідчать про те, що значні здобутки в ефективності можна досягти не на рівні моделі або графічного процесора, а на рівні даних, який підтримує кожну взаємодію штучного інтелекту. Оптимізуючи спосіб отримання, індексування та обробки даних, EnterpriseDB стверджує, що може зменшити використання токенів, зменшити вимоги до інфраструктури та суттєво зменшити викиди, пов’язані з навантаженнями штучного інтелекту.

Досягнення продуктивності, орієнтовані на рівень даних

Оголошення підтримується серією показників, які підкреслюють поліпшення як швидкості, так і ефективності. EnterpriseDB повідомляє, що його платформа може прискорити індексування векторів, використовуючи значно менше пам’яті, ніж традиційні підходи, та зменшити споживання токенів без суттєвого погіршення якості виходу.

У практичному сенсі це означає, що системи штучного інтелекту можуть виконувати одні й ті ж завдання з меншою кількістю обчислювальних кроків. Оскільки генерація токенів та отримання даних безпосередньо пов’язані з використанням обчислювальних ресурсів, ці зменшення перекладаються у нижче споживання енергії на взаємодію.

Компанія також вказує на більш широкі поліпшення по всім аналітичним навантаженням, де операції з даними в реальному часі можна виконувати значно швидше. Ці здобутки не обмежуються окремими випадками використання, а застосовуються по всім підприємствам, де штучний інтелект, аналіз даних та транзакційні системи працюють одночасно.

Зменшення інфраструктури та вплив на викиди

Поза поліпшеннями на рівні навантажень EnterpriseDB підкреслює зменшення на рівні інфраструктури. У наборі підприємств компанія повідомляє, що її платформа дозволила суттєво зменшити кількість обчислювальних ядер, необхідних для виконання застосунків, що у свою чергу знизило споживання енергії та пов’язані з цим викиди.

У одному з прикладів, що стосується великомасштабних фінансових послугових середовищ, зменшення інфраструктури призвело до суттєвого зниження викидів вуглецю. Масштаб цих збережень підкреслює, як поліпшення ефективності на рівні бази даних можуть мати системні ефекти, особливо в організаціях, які експлуатують кілька центрів даних.

Цей подвійний фокус на оптимізації інфраструктури та навантажень утворює основу рамки «інтелект на ват». Ідея полягає не лише в тому, щоб зробити штучний інтелект швидшим, а й зробити його фундаментально більш ефективним при масштабуванні.

Розростання енергетичної проблеми штучного інтелекту та центрів даних

Важливість цих поліпшень стає яснішою при розгляді ширшої траєкторії зростання центрів даних. Штучний інтелект швидко збільшує попит на обчислювальні ресурси та, відповідно, споживання електроенергії.

Міжнародне енергетичне агентство прогнозує, що глобальний попит центрів даних на електроенергію може сягнути близько 945 терават-годин до 2030 року, що більше ніж у двічі перевищує сучасні рівні. Навантаження штучного інтелекту мають стати основним драйвером цього збільшення.

Цей стрибок у попит має прямий екологічний вплив. Центри даних вже зараз складають суттєву частку глобального споживання електроенергії, а їх розширення створює додатковий тиск на енергетичну інфраструктуру та цілі щодо викидів. Без поліпшення ефективності вартість масштабування штучного інтелекту може вийти далеко за рамки фінансових питань.

Що таке EnterpriseDB і чому це має значення

EnterpriseDB давно асоціюється з рішенням рівня підприємства для PostgreSQL, але його еволюція у постачальника даних та платформи штучного інтелекту відображає більш широкі зміни на ринку. Коли організації інтегрують штучний інтелект у основні операції, кордон між базами даних та системами штучного інтелекту зникає.

Платформа EDB Postgres AI призначена для роботи на цьому перетині, об’єднуючи транзакційну обробку, аналіз даних та навантаження штучного інтелекту в єдиній системі. Цей підхід зменшує потребу у декількох спеціалізованих платформах, які часто вимагають дублювання даних та переміщення їх між середовищами.

Об’єднуючи ці функції, EnterpriseDB позиціонує себе як фундаментальний рівень для інфраструктури штучного інтелекту. Його фокус на ефективності відповідає зростаючому визнанню того, що масштабування штучного інтелекту не лише про збільшення можливостей, а й про те, щоб робити це сталим чином.

Як це порівнюється з іншими галузевими зусиллями

По всій галузі більшість зусиль щодо поліпшення ефективності штучного інтелекту зосереджувалися на апаратному забезпеченні та оптимізації моделей. Виробники мікросхем продовжують розробляти більш ефективні процесори, тоді як компанії штучного інтелекту працюють над зменшенням розміру та обчислювальних вимог моделей.

Постачальники хмарних послуг також вкладають великі кошти в ефективність центрів даних, включаючи інновації у охолодженні та інтеграцію відновлюваних джерел енергії. Водночас платформи даних еволюціонують, щоб підтримувати навантаження штучного інтелекту більш безпосередньо, часто інтегруючи можливості векторного пошуку та машинного навчання у свої системи.

Що відрізняє підхід EnterpriseDB, це його акцент на рівні даних як основному рівні для ефективності. Замість конкуренції з графічними процесорами чи архітектурами моделей він націлюється на операції, які відбуваються до та навколо висновку, де значні неефективності можуть накопичуватися у масштабі.

Цей погляд не замінює апаратне чи модельне вдосконалення, а доповнює їх. Коли системи штучного інтелекту стають більш складними та автономними, ефективність базової інфраструктури даних може відігравати все більш важливу роль у визначенні загальної продуктивності та вартості.

Перехід до вимірювання ефективності штучного інтелекту

Введення концепції «інтелект на ват» відображає ширший перехід у тому, як підприємства можуть оцінювати системи штучного інтелекту. Продуктивність сама по собі вже недостатня. Організації починають розглядати, скільки енергії потрібно для генерації цієї продуктивності, та чи можна її зменшити без втрати якості.

Оголошення EnterpriseDB свідчить про те, що наступна фаза впровадження штучного інтелекту буде сформована не лише тим, що системи можуть робити, а й тим, наскільки ефективно вони можуть це робити. Коли агенти штучного інтелекту масштабуються до мільярдів та працюють безперервно, навіть малі поліпшення ефективності можуть мати великий накопичувальний вплив.

У цьому контексті оптимізація рівня даних вже не є вторинною проблемою. Вона стає центральною частиною розмови про майбутнє підприємства штучного інтелекту.

Антуан є видним лідером і засновником Unite.AI, який рухається незмінною пристрастю до формування та просування майбутнього штучного інтелекту та робототехніки. Як серійний підприємець, він вважає, що штучний інтелект буде таким же революційним для суспільства, як і електрика, і часто захоплюється потенціалом революційних технологій і штучного інтелекту загального призначення.

Як футуролог, він присвячений вивченню того, як ці інновації будуть формувати наш світ. Крім того, він є засновником Securities.io, платформи, орієнтованої на інвестиції в передові технології, які переінакшують майбутнє і змінюють цілі сектори.