Чтобы сократить затраты на ИИ, начните с расходов на облачные услуги

Итак называемый «запутанный средний» ИИ, возможно, достиг своего самого большого запутывания.

Когда глобальный кризис оборудования сталкивается с огромным спросом, затраты на ИИ взлетели. В спешке за большим вычислением компании, предоставляющие услуги ИИ, не имели другого выбора, кроме как повысить цены и пересмотреть свои модели выставления счетов, что нарушило баланс бюджетов и сорвало инновации именно тогда, когда многие организации только начинали набирать обороты.

Результатом стала не только стикер-шок: это экзистенциальный кризис для делового мира, который фактически только что пережил один. Компании пересмотрели свои дорожные карты, чтобы приспособиться к влиянию ИИ. Команды перестроили свои рабочие процессы в соответствии с возможностями ИИ. Включение ИИ стало основным конкурентным преимуществом организаций. ИИ вошел в поле, запустив массовую трансформацию, и теперь командам предлагается отступить, когда они только начали операционализировать его.

Компании, такие как Uber, попали в заголовки за установку агрессивных ограничений на использование ИИ, чтобы сдержать поток. Но хотя ограничения на использование могут быть эффективным мерой по сокращению затрат, они не являются единственным способом, которым бизнес может сократить расходы на вычисления.

Первое место, где они должны искать, – это их счет за облачные услуги.

Кажется контринтуитивным. Хотя формула всегда была такой, что больше вычислительной мощности означает больше влияния ИИ, это не обязательно делает его более эффективным. Предприятия истекают своими бюджетами на услуги ИИ, все еще полагаясь на слишком большие и слишком дорогие инфраструктуры; растущие затраты на ИИ просто раскрывают глубоко укоренившуюся проблему, которую предприятия больше не могут игнорировать.

Как накапливаются расходы на облачные услуги

Расходы на ИТ-инфраструктуру часто являются вторым по величине статьей расходов организации после численности сотрудников, составляя в среднем 10% годового дохода бизнеса – цифра, которую спрос на ИИ поднял вверх в последние годы. Но многие добавляют объем к уже разбухшей ИТ-рамке.

Технические директора и другие лица, принимающие решения о технологиях, привлечены к тому, что знакомо и надежно. К сожалению, это также то, что повышает их счета за облачные услуги. Принимая проверенное и надежное, они попадают в дорогие универсальные сделки с крупными гиперскалерами, где они платят за решения, которые не приносят ценности.

Со временем они обнаруживают, что они платят за неиспользуемые или неактивные услуги, неоптимизированное оборудование и пустое хранилище, когда они могли бы инвестировать эти деньги в инновации ИИ. Поскольку ИИ становится все более дорогим, им понадобится каждый доллар, который они смогут получить.

Оптимизация инфраструктуры для эффективности ИИ

Чтобы получить контроль над расходами на облачные услуги, требуется сочетание острого, краткосрочного действия и долгосрочной эволюции. Решение того, что можно решить сегодня, дает предприятиям возможность для более крупных корректировок в течение следующего года.

Переход на новую инфраструктуру требует времени, и организациям нужны решения прямо сейчас, чтобы их команды могли продолжать работать с ИИ. Вот три шага, которые предприятия могут предпринять немедленно, чтобы модулировать свои расходы на облачные услуги:

1 – Анализ использования ЦП и памяти

Такое понятие, как «слишком много» производительности, существует. Команды ИТ должны провести тщательный диагноз использования облачных услуг, а затем понижать экземпляры, которые превышают требования к производительности. Глубокое погружение в использование облачных услуг также помогает командам обнаружить функции и инфраструктуру, которые не используются вообще; если их текущий контракт позволяет, они могут быть в состоянии декомиссионировать эти услуги или договориться о более низкой оплате на оставшуюся часть контракта. В противном случае выявление неиспользуемых функций обеспечивает ценный каркас для определения параметров их переформированной облачной стратегии.

Когда предприятия меняют свою стратегию инфраструктуры, они захотят выбрать облачные услуги, которые экономят использование памяти. Например, инфраструктура, оптимизированная для памяти, и виртуальные ЦП обеспечивают более доступную поддержку для поддержки класса предприятия по сравнению с оптимизациями на основе Arm, обычно предлагаемыми гиперскалерами. Это облегчает часть нагрузки по мониторингу для команд ИТ, одновременно снижая общую стоимость облачных услуг.

2 – Установка строгих ограничений на расходы

Ограничения на расходы и использование были иммунным ответом технологической отрасли на повышение цен на ИИ, но это не только установка ограничений, что имеет значение. Это то, как эти ограничения определяются, сообщаются и обеспечиваются.

Во-первых, ограничения на расходы должны быть специфичными для использования. Лидеры должны быть в состоянии использовать их в качестве руководства для планирования проектов и распределения ресурсов, что позволит им структурировать бюджеты, сроки и отдельные команды проекта с учетом эффективности.

Что касается коммуникации, важно, чтобы весь персонал понимал почему эти ограничения. Мы привыкли видеть цифровое как бесконечное, но на этой фазе бума ИИ мы сталкиваемся с законами физики. Когда нехватка и изменения выставления счетов влияют на повседневную работу сотрудников, ограничения на расходы должны быть позиционированы как устойчивый способ поддерживать их новую зависимость от инструментов, работающих на ИИ, а не как ограничение.

3 – Обеспечение протоколов тегирования

Протоколы тегирования предотвращают неуправляемое использование ИТ, которое тайно повышает расходы на вычисления. С помощью прочного кода тегирования лидеры ИТ могут лучше понять трафик облачных услуг, что позволяет командам нацеливаться на источник чрезмерного использования и делать стратегические корректировки для сокращения ресурсов, где происходит разбухание. В то же время протоколы тегирования также могут показать, где командам может понадобиться апгрейд.

Когда существующие контракты на облачные услуги истекают, у предприятий появляется возможность перестроить свою вычислительную экосистему с помощью составной, многооблачной стратегии. Это не обязательно означает отказ от давних партнеров-гиперскалеров, а скорее снижение их контрактов, чтобы гармонизировать с более эффективной инфраструктурой в другом месте в стеке. Альтернативные облачные решения, решения на основе края, которые снимают нагрузку с инфраструктуры на основе ГПУ, и решения с открытым исходным кодом составляют гибкую, многоуровневую стратегию, которая не только экономит затраты, но и увеличивает ROI каждой инициативы ИИ, максимизируя цену за производительность, что позволяет предприятиям затем инвестировать экономию в инновации ИИ.

Перепрошивка менталитета эффективности

Управление расходами на ИИ также является вопросом культуры. Рабочие силы, работающие с ИИ, заметно одержимы эффективностью. Поэтому они строят агентов, автоматизируют свою коммуникацию и позволяют ИИ выполнять рутинную работу, пока они расширяют свою способность к творчеству и инновациям. Но безответственное использование этих инструментов имеет противоположный эффект.

«Tokenmaxxing» и другие тренды, которые поощряют расточительное использование ИИ, несовместимы с偏ением к эффективности. Если команды хотят действительно делать больше с меньшими затратами, их взаимодействие с ИИ должно отражать этот принцип.

Для этого требуется сдвиг культуры и технологий в тандеме. Поощряйте использование лучших подсказок для снижения нагрузки вывода, но также принимайте инфраструктуру, которая автоматически экономит вывод. Принимайте более мелкие модели ИИ с точными случаями использования. Принимайте модели и программное обеспечение с открытым исходным кодом, чтобы снизить нагрузку обучения. Наделяйте разработчиков возможностью решать проблемы эффективно и обучайте непрофессионалов ИИ. Компании, которые хотят поощрять своих сотрудников использовать ИИ, должны делать это ответственно.

Несмотря на повышение цен, мы еще не нажали на тормоза трансформации ИИ. Операционализация ИИ в масштабе всегда будет дорогостоящим мероприятием, требующим тщательного планирования и стратегического распределения капитала, чтобы остаться устойчивым. Где мы сейчас находимся, – это точка сжатия: шаги, которые лидеры ИТ предпринимают сейчас, определят, кто пройдет через нее, а кто останется позади.

Пока отрасль мобилизуется, чтобы решить надвигающийся кризис вычислений, предприятиям необходимо найти способы сделать все, что они могут, с тем, что у них есть. Компании могут защитить себя от астрономических расходов на ИИ, решая проблему чрезмерных расходов на облачные решения, экономя вывод в распределенном облаке и инвестируя в инфраструктуру, которая способствует реальному ROI.