Модели и платформы ИИ

Введение в Vertex AI

Kunal Kejriwal
Добавьте Unite.AI в избранные источники в Google
Ключевые моментыVertex AI объединяет разрозненные данные и инструменты искусственного интеллекта в…
Показать больше
  • Vertex AI объединяет разрозненные данные и инструменты искусственного интеллекта в единую платформу, готовую к использованию в корпоративной среде.
  • Его «Сад моделей» предоставляет централизованный доступ к более чем 200 тщательно отобранным базовым моделям.
  • Динамическая оркестровка и функции заземления платформы решают проблемы производственных сбоев ИИ и галлюцинаций моделей.

Учитывая быстро меняющийся ландшафт искусственного интеллекта, одной из самых больших проблем, с которыми часто сталкиваются руководители технологических направлений, является переход от экспериментальных решений к системам, готовым для использования в компаниях. Хотя потребительские чат-боты и интерактивные платформы будоражат воображение публики, бизнес не может добиться успеха только с помощью интерфейса чата. В эпоху, когда конкуренция более агрессивна, чем когда-либо прежде, бизнесу нужна прочная, масштабируемая и безопасная экосистема, и это то, что Google (GOOGL ) пытается предложить с помощью Vertex AI, единой платформы искусственного интеллекта и машинного обучения Google Cloud. 

Vertex AI пытается утвердиться как основа для интеграции генеративного ИИ с современной облачной инфраструктурой, предлагая комплексный набор функций, который устраняет разрыв между сырыми фундаментальными моделями и приложениями, готовыми к промышленной эксплуатации. Vertex AI не является просто оболочкой для больших языковых моделей (LLM), а единой экосистемой машинного обучения и искусственного интеллекта (ML/AI), которая рассматривает генеративный ИИ как полноценную составляющую современной облачной инфраструктуры.

В сердце Vertex AI находится Model Garden, центральный рынок, который предоставляет доступ к более чем 200 отобранным фундаментальным моделям, включая мощную мультимодальную модель Gemini 2.5 Pro с впечатляющим контекстным окном в два миллиона токенов. В этой статье мы рассмотрим архитектуру Vertex AI, исследуем, как Model Garden служит “App Store” для интеллекта, и посмотрим на технические столпы, которые делают эту платформу основой следующего поколения программного обеспечения для предприятий.

Основная Архитектура: Единая Платформа

Vertex AI не является слабо связанной коллекцией инструментов, а единой экосистемой данных и ИИ, предназначенной для преодоления фрагментации данных, инструментов и команд, которые мучают машинное обучение до сих пор. Традиционно, разработка ИИ происходит в изолированных средах, и иногда данные распределены и заперты в нескольких репозиториях. Например, организации могут хранить данные клиентов в хранилищах SQL, а неструктурированные документы – в Data Lake. Когда данные изолированы, ИИ видит только “частичную правду”, что приводит к предвзятым результатам или высоким показателям галлюцинации, поскольку ему не хватает полного контекста предприятия. 

Vertex AI пытается интегрировать весь жизненный цикл, от загрузки необработанных данных в BigQuery и Cloud Storage до мониторинга в рабочей среде, по сути, служа “соединительной тканью” между этими изолированными хранилищами. Vertex AI интегрируется с Cloud Storage и BigQuery, позволяя моделям ИИ получать данные без сложных конвейеров извлечения, преобразования и загрузки. 

Основание: Гиперкомпьютер Google

Слой GenAI Vertex AI находится поверх архитектуры гиперкомпьютера Google, интегрированной суперкомпьютерной системы, которая состоит из:

TPU v5p и v5e (Tensor Processing Units)

Tensor Processing Units Google – это специально разработанные ASIC (Application-Specific Integrated Circuits), предназначенные специально для умножения матриц, лежащего в основе глубокого обучения.

  • TPU v5p (Производительность): Это флагманский ускоритель для крупномасштабного обучения. Каждый pod TPU v5p может масштабироваться до 8 960 чипов, взаимосвязанных с помощью межчипового соединения Google Inter-Chip Interconnect (ICI) с максимальной пропускной способностью на 4 800 Гбит/с. Для технического лидера это означает 2,8-кратное ускорение обучения модели размером с GPT-3 (175 миллиардов параметров) по сравнению с предыдущим поколением, что значительно сокращает время выхода на рынок.
  • TPU v5e (Эффективность): Разработанный для оптимального соотношения стоимости и производительности, v5e – это рабочая лошадка для обучения среднего масштаба и инференса с высокой пропускной способностью. Он обеспечивает улучшение соотношения цены и производительности до 2,5 раза, что делает его идеальным выбором для бизнеса, которому нужно выполнять инференс круглосуточно без огромного бюджета.

NVIDIA H100/A100 GPUs для гибкости

Хотя ТПУ специализированы, многие команды разработки полагаются на экосистему NVIDIA CUDA. Vertex AI предоставляет первоклассную поддержку последнего оборудования NVIDIA:

  • NVIDIA H100 (Hopper): Идеально подходит для тонкой настройки крупнейших открытых моделей (например, Llama 3.1 405B), которые требуют огромной пропускной способности памяти.
  • Сеть Jupiter: Чтобы предотвратить “узкое место в сети”, Google использует свою ткань сети центра данных Jupiter. Это обеспечивает передачу данных между GPU на молниеносной скорости, поддерживая RDMA (Remote Direct Memory Access) для обхода накладных расходов CPU и обеспечения почти локальной производительности на распределенных узлах.

Динамическая Оркестрация

Самым критическим техническим сдвигом в Vertex AI является Динамическая Оркестрация. В устаревшей среде, если узел GPU выходит из строя во время трёхнедельного обучения, вся работа может рухнуть.

  • Автоматическая отказоустойчивость: Vertex AI, часто работающий на Google Kubernetes Engine (GKE) под капотом, имеет “Самовосстанавливающиеся” узлы. Если обнаружена аппаратная неисправность, платформа автоматически переносит рабочую нагрузку на здоровый узел.
  • Динамический Планировщик Рабочей Нагрузки: Этот инструмент позволяет командам запрашивать емкость на основе срочности. Вы можете выбрать Flex Start (дешевле, начинается, когда есть емкость) или Гарантированную Емкость для критически важных выпусков.
  • Бессерверное обучение: Для команд, которые хотят полностью отказаться от управления инфраструктурой, Vertex AI Serverless Training позволяет вам отправить свой код и данные; платформа предоставляет кластер, выполняет работу и освобождает его ресурсы – взимая плату только за использованные секунды вычислений.

Три Точки Входа: Обнаружение, Экспериментирование и Автоматизация

Чтобы удовлетворить потребности разных технических специалистов — от специалистов по данным до разработчиков приложений – Vertex AI предоставляет три основные точки входа:

Model Garden: Рынок для Обнаружения

Model Garden Google Cloud – это централизованная платформа внутри Google Cloud для обнаружения, тестирования, настройки и развертывания широкого спектра собственных моделей ИИ Google, моделей с открытым исходным кодом и моделей сторонних поставщиков, включая мультимодальные модели (компьютерное зрение, текст, код) для различных бизнес-нужд, предлагая бесшовную интеграцию с инструментами Vertex AI для оптимизации операций машинного обучения (MLOps). Он действует как комплексная библиотека, помогающая разработчикам и бизнесу выбрать правильную модель (от крупных фундаментальных моделей до специализированных) для своих задач, будь то текстовая генерация, анализ изображений или автодополнение кода, и развертывать их эффективно в своей среде Google Cloud.

Model Garden категоризирует свои более 200 моделей на три различных уровня, позволяя архитекторам сбалансировать производительность, стоимость и контроль:

  1. Собственные модели Google: Это флагманские мультимодальные модели, доступные внутри Vertex AI, и Google предлагает их в различных размерах, от Pro со сложными рассуждениями до Flash с низкой задержкой и высокой пропускной способностью, что позволяет разработчикам оптимизировать свои модели в соответствии с их случаями использования. 
  2. Модели третьих лиц (Проприетарные): Благодаря стратегическим партнерствам, Vertex AI предлагает “Модель как услугу” (MaaS) доступ к титанам, таким как Anthropic (Claude 3.5) и Mistral AI. Вместо управления отдельными счетами и учётными данными безопасности для пяти разных поставщиков ИИ, техническая команда может получить доступ ко всем им через свой существующий проект Google Cloud, используя унифицированный формат API.
  3. Модели с открытым исходным кодом и открытыми весами: Этот уровень включает Llama 3.2 от Meta, Mistral и собственную Gemma Google. Эти модели идеальны для организаций, которые хотят самостоятельно развернуть модели внутри своей собственной VPC (виртуального частного облака) для обеспечения максимальной изоляции данных.

В неунифицированной среде развертывание открытой модели, такой как Llama, требует настройки среды PyTorch, конфигурирования драйверов CUDA и управления оберткой Flask или FastAPI.

Model Garden устраняет этот этап подготовки и интеграции данных и инструментов с помощью Унифицированных Управляемых Конечных Точек:

  • Развёртывание в один клик: Для многих моделей нажатие кнопки “Развертывание” автоматически выделяет необходимые ресурсы TPU/GPU, оборачивает модель в контейнер, готовый к производству, и предоставляет конечную точку REST API.
  • Интеграция с Hugging Face: Vertex AI теперь позволяет разработчикам развертывать модели напрямую из Hugging Face Hub в конечную точку Vertex, обеспечивая почти бесконечное расширение доступного интеллекта.
  • Private Service Connect (PSC): Для высокорегулируемых отраслей модели можно развертывать с помощью Private Service Connect, гарантируя, что конечная точка модели никогда не будет доступна из общедоступного интернета – сохраняя трафик данных строго внутри корпоративной сети.

Vertex AI Studio: Площадка для Экспериментирования

В то время как Model Garden посвящен выбору, Vertex AI Studio посвящен точности. Vertex AI Studio можно сравнить с компиляторами и отладчиками, которые вы встречаете в традиционном программном мире. Vertex AI Studio – это рабочее пространство, где сырые модели превращаются в конкретные бизнес-инструменты с помощью комбинации инженерии подсказок, многомодального тестирования и расширенной настройки гиперпараметров. 

Мультимодальное Прототипирование: За пределами Текста

Одной из выдающихся особенностей Studio является его встроенная поддержка мультимодальности. В то время как другие платформы требуют сложного кодирования для обработки не-текстовых данных, Vertex AI Studio позволяет вам просто перетянуть файлы в интерфейс для тестирования возможностей рассуждения Gemini 2.5.

  • Интеллект Видео: Вы можете загрузить 45-минутную техническую лекцию и попросить модель “определить каждый раз, когда упоминается конкретный API, и предоставить сводку с временными метками.”
  • Анализ Документов: Вместо простого чтения текста модель может проанализировать визуальный макет 1 000-страничного PDF, понимая взаимосвязь между графиками, таблицами и окружающим текстом.
  • Выполнение кода: Studio теперь поддерживает выполнение кода в экспериментальной среде. Если вы попросите модель решить сложную математическую задачу или проанализировать CSV, модель может написать и выполнить код Python в безопасной песочнице, чтобы предоставить подтвержденный ответ.

Расширенная Настройка: Путь Настройки

Когда инженерия подсказок (Zero-shot или Few-shot) достигает потолка, Vertex AI Studio предоставляет тяжелую технику: Настройка Модели.

  1. Дообучение с учителем (SFT): Разработчики предоставляют набор данных из пар «Запрос/Ответ» (идеально 100+ примеров). Это учит модель воспроизводить определённый голос бренда, формат вывода (например, специализированный JSON) или домен-специфический жаргон.
  2. Кэширование Контекста: Для предприятий, имеющих дело с огромными, статическими наборами данных (например, юридической библиотекой или кодовой базой), Studio позволяет Кэширование Контекста. Это позволяет “предзагрузить” миллион токенов данных в память модели, что значительно снижает задержку и стоимость для последующих запросов.
  3. Дистилляция (Учитель-Ученик): Это высокоуровневый архитектурный ход. Вы можете использовать огромную модель (Gemini 2.5 Pro), чтобы “научить” меньшую, быструю модель (Gemini 2.0 Flash). Результатом является легкая модель, которая работает на уровне “Pro”, но работает на скорости и стоимости “Flash”.

Vertex AI Agent Builder: Фабрика для Автоматизации

Vertex AI Agent Builder – это высокоуровневый каркас оркестрации, который позволяет разработчикам создавать этих агентов, объединяя фундаментальные модели с данными предприятия и внешними API.

Архитектура «достоверности»: привязка к источникам и RAG

Основным техническим барьером для корпоративного ИИ является галлюцинация. Agent Builder решает эту проблему с помощью продвинутого механизма привязки к источникам.

  • Привязка к Google Search: Для запросов, требующих актуальных знаний о мире в реальном времени (например, “Каковы текущие процентные ставки по ипотеке в Нью-Йорке?”), агент может выполнить поиск Google, извлечь факты и сослаться на источники.
  • Vertex AI Search (RAG-as-a-Service): Вместо того, чтобы вручную строить векторную базу данных (Pinecone, Weaviate), разработчики могут использовать Vertex AI Search , чтобы проиндексировать свои собственные документы (PDF, HTML, BigQuery). Он автоматически обрабатывает шаги “чанкинга”, “встраивания” и “извлечения”, гарантируя, что агент отвечает только на основе внутреннего «источника достоверных данных».
  • Двигатель Vertex AI RAG: Для масштабных специализированных решений этот управляемый сервис поддерживает гибридный поиск, объединяя результаты векторного поиска и поиска по ключевым словам, что позволяет повысить точность на величину до 30% по сравнению со стандартными ответами LLM.

Мультиагентная оркестрация (A2A Протокол)

Расширенные рабочие потоки предприятия часто требуют нескольких специализированных агентов, работающих вместе. Vertex AI вводит Протокол A2A (Агент-к-Агенту), открытый стандарт, который делает возможным следующее:

  • “Агент по путешествиям” может говорить с “Финансовым Агентом”, чтобы гарантировать, что бронирование рейса находится в пределах корпоративного бюджета.
  • Взаимодействие: Поскольку он использует открытый протокол, агенты, построенные на Vertex, могут общаться с теми, которые построены на других каркасах, таких как LangChain или CrewAI.

Стек Разработчика: ADK и Двигатель Агента

Для “технологической платформы” аудитории Agent Builder предлагает два различных пути:

  1. Консоль без кода: Визуальный интерфейс перетаскивания для быстрого прототипирования и настройки бизнес-пользователями.
  2. Набор Разработки Агента (ADK): Код-ориентированный инструментарий Python для инженеров. Он позволяет “Подсказка-как-код”, интеграцию с системой контроля версий и возможность развертывания в Двигатель Агента Vertex AI — управляемую среду выполнения, которая автоматически обрабатывает сохранение сессии, масштабирование и управление состоянием.

Заключение: От “Что если” к “Что Дальше”

Переход от впечатляющей демонстрации ИИ к приложению, готовому к производству, давно является “долиной смерти” для проектов цифровой трансформации. Как мы исследовали, Vertex AI предназначен специально для преодоления этого разрыва. Объединив разрозненные хранилища данных, инфраструктуры и оркестрации моделей, Google Cloud сместил разговор от сырой мощности больших языковых моделей к операционной зрелости жизненного цикла ИИ.

Kunal Kejriwal — backend‑инженер, специализирующийся на Python, PostgreSQL, Redis и облачной инфраструктуре в GCP и AWS. Имея три года опыта в построении и масштабировании программных систем в рабочей среде, он пишет об инфраструктуре ИИ, распределённых системах и архитектуре развертывания нагрузок машинного обучения.