Deep Cogito привлекла $43M Series A для создания движка постобучения для самосовершенствующегося ИИ

Deep Cogito привлекла раунд Series A в размере 43 млн долларов, поскольку лаборатория ИИ из Сан‑Франциско стремится масштабировать всё более важную часть стека искусственного интеллекта: то, что происходит после предварительного обучения базовой модели.

Раунд возглавил TQ Ventures, при участии Benchmark, Nexus Venture Partners, Atreides Management, South Park Commons и компании по облачной безопасности Zscaler, которая является как клиентом, так и стратегическим инвестором. Финансирование увеличило общий объём инвестиций Deep Cogito более чем до 56 млн долларов.

Компания основана Дришаном Аророй и Дхрувом Малрана, ранее работавшими над продуктами Google AI Search, включая AI Mode и AI Overviews. Deep Cogito ставит ставку на то, что будущие улучшения в интеллекте ИИ будут всё больше зависеть от более эффективных алгоритмов обучения и постобучения, а не просто от увеличения масштабов предварительного обучения.

Это ставит компанию в другую часть гонки ИИ по сравнению с лабораториями, сосредоточенными преимущественно на создании всё более крупных базовых моделей с нуля.

Почему Deep Cogito ставит на постобучение

Предварительное обучение обеспечивает большую языковую модель широким базовым набором знаний, подвергая её огромным объёмам данных. Постобучение же формирует то, как модель ведёт себя, рассуждает, следует инструкциям, использует инструменты и выполняет конкретные задачи.

Тезис Deep Cogito заключается в том, что этот второй этап обладает значительно большим потенциалом для развития.

Исследования компании сосредоточены на масштабном обучении с подкреплением и методах, позволяющих моделям постепенно улучшать собственные возможности. Вместо того чтобы рассматривать предварительно обученную модель как почти готовый продукт, требующий лишь дополнительного согласования, Deep Cogito рассматривает её как отправную точку, возможности которой можно продолжать развивать.

Арорa резюмировал различие при объявлении раунда: «Предварительное обучение даёт модели огромный объём знаний и возможностей. Постобучение определяет, кем эта модель может стать на самом деле».

Это особенно актуально, поскольку экономика простого масштабирования предварительного обучения становится всё более требовательной. Обучение передовых базовых моделей требует огромных наборов данных, GPU‑кластеров, энергетической инфраструктуры и капитала. Достаточно эффективная система постобучения может извлечь существенно больше интеллекта из существующей модели без необходимости повторять весь процесс.

Преобразование дорогостоящего рассуждения в лучшую интуицию

В центре исследований Deep Cogito находится Итеративная дистилляция и усиление (IDA), подход, который компания публично представила вместе со первой семейством моделей Cogito.

Концепция относительно проста, хотя её масштабная реализация и не так проста.

На этапе усиления модели предоставляются дополнительные вычислительные ресурсы и методы, позволяющие ей получить более сильный ответ, чем она могла бы сгенерировать сразу. Полученное улучшение затем дистиллируется обратно в параметры модели. Обновлённая модель становится отправной точкой для следующей итерации.

Вместо того чтобы требовать от модели всё более длительный процесс рассуждения каждый раз, когда она сталкивается со сложным вопросом, цель состоит в постепенном усвоении части того, что она изучила во время более ресурсоёмких рассуждений.

Deep Cogito описывает это как улучшение «интуиции» модели.

Это различие может стать важным для экономики вывода. Длинные цепочки рассуждений могут повышать точность, но они также увеличивают потребление токенов, задержку и стоимость. Модель, усвоившая более эффективные траектории рассуждений, может достигать аналогичных выводов с меньшими вычислительными затратами во время инференса.

Модели Cogito предоставляют публичный тест подхода

Deep Cogito использует семейство открытых моделей Cogito в качестве экспериментальной площадки для этих методов.

Первоначальные релизы охватывали модели от 3 млрд до 70 млрд параметров, после чего компания расширила семейство, добавив модели 70 млрд, 109 млрд mixture-of-experts (MoE), 405 млрд и 671 млрд MoE.

С Cogito v2 компания сообщила, что её модель 671 млрд генерирует цепочки рассуждений примерно на 60 % короче, чем DeepSeek R1 0528, оставаясь конкурентоспособной по нескольким оценкам. Deep Cogito также заявила, что потратила менее 3,5 млн долларов на совместное обучение восьми моделей Cogito от 3 млрд до 671 млрд, хотя сравнение производительности и стоимости обучения не всегда напрямую переводится в экономику производства.

Компания продолжила совершенствовать систему с Cogito v2.1 671B, использующей открыто лицензированную базовую модель DeepSeek, которую Deep Cogito затем дообучила внутри компании. В её исследовательском релизе v2.1 говорится, что модель применяет контроль процесса во время рассуждения, а обучение направлено на улучшение способности модели выявлять продуктивные пути рассуждения, а не просто заставлять её рассуждать дольше.

Этот прогресс важен для более широкой аргументации Deep Cogito. Компании не требуется доказывать, что она может предварительно обучить лучшую базовую модель, чем крупнейшие лаборатории ИИ. Ей нужно продемонстрировать, что её процесс постобучения последовательно превращает сильные существующие модели в более способные.

Zscaler указывает на возможности в корпоративном секторе

Другая сторона бизнеса заключается в применении этих техник постобучения за пределами публично выпущенных моделей Cogito к корпоративному ИИ.

Вместо того чтобы полностью полагаться на универсальную передовую модель, компании могут обучать специализированные модели, опираясь на собственные проприетарные данные, рабочие процессы, критерии оценки и желаемые результаты.

Это может идти гораздо глубже, чем retrieval-augmented generation (RAG), который обычно предоставляет общей модели доступ к внешней информации компании во время вывода. Подход Deep Cogito направлен на изменение самой модели путем обучения в её весах доменно‑специфических возможностей.

Zscaler служит ранним примером. Компания по кибербезопасности начала как клиент Deep Cogito ещё до участия в раунде Series A. Компании также сотрудничали в области специализированной безопасности, при этом Deep Cogito утверждает, что приложения безопасности могут извлечь выгоду из моделей, постобученных на собственных данных и результатах организации.

Широкое корпоративное предложение касается как специализации, так и контроля. В освещении финансирования Wall Street Journal отмечается, что Deep Cogito позиционирует свою технологию вокруг моделей, которые бизнес может обучать и владеть, используя собственные данные, а не полностью полагаться на закрытые передовые системы.

На что пойдёт раунд Series A в 43 млн долларов

Deep Cogito планирует использовать раунд Series A для расширения своей исследовательской и инженерной команды, увеличения вычислительной инфраструктуры для масштабного обучения, разработки будущих моделей Cogito и сотрудничества с большим числом предприятий, ищущих специализированные модели.

Инфраструктура, вероятно, станет особенно важной частью этого расширения. В собственных материалах по набору персонала Deep Cogito описывается, как исследователи работают над новыми алгоритмами обучения с подкреплением, конвейерами данных, оценкой и распределённой инфраструктурой, обучая модели более 400 млрд параметров.

Таким образом, финансирование предоставляет компании значительно большую возможность проверить, сохраняются ли улучшения, продемонстрированные в ранних моделях, при увеличении вычислительных ресурсов и проведении большего количества итераций процесса постобучения.

Более широкие выводы: ИИ, который учится на собственных рассуждениях

Более широкое значение работы Deep Cogito заключается в возможности того, что развитие ИИ может сместиться от систем, обученных преимущественно на данных, созданных человеком, к моделям, которые всё больше генерируют, оценивают и усваивают собственные улучшения.

Подходы, такие как итеративная дистилляция и усиление, направлены на преобразование дорогостоящих рассуждений в долговременные возможности. Модель может использовать дополнительные вычисления для решения более сложных задач, а затем дистиллировать полученные выгоды обратно в свои веса, создавая более сильную отправную точку для следующего цикла обучения.

Со временем это может породить цикл развития: рассуждать, оценивать, учиться и улучшаться.

Существует всё ещё существенный разрыв между итеративным постобучением и истинным рекурсивным самосовершенствованием. Моделям нужны надёжные оценки, тщательно продуманные цели и механизмы защиты от закрепления ошибок. Однако даже ограниченные версии этого подхода могут снизить зависимость от всё более масштабных предварительных обучений и сделать специализированный ИИ, обученный на проприетарных корпоративных данных, более практичным.

Если эта тенденция сохранится, конкурентное преимущество в ИИ может зависеть меньше от того, у кого самые крупные вычислительные кластеры, и больше от того, чьи модели лучше учатся на собственном опыте.