NanoClaw и Vercel объединяются, чтобы обеспечить человеческий надзор за ИИ-агентами

Новое партнерство между NanoCo и Vercel решает одну из наименее обсуждаемых проблем в области искусственного интеллекта: доверие. По мере того, как агенты ИИ получают доступ ко всё более чувствительным системам, таким как электронная почта, внутренние инструменты и финансовые данные, отрасль сталкивается с фундаментальной проблемой: как позволить агентам действовать автономно, не создавая недопустимого риска.

Ответ NanoCo – NanoClaw, платформа с открытым исходным кодом, предназначенная для обеспечения того, чтобы каждое значимое действие, совершаемое агентом ИИ, требовало явного одобрения человека. В рамках этого партнерства этот слой одобрения теперь встраивается непосредственно в повседневные инструменты общения, такие как Slack, WhatsApp и Microsoft Teams, где решения можно принимать мгновенно.

Что привносит Vercel

Компания Vercel наиболее известна поддержкой современных процессов веб-разработки, особенно для фронтенд-фреймворков, таких как Next.js. Её платформа позволяет разработчикам развертывать, масштабировать и управлять приложениями во всем мире с минимальной нагрузкой по управлению инфраструктурой. За последние несколько лет Vercel вышла за рамки хостинга и расширила предложение инструментов для разработчиков, включая свой Chat SDK, который позволяет командам создавать интерактивные чаты в режиме реального времени на различных платформах.

Этот Chat SDK является центральным элементом этого партнерства. Он действует как интерфейсный слой, который доставляет запросы на одобрение непосредственно в приложения для обмена сообщениями, превращая то, что обычно было бы сложным процессом безопасности бэкэнда, в простое решение, которое пользователь принимает одним нажатием. Вместо того, чтобы создавать настраиваемые системы одобрения с нуля, разработчики могут полагаться на инфраструктуру Vercel для обработки общения, рендеринга и взаимодействий в режиме реального времени.

NanoClaw и возникновение нового слоя управления ИИ

Хотя Vercel обеспечивает механизм доставки, настоящая инновация исходит от NanoCo и ее быстро растущей экосистемы NanoClaw.

NanoClaw построена вокруг простой, но мощной концепции: агенты ИИ никогда не должны иметь бесконтрольные полномочия. Даже когда им предоставляется доступ к критическим системам, они должны действовать в рамках, где для действий с конфиденциальными ресурсами требуется одобрение человека. Это обеспечивается структурно, а не только через подсказки или разрешения, что означает, что агент не может обойти это даже если ему будет дано такое указание.

В основе этой системы лежит хранилище учетных данных, работающее на OneCLI, которое гарантирует, что аутентификация предоставляется только в точный момент выполнения действия, а затем сразу же отменяется. Сам агент никогда не видит и не хранит сырые учетные данные. Когда действие требует одобрения, NanoClaw генерирует подробный запрос, который появляется как интерактивная карточка в предпочитаемом пользователем приложении для обмена сообщениями, вместе с контекстом и четким вариантом одобрения или отклонения.

Почему это важно сейчас

Время заключения этого партнерства отражает более широкий сдвиг в том, как предприятия подходят к внедрению ИИ. Многие организации сейчас застряли в компромиссе: либо ограничить агентов ИИ задачами низкого риска и низкой ценности, либо предоставить им более широкий доступ и принять связанные с этим риски.

NanoClaw пытается полностью исключить этот компромисс. Вводя обязательный слой одобрения, компании могут безопасно расширить применение агентов на рабочие процессы высокой ценности без потери контроля. Это особенно важно, поскольку агенты начинают взаимодействовать с финансовыми системами, внутренними базами данных и операционными инструментами, где ошибки могут иметь реальные последствия.

Быстрый рост популярности стартапа с открытым исходным кодом

Рост NanoCo говорит о том, что эта проблема очень близка разработчикам. NanoClaw уже превысила 200 000 загрузок и накопила более 27 000 звезд на GitHub, что является сильным сигналом раннего внедрения в сообществе открытого исходного кода.

Этот успех заметен, учитывая, что эта категория ещё находится на раннем этапе развития. Хотя большая часть отрасли ИИ сосредоточилась на производительности моделей и возможностях, меньше компаний занимались операционными рисками развёртывания этих моделей в производственных средах. NanoCo позиционирует себя прямо в этом пробеле, создавая то, что может стать фундаментальным слоем доверия для систем, основанных на агентах.

Взгляд на то, куда движутся агенты ИИ

Это партнерство указывает на будущее, где агенты ИИ не являются просто инструментами, а полуавтономными акторами, встроенными в повседневные рабочие процессы. По мере того, как эти агенты приобретают способность создавать инструменты, изменять свои собственные конфигурации и взаимодействовать с критическими системами, надёжный надзор становится безусловной необходимостью.

Объединив архитектуру NanoClaw, требующую предварительного одобрения, с инфраструктурой связи в реальном времени Vercel, две компании создают модель, где автономность и контроль не являются взаимоисключающими. Вместо ограничения того, что могут делать агенты, внимание смещается на то, чтобы люди продолжали участвовать в принятии решений в моменты, которые имеют наибольшее значение.

Если эта модель окажется масштабируемой, она может изменить то, как предприятия думают о развертывании ИИ, не как о риске, который необходимо сдерживать, а как о возможности, которую можно безопасно расширить при наличии надлежащих защитных механизмов.