Louis Amira, засновник Circuit & Chisel — серія інтерв’ю

Louis Amira — засновник Circuit & Chisel, який спирається на досвід створення продуктів і налагодження партнерств у сферах ШІ, криптовалют і платежів. Упродовж кар’єри він був співзасновником компанії в інкубаторі Area 120 компанії Google, працював у Chainlink і керував партнерствами у сферах криптовалют і ШІ в Stripe. Він заснував Circuit & Chisel разом із David Noël-Romas, щоб усунути недоліки інфраструктури, які заважають ШІ-агентам надійно й ефективно виконувати корисну роботу для бізнесу.

Circuit & Chisel створює інфраструктуру для ШІ-агентів і є компанією, що стоїть за ATXP, Unbiased і Pareto. ATXP забезпечує агентам ідентифікацію та можливість здійснювати платежі, а Pareto поєднує передові моделі й моделі з відкритими вагами, щоб підвищити якість і знизити вартість інференсу ШІ. Unbiased надає доступ до Pareto через свою платформу. У цьому інтерв’ю Amira розповідає про оркестрацію моделей, оцінювання, економіку інференсу, зберігання даних і зв’язок між надійним міркуванням агентів та автономними платежами.

Ваша кар’єра пролягла від інкубатора Area 120 компанії Google до керівництва партнерствами у сферах криптовалют і ШІ в Stripe, а згодом — до співзаснування Circuit & Chisel. Чого цей досвід навчив вас щодо інфраструктури, яка знадобиться ШІ-агентам, і що зрештою надихнуло вас заснувати компанію?

У Google я став співзасновником компанії в межах Area 120. Головний урок для мене такий: те, що ви створюєте спочатку, визначає, що зможете створити потім. У Chainlink і Stripe я побачив ту саму закономірність з іншого боку. Нові технології працювали в демонстраційному середовищі за сонячної погоди й ідеальних умов, а потім зупинялися, бо інфраструктури для реального світу ще не було.

Ми з David заснували Circuit & Chisel, щоб створювати агентів, які виконують реальну роботу для реального бізнесу. Вони постійно давали збій із банальних причин. Агент не міг підтвердити, хто він, і не міг нічого оплатити. Тож ми створили ATXP, щоб надати агентам ідентичність і можливість здійснювати платежі.

Потім ми зіткнулися з наступною перешкодою. Агент, здатний діяти, має ще й давати правильні результати за ціною, виправданою для конкретного завдання. Це Pareto. Обидва рази ми керувалися одним і тим самим прагненням: знайти відсутню ланку й створити її.

Спочатку Circuit & Chisel зосередилася на ATXP — протоколі, покликаному забезпечити автономні платежі між ШІ-агентами, — а згодом розширила діяльність на інфраструктуру для моделей ШІ, створивши Unbiased і Pareto. Що спонукало вас до такого розвитку, і як ці технології вписуються у ваше ширше бачення економіки агентів?

Наші клієнти (і їхні агенти) показали нам, що ATXP працює. Агенти могли мати ідентичність і витрачати гроші. Але під час розмов із компаніями з’ясувалося, що їхньою першою проблемою були не платежі. Їм потрібно було довіряти результатам. Ніхто не довірить агенту бюджет, якщо той вибирає для завдання не ту модель або дає неправильну відповідь.

Тож раніше цього року ми активізували роботу над якістю та вартістю. Так з’явилася Pareto.

Ці два продукти й досі доповнюють один одного. Pareto визначає, як агент опрацьовує завдання. ATXP дає йому змогу діяти й платити. Потрібні обидва продукти — саме в такому порядку, адже ніхто не дасть агенту гаманець, доки не довірятиме його судженням. Ми просто створили їх у неправильній послідовності.

Pareto відрізняється від традиційних великих мовних моделей: замість того щоб покладатися на одну модель або звичну систему маршрутизації, вона поєднує результати кількох передових моделей і моделей з відкритими вагами. Розкажіть, як працює ця архітектура, зокрема як вона узгоджує відповіді, що суперечать одна одній, щоб отримати точніший або корисніший результат.

Pareto — це система, а не окрема модель. Вона розподіляє завдання між моделями з кількох лабораторій — як передовими, так і з відкритими вагами — і відводить кожній свою роль. Виконати завдання можуть кілька моделей, хоча іноді воно буває складним і потрібна одна модель, щоб перевірити результат і надати рекомендації. Вибір моделей для виклику залежить від оцінок кожної за рівнем можливостей, вартістю, швидкістю та надійністю для цього типу завдань, а також від того, наскільки ретельної перевірки потребує завдання.

Ми не усереднюємо відповіді. Усереднення лише змішує помилки. Нам важливо, щоб моделі не погоджувалися одна з одною, адже саме в розбіжностях виявляються помилки. Коли доступний набір моделей змінюється, ми проводимо повторні тести й випускаємо нову пронумеровану версію Pareto.

Одна з головних обіцянок Pareto — забезпечити інтелект передового рівня за значно нижчою ціною. Якщо у створенні відповіді можуть брати участь кілька моделей, як вам вдається досягти такої економії та які компроміси доводиться враховувати між вартістю інференсу, затримкою та якістю результату?

Завдання Pareto — давати відповіді рівня передових моделей. Нижча вартість досягається завдяки тому, як саме система це робить.

Більшість запитів, які люди надсилають ШІ, — рутинні. Дешевша модель так само часто дає на них правильну відповідь, як і найдорожча. Pareto спрямовує такі запити до дешевших моделей, а передові моделі або кілька моделей, що працюють разом, залишає для запитів, які цього потребують. У наших опублікованих тестах така комбінація показала результати, що відрізнялися лише на кілька балів від GPT-6 Astra і Claude Opus 5.5 у більшості основних тестів, при цьому вартість одного завдання була на 30–70% нижчою.

Суттєвих компромісів немає. Pareto не завжди ідеально спрямовуватиме кожен запит, але ми вимірюємо, як часто помиляємося з маршрутизацією, і вдосконалюємо результати (та публікуємо їх!).

Ваша команда опублікувала результати тестування, які свідчать, що Pareto конкурентоспроможна порівняно з провідними закритими моделями та моделями з відкритими вагами. Серед іншого, ви порівнювали її з GPT-6 Astra і Claude Opus 5.5. Як ви гарантуєте, що ці оцінювання відображають результати роботи в реальних умовах, а не оптимізацію під конкретні тести? У чому передові моделі досі мають суттєву перевагу над Pareto?

Ми публікуємо код оцінювання, тож кожен може повторити наші вимірювання. Усі моделі, зокрема Pareto, тестуються за допомогою одного й того самого набору інструментів. Ми також показуємо невдалі результати Pareto так само відкрито, як і вдалі. Табло, на якому господар завжди перемагає, — це просто реклама.

Ми запустилися на кількох платформах-шлюзах ШІ та надали компаніям різного масштабу попередній доступ до нових моделей. Ми враховуємо їхні відгуки майже в реальному часі, щоб постійно покращувати роботу моделі.

За повідомленнями, за перші 48 годин Pareto обробила понад два трильйони токенів. Що цей початковий сплеск попиту показав про ринок економічно ефективного інференсу ШІ та які найбільші технічні труднощі виникли під час забезпечення продуктивності, надійності й масштабованості за такого обсягу?

Попит у кілька разів перевищив наші очікування та очікування наших партнерів, і, на жаль, нам бракувало обчислювальних потужностей, щоб належно його задовольнити. У перший день попит перевищив 5–10 мільярдів токенів за хвилину. Ми обслуговували близько 1,6 мільярда. Щоб належно задовольняти весь цей попит безкоштовно, знадобилося б багато мільйонів доларів на день.

Ось що ми зрозуміли: ціна стримує широке використання ШІ. Є розробники, чий продукт працює за однієї ціни, але перестає працювати, якщо вона зростає вп’ятеро. Знизьте ціну — і вони з’являться.

Найскладніша проблема була простою: у нас закінчилися потужності. У перший день модель працювала настільки повільно, що дехто відмовився нею користуватися. За ніч ми наростили потужності, а через два дні після запуску перейшли на платний доступ — це чесний спосіб розподіляти обмежені ресурси.

Ми також дещо зрозуміли щодо розкриття інформації. Деякі користувачі відчули, що їх ввели в оману, коли дізналися, що Union Alpha — це кілька моделей, які працюють разом, а не одна модель. Саме тому ми разом із партнерами запустили її як «ще одну модель»: з практичного погляду користувачів немає різниці в тому, як їм сприймати результат роботи маршрутизатора.

Нульове зберігання даних — ще одна важлива складова позиціювання Pareto, особливо з огляду на те, що компанії дедалі більше непокояться через передавання конфіденційної інформації стороннім постачальникам ШІ. Як ви забезпечуєте й перевіряєте дотримання цих вимог, коли залучено кілька базових моделей, і які гарантії щодо поводження з даними можуть отримати корпоративні клієнти?

У тарифних планах із нульовим зберіганням даних ми не зберігаємо ваші запити чи відповіді, і жоден постачальник, якому ми їх надсилаємо, також цього не робить.

Якщо в процесі задіяно кілька моделей, гарантія нульового зберігання даних не надійніша за найслабшу ланку. Тому запити з режимом ZDR надсилаються лише моделям, що працюють на умовах нульового зберігання даних. Якщо постачальник не може дотримуватися цих умов, він не отримує запитів ZDR.

Корпоративні клієнти отримують письмове підтвердження: угоду про обробку даних і додаток про ZDR. Ми також чітко зазначаємо, у яких тарифних планах режим ZDR не діє, щоб ніхто випадково не обрав не той варіант. Для компаній, які хочуть, щоб їхні дані ніколи не залишали їхню будівлю, ми розробляємо версію, яку можна буде запускати на власному обладнанні. Незабаром розповімо більше.

У міру того як ШІ-агенти переходять від відповідей на запитання до виконання складних багатокрокових робочих процесів, невеликі помилки в міркуваннях можуть накопичуватися й призводити до серйозних збоїв. Як Pareto розв’язує такі проблеми, як галюцинації, суперечливі результати моделей і надійність під час тривалих агентних завдань? Чи може поєднання кількох моделей спричинити нові типи збоїв?

Саме з цією проблемою ми зіткнулися передусім. Поза демонстрацією агенти дають збій. Невелика помилка на другому кроці перетворюється на серйозну до десятого.

На складних етапах допомагають кілька моделей. Вони можуть окремо працювати над тією самою проблемою, перевіряти одна одну або підтверджувати результат, перш ніж агент перейде далі. У однієї моделі немає другої думки. У Pareto вона є.

Ми вимірюємо задоволеність користувачів і продуктивність на реальних завданнях, публікуємо результати, зокрема невдалі, і виправляємо виявлені проблеми. Клієнти, яким щоразу потрібна однакова поведінка системи, можуть зафіксувати версію Pareto, щоб вона не змінювалася.

Завдяки ATXP і Unbiased компанія Circuit & Chisel розв’язує дві важливі проблеми автономних агентів: ефективний доступ до інтелектуальних можливостей і оплату споживаних ними послуг. Як, на вашу думку, ці можливості поєднаються? Чи зможуть агенти зрештою самостійно вибирати й купувати послуги моделей ШІ та зовнішніх інструментів, а також координувати їхню роботу з огляду на продуктивність, вартість і вимоги завдання?

Так. Саме до цього все йде.

Сьогодні людина вирішує, яку модель використовувати, до яких інструментів звертатися та як за них платити. Усе частіше ці рішення ухвалюватиме агент. Він вибиратиме потрібну модель для кожного етапу, знаходитиме необхідні інструменти, платитиме кожному постачальнику й перевірятиме результати, перш ніж рухатися далі.

Для цього потрібні дві речі. Спосіб отримати потрібні інтелектуальні можливості для кожного завдання — це Pareto. І спосіб підтвердити, хто ти, та здійснити оплату — саме для цього спочатку й створили ATXP.

Багато компаній уже працюють над такими питаннями, як обмеження, відповідальність тощо, перш ніж хтось довірить агентам гроші. Саме тому ми почали з оцінювання. Платіжний компонент стає кориснішим що більше довіряєш агенту, який ним користується.

Якщо зазирнути в майбутнє, чи вважаєте ви, що наступний великий прорив у сфері ШІ буде пов’язаний передусім із навчанням дедалі потужніших окремих моделей чи з розробленням систем, які розумно поєднують наявні моделі та можливості? Як, на вашу думку, ця відмінність вплине на конкуренцію між новими компаніями у сфері ШІ та провідними постачальниками передових моделей протягом наступних кількох років?

І те, й інше. Лабораторії й надалі створюватимуть кращі моделі, і це дуже важливо. Ми подбаємо, щоб людям не доводилося читати про кожну з них і тестувати її. Ми маємо пропонувати потрібну модель для потрібного завдання з належною окупністю. Більше жодної втоми від моделей.

Ми ніколи не зможемо витрачати на навчання моделей більше за лабораторії, тож розвиваємо їхні напрацювання й допомагаємо поширювати моделі. Щоразу, коли лабораторія випускає кращу модель, Pareto теж стає кращим.

Лабораторії могли б створити це самостійно, і деякі так і зроблять. Але маршрутизатор лабораторії має свою команду-фаворита. Ми не володіємо жодною моделлю, тож перемогти можемо лише тоді, коли клієнт отримує найкращу відповідь за свої гроші. Що більше моделей, то важливіше це стає.

Дякуємо за чудове інтерв’ю. Читачам, які хочуть дізнатися більше про Pareto, інфраструктуру для агентів та інструменти, що поєднують міркування ШІ з ідентифікацією й платежами, варто відвідати Circuit & Chisel.