Louis Amira, zakladatel Circuit & Chisel – rozhovor

Louis Amira je zakladatelem Circuit & Chisel a opírá se o zkušenosti s vývojem produktů a budováním partnerství v oblasti AI, kryptoměn a plateb. Jeho profesní dráha zahrnuje spoluzaložení podniku v inkubátoru Area 120 společnosti Google, práci pro Chainlink a vedení partnerství v oblasti kryptoměn a AI ve společnosti Stripe. Circuit & Chisel založil s Davidem Noëlem-Romasem, aby řešili nedostatky v infrastruktuře, které brání AI agentům odvádět pro firmy spolehlivou a užitečnou práci.

Circuit & Chisel buduje infrastrukturu pro AI agenty a stojí za produkty ATXP, Unbiased a Pareto. ATXP agentům poskytuje identifikační a platební funkce, zatímco Pareto kombinuje špičkové modely a modely s otevřenými vahami, aby dosáhlo lepší kvality a nižších nákladů na inferenci AI. Unbiased prostřednictvím své platformy zpřístupňuje Pareto. V tomto rozhovoru Amira hovoří o orchestraci modelů, jejich vyhodnocování, ekonomice inference, uchovávání dat a vztahu mezi spolehlivým uvažováním agentů a autonomními platbami.

Vaše profesní dráha vás zavedla od inkubátoru Area 120 společnosti Google přes vedení partnerství v oblasti kryptoměn a AI ve Stripe až ke spoluzaložení Circuit & Chisel. Co vás tyto zkušenosti naučily o infrastruktuře, kterou by AI agenti potřebovali, a co vás nakonec inspirovalo k založení společnosti?

V Googlu jsem spoluzaložil firmu v rámci Area 120. Odnesl jsem si z toho toto ponaučení: to, co vybudujete jako první, rozhoduje o tom, co budete moci vybudovat později. V Chainlinku a Stripe jsem stejný vzorec viděl z druhé strany. Nová technologie fungovala v demonstračním prostředí za slunečných dnů a ideálních podmínek, ale pak se její rozvoj zastavil, protože ještě nebylo připravené technické zázemí potřebné pro reálný svět.

S Davidem jsme založili Circuit & Chisel, abychom vytvářeli agenty, kteří odvádějí skutečnou práci pro skutečné firmy. Opakovaně selhávali z banálních důvodů. Agent nedokázal prokázat, kdo je, a nemohl za nic zaplatit. Proto jsme vytvořili ATXP, které agentům poskytuje identitu a možnost platit.

Pak jsme narazili na další překážku. Agent, který dokáže jednat, musí také podávat správné výsledky za cenu odpovídající danému úkolu. Právě proto vzniklo Pareto. V obou případech jsme se řídili stejným instinktem: najít chybějící dílek a vytvořit ho.

Circuit & Chisel se zpočátku zaměřoval na ATXP, protokol navržený k umožnění autonomních plateb mezi AI agenty, a později rozšířil své působení o infrastrukturu pro modely AI prostřednictvím Unbiased a Pareto. Co vedlo k tomuto vývoji a jak tyto technologie zapadají do vaší širší vize ekonomiky agentů?

Naši zákazníci (a jejich agenti) nám ukázali, že ATXP funguje. Agenti mohli mít vlastní identitu a utrácet peníze. Když jsme ale mluvili s firmami, zjistili jsme, že jejich prvním problémem nebyly platby. Šlo o důvěru ve výstupy. Nikdo nesvěří rozpočet agentovi, který pro daný úkol vybere nesprávný model nebo poskytne chybnou odpověď.

Začátkem letošního roku jsme proto zintenzivnili práci na kvalitě a nákladech. Z toho vzniklo Pareto.

Obě technologie spolu stále souvisejí. Pareto rozhoduje o tom, jak agent řeší úkol. ATXP mu umožňuje jednat a platit. Potřebujete obojí, a to v tomto pořadí, protože nikdo agentovi nesvěří peněženku, dokud nedůvěřuje jeho úsudku. My jsme je jen vytvořili ve špatném pořadí.

Pareto se od tradičních velkých jazykových modelů liší tím, že kombinuje výstupy několika špičkových modelů a modelů s otevřenými vahami, místo aby se spoléhalo na jediný model nebo běžný systém směrování požadavků. Můžete nám přiblížit, jak tato architektura funguje, zejména jak slučuje konkurenční odpovědi do přesnějšího nebo užitečnějšího výsledku?

Pareto je systém, nikoli jediný model. Rozděluje práci mezi modely z několika vývojových laboratoří, špičkové i s otevřenými vahami, a každému přiděluje konkrétní úlohu. Daný úkol může zvládnout několik modelů, někdy je však složitý a je třeba, aby jeden z nich výsledek zkontroloval a poskytl doporučení. Výběr modelů, které zapojíme, se řídí tím, jak si každý z nich u daného typu úkolu vede z hlediska schopností, nákladů, rychlosti a spolehlivosti. A také tím, jak důkladnou kontrolu si úkol zaslouží.

Odpovědi neprůměrujeme. Průměrováním se chyby slévají dohromady. Chceme, aby modely nesouhlasily, protože právě při neshodě se odhalují chyby. Když se změní dostupná kombinace modelů, znovu ji otestujeme a vydáme novou očíslovanou verzi Pareto.

Jedním z hlavních příslibů Pareto je poskytovat inteligenci na úrovni špičkových modelů za výrazně nižší cenu. Vzhledem k tomu, že se na tvorbě odpovědi může podílet více modelů, jak dosahujete těchto úspor a jaké kompromisy existují mezi náklady na inferenci, latencí a kvalitou výstupu?

Úkolem Pareto je poskytovat odpovědi na úrovni špičkových modelů. Nižších nákladů dosahuje tím, jak k nim dospívá.

Většina požadavků, které lidé zadávají AI, je rutinní. Levnější model je zvládne stejně často správně jako ten nejdražší. Pareto směruje tyto požadavky k levnějším modelům a špičkové modely, případně několik spolupracujících modelů, vyhrazuje pro požadavky, které je potřebují. V našich zveřejněných testech dosáhla tato kombinace u většiny hlavních benchmarků výsledků vzdálených jen o několik bodů od GPT-6 Astra a Claude Opus 5.5, přičemž náklady na jeden úkol byly o 30–70 % nižší.

Významné kompromisy tu nejsou. Pareto nedokáže každý požadavek směrovat dokonale, měříme však, jak často se při směrování zmýlíme, a výsledky zlepšujeme (a zveřejňujeme!).

Váš tým zveřejnil výsledky benchmarků, podle nichž Pareto obstojí v konkurenci předních proprietárních modelů i modelů s otevřenými vahami, včetně srovnání s GPT-6 Astra a Claude Opus 5.5. Jak zajišťujete, aby tato hodnocení odrážela výkon v reálném světě, a ne optimalizaci pro konkrétní benchmarky, a v čem mají špičkové modely stále významnou výhodu oproti Pareto?

Zveřejňujeme kód pro hodnocení, takže si kdokoli může naše výsledky ověřit opakováním. Všechny modely, včetně Pareto, procházejí stejným testovacím prostředím. A zveřejňujeme také neúspěchy Pareto, stejně jako jeho úspěchy. Žebříček, v němž vždy vítězí jeho provozovatel, je jen reklama.

Pareto jsme spustili na několika branách AI a firmám všech velikostí jsme zpřístupnili náhledy nových modelů. Jejich připomínky zapracováváme téměř v reálném čase, abychom výkon modelu neustále zlepšovali.

Podle zpráv Pareto zpracovalo během prvních 48 hodin více než dva biliony tokenů. Co tato počáteční poptávka prozradila o trhu s cenově dostupnou inferencí AI a jaké byly největší technické výzvy při udržování výkonu, spolehlivosti a škálovatelnosti při takovém objemu?

Poptávka byla několikanásobně vyšší, než jsme my i naši partneři očekávali, a bohužel jsme neměli dostatečný výpočetní výkon, abychom ji dokázali řádně pokrýt. Hned první den poptávka přesáhla 5 až 10 miliard tokenů za minutu. My jsme jich zpracovávali asi 1,6 miliardy. Řádné pokrytí celé této poptávky zdarma by stálo mnoho milionů dolarů denně.

Ukázalo nám to, že cena brzdí řadu způsobů využití AI. Existují tvůrci, jejichž produkt funguje za určitou cenu, ale při pětinásobné ceně už ne. Když cenu snížíte, začnou ho používat.

Nejtěžší problém byl prostý: došla nám kapacita. První den se model zpomalil natolik, že to někteří lidé vzdali. Přes noc jsme zprovoznili další kapacitu a dva dny po spuštění jsme přešli na placený přístup, což je poctivý způsob, jak omezenou kapacitu rozdělovat.

Dozvěděli jsme se také něco o otevřenosti. Někteří uživatelé měli pocit, že byli uvedeni v omyl, když zjistili, že Union Alpha tvoří několik spolupracujících modelů, nikoli jeden. Právě proto jsme ho společně s partnery uvedli na trh jako „další model“ – z praktického hlediska by uživatelé neměli vnímat žádný rozdíl v tom, jaký výstup routeru dostanou.

Nulové uchovávání dat je dalším důležitým prvkem toho, jak Pareto vystupuje na trhu, zejména když firmy stále více znepokojuje předávání citlivých informací poskytovatelům AI třetích stran. Jak tato ochranná opatření vynucujete a ověřujete, když se používá několik různých podkladových modelů, a jaká ujištění mohou firemní zákazníci získat ohledně nakládání se svými daty?

U tarifů s nulovým uchováváním dat neukládáme vaše zadání ani výstupy a neukládá je ani žádný poskytovatel, kterému je předáváme.

Pokud se na zpracování podílí několik modelů, je příslib nulového uchovávání dat jen tak spolehlivý jako jeho nejslabší článek. Požadavky s režimem ZDR proto směřují pouze k modelům provozovaným za podmínek nulového uchovávání dat. Pokud poskytovatel tyto podmínky nedokáže splnit, požadavky v režimu ZDR nedostává.

Firemní zákazníci dostávají písemné potvrzení: smlouvu o zpracování dat a dodatek ZDR. Jasně také uvádíme, které tarify režim ZDR nezahrnují, aby nikdo omylem nezvolil nesprávnou možnost. Pro společnosti, které chtějí, aby jejich data nikdy neopustila jejich vlastní budovu, připravujeme verzi, kterou budou moci provozovat na vlastním hardwaru. Více informací zveřejníme brzy.

S tím, jak se AI agenti posouvají od odpovídání na otázky k provádění složitých vícekrokových pracovních postupů, mohou se drobné chyby v úsudku nasčítat a vést k závažným selháním. Jak Pareto řeší problémy, jako jsou halucinace, rozporné výstupy modelů a spolehlivost při dlouhých úlohách vykonávaných agenty, a může kombinování více modelů samo o sobě přinést nové způsoby selhání?

Právě na tento problém jsme narazili jako první. Mimo předváděcí ukázku se agenti rozpadnou. Z jedné drobné chyby ve druhém kroku je ve desátém kroku velký problém.

Více modelů pomáhá u náročných kroků. Mohou stejný problém řešit nezávisle, vzájemně se kontrolovat nebo potvrdit výsledek, než agent přejde dál. Jeden model nemá druhý názor. Pareto ano.

Měříme spokojenost uživatelů a výkon při skutečných úlohách, zveřejňujeme výsledky, včetně těch špatných, a napravujeme zjištěné problémy. Zákazníci, kteří potřebují pokaždé stejné chování, si mohou připnout konkrétní verzi Pareto, aby se jim neměnila.

Prostřednictvím ATXP a Unbiased řeší Circuit & Chisel dvě důležité výzvy, kterým čelí autonomní agenti: efektivní přístup k inteligenci a placení za služby, které využívají. Jak si představujete propojení těchto schopností a mohli bychom se časem dočkat agentů, kteří budou samostatně vybírat, nakupovat a koordinovat modely AI i externí nástroje podle jejich výkonu, ceny a požadavků úlohy?

Ano. Právě k tomu to směřuje.

Dnes člověk rozhoduje, který model použít, které nástroje zavolat a jak za ně zaplatit. Stále častěji bude tato rozhodnutí dělat agent. Pro každý krok vybere správný model, najde potřebné nástroje, zaplatí jednotlivým poskytovatelům a před pokračováním ověří výsledky.

K tomu jsou potřeba dvě věci. Způsob, jak pro každý úkol získat správnou inteligenci – tím je Pareto. A způsob, jak prokázat svou totožnost a zaplatit – k tomu byl původně vytvořen ATXP.

Mnoho společností nyní pracuje na věcech, jako jsou limity, odpovědnost a podobně, než svěří agentům peníze. Proto jsme začali úsudkem. Platební část je užitečnější, čím více důvěřujete agentovi, který ji používá.

Myslíte si, že další zásadní průlom v oblasti AI přinese především trénování stále výkonnějších samostatných modelů, nebo vývoj systémů, které inteligentně kombinují stávající modely a schopnosti? Jak podle vás toto rozlišení ovlivní v příštích několika letech konkurenci mezi nově vznikajícími společnostmi zaměřenými na AI a předními poskytovateli hraničních modelů?

Obojí. Laboratoře budou dál vytvářet lepší modely, a to je velmi důležité. Zajišťujeme, aby lidé neměli potřebu o každém z nich číst a testovat ho. Měli bychom nabídnout správný model pro správný úkol a se správnou návratností investice. Už žádná únava z modelů.

Nikdy nebudeme moci vynakládat na trénování tolik peněz jako laboratoře. Navazujeme na jejich práci a pomáháme jejich modely šířit. Kdykoli některá laboratoř vydá lepší model, Pareto se také zlepší.

Laboratoře by si to mohly vytvořit samy a některé to udělají. Router dané laboratoře ale bude nadržovat vlastnímu týmu. Žádný model nevlastníme, takže můžeme uspět jen tehdy, když zákazník za své peníze dostane nejlepší odpověď. Čím více modelů existuje, tím důležitější to je.

Děkujeme za skvělý rozhovor. Čtenáři, kteří se chtějí dozvědět více o Pareto, infrastruktuře agentů a nástrojích propojujících uvažování AI s identitou a platbami, by měli navštívit Circuit & Chisel.