Denis Ignatovich, spoluzakladatel a spoluceo Imandry – Interview Series

Denis Ignatovich, spoluzakladatel a spoluceo Imandry, má více než deset let zkušeností v oboru obchodování, řízení rizik, kvantitativního modelování a návrhu komplexních obchodních systémů. Před založením Imandry vedl centrální riskový obchodní stůl v Deutsche Bank London, kde si uvědomil kritickou roli, kterou může sehrát umělá inteligence v finančním sektoru. Jeho poznatky z tohoto období pomohly vytvořit sadu finančních produktů Imandry. Denisovy příspěvky k počítačové logice pro finanční obchodní platformy zahrnují několik patentů. Vystudoval magisterský program financí na London School of Economics a získal tituly v oboru počítačových věd a financí na UT Austin.

Imandra je umělá inteligence s neurosymbolickým rozlišováním, která používá neurosymbolickou umělou inteligenci k automatizaci ověření a optimalizace komplexních algoritmů, zejména v finančním obchodování a softwarových systémech. Kombinací symbolického rozlišování s učením se z strojových dat zlepšuje bezpečnost, dodržování předpisů a efektivitu, což pomáhá institucím snižovat rizika a zlepšovat transparentnost při rozhodování řízeném umělou inteligencí.

Co vás a Dr. Granta Passmora inspirilo ke založení Imandry, a jak vaše zázemí ovlivnilo vizi společnosti?

Po vysoké škole jsem se stal kvantitativním obchodníkem a skončil jsem v Londýně. Grant dokončil doktorát v Edinburghu a poté se přestěhoval do Cambridge, aby pracoval na aplikacích automatizovaného logického rozlišování pro analýzu bezpečnosti autopilotních systémů (komplexních algoritmů, které zahrnují ne lineární výpočty). V mé práci jsem se také zabýval komplexními algoritmy s mnoha ne lineárními výpočty a uvědomili jsme si, že existuje hluboká souvislost mezi těmito dvěma oblastmi. Způsob, jakým finance vytvářely tyto algoritmy, byl真的 problematický (jak je zdůrazněno mnoha novinami, které se zabývají „algo glitchy“), a proto jsme se rozhodli to změnit tím, že budeme vybavovat inženýry ve financích automatizovanými logickými nástroji, aby mohli uplatnit přísné vědecké techniky při navrhování a vývoji softwaru. Nicméně, co jsme nakonec vytvořili, je odvětvově nezávislé.

Můžete vysvětlit, co je neurosymbolická umělá inteligence a jak se liší od tradičních přístupů k umělým inteligencím?

Oblast umělých inteligencí má (velmi zhruba!) dvě oblasti: statistické (které zahrnují LLM) a symbolické (také známé jako automatizované rozlišování). Statistické umělá inteligence je úžasná při rozpoznávání vzorců a provádění překladů pomocí informací, které se naučila z dat, na kterých byla vyškolena. Ale je špatná v logickém rozlišování. Symbolická umělá inteligence je téměř přesný opak – nutí vás být velmi přesný (matematicky) s tím, co se snažíte udělat, ale může použít logiku k rozlišování způsobem, který je (1) logicky konzistentní a (2) nevyžaduje data pro školení. Techniky, které kombinují tyto dvě oblasti umělých inteligencí, se nazývají „neurosymbolické“. Jednou z famózních aplikací tohoto přístupu je projekt AlphaFold od DeepMind, který nedávno získal Nobelovu cenu.

Co si myslíte, že odlišuje Imandru při vedení neurosymbolické revoluce umělých inteligencí?

Existuje mnoho úžasných symbolických rozlišovačů (většina v akademické sféře), které cílí na konkrétní niky (například skládání proteinů), ale Imandra vybavuje vývojáře analýzou algoritmů s bezprecedentní automatizací, která má mnohem širší aplikace a větší cílovou skupinu než tyto nástroje.

Jak Imandrova automatizovaná rozlišování eliminuje běžné výzvy umělých inteligencí, jako jsou halucinace, a zlepšuje důvěru v systémy umělých inteligencí?

S našim přístupem se LLM používají k překladu požadavků lidí do formální logiky, která se poté analyzuje pomocí rozlišovacího motoru s plnou logickou stopou. Zatímco mohou nastat chyby překladu při použití LLM, uživatel je vybaven logickým vysvětlením, jak byly vstupy přeloženy, a logické audity mohou být ověřeny pomocí open source softwaru třetích stran. Naším konečným cílem je přinést akční transparentnost, kde systémy umělých inteligencí mohou vysvětlit své rozlišování způsobem, který je nezávisle logicky ověřitelný.

Imandra je používána společnostmi jako Goldman Sachs a DARPA. Můžete sdílet reálný příklad toho, jak vaše technologie vyřešila složitý problém?

Skvělým veřejným příkladem reálného dopadu Imandry je naše vítězství v soutěži UBS Future of Finance (podrobnosti s kódem Imandry jsou na našich webových stránkách). Při vytváření případové studie pro UBS, která kódovala regulační dokument, který byl předložen SEC, Imandra identifikovala fundamentální a jemnou chybu v popisu algoritmu. Chyba pocházela z jemných logických podmínek, které musí být splněny pro řazení objednávek uvnitř objednávky – něco, co by bylo pro lidi nemožné zjistit „ručně“. Banka nás ocenila prvním místem (z více než 620 společností celosvětově).

Jak vaše zkušenosti v Deutsche Bank ovlivnily aplikace Imandry ve finančních systémech, a jaký je nejvýznamnější případ, který jste dosud viděli?

V Deutsche Bank jsme se zabývali mnoha velmi komplexními kódy, které činily automatizovaná obchodní rozhodnutí na základě různých vstupů ML, indikátorů rizik atd. Jako každá banka jsme také museli dodržovat mnoho předpisů. Co Grant a já jsme si uvědomili, bylo, že to z matematického hlediska velmi připomínalo výzkum, na kterém Grant pracoval pro bezpečnost autopilotů.

Mimo finance, které odvětví podle vás mají největší potenciál prospěch z neurosymbolické umělých inteligencí?

Sledovali jsme, jak AlphaFold získal Nobelovu cenu, takže určitě počítáme s tím… V konečném důsledku budou téměř všechny aplikace umělých inteligencí značně prospěch z použití symbolických metod, ale konkrétně pracujeme na následujících agentech, které brzy vydáme: analýza kódu (překlad zdrojového kódu do matematických modelů), vytváření přísných modelů z anglických specifikací, rozlišování o modelech SysML (jazyk používaný k popisu systémů v bezpečnostně kritických odvětvích) a automatizace obchodních procesů.

Imandrova regionální dekompozice je novou funkcí. Můžete vysvětlit, jak funguje a jakou významnost má při řešení složitých problémů?

Otázka, o kterou se každý inženýr zajímá, když píše software, je „co jsou hraniční případy?“. Když jejich úkolem je QA a musí psát testovací případy, nebo když píší kód a přemýšlejí, zda správně implementovali požadavky. Imandra přináší vědeckou přísnost k zodpovězení této otázky – zachází s kódem jako s matematickým modelem a symbolicky analyzuje všechny jeho hraniční případy (při vytváření důkazu o úplném pokrytí). Tato funkce je založena na matematické technice nazvané „Cylindrical Algebraic Decomposition“, kterou jsme „zvedli“ do algoritmů obecně. Ušetřila našim zákazníkům ve financích nesčetné hodiny a odhalila kritické chyby. Nyní přinášíme tuto funkci inženýrům všude.

Jak Imandra integruje velké jazykové modely, a jaké nové schopnosti to odemyká pro generativní umělou inteligenci?

LLM a Imandra spolupracují na formalizaci vstupů lidí (zda jde o zdrojový kód, anglický text atd.), rozlišování a poté návrat výstupu způsobem, který je snadno pochopitelný. Používáme agentické rámce (například Langgraph) k orchestraci této práce a dodání zkušeností jako agent, kterého naši zákazníci mohou použít přímo, nebo integrovat do svých aplikací nebo agentů. Tato symbiotická workflow řeší mnoho výzev spojených s používáním pouze nástrojů LLM a rozšiřuje jejich aplikaci za dříve viděná školicí data.

Jaký je váš dlouhodobý výhled pro Imandru, a jak si představujete, že bude transformovat aplikace umělých inteligencí napříč odvětvími?

Myslíme si, že neurosymbolické techniky budou základem, který umožní naplnit slib umělých inteligencí. Symbolické techniky jsou chybějící ingrediencí pro většinu průmyslových aplikací umělých inteligencí a jsme rádi, že jsme na předním místě této další kapitoly umělých inteligencí.

Děkuji za skvělý rozhovor, čtenáři, kteří si chtějí dozvědět více, by měli navštívit Imandru.