Lemma Kerää 2,3 Miljoonaa Dollaria Esisijoittamisrahoitukseen Hiljaisesti Epäonnistuvien Tekoälyagenttien Ratkaisemiseksi

Teckoälyluotettavuusyritys Lemma on kerännyt 2,3 miljoonaa dollaria esisijoittamisrahoitukseen rakentamaan seurantainfrastruktuuria, joka on suunniteltu havaitsemaan erityisen haasteellinen ongelmanluokka: tekoälyagentit, jotka näyttävät suorittaneen tehtävän onnistuneesti, mutta hiljaisesti tuottavat väärän tuloksen.

Rahoituskierroksessa osallistuvat Matrix, Y Combinator, Liquid 2 Ventures, Vermilion Cliffs Ventures, Irregular Expressions, Cervin Ventures, Comma Capital, Position Ventures ja Eight Capital, sekä enkelisijoittajat ja operatiiviset johtajat OpenAI:sta, xAI:sta, Metasta ja DoorDashista.

Lemma perustettiin Jerry Zhangin ja Cole Gawinin toimesta, ja se oli osa Y Combinatorin syksyn 2025 erää. Yritys keskittyy tekoälyagenttien tuotantoseurantaan. Yritys kertoo, että sen alusta on käsitellyt yli miljoona agenttijäljitystä, kunnes insinööritiimit etsivät yhä enemmän keinoja ymmärtää, miten autonomiset järjestelmät käyttäytyvät käyttöönoton jälkeen.

Teckoälyagenttien Hiljaisen Epäonnistumisen Kasvava Ongelma

Perinteinen ohjelmistoseuranta on suunniteltu pääasiassa eksplisiittisten virhesignaaleiden ympärille. Sovellus kaatuu, pyyntö palauttaa virhekoodin, viive kasvaa, tai infrastruktuurin komponentti tulee käyttökelvottomaksi.

Teckoälyagentit tuottavat toisenlaisen ongelman.

Agentti voi suorittaa onnistuneesti jokaisen teknisen vaiheen työnkulussa ja silti väärin ymmärtää, mitä käyttäjä halusi, soittaa väärän työkalun, käyttää virheellistä tietoa, jää jumiin tuotteen kulkuun, tai palauttaa uskottavan, mutta väärän vastauksen. Perinteisen seurantainfrastruktuurin näkökulmasta pyyntö voi näyttää täysin terveeltä.

Lemma kuvaa näitä semanttisina epäonnistumina. Esimerkkejä ovat asiakaspalveluagentti, joka mainitsee väärän hyvityspolitiikan, auditoiva agentti, joka luo vanhentuneen raportin, tai agentti, joka soittaa ulkoista järjestelmää käyttäen tietoa, jonka se on keksinyt. Nämä ovat yleisiä tekoälyagenttien epäonnistumispisteitä.

Tämä ero tulee yhä tärkeämmäksi, kun agentit siirtyvät vuorovaikutteisista käyttöliittymistä pidempiin, monivaiheisiin työnkulkuun, joissa kielen mallit ovat vuorovaikutuksessa tietokantojen, sovellusliittymien (API), hakujärjestelmien ja muiden ohjelmistotyökalujen kanssa.

Epäonnistuminen jossakin ketjussa ei välttämättä tuota poikkeusta. Agentti voi jatkua toimintaa.

Lemma Seuraa Teckoälyagentteja Tuotannossa

Lemma on rakentamassa havainnollistamiskerrosta nimenomaan näiden agenttien suorituskulkujen ympärille.

Järjestelmänsä jäljittää kunkin agentin suorituksen jäsennellyksi jäljitykseksi, joka sisältää perustuvat suuret kielen mallikutsut, työkaluaktiviteetit, syötteet, tulosteet, aikadata, hakuvaiheet ja virheet, jotka syntyvät työnkulun aikana. Insinööritiimit voivat tarkastella koko suorituskulkua sen sijaan, että he vain tarkastelisivat agentin lopullista vastausta.

Muta jäljittäminen on vain osa lähestymistapaa.

Lemma analysoi tuotantojäljityksiä agentin ohjeiden vastaisesti ja ryhmittelee toistuvat ongelmat ongelmiksi, jotta tiimit voivat tunnistaa epäonnistumismalleja, jotka muuten voivat jäädä piiloon tuhansien yksittäisten vuorovaikutusten ympärille. Alusta voi myös priorisoida ongelmia ja lähettää hälytyksiä Slackin kautta, kun potentiaalisesti merkittäviä ongelmia havaitaan.

Tavoitteena on vastata haasteellisempaan kysymykseen kuin siihen, suoritti kohteen ohjelma onnistuneesti: Onnistuiko agentti todella suorittamaan sen, minkä se oli tarkoitus tehdä?

Tämä on merkittävä muutos siinä, miten havainnollistaminen saattaa tarvita toimia tekoälyohjelmistoille.

Teckoälyagenttien Tuotannon Epäonnistumisten Muuttaminen Parannuksiksi

Lemma yrittää myös lyhentää etäisyyttä ongelman löytämisestä ja korjaamisesta.

Kun alusta tunnistaa toistuvan epäonnistumisen, se analysoi ympäröivät jäljitykset ja kontekstin määrittääkseen todennäköisen juurisyyt. Siitä alkaen se voi ehdottaa muutoksia kehotuksiin, sovelluslogiikkaan tai agenttityönkulkuun sen sijaan, että insinöörit joutuisivat manuaalisesti jälleenrakentamaan jokaisen ongelmallisen vuorovaikutuksen.

Yritys laajentaa työnkulkuun kehitysympäristöihin Model Context Protocol (MCP) -palvelimen kautta. Kehittäjät voivat kysyä Lemman jäljityksiä työkaluista, kuten Cursor, Claude Desktop ja Claude Code, jolloin virheenkorjausprosessi voidaan tehdä lähempänä siellä, missä perustuvaa agenttia kehitetään.

Kun korjaus on käyttöönotettu, Lemma voi muuttaa tuotannon epäonnistumisen online-arvioksi ja seurata sen toistumista. Tämä luo palautekehän, jossa aiemmin näkymättömät todelliset maailman epäonnistumiset tulevat tulevaisuuden testeiksi sen sijaan, että ne jäisivät erilliseksi tapauksiksi.

Tämä lähestymistapa vie Lemman jonkin verran perinteisen havainnollistamisen ulkopuolelle. Pitkän aikavälin tavoitteena on infrastruktuuri, joka auttaa agenteja oppimaan järjestelmällisesti tuotannon epäonnistumisista sen sijaan, että se riippuisi kokonaan insinöörien löytämisestä, toistamisesta ja manuaalisesta korjaamisesta jokaisen reunatapauksen osalta.

Ongelma, Jonka Perustajat Kohtasivat Omakohtaisesti

Zhang ja Gawin tapasivat ensimmäisen vuoden opiskelijoina Etelä-Kalifornian yliopistossa ja myöhemmin työskentelivät tekoälyjärjestelmissä eri tekoälyalkuperäisissä startup-yrityksissä. Ennen Lemman perustamista he työskentelivät Tandemissa, joka soveltaa tekoälyä terveydenhuollossa, ja ChipStackissa, joka kehittää tekoälyagentteja piirisuunnittelussa.

Nämä kokemukset auttoivat heitä ymmärtämään agenttien ottamisen hallitusta kehitysympäristöistä tuotantoon.

”Cole ja minä perustimme Lemman, koska koimme itse tekoälyagenttien rakentamisen vaikeuden”, Zhang sanoi. ”Me jatkuvasti törmäsimme samaan ongelmaan: agentit näyttivät toimivan, mutta tulokset eivät olleet tarpeeksi luotettavia tuotannossa.”

Perustajat väittävät, että perusmallien parantaminen yksin ei poista tätä ongelmaa. Todellisen maailman agenttien käyttäytyminen riippuu myös kehoituksista, sovelluslogiikasta, työkaluista, integraatioista, hakujärjestelmistä, käyttäjän käyttäytymisestä ja yhä monimutkaisemmista ketjuista, jotka yhdistävät ne.

Lemman insinöörien väittämä on, että offline-arviot kamppailevat toistamaan ennustamattomat olosuhteet, joita agentit kohtaavat käyttöönoton jälkeen, mikä tekee tuotantodata tärkeäksi lähteeksi ymmärtää, missä järjestelmät todella menevät rikki.

Laajempi Haaste Teckoälyagenttien Seurannassa Tuotannossa

Uusi rahoitus tukkii Lemman seuranta- ja vikailmoitusvälineiden kehittämistä, ja aluksi se keskittyy startup-yrityksiin, jotka jo ajavat tekoälyagentteja tuotannossa.

Yritys toimii alueella, josta tulee yhä tärkeämpää, kun tekoälyjärjestelmät siirtyvät eristetyistä demoista todellisiin työnkulkuun. Perinteiset seurantatyökalut ovat yleensä hyviä havaitsemaan teknisiä ongelmia, kuten keskeytyksiä, viivettä, epäonnistuneita pyyntöjä, mutta agenteille tuottavat toisen tason monimutkaisuutta: sovellus voi pysyä toiminnassa, vaikka agentti väärin ymmärtää tehtävän, valitsee väärän työkalun tai tuottaa väärän tuloksen.

Tämä ero tulee todennäköisesti tulevaisuudessa merkittävämmäksi, kun agenteja käytetään asiakastukeen, finanssianalyysiin, terveydenhuollon hallintoon, ohjelmistokehitykseen ja tutkimukseen. Nämä ympäristössä mittaaminen siitä, onnistuiko agentti suorittamaan työnkulun, saattaa olla vähemmän tärkeää kuin määrittäminen, suoritti agentti työnkulun oikein.

Lemman kannalta mahdollisuus riippuu siitä, tuleeko agenttien seuranta hiljaisista epäonnistumisista standardiosaksi tekoälyagenttien tuotannossa. 2,3 miljoonan dollarin esisijoittamisrahoitus antaa yritykselle lisää pääomaa testataksen tämän väittämän, kun organisaatiot käyttävät agenteja yhä monimutkaisemmissa työnkulussa.

Mikä Parempi Agenttien Seuranta Voisi Merkitä Teckoälylle

Kun tekoälyagentit ottavat yhä enemmän itsenäistä työtä, perinteinen seuranta ei välttämättä ole enää tarpeeksi. Tulevaisuuden järjestelmissä on arvioitava, onnistuiko agentti ymmärtämään tehtävän, käytti oikeat työkalut ja tuotti oikean tuloksen.

Työkalut kuten Lemma voivat myös luoda tiukemmat palautekehät tuotannon ja kehityksen välille, muuttaen todellisen maailman epäonnistumiset uusiksi parannuksiksi. Ajan myötä tämä voi tehdä agenttien havainnollistamisesta standardiosan tekoälyinfrastruktuurista, erityisesti korkean panoksen ympäristöissä, joissa luotettavuus ja vastuu ovat tärkeimmät.