Shanea Leven, Fondator și CEO la Empromptu AI – Seria de interviuri

Shanea Leven, Fondator și CEO la Empromptu AI, este un veteran al domeniului produselor, cu o experiență vastă în construirea de platforme pentru dezvoltatori și produse bazate pe inteligență artificială la companii tehnologice majore. Înainte de a lansa Empromptu în 2025, a fondat CodeSee, o platformă de dezvoltare bazată pe inteligență artificială care ajută echipele să vizualizeze și să înțeleagă coduri complexe, care a fost achiziționată de GitKraken în 2024. Mai devreme în cariera sa, a ocupat funcții de conducere în produse la companii precum Docker, Cloudflare, eBay și Google (GOOGL ), unde a lucrat la inițiative care variază de la API-urile de plată Google Assistant la programe de educație pentru dezvoltatori utilizate de sute de mii de învățători.

Empromptu AI este o platformă enterprise concepută pentru a ajuta organizațiile să construiască și să implementeze aplicații integrate de inteligență artificială mai ușor. Platforma combină dezvoltarea de aplicații, integrarea datelor, guvernanța, evaluarea, memoria și orchestrarea modelului într-un singur mediu, permițând companiilor să treacă de la experimentarea rapidă a inteligenței artificiale la sisteme de producție cu controlul și fiabilitatea necesare pentru utilizarea enterprise.

Ați petrecut peste 15 ani construind platforme pentru dezvoltatori la companii precum Google, eBay, Cloudflare și Docker, înainte de a fonda CodeSee, care a fost ulterior achiziționată de GitKraken, și acum conduceți Empromptu AI. Cum v-au influențat aceste experiențe perspectiva asupra motivului pentru care atâtea unelte de inteligență artificială eşuează odată ce părăsesc stadiul de demonstrație, și care a fost problema specifică pe care ați dorit să o rezolvați atunci când ați fondat Empromptu?

Una dintre lucrurile pe care le învățați construind platforme pentru dezvoltatori este că problemele cele mai grele nu sunt niciodată cele din demonstrație. Demonstrarea întotdeauna funcționează. Testul real este ceea ce se întâmplă atunci când mii de dezvoltatori utilizează sistemul, atunci când datele sunt murdare, atunci când integrările se întrerup și atunci când afaceri reale depind de el.

La Google, Cloudflare, Docker și eBay, am petrecut ani lucrând la platforme care trebuiau să funcționeze la scară globală. Aceste medii vă învață ceva rapid: fiabilitatea, guvernanța și observabilitatea nu sunt caracteristici pe care le adăugați mai târziu. Ele sunt arhitectura.

Când am început să construiesc aplicații de inteligență artificială, modelele erau îngrozitoare și, pe măsură ce au început să devină mai bune, am observat că industria repeta aceeași greșeală pe care am văzut-o în valurile anterioare de software. În instrumentele de dezvoltare, există un concept care părea să fi fost uitat. Cât de repede puteți ajunge la “hello world”? Astăzi, versiunea generativă a “hello world” este un prototip de aplicație SaaS funcțională. Dar acum nu mai codăm doar aplicații SaaS; codăm întregi aplicații de inteligență artificială. O inteligență artificială care construiește inteligență artificială necesită alte sisteme pentru a pune acea inteligență artificială în producție.

Puteți genera o aplicație de inteligență artificială funcțională sau o caracteristică rapid, ceea ce este interesant și util. Dar sistemele predominante încă lipsesc infrastructura necesară pentru medii de producție. Lucruri precum conducte de date structurate, cadre de evaluare, controale de guvernanță, monitorizare și gestionare a contextului pe termen lung au fost omise, dar le-am adăugat, păstrând totuși părțile uimitoare ale codării de vibrație.

Când eu și co-fondatorul meu am fondat Empromptu, problema pe care am vrut să o rezolvăm a fost simplă: cum să facem aplicațiile de inteligență artificială gata pentru producție de la început?

În loc să tratați guvernanța, pregătirea datelor, evaluarea și optimizarea ca unelte separate sau procese ulterioare, le-am integrat direct în platformă. Ideea este că echipele ar trebui să poată construi aplicații de inteligență artificială rapid, dar cu aceeași fiabilitate, calitate și control pe care le așteaptă de la sistemele de software enterprise.

Ați fost deschis cu privire la decalajul dintre demonstrațiile de inteligență artificială impresionante și sistemele gata pentru producție. Din perspectiva dvs., care sunt cele mai comune greșeli arhitecturale pe care le fac echipele atunci când încearcă să transforme un prototip de inteligență artificială într-un produs fiabil utilizat de clienți reali?

Cea mai comună greșeală pe care o fac echipele este să presupună că modelul este produsul.

În prototipurile inițiale, modelul face cea mai mare parte a muncii vizibile. Îl promptați, produce un răspuns și, dacă răspunsul arată bine, sistemul pare să funcționeze. Acest lucru creează iluzia că îmbunătățirea modelului este principala provocare.

În sistemele de producție, modelul este doar o componentă a unei arhitecturi mult mai mari.

Prima greșeală este tratarea datelor ca o gândire ulterioară. În prototipuri, echipele adesea testează cu seturi de date mici și curate. Odată ce sistemul se conectează la datele operaționale reale, lucrurile se schimbă rapid. Datele sosesc incomplete, inconsistente, duplicate sau în formate neașteptate. Fără o conductă de date structurată pentru a normaliza și valida intrările, sistemul devine nefiabil, indiferent de cât de bun este modelul.

A doua greșeală este absența cadrelor de evaluare. Multe echipe lansează caracteristici de inteligență artificială fără a defini ce înseamnă “bun” în realitate. Ei pot verifica manual ieșirile în timpul dezvoltării, dar nu construiesc pipe-line de evaluare automate care măsoară în mod continuu acuratețea, deriva și cazurile limită odată ce sistemul este activ. Fără aceste garduri, eșecurile sunt adesea descoperite de clienți, nu de ingineri.

O a treia problemă este lipsa mecanismelor de guvernanță și control. Sistemele de inteligență artificială sunt probabilistice, ceea ce înseamnă că pot avea un comportament diferit în condiții ușor diferite. În medii regulate sau cu miză ridicată, acea imprevizibilitate trebuie să fie constrânsă cu politici deterministice, fluxuri de aprobare și jurnale de audit care capturează modul în care au fost luate deciziile.

Ce se reduce cu adevărat la acest lucru este că sistemele de inteligență artificială de producție nu sunt doar modele. Ele sunt sisteme operaționale.

Companiile care reușesc cu inteligența artificială astăzi sunt cele care tratează conductele de date, evaluarea, guvernanța și monitorizarea ca infrastructură de bază, nu ca adaosuri opționale.

Multe platforme de codare de inteligență artificială promit că oricine poate construi o aplicație utilizând prompte simple. De ce aceste unelte funcționează adesea bine pentru demonstrații, dar se confruntă cu dificultăți atunci când companiile încearcă să le implementeze în medii de producție reale?

Multe dintre aceste platforme funcționează bine pentru demonstrații pentru că sunt optimizate pentru momentul creației, nu pentru ciclul de viață al unui sistem real.

Există o diferență fundamentală între utilizarea inteligenței artificiale pentru a genera o pagină de aterizare și utilizarea inteligenței artificiale pentru a construi o aplicație de inteligență artificială.

O pagină de aterizare este în mare parte software static. Odată ce se afișează corect, treaba este în mare măsură terminată. Sistemul nu trebuie să ia decizii probabilistice, să ingereze date în schimbare constant sau să se adapteze la un comportament imprevizibil al utilizatorului.

Aplicațiile de inteligență artificială sunt complet diferite. Ele sunt sisteme dinamice care se bazează pe conducte de date, comportamentul modelului, cadrele de evaluare și monitorizarea continuă. Aplicația trebuie să gestioneze contextul, să detecteze când ieșirile se abat, să gestioneze cazurile limită și să funcționeze în siguranță atunci când modelul întâlnesc situații pe care nu le-a văzut anterior.

Majoritatea uneltelor de codare bazate pe prompte nu abordează aceste straturi pentru că sunt concepute pentru a obține ceva funcțional rapid. Ele generează cod care produce un rezultat vizibil, ceea ce este perfect pentru un mediu de demonstrație. Dar sistemele de producție necesită un set mult mai mare de capacități: gestionarea datelor structurate, controale de guvernanță, pipe-line de evaluare, observabilitate și mecanisme pentru actualizarea comportamentului în siguranță pe parcursul timpului.

Deci, atunci când companiile încearcă să implementeze aceste sisteme în medii reale, decalajul devine evident. Prototipul a funcționat pentru că mediul a fost controlat. Producția este haotică.

Empromptu se axează pe transformarea software-ului existent în sisteme native de inteligență artificială, mai degrabă decât a forța companiile să reconstruiască totul de la zero. Ce implică această transformare la nivelul infrastructurii și al produsului?

La nivelul produsului, fiecare aplicație este complet autodeterminată și containerizată. Creăm tot ceea ce aveți nevoie, de la interfețe, servere, baze de date, modele, evaluări, reguli și totul este foarte flexibil, în funcție de nevoile întreprinderii.

Aveți mai multe opțiuni pentru aplicații de inteligență artificială:

“Fără cap” – dacă un client are deja o interfață, putem conecta-o la sistemul nostru și trimite datele înapoi

Containerizate complet – pot fi implementate pe infrastructura noastră sau în infrastructura clientului, astfel încât să fie on-premise în mod implicit.

Sau putem genera și implementa direct în cloud pentru opțiunea cea mai convenabilă.

Orice cod pe care îl aveți, îl putem importa direct în sistemul nostru și îl putem face agent dacă nu este deja agent. De exemplu, vedem acest lucru la mulți clienți care au încercat să construiască aplicații pe platforme populare precum Lovable, Replit, Bolt sau Base44. Adesea, ele nu funcționează. Dar clienții au investit deja mult timp și energie în această aplicație, așa că o importăm, o rescriem și facem să funcționeze inteligența artificială.

Și putem face acest lucru pentru că avem tehnologii proprietare, cum ar fi:

• Motor de context adaptiv pentru gestionarea contextului
• Memorie infinită pentru a ingera aplicații cu cod de lungă durată
• Modele de date personalizate și conducte de date “aur” pentru a asigura că putem gestiona orice curățare și etichetare sintetică necesară

Platforma dvs. subliniază contextul, evaluarea, guvernanța și datele structurate ca componente de bază ale sistemelor de inteligență artificială. De ce sunt aceste elemente atât de des neglijate atunci când echipele se grăbesc să adauge caracteristici de inteligență artificială produselor lor?

Pentru că sunt greu de făcut! Co-fondatorul meu, Dr. Sean Robinson, conduce laboratorul nostru de cercetare și este un astrofizician computațional care a inventat o serie de tehnologii inspirate de ideile mele “nebune”, dar și de nevoile clienților noștri și de direcția în care se îndreaptă piața. Experiența noastră combinată în construirea de aplicații agențiale, lansarea de sateliți în spațiu și construirea la cele mai mari companii tehnologice din lume ne oferă perspective care ne ajută să rezolvăm probleme complicate mai bine decât alții.

Lucrați cu mulți fondatori care nu au scris niciodată cod. Care sunt cele mai mari concepții greșite pe care fondatorii non-tehnici au atunci când încearcă pentru prima dată să construiască aplicații de inteligență artificială?

Cred că există două concepții greșite mari:

Prima este că inteligența artificială este magică. Inteligența artificială nu este magică. Este doar o inginerie bună. Și, în cele din urmă, ajungeți la un limită a ceea ce puteți face pe aceste platforme fără un adevărat inginer.

A doua este că au abilități tehnice de management al produsului. Am o experiență în managementul tehnic al produsului și abilitatea de a traduce o viziune, uneori o viziune foarte mare, în fragmente mici și livrabile, cu specificații tehnice corecte pentru a articula exact ceea ce doriți. Acesta este, de fapt, un skill foarte greu care necesită timp.

De exemplu, să zicem că construiți o aplicație care încarcă un PDF și salvează acel PDF astfel încât să puteți reveni și să îl vizualizați mai târziu. Acesta este un concept numit persistență. Acel PDF este codat și salvat într-o bază de date.

Dar dacă nu știați că acesta se numește persistență, cum veți putea să o faceți? Asigurați-vă că aceste date persistă. Alegerea cuvintelor tehnice este ca și cum ați vorbi o limbă diferită. Există o diferență între scrierea în limbaj natural și scrierea în limbaj tehnic.

Multe startup-uri presupun că soluția pentru construirea de produse de inteligență artificială este pur și simplu angajarea de mai mulți ingineri. De ce credeți că această abordare adesea eşuează și la ce ar trebui să se gândească fondatorii atunci când construiesc produse bazate pe inteligență artificială?

Angajarea de mai mulți ingineri este uneori răspunsul corect. Dacă construiți un produs tehnic profund sau lucrați la frontiera cercetării modelului, aveți nevoie în mod absolut de echipe de ingineri puternice. Nu există înlocuitor pentru ingineri buni atunci când vine vorba de rezolvarea problemelor grele.

Însă greșeala pe care o fac multe startup-uri este să presupună că mai mulți ingineri rezolvă automat provocarea construirii unui produs de inteligență artificială.

În realitate, cele mai grele probleme ale produselor de inteligență artificială nu sunt întotdeauna probleme pur tehnice. Ele sunt probleme de sisteme, la fel ca orice altă problemă de inginerie. Inginerii sunt învățați să gândească în sisteme. Dar dezvoltarea generativă este diferită de dezvoltarea deterministică. Mulți dintre noi am făcut această schimbare atunci când am trecut de la programarea orientată pe obiecte la programarea funcțională. Sunt ambele programare? Da, absolut, dar sunt ele diferite? Sunt ele o modalitate diferită de gândire? Da, desigur.

Aplicațiile de inteligență artificială se află la intersecția datelor, designului de produs, fluxurilor de lucru operaționale și a comportamentului modelului. Puteți angaja o echipă incredibilă de ingineri, dar dacă conductele de date sunt nefiabile, criteriile de evaluare sunt neclare sau sistemul lipsește de guvernanță și monitorizare, produsul va continua să aibă dificultăți odată ce ajunge la utilizatori reali.

O altă problemă este că multe echipe sar direct în construirea produsului înainte de a defini cum va funcționa sistemul de inteligență artificială în producție. Întrebări precum cum va fi evaluat sistemul, cum vor fi gestionate cazurile limită, cum vor fi înregistrate deciziile și cum vor fi actualizate modelele pe parcursul timpului adesea vin mult mai târziu. Până atunci, arhitectura este deja dificil de schimbat.

Ce ar trebui să se gândească fondatorii este, de fapt, modelul operațional al sistemului de inteligență artificială.

Cine deține conducta de date?

Cum se măsoară în mod continuu performanța modelului, nu doar în timpul dezvoltării?

Ce se întâmplă atunci când sistemul întâlnesc o situație pe care nu a văzut-o anterior?

Cum actualizați comportamentul în siguranță fără a rupe fluxurile de lucru descendente?

Uneori, rezolvarea acestor probleme înseamnă angajarea de mai mulți ingineri. Dar poate însemna, de asemenea, alegerea infrastructurii potrivite, definirea unor constrângeri puternice de produs și construirea de sisteme care permit echipelor mici să funcționeze în siguranță la scară.

Companiile care reușesc cu inteligența artificială astăzi nu sunt neapărat cele cu cele mai mari echipe de ingineri. Sunt cele care tratează inteligența artificială ca un sistem cu funcționare pe termen lung care necesită disciplină de date, evaluare, guvernanță și îmbunătățire continuă integrate din start.

Ați argumentat că unele dintre modelele de afaceri actuale din instrumentele de dezvoltare de inteligență artificială nu se aliniază cu construirea de produse durabile. Care sunt stimulentele din ecosistemul actual de instrumente de inteligență artificială pe care le considerați că duc companiile în direcția greșită?

Una dintre cele mai mari neconcordanțe de stimulente în acest moment este că multe instrumente de dezvoltare de inteligență artificială sunt optimizate pentru metrici de creștere, mai degrabă decât pentru durabilitatea produsului.

Multe companii din acest domeniu sunt răsplătite pentru cât de repede utilizatorii pot crea ceva impresionant. Dacă un instrument poate genera o aplicație funcțională, o caracteristică sau o demonstrație în câteva minute, acest lucru stimulează înregistrările, distribuirea pe rețelele sociale și entuziasmul investitorilor. Din punct de vedere al adoptării produsului, acest lucru are sens.

Însă aceste stimulente adesea se opresc la momentul creației.

Lucrul greu în software-ul de inteligență artificială are loc după acel moment. Acesta este momentul în care se construiește încrederea. Când puteți conta pe calitate. Când utilizatorul dorește să se întoarcă din nou și din nou, fără frustrarea inteligenței artificiale a ieșirilor proaste. Are nevoie de a oferi răspunsuri bune, chiar și în fața ignorantei umane sau a intențiilor rele.

O altă problemă este că multe instrumente sunt optimizate pentru generarea de cod, mai degrabă decât pentru proiectarea sistemului. Generarea de cod rapid este utilă, dar construirea unui produs de inteligență artificială implică mai mult decât producerea de cod. Implică definirea modului în care sistemul gestionează contextul, modul în care deciziile sunt evaluate, modul în care eșecurile sunt gestionate și modul în care comportamentul evoluează în siguranță pe parcursul timpului.

Companiile care își aliniază stimulentele în jurul ajutorării clienților să ruleze sisteme de inteligență artificială în mod fiabil, mai degrabă decât să le construiască rapid, sunt cele care vor crea valoare durabilă în acest ecosistem.

Unii dintre clienții dvs. includ antreprenori care construiesc produse foarte specifice, cum ar fi unelte de sănătate specializate sau afaceri axate pe durabilitate, adesea fără echipe de ingineri tradiționale. Care sunt modelele pe care le-ați observat printre fondatorii care reușesc să transforme aceste idei în produse de inteligență artificială funcționale?

Una dintre cele mai interesante modele pe care le observăm este că fondatorii care reușesc nu sunt neapărat cei mai tehnici. Sunt cei care înțeleg extrem de bine problema pe care o rezolvă.

Mulți dintre antreprenorii care utilizează Empromptu sunt experți în domeniu. Ei pot proveni din domenii precum sănătatea, finanțele, durabilitatea sau alte industrii specializate. Ceea ce aduc este cunoașterea profundă a fluxurilor de lucru, reglementărilor și deciziilor care există în acel mediu. Acest context este incredibil de valoros atunci când proiectați un produs de inteligență artificială, deoarece definește ceea ce sistemul trebuie să facă în realitate.

Fondatorii care reușesc tind să abordeze inteligența artificială mai degrabă ca un sistem de produs decât ca un experiment tehnologic. Ei încep prin a pune întrebări foarte concrete. Ce decizii ar trebui să ajute inteligența artificială utilizatorii? Ce surse de date are nevoie de acces? Ce arată un răspuns corect în acest domeniu? Ce garduri de siguranță trebuie să existe astfel încât sistemul să se comporte în mod responsabil?

O altă tendință pe care o observăm este că gândesc cu atenție la structură. Echipele de succes realizează rapid că ieșirile inteligenței artificiale sunt la fel de bune ca contextul și datele care le alimentează. Ei investesc timp dinainte pentru a defini conducte de date, a organiza sursele de cunoaștere și a crea criterii clare de evaluare a ceea ce înseamnă “bun” în acest domeniu.

De asemenea, observăm că fondatorii de succes adoptă colaborarea om-inteligență artificială în loc să încerce să automatizeze totul imediat. Ei proiectează fluxuri de lucru în care inteligența artificială gestionează analiza repetitivă sau sinteza datelor, în timp ce oamenii rămân responsabili pentru judecată și decizii finale. Acest echilibru face sistemele mult mai fiabile, în special în domenii precum sănătatea sau finanțele.

În multe feluri, cea mai mare schimbare este mentalitatea. Fondatorii care reușesc nu gândesc inteligența artificială ca o caracteristică pe care o adaugă. Ei gândesc inteligența artificială ca un nou strat de funcționare pentru modul în care funcționează produsul lor.

Pe măsură ce sistemele de inteligență artificială devin mai integrate în operațiunile de bază ale afacerilor, care vor fi capacitățile care vor defini următoarea generație de platforme de aplicații de inteligență artificială?

Știu că acest lucru este nebun și poate spun ceva blasfemic, dar oamenii vor putea să-și creeze propriile modele personalizate de inteligență artificială. Ceva pe care laboratorul nostru de cercetare îl numește “modele nano-expert” va ajuta la controlul costurilor.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe despre Empromptu AI pot vizita Empromptu AI.