Yu Su, Co-fondator și CEO al NeoCognition – Seria de interviuri

Yu Su, Co-fondator și CEO al NeoCognition, este un cercetător de inteligență artificială cu o carieră care acoperă academia, inteligența artificială pentru întreprinderi și sisteme avansate de agenți. Pe lângă conducerea NeoCognition, el servește ca Profesor Asociat și Savant în Inovare la Universitatea de Stat Ohio, unde lucrările sale s-au concentrat pe agenți AI, sisteme de raționament și învățare automată. Fondul său include și peste șase ani ca Cercetător Senior la Microsoft (MSFT ), unde a lucrat alături de cercetători de frunte, inclusiv Percy Liang, la sisteme de inteligență conversațională pentru Outlook, utilizând tehnici de analiză semantică. De-a lungul rolurilor sale la Microsoft, în academie și în instituții de cercetare, cum ar fi IBM T.J. Watson Research Center, Yu Su și-a construit o reputație pentru avansarea sistemelor de inteligență artificială care pot raționa, învăța și interacționa cu medii digitale complexe, ajutând la reducerea decalajului dintre cercetarea de ultimă oră și aplicațiile din lumea reală.

NeoCognition este o companie de cercetare a agenților de inteligență artificială axată pe dezvoltarea a ceea ce descrie ca “inteligență specializată” – sisteme de inteligență artificială care învață și se îmbunătățesc continuu prin experiență. Fondată de cercetători de inteligență artificială de frunte, compania urmărește o viziune care merge dincolo de modelele de limbaj mare statice către agenți capabili să dezvolte o expertiză profundă în domenii specifice. Cercetarea sa se axează pe domenii precum învățarea continuă, raționament, planificare, utilizarea uneltelor și colaborarea multi-agents, cu scopul de a crea sisteme de inteligență artificială care devin mai capabile și mai de încredere în timp. Prin combinarea progreselor în învățarea automată cu tehnici de raționament structurat și învățare adaptivă, NeoCognition își propune să ajute la modelarea următoarei generații de agenți de inteligență artificială capabili să abordeze sarcini din lumea reală din ce în ce mai complexe.

Multe companii s-au grăbit să lanseze copiloți de inteligență artificială generici, dar tot mai des auzim preocupări cu privire la fiabilitatea lor odată ce aceste sisteme intră în medii de producție reale. De ce credeți că atât de mulți agenți de inteligență artificială actuali se confruntă cu dificultăți în afara demonstrațiilor controlate?

Majoritatea agenților de inteligență artificială actuali se confruntă cu dificultăți în producție pentru că sunt, în esență, generaliști care operează fără o înțelegere durabilă a mediului în care lucrează. Ei pot completa o sarcină o dată într-o demonstrație, dar acest lucru este foarte diferit de dezvoltarea unui judiciu repetabil într-un sistem operațional real.

Modelele de astăzi sunt impresionante ca și împărtășitori de modele, dar încă lipsesc mecanismele pe care oamenii le folosesc pentru a deveni experți de încredere. Oamenii nu devin de încredere prin memorarea unor sarcini izolate. Ne specializăm prin învățarea structurii unui anumit mediu: fluxurile de lucru, constrângerile, relațiile, uneltele, prioritățile și consecințele care definesc o profesie sau o organizație. În timp, construim un model intern de funcționare a acelui mediu, și acel model este ceea ce ne permite să luăm decizii bune și consistente.

Majoritatea agenților de inteligență artificială de astăzi nu construiesc acest tip de înțelegere operațională. Ei se bazează puternic pe straturi de promptare, recuperare sau orchestrare care îi ajută să completeze acțiuni izolate, dar încă improvizează de fiecare dată când întâlnesc o situație nouă. Acesta este motivul pentru care performanța adesea se deteriorează odată ce mediul se schimbă și mai mult atunci când devine haotic, dinamic sau cu risc ridicat.

Piesa lipsă este specializarea. Oamenii prosperă pentru că putem continua să ne adaptăm la medii în schimbare și să devenim experți în ele prin învățarea continuă. Credem că agenții de inteligență artificială au nevoie de o capacitate similară: capacitatea de a învăța structura locală a unui domeniu suficient de profund pentru a opera cu adevărată competență.

NeoCognition a descris viziunea sa ca fiind construirea de agenți care pot învăța și se adapta continuu, mai mult ca oamenii. Ce înseamnă acest lucru din punct de vedere tehnic, comparativ cu abordările de reglare fină statică sau bazate pe recuperare pe care multe întreprinderi le utilizează astăzi?

Majoritatea sistemelor de inteligență artificială pentru întreprinderi de astăzi îmbunătățesc performanța fie prin reglarea fină a unui model o singură dată, fie prin recuperarea informațiilor relevante la momentul inferenței. Aceste abordări pot fi utile, dar nu permit fundamental unui agent să dezvolte o expertiză evolutivă într-un domeniu.

Reglarea fină este, de obicei, statică după antrenament. Sistemele de recuperare ajută la suprafațarea informațiilor, dar recuperarea cunoștințelor nu este același lucru cu dezvoltarea expertizei într-un domeniu sau adaptarea comportamentului pe baza experienței în timp. În multe cazuri, agentul încă lipsește un model persistent al mediului în care operează.

Când un om se alătură unei companii, el nu devine eficient doar pentru că poate căuta documente. El dezvoltă treptat un judiciu prin înțelegerea modului în care funcționează organizația și expertiza emerge din rafinarea continuă a acelui model intern.

Credem că următoarea generație de agenți are nevoie de un mecanism de învățare similar. La NeoCognition, ne concentrăm pe permisivitatea agenților de a forma aceste tipuri de modele operaționale evolutive, astfel încât să poată continua să se specializeze și să se îmbunătățească într-un domeniu în timp, mai degrabă decât să pornească de la zero sau să depindă de reingenieria umană constantă.

Pare a exista o diviziune în creștere între experimentarea cu inteligența artificială și încrederea operațională. Întreprinderile pot experimenta cu succes agenți intern, dar implementarea lor la scară este o provocare cu totul diferită. Ce subestimează organizațiile despre această tranziție?

Multe organizații subestimează cât de dinamic sunt, de fapt, medii operaționale reale. Un agent care performează cu o acuratețe de 85% poate suna puternic în testare, dar la scară întreprindere, acest lucru se traduce într-un flux constant de erori și situații de recuperare pe care echipele umane trebuie să le gestioneze. Provocarea devine și mai semnificativă în fluxuri de lucru multi-pași, unde eșecurile se acumulează pe sisteme și sarcini, făcând supravegherea, intervenția și responsabilitatea mult mai dificile decât multe organizații anticipă inițial.

Întreprinderile tratează încă implementarea ca o problemă de orchestrare sau de promptare, când, în realitate, este și o problemă de învățare. Partea dificilă nu este doar să faci un agent să execute o sarcină. Este să îi permită sistemului să dezvolte o competență durabilă și un judiciu într-un mediu operațional dinamic.

Încărcătura de personalizare, promptare, supraveghere și reingenierie cade greu pe echipele umane astăzi. Acesta este adesea un semn că sistemul încă lipsește o înțelegere operațională; ele sunt conduse manual prin el de fiecare dată. Acesta nu este un drum către scalabilitate sau încredere.

Un tema major care apare în industria inteligenței artificiale este guvernanța, gardurile de protecție și aplicarea politicilor. Totuși, NeoCognition argumentează că guvernanța singură nu este suficientă. De ce credeți că, în cele din urmă, fiabilitatea necesită sisteme care se adaptează continuu la mediul lor, în loc de a urma doar reguli statice?

Guvernanța și gardurile de protecție sunt extrem de importante, dar regulile statice singure nu pot rezolva complet fiabilitatea în medii complexe.

Sistemele operaționale de producție se schimbă constant. Fluxurile de lucru evoluează, uneltele se actualizează, politicile se schimbă, și situații neașteptate apar care nu pot fi întotdeauna anticipate în avans. Dacă un agent nu știe decât să urmeze reguli predefinite fără a înțelege mediul în care operează, el va întâlni în cele din urmă situații pe care regulile nu le-au luat în considerare.

Fiabilitatea oamenilor vine din judiciu, nu doar dintr-o aderență rigidă la scripturi, ci pentru că dezvoltăm un judiciu prin înțelegerea structurii și constrângerilor lumii din jurul nostru. Învățăm când să escaladăm, când ceva pare anormal și când contextul schimbă cursul corect de acțiune.

Credem că agenții de inteligență artificială au nevoie de o capacitate similară de adaptare și înțelegere a mediului. Sistemele mai sigure vor veni din faptul că le facem mai competente și specializate în lumi operaționale bine definite. Acest tip de sistem observă propriul mediu și propriile ieșiri și urmărește unde eşuează și actualizează comportamentul.

Industria inteligenței artificiale se axează adesea pe modele mai mari și pe capacități mai largi, dar NeoCognition pare a se concentra pe specializare și învățare contextuală. Credeți că viitorul agenților de inteligență artificială pentru întreprinderi va arăta mai mult ca niște lucrători digitali foarte specializați, mai degrabă decât asistenți universali?

Credem puternic că viitorul va fi condus de specializare. Industria s-a concentrat pe modele din ce în ce mai generale, pentru că o capacitate largă este impresionantă. Dar în medii de întreprindere, adevărata provocare nu este dacă un agent poate face un pic din tot, ci dacă poate îndeplini un rol specific în mod fiabil și cu un judiciu sănătos în timp. Punctul nostru forte nu este că suntem născuți experți în orice mediu. Este că putem învăța structura unui anumit mediu suficient de profund pentru a opera eficient în el.

La NeoCognition, credem că viitorul nu va fi unul în care există un super-agent care face totul. În schimb, va fi o abundență de agenți specializați, fiecare învățând un anumit mediu suficient de profund pentru a opera cu o expertiză de nivel profesionist, fiabilitate și judiciu. Scopul lor nu este de a înlocui expertiza umană, ci de a face-o mai abundentă: de a pune capacități de frontieră în mult mai multe mâini și de a ridica nivelul de bază al a ceea ce orice persoană sau organizație poate face.

Una dintre cele mai mari preocupări legate de agenții autonomi este modul în care se comportă atunci când mediile se schimbă neașteptat. Cât de importantă este adaptarea în lumea reală și conștientizarea mediului pentru prevenirea eșecurilor, halucinațiilor sau acțiunilor nesigure?

Este absolut critic. Fără conștientizarea mediului, agenții pot continua să acționeze cu încredere chiar și atunci când înțelegerea lor a situației este învechită sau incompletă. Acesta este locul în care apar adesea eșecurile operaționale.

Credem că fiabilitatea necesită ca agenții să învețe continuu structura locală a mediului în care operează și să actualizeze înțelegerea lor în timp. Fiabilitatea se schimbă și evoluează în timp: ceea ce părea fiabil în septembrie poate să nu pară la fel în mai. Cu cât un agent înțelege mai profund sistemele, constrângerile, fluxurile de lucru și relațiile din jurul lui, cu atât devine mai capabil să recunoască când condițiile s-au schimbat sau când incertitudinea necesită escaladare.

Cât de aproape credeți că este industria de a implementa sisteme de inteligență artificială care pot să se îmbunătățească cu adevărat prin interacțiunea continuă cu medii operaționale reale?

Încă suntem la început în construirea mecanismelor de învățare fundamentale necesare pentru învățarea continuă și autoperfecționarea fiabilă, dar industria este mult mai aproape de această tranziție decât mulți oameni realizează. Trăim într-un timp comprimat. Ingredientele pentru următoarea descoperire tehnologică sunt gata. Acest lucru poate să se întâmple foarte curând.

Ce contează nu este doar autoperfecționarea în abstract, ci specializarea structurată în medii reale. Acest lucru înseamnă învățarea fluxurilor de lucru, a constrângerilor, a relațiilor și a modelelor de comportament de succes în moduri care sunt stabile, guvernabile și rezistente la uitarea catastrofală. Acesta este problema pe care ne concentrăm la NeoCognition.

Privind înainte, în următorii ani, ce credeți că va separa, în cele din urmă, agenții de inteligență artificială pentru întreprinderi de valul de sisteme experimentale care inundează în prezent piața?

Sistemele care vor reuși vor fi cele care se vor simți mai puțin ca scenarii de jucărie și mai mult ca operatori de încredere.

Capacitatea modelului brut singură nu va fi suficientă. Întreprinderile vor îngriji, în cele din urmă, dacă agenții pot opera în mod consecvent în mediile lor reale, înțeleg fluxurile de lucru locale și constrângerile, respectă granițele și permisiunile, se adaptează în siguranță în timp și oferă rezultate repetabile.

Viitorii câștigători în inteligența artificială pentru întreprinderi nu vor fi doar sistemele care pot răspunde la cel mai larg spectru de întrebări. Ei vor fi sistemele care pot învăța un anumit mediu operațional suficient de profund pentru a acționa cu adevărată competență, judiciu și fiabilitate în el.

Mulțumim pentru acest interviu minunat. Citiitorii care doresc să afle mai multe despre NeoCognition ar trebui să viziteze NeoCognition.