Steve Nemzer, Director Senior, Creștere și Inovare AI, TELUS Digital – Seria de Interviuri

Steve Nemzer, Director Senior, Creștere și Inovare AI, TELUS Digital, conduce inițiative axate pe avansarea datelor de antrenament AI și a infrastructurii pentru sistemele de inteligență artificială de ultimă generație. Lucrările sale includ dezvoltarea de seturi de date pentru modele de cercetare profundă, medii de învățare prin întărire, date de modelare a lumii, inițiative de inteligență artificială suverană și cadre de mitigare a riscurilor AI, cu un accent puternic pe practicile responsabile de inteligență artificială, cum ar fi abordarea bias-ului în seturile de date și sprijinirea unor condiții de muncă echitabile pentru trainerii de inteligență artificială. La începutul carierei sale, Nemzer a fondat VeriTest Labs, ajutând liderii tehnologici timpurii, inclusiv Microsoft (MSFT ), Intel (INTC ), Oracle (ORCL ) și Sun Microsystems, să construiască ecosisteme de software de third-party înfloritoare, înainte ca compania să fie achiziționată de Lionbridge.

TELUS Digital este o companie globală de servicii tehnologice care ajută organizațiile să proiecteze, să construiască și să opereze platforme digitale și soluții alimentate de inteligență artificială. Operațiunile sale se desfășoară în zeci de țări, compania oferind servicii precum date de antrenament AI și anotare, inginerie de produse digitale și managementul experienței clienților. Platformele și serviciile sale sprijină întreprinderi din diverse industrii, inclusiv tehnologie, finanțe, sănătate, telecomunicații și jocuri, pe măsură ce modernizează operațiunile și implementează capacități avansate de inteligență artificială.

Având în vedere experiența dvs. în testarea și validarea inteligenței artificiale, cum evaluați trecerea de la inteligența artificială generativă bazată pe limbaj către modelele lumii care își propun să raționeze despre situații și rezultate din lumea reală, în special în rolul dvs. actual la TELUS Digital?

Modelele de limbaj mare (LLM) sunt fundamental sisteme de predicție a pattern-urilor. Ele generează răspunsuri prin predicția următorului token pe baza pattern-urilor învățate din corpora mari și statice. Deși acest lucru poate părea ca raționament, modelul nu modelează în realitate modul în care acțiunile modifică starea lumii.

Modelele lumii adoptă o abordare diferită. În loc de a prezice următorul cuvânt sau token, ele își propun să prezică următoarea stare a unui sistem, modelând tranzițiile de stare. Acest lucru permite sistemelor să simuleze cum evoluează mediile în răspuns la acțiuni. În practică, acest lucru deschide calea către raționamentul ipotetic, unde un model poate evalua diferite rezultate posibile înainte de a lua o decizie. Pentru sistemele interactive, acest lucru poate susține o luare a deciziilor și o planificare mai fiabile.

Această schimbare modifică și modul în care gândim despre implementarea responsabilă. Cu sistemele tradiționale de inteligență artificială generativă, multă atenție s-a concentrat pe probleme precum bias-ul și halucinațiile. Pe măsură ce modelele se îndreaptă către raționamentul despre medii și acțiuni, alte riscuri devin mai proeminente.

De exemplu, organizațiile trebuie să ia în considerare “lacuna sim-to-real”, unde comportamentele învățate în medii simulate nu se traduc curat în condiții din lumea reală. De asemenea, schimbarea distribuției devine o preocupare cheie, deoarece mediile pe care le întâlnesc modelele în timpul implementării pot diferi de datele cu care au fost antrenate.

Acesta este punctul în care testarea și validarea devin critice, ceea ce reprezintă o mare parte a rolului meu la TELUS Digital. Pe măsură ce sistemele de inteligență artificială se extind dincolo de generarea de limbaj în sisteme care interacționează cu mediile și iau decizii, organizațiile au nevoie de cadre riguroase de evaluare pentru a asigura ca modelele să se comporte în mod fiabil în condiții reale.

Mulți oameni sunt familiarizați cu modelele de limbaj mare, dar mult mai puțini înțeleg modelele lumii. În termeni simpli, ce problemă încearcă modelele lumii să rezolve, pe care modelele de limbaj mare nu o pot face în mod fundamental?

Un model al lumii este un sistem care poate prezice “ce se întâmplă mai departe” dată o stare curentă și o acțiune. Formula este: Stare + Acțiune → Următoarea Stare

Dacă țin un măr și îl las să cadă, un model al lumii prezice că mărul cade. El nu știe doar cum “arată” merele sau ce spun oamenii despre “a lăsa merele să cadă” – el prezice consecința pe baza unei înțelegeri a fizicii. Un model al lumii sofisticat va prezice ce s-ar întâmpla dacă aș face același lucru pe Stația Spațială Internațională, în comparație cu a fi pe suprafața Pământului.

Acest lucru este diferit de un model de limbaj mare. Un model de limbaj mare prezice: “Dată o secvență de tokeni, care token vine mai departe?” El este antrenat pe text – ce au scris oamenii despre lume, nu lumea însăși. El poate spune că merele cad pentru că a citit despre asta. Dar el nu are un motor de fizică intern care simulează căderea.

Altfel spus, modelele de limbaj mare sunt bune la predicția statistică a următorului cuvânt într-un răspuns la o întrebare, dar înțelegerea lumii reale depășește descrierea și coeziunea lingvistică. Modelele lumii își propun să înțeleagă cum evoluează situațiile pas cu pas, ce este următoarea stare dată starea curentă și acțiunea care urmează să aibă loc, care sunt constrângerile.

Modelele lumii sunt adesea descrise ca permițând sistemelor de inteligență artificială să simuleze rezultatele înainte de a lua o acțiune. Ce înseamnă acest lucru în practică și cât de aproape suntem de a vedea acest lucru funcționând în mod fiabil în afara mediilor de cercetare?

O provocare în răspunsul la această întrebare este că termenul “model al lumii” este folosit destul de liber, și înțelesul său tinde să se schimbe în funcție de context. O definiție simplă a unui model al lumii este că ele permit unui agent să simuleze starea sa curentă și mediu, și să prezică stările viitoare, și să raționeze despre consecințele în aval. Cercetătorii tind să clasifice modelele lumii într-un mod mai granular, pe baza metodelor lor de reprezentare și prelucrare. Există modele ale lumii latente, care distilează “esenta” unui mediu într-un spațiu compact și focalizat. Există modele generative ale lumii care “înțeleg” fizica pentru a crea reprezentări vizuale cadru cu cadru, și există arhitecturi predictiv-embedate conjuncte (JEPA) care prezic rezultate din acțiuni trecute.

Modelele lumii latente sunt deja folosite în afara laboratorului de cercetare și asistă în aplicații precum conducerea autonomă, operațiunile de depozit, operațiunile industriale și agricultura. Modelele generative ale lumii apar în crearea de date sintetice pentru dezvoltarea de motoare de joc, pentru cazuri de utilizare a vehiculelor autonome, cazuri de utilizare a inteligenței artificiale încorporate pentru simularea mișcărilor umane în video, și pentru a crea renderări arhitecturale,

Abordarea JEPA, favorizată de personalități din industrie precum Yan LeCun, prezice rezultate într-un spațiu de reprezentare abstractă, în loc de a genera pixeli. Roboții au fost în mare măsură limitați la medii controlate, dar JEPA schimbă acest lucru, permițând roboților să se deplaseze către setări deschise și din lumea reală. Vehiculele autonome sunt un exemplu bun – unele utilizează Genie 3 pentru a genera simulări hiper-realiste și interactive pentru antrenament și pentru a gestiona mai bine evenimente rare, cum ar fi zonele de construcție.

Este evident că mai există multe teste de siguranță și fiabilitate necesare pentru a scala aceste modele dincolo de medii sandboxate și în lumea reală.

În ceea ce privește organizațiile, unde vă așteptați ca modelele lumii să aducă valoare semnificativă pentru prima dată, fie în robotică, sisteme de decizie autonomă, gemene digitale sau în medii de afaceri mai abstracte?

Intuiția mea este că gemenele digitale sunt probabil să aducă valoare practică pentru prima dată. Replicarea stării unui sistem din lumea reală, astfel încât putem testa scenarii înainte de a acționa. De exemplu, într-un sistem de lanț de aprovizionare, un producător poate construi o gemene a rețelei sale de parteneri de componente. Simularea poate fi alimentată de date de la senzori, jurnale, date de telemetrie și poate răspunde la întrebări precum “Ce s-ar întâmpla dacă Strâmtoarea Hormuz ar fi închisă?” Astfel, putem testa rerutarea transporturilor înainte de a schimba logisticile reale. Acest lucru ne ajută să trecem de la monitorizarea unui sistem live la simularea unui sistem live.

Valoarea semnificativă a modelelor lumii pentru robotică se mișcă în paralel. Având roboți care înțeleg proprietățile fundamentale ale fizicii, cum ar fi frecarea pe o suprafață atunci când ridică un obiect, va da un impuls puternic implementării inteligenței artificiale încorporate.

Multă vreme, cariera dvs. s-a concentrat pe colectarea, anotarea și validarea seturilor de date. Cum se schimbă provocările de date atunci când trecem de la antrenamentul static de text la învățarea sistemelor cum se comportă lumea în timp?

Situația colectării de date pentru a permite modelele lumii necesită o schimbare majoră față de metodele de antrenament ale modelelor de limbaj mare de ieri. În primul rând, nu avem o cantitate enormă de date de pre-antrenament disponibile, petabytes de la Common Crawl și miliarde de pagini web. Unii cercetători din domeniul roboticilor au speculat că avem doar 1/1000 din datele necesare pentru a antrena inteligența fizică și modelele lumii, pentru a ajunge la un punct de performanță echivalent cu, să zicem, GPT2.

Deci, va dura ceva timp pentru a construi aceste seturi de date. În cazul inteligenței artificiale încorporate, vom avea nevoie de milioane de ore de seturi de date multisenzoriale și egocentrice, anotate. Unele vor fi teleoperate, altele din medii sintetice precum Isaac Sim. La TELUS Digital, am făcut schimbarea de la text la seturi de date multimodale și multisenzoriale și seturi de date de simulare. Desigur, suntem ajutați de experiența noastră puternică în colectarea de date și anotare în domeniul viziunii computaționale. Am fost în fruntea acestui domeniu de mulți ani.

Pe lângă raritatea datelor de pre-antrenament și a datelor de antrenament fin, vor exista și alte provocări de antrenament în scalarea învățării prin întărire. Pot fi necesare noi paradigme transformaționale (fără a face un joc de cuvinte) precum GPT și concepte de învățare prin întărire pentru a accelera întreruperile de eficiență în metodele de antrenament ale modelelor lumii.

Modelele lumii influențează deciziile, mai degrabă decât doar generarea de ieșiri. Ce riscuri noi de siguranță sau guvernanță introduc acestea, în comparație cu sistemele de inteligență artificială generativă?

Există multe riscuri de siguranță și guvernanță, deoarece modelele lumii sunt în mod inerent destinate să susțină operațiuni agențice. Toate preocupările pe care le avem despre generația actuală de agenți de inteligență artificială încă se aplică în scenariul modelelor lumii. Avem nevoie de supraveghere umană pentru toate deciziile importante, fie că este vorba de siguranța transportului, siguranța ocupațională, sănătate, finanțe și activități zilnice.

Un exemplu specific modelelor lumii este “lacuna sim-to-real”. O variație microscopică a suprafeței poate face lumea reală murdară pentru roboți care sunt bine antrenați în simulare.

Un alt risc se referă la comportamentul uman. Pe măsură ce sistemele devin din ce în ce mai autonome, oamenii vor începe să se bazeze puternic pe ele, și supravegherea poate deveni leneșă, și în cele din urmă sistemul nu va primi recalibrările necesare.

Bias-ul și încrederea rămân bariere majore pentru adoptarea inteligenței artificiale. Cum evoluează aceste preocupări atunci când sistemele de inteligență artificială încep să modeleze și să acționeze în medii complexe reale sau sociale?

De la publicul larg la nivelul C-suite, încrederea în modelele de inteligență artificială este deja foarte scăzută și nu cred că se va schimba prea mult în perioada scurtă.

Preocupările cu privire la puterea inteligenței artificiale concentrată în prea puține mâini, cu privire la inteligența artificială care ia locul locurilor de muncă, cu bias-ul în inteligența artificială care pune grupurile subreprezentate în dezavantaj, modelele care iau decizii care afectează sănătatea, cariera și finanțele cuiva, modelele care utilizează proprietate intelectuală fără consimțământ, precum și preocupările cu privire la inteligența artificială deepfake, sunt deja foarte mari. Executivii se tem de gestionarea tranzițiilor forței de muncă, a confidențialității datelor și a conformității regulatorii, și de a pierde teren în fața concurenților într-o “cursă a înarmării” a inteligenței artificiale.

Dezvoltările recente din știri despre presiunea guvernamentală asupra constructorilor de modele de inteligență artificială fundamentale pentru a relaxa termenii de utilizare cu privire la lucruri precum armele autonome sau supravegherea în masă nu fac decât să amplifice aceste preocupări. Implementarea mai largă a roboților mai deștepți și mai autonomi, bazate pe modelele lumii, va face același lucru.

Pe de altă parte, vedem pungi de adoptare și încredere larg răspândite în inteligența artificială. Un exemplu este modul în care agenții de codare au decolat în ultimele luni. Managerii de dezvoltare de software au o încredere ridicată în agenții de codare, și există o schimbare fundamentală în modul în care se face dezvoltarea de software, de la dezvoltarea de PRD până la testarea de regresie post-lansare. Lumea dezvoltării de software evoluează cu viteza luminii, și multe dintre acestea se datorează încrederii în agenții de codare de înaltă performanță. Pe măsură ce încrederea utilizatorilor crește în alte cazuri de utilizare, mă aștept ca adoptarea să decoleze într-un mod similar.

Soluțiile pentru construirea încrederii includ seturi de date diverse și medii în fazele de antrenament, și testarea extinsă și testarea de stres ca o barieră de siguranță înainte de implementare. Supravegherea regulatorie proactivă este, de asemenea, esențială. Unii au sugerat că constructorii de modele de inteligență artificială fundamentale ar trebui să fie obligați să furnizeze “Raporturi de impact societal” similare cu Rapoartele de impact asupra mediului (EIR), înainte de a lansa noi modele.

La TELUS Digital, multă muncă implică implementarea inteligenței artificiale la scară pentru întreprinderi reale și utilizatori reali. Cum se intersectează idei precum modelele lumii cu preocupări practice, cum ar fi transparența, impactul asupra forței de muncă și menținerea încrederii clienților?

Pentru a clarifica, TELUS Digital lucrează atât direct cu constructorii de modele de inteligență artificială fundamentale, cât și cu întreprinderile care implementează modele de inteligență artificială. Domeniul nostru de activitate este de la capăt la capăt:

Întrebarea cu privire la preocupările practice este legată de întrebarea anterioară cu privire la încredere. Să aruncăm o privire asupra încrederii forței de muncă. Pe măsură ce sistemele de inteligență artificială bazate pe modelele lumii devin mai omniprezente, executivii trebuie să fie transparenți cu angajații, contractanții și clienții lor. Comunicările clare sunt necesare cu privire la ce sunt modelele bune, cum au fost antrenate, ce date au fost utilizate pentru antrenament, ce barieri de siguranță au fost puse în aplicare și unde se află supravegherea umană. Liderii întreprinderilor trebuie să arate forței de muncă actuale valoarea noilor modele, de exemplu, făcând toată munca de rutină într-un loc de muncă. Și trebuie să arate căile de tranziție pentru lucrătorii afectați care ar putea trece la noi locuri de muncă emergente, pe măsură ce locurile de muncă anterioare sunt din ce în ce mai mult făcute de sistemele de inteligență artificială bazate pe modelele lumii. Lucrătorii de birou se confruntă cu acest lucru în timp real, și multe locuri de muncă manuale vor fi afectate în anii următori, pe măsură ce automatizarea bazată pe modelele lumii se extinde.

Există o creștere a decalajului dintre ceea ce înțeleg cercetătorii și ceea ce percepe publicul. Cum pot organizațiile să comunice avansurile precum modelele lumii într-un mod care să construiască încredere, fără a exagera capacitățile lor?

Din nou, acest lucru se reduce la transparență cu privire la limitările modelelor și la ceea ce sunt modelele bune. Comunicarea modului în care modelele au fost antrenate pentru a mitiga posibilele bias-uri. Ce supraveghere umană este în aplicare. Câteva demonstrații din lumea reală ale capacităților modelului și ale cazurilor de utilizare, împreună cu studii longitudinale, pot merge mult în creșterea încrederii publice și a forței de muncă.

În cele din urmă, ce este o concepție greșită comună despre modelele lumii, fie prea optimistă, fie prea precaută, pe care credeți că trebuie corectată acum?

În măsura în care publicul este informat despre modelele lumii, o concepție greșită este că modelele lumii au nevoie să înțeleagă toată fizica și știința pentru a fi eficiente. Modelele lumii vor fi implementate mai devreme decât s-ar putea crede, deoarece cazurile de utilizare individuale pot fi îngustate. Un vehicul autonom are nevoie doar să înțeleagă dinamica traficului și fizica legată de drumuri, și cum condițiile actuale (de exemplu, fiind lângă o școală primară sau o prezență a SUV-urilor cu siluete înalte) vor afecta viziunea și luarea deciziilor. Un vehicul autonom nu are nevoie de fizica care stă la baza modului în care se face o suflé pentru a funcționa.

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe, li se recomandă să viziteze TELUS Digital.