Nu construiți inteligența dvs. artificială a întreprinderii pe acces împrumutat

Toate aplicațiile și implementările de inteligență artificială ale întreprinderilor au fost construite până acum cu presupunerea că accesul la modelele de inteligență artificială de frontieră va rămâne posibil și aproape nelimitat. Acesta a fost mentalitatea corectă, până acum. Tendința a fost că noile capacități ale modelelor de frontieră erau comodificate sau deschise într-un interval de 6 luni și, prin urmare, accentul a fost pus doar pe înțelegerea capacităților viitoare cât mai curând posibil. Companiile, echipele sau persoanele care au putut construi produse prin înțelegerea și adaptarea la noile capacități de frontieră cât mai curând posibil pentru a construi aplicații au fost cele care au câștigat. Cu toate acestea, mai multe semne pot indica că această eră se va încheia curând. Decizia Departamentului de Comerț al SUA de a restricționa accesul la modelele Fable și Mythos ale Anthropic pentru cetățenii americani a fost doar un prim semn. Cu toate acestea, această restricție a fost ridicată ulterior, după coordonarea cu Anthropic, arătând cât de rapid pot fi modificate condițiile de acces și necesitatea unor sisteme de inteligență artificială a întreprinderilor adaptabile.

Cele patru motive pentru care accesul la modelele de frontieră nu este garantat

Mentalitatea de a construi doar pentru modelele de frontieră poate înceta să fie cea corectă dacă disponibilitatea lor încetează să fie garantată. Există cel puțin patru motive pentru care acest lucru s-ar putea întâmpla. În primul rând, economia inteligenței artificiale de frontieră se bazează pe prețuri subvenționate care nu vor dura. Preparativele recente pentru IPO ale OpenAI și Anthropic i-au obligat să deschidă cărțile și au dezvăluit clar costul real al serviciilor de inteligență artificială sponsorizate actuale, care poate să nu fie viabil din punct de vedere economic după IPO. Există zvonuri că abonamentul privat de 200 de dolari oferit de Anthropic costă de fapt câteva mii de dolari pentru companie. Prin urmare, se așteaptă ca prețurile tokenului să continue să crească, iar era accesului ieftin la modelele de frontieră se va încheia.

În al doilea rând, modelele de frontieră nu devin mai ieftine de rulat. În contrast cu calculul clasic, unde Legea lui Moore a redus constant costul oricărei operațiuni date în timp, inteligența artificială nu pare să urmeze această curbă. Modelele devin mai mari, dar și mai intensive din punct de vedere computațional. Toți inginerii noștri și-au epuizat creditele Claude în 10 minute după lansarea temporară a lui Fable 5. Acest lucru poate sugera că următoarele modele de frontieră vor necesita mai multe tokenuri, mai multă putere de calcul și mai multă infrastructură cu fiecare iterație.

În al treilea rând, pare că tot mai puțini jucători rămân cu adevărat în cursa pentru modelele de frontieră adevărate. Mistral, care a fost odată speranța Europei de a concura pe arena globală a modelelor de frontieră, și-a revizuit ambițiile pentru a deveni un modest urmăritor. Modelele chinezești sunt urmăritori rapizi, dar continuă să rămână în urmă față de cele mai bune lansări ale laboratoarelor de top.

În cele din urmă, modelele de frontieră pot fi pur și simplu prea periculoase pentru a fi utilizate în orice aplicație. Nu utilizăm reactoare nucleare miniaturizate în mașini, parțial pentru că acest domeniu este puternic reglementat și este periculos. Experimentele proprii ale Anthropic arată că este foarte greu să ții un model de frontieră sub control pentru a se asigura că rămâne inofensiv, în timp ce își păstrează capacitățile. Acesta poate fi un adevărat lecție pe termen lung și rațiunea de bază din spatele reglementării SUA a lui Fable 5. În orice caz, este foarte probabil că modelele de frontieră vor fi tratate ca active strategice de către state și, prin urmare, nu vor fi la fel de disponibile ca în prezent.

Prin urmare, putem intra într-o lume în care costurile tokenului contează și în care modelele de frontieră nu sunt disponibile pentru toate aplicațiile din toate țările.

Intră stratul de aplicație

Într-o lume în care nu fiecare apel de model merge la cel mai bun model disponibil, cum putem garanta încă că fiecare sarcină este rezolvată în mod fiabil și cu cel mai bun nivel de performanță posibil? Răspunsul poate să se afle în așa-numitul „strat de aplicație”.

CEO-ul NVIDIA, Jensen Huang, a descris inteligența artificială ca o prăjitură cu 5 straturi: energie, cipuri, centre de date, modele și aplicații. El susține că stratul de aplicație este atât cel mai important, cât și cel care lipsește în mare măsură.

Pentru unele aplicații, cum ar fi chatbot-urile, acest strat este extrem de subțire – practic doar o interfață de chat. În altele, cum ar fi aplicațiile industriale și inginerești avansate, este mult mai important și critic. Acesta este stratul care determină lanțul de valori. Pe măsură ce accesul la un model de frontieră specific nu va mai fi garantat, rolul stratului de aplicație va fi să uniformizeze rezultatele pe modele și să țină sub control costurile tokenului.

În mod concret, dacă vreau să efectuez o sarcină complexă și critică, cum ar fi reproiectarea lanțului meu de producție pentru un nou model de avion, voi cere un model de frontieră puternic să mă ajute. Modelul poate fi capabil să descopere cum să o facă singur, să construiască un instrument de planificare pentru mine și să comunice rezultatul către toate echipele mele. Cu toate acestea, dacă schimb modelul cu unul mai capabil, mai ieftin sau de la un furnizor diferit, pot pierde performanța sau pot pierde coerența în rezultatul final. În multe cazuri practice din cadrul întreprinderilor, această imprevizibilitate nu este acceptabilă. Acesta este momentul în care rolul stratului de aplicație este critic: în loc să lăsăm modelul să opereze într-un spațiu deschis și să ne bazăm pe capacitățile sale brute pentru a produce rezultatul, stratul de aplicație definește o paletă clară, un set limitat de acțiuni disponibile și un perimetru definit în care poate opera. Modelul nu mai este solicitat să descopere totul de la zero, ci i se oferă o paletă bine definită care va crește semnificativ probabilitatea ca orice model să performeze bine.

Costurile, modelul meu poate decide să efectueze acțiuni de nivel scăzut pentru a-și atinge obiectivul. Poate rescrie un algoritm de planificare de la zero, construi o nouă interfață pentru mine pentru a vizualiza lucrările sale sau chiar dezvolta un nou solver de optimizare. Cu toate acestea, acest lucru poate fi incredibil de costisitor din punct de vedere al tokenului, în timp ce îndrumări bune sau unelte preconstruite pot ajuta modelul să atingă același rezultat cu mai puține tokenuri. Acesta este rolul stratului de aplicație. Vestea bună este că modelele tind să fie leneșe și să caute drumuri mai scurte, astfel că nu vom fi nevoiți să le constrângem prea mult odată ce are acces la setul corect de abilități, unelte și resurse de calcul.

În rezumat, un strat de aplicație bun va oferi abilități, unelte și îndrumări clare pentru model să opereze în mod fiabil și eficient din punct de vedere al costurilor. În plus față de îmbunătățirea performanței și controlul costurilor tokenului, acest lucru înseamnă și scăderea dependenței de un anumit model. Dacă încorporați inteligența în stratul de aplicație, în loc de a o face în modelul însuși, modelul subiacent devine interschimbabil. În multe cazuri, acesta poate face diferența dintre inteligența artificială experimentală și cea escalabilă a întreprinderii.

Apel la acțiune pentru liderii întreprinderilor

În toate industriile, ne întâlnim zilnic cu lideri de întreprinderi care lucrează pentru a-și stabili stiva de inteligență artificială. Cele mai multe companii încep cu unul sau mai multe furnizori de modele de frontieră pentru a-și stabili stratul necesar de modele în stivă. Pentru stratul de aplicație, ele se bazează fie pe unelte construite în interior, fie pe capacități cumpărate în totalitate, fie pe o combinație a ambelor.

Interdicția Anthropic a fost un reminder că această stivă poate fi perturbată peste noapte. Arhitecturile companiilor trebuie să fie gata pentru când se va întâmpla din nou. Pentru a fi pregătiți, companiile trebuie să ia în considerare viteza de implementare, dar și să construiască soluții care vor atenua efectele schimbărilor de model, precum și creșterea costurilor tokenului. Nu este un drum ușor, dar sfatul meu ar fi:

• Investiți strategic și devreme în stratul de aplicație. Companiile care lipsesc trenul vor avea întotdeauna o lacună în comparație cu cei care adoptă devreme
• Faceți ca agnosticizarea modelului să fie un principiu de proiectare, nu o soluție de urgență
• Costul schimbării modelului nu ar trebui să fie o întrebare existențială pentru operațiunile dvs.
• Parteneriați cu companii specializate care pot compara modele, valida performanța pe multiple configurații și ajuta la garantarea performanței pe termen lung.

Companiile care vor câștiga jocul în următoarea fază a inteligenței artificiale a întreprinderilor nu sunt neapărat cele care au acces la cele mai bune modele, ci cele care vor construi stratul corect în jurul lor. Companiile care pot compara modele, valida performanța pe multiple configurații și ajuta la garantarea performanței pe termen lung vor fi cele care vor câștiga.