Pași tactici pentru un PoC de succes al GenAI

Proiectele de demonstrare a conceptului (PoC) sunt terenul de testare pentru tehnologia nouă, iar Inteligența Artificială Generativă (GenAI) nu face excepție. Ce înseamnă de fapt succesul pentru un PoC GenAI? Simplu spus, un PoC de succes este acela care trece fără probleme în producție. Problema este că, din cauza noutății tehnologiei și a evoluției sale rapide, majoritatea PoC-urilor GenAI se concentrează în primul rând pe fezabilitatea tehnică și pe metrici precum precizia și rechemarea. Această concentrare îngustă este una dintre principalele motive pentru care PoC-urile eşuează. Un sondaj McKinsey a constatat că, în timp ce o pătrime dintre respondenți s-au îngrijorat de precizie, mulți au luptat la fel de mult cu securitatea, explicabilitatea, gestionarea proprietății intelectuale (IP) și conformitatea regulamentară. Adăugați probleme comune precum calitatea slabă a datelor, limitările de scalabilitate și durerile de integrare, și este ușor de înțeles de ce atâtea PoC-uri GenAI nu reușesc să progreseze.

Dincolo de senzație: Realitatea PoC-urilor GenAI

Adopția GenAI este clar în creștere, dar rata reală de succes a PoC-urilor rămâne neclară. Rapoartele oferă statistici variate:

• Gartner prezice că, până la sfârșitul anului 2025, cel puțin 30% din proiectele GenAI vor fi abandonate după etapa PoC, ceea ce implică faptul că 70% ar putea trece în producție.
• Un studiu al Avanade (citit în RTInsights) a constatat că 41% din proiectele GenAI rămân blocate în PoC.
• Raportul Deloitte din ianuarie 2025 The State of GenAI in the Enterprise estimează că doar 10-30% din PoC-uri vor ajunge la producție.
• O cercetare a IDC (citită în CIO.com) a constatat că, în medie, doar 5 din 37 de PoC (13%) ajung la producție.

Cu estimări care variază de la 10% la 70%, rata reală de succes este probabil mai aproape de capătul inferior. Acest lucru subliniază faptul că multe organizații se luptă să proiecteze PoC-uri cu un drum clar către scalare. Rata scăzută de succes poate epuiza resursele, poate stinge entuziasmul și poate stagna inovația, ducând la ceea ce se numește adesea “oboseală PoC”, în care echipele se simt blocate în a rula piloți care nu ajung niciodată la producție.

Depășirea eforturilor irosite

GenAI se află încă în stadiile incipiente ale ciclului de adopție, la fel ca calculul în nor și inteligența artificială tradițională înainte. Calculul în nor a necesitat 15-18 ani pentru a ajunge la adoptarea pe scară largă, în timp ce inteligența artificială tradițională a necesitat 8-10 ani și încă este în creștere. În mod istoric, adopția inteligenței artificiale a urmat un ciclu de boom și bust, în care entuziasmul inițial duce la așteptări supraevaluate, urmat de o încetinire atunci când apar provocări, înainte de a se stabiliza în utilizarea mainstream. Dacă istoria este vreo ghidare, adopția GenAI va avea propriile sale suișuri și coborâșuri.

Pentru a naviga eficient prin acest ciclu, organizațiile trebuie să se asigure că fiecare PoC este proiectat cu scalabilitatea în minte, evitând capcanele comune care duc la eforturi irosite. Recunoscând aceste provocări, firmele de tehnologie și consultanță de top au dezvoltat cadre structurate pentru a ajuta organizațiile să treacă dincolo de experimentare și să scaleze inițiativele GenAI cu succes.

Scopul acestui articol este de a completa aceste cadre și eforturi strategice prin prezentarea unor pași tactici practici care pot crește semnificativ probabilitatea ca un PoC GenAI să treacă de la testare la impact real în lumea reală.

Pași tactici cheie pentru un PoC de succes GenAI

1. Selectați un caz de utilizare cu producția în minte

Mai întâi și mai presus de toate, alegeți un caz de utilizare cu un drum clar către producție. Acest lucru nu înseamnă efectuarea unei evaluări cuprinzătoare a pregătirii GenAI la nivel de întreprindere. În schimb, evaluați fiecare caz de utilizare individual pe baza factorilor precum calitatea datelor, scalabilitatea și cerințele de integrare și prioritizați cele cu cea mai mare probabilitate de a ajunge la producție.

Câteva întrebări cheie suplimentare de luat în considerare la selectarea cazului de utilizare potrivit:

• Se aliniază PoC-ul meu cu obiectivele de afaceri pe termen lung?
• Poate fi accesat și utilizat legal datele necesare?
• Există riscuri clare care vor împiedica scalarea?

2. Definiți și aliniați metricile de succes înainte de începere

Unul dintre cele mai mari motive pentru care PoC-urile stagnează este lipsa metricilor de succes bine definite. Fără o aliniere puternică a obiectivelor și a așteptărilor ROI, chiar și PoC-urile tehnice solide pot lupta să obțină aprobarea pentru producție. Estimarea ROI nu este ușoară, dar iată câteva recomandări:

• Concepeți sau adoptați un cadru precum acesta.
• Utilizați calculatoare de costuri, precum acest instrument de preț OpenAI API și calculatoarele furnizorilor de cloud pentru a estima cheltuielile.
• În loc de o țintă unică, dezvoltați o estimare bazată pe interval cu probabilități pentru a lua în considerare incertitudinea.

Iată un exemplu de modul în care echipa QueryGPT de la Uber a estimat impactul potențial al instrumentului lor GenAI text-la-SQL.

3. Permiteți experimentarea rapidă

Construirea de aplicații GenAI este tot despre experimentare, necesitând iterare constantă. Atunci când selectați stiva dvs. tehnologică, arhitectura, echipa și procesele, asigurați-vă că acestea susțin abordarea iterativă. Alegerile ar trebui să permită experimentarea fără efort, de la generarea de ipoteze și rularea de teste până la colectarea de date, analiza rezultatelor, învățarea și rafinarea.

• Luați în considerare angajarea de furnizori de servicii mici și mijlocii pentru a accelera experimentarea.
• Alegeți benchmarks, evaluări și cadre de evaluare de la început, asigurându-vă că acestea se aliniază cu cazul dvs. de utilizare și obiectivele.
• Utilizați tehnici precum LLM-as-a-judge sau LLM-as-Juries pentru a automatiza (semi-automatiza) evaluarea.

4. Urmăriți soluții cu fricțiune redusă

O soluție cu fricțiune redusă necesită mai puține aprobări și, prin urmare, se confruntă cu mai puține sau deloc obiecții la adoptare și scalare. Creșterea rapidă a GenAI a condus la o explozie de unelte, cadre și platforme proiectate pentru a accelera PoC-uri și implementări de producție. Cu toate acestea, multe dintre aceste soluții funcționează ca cutii negre, necesitând o examinare riguroasă din partea echipelor IT, juridice, de securitate și de gestionare a riscurilor. Pentru a aborda aceste provocări și a simplifica procesul, luați în considerare următoarele recomandări pentru construirea unei soluții cu fricțiune redusă:

• Creați o hartă a drumului dedicată pentru aprobări: Luați în considerare crearea unei hărți a drumului dedicate pentru abordarea preocupărilor echipei partenerilor și obținerea aprobărilor.
• Utilizați stive tehnologice preaprobate: Ori de câte ori este posibil, utilizați stive tehnologice care sunt deja aprobate și în uz pentru a evita întârzierile în aprobare și integrare.
• Concentrați-vă pe unelte esențiale: PoC-urile inițiale nu necesită de obicei ajustarea modelului, bucle de feedback automate sau observabilitate/SRE extinsă. În schimb, prioritizați unelte pentru sarcini de bază precum vectorizarea, încorporarea, recuperarea cunoștințelor, bariera de protecție și dezvoltarea UI.
• Utilizați unelte cu cod redus/fără cod cu precauție: Deși aceste unelte pot accelera termenele, natura lor de cutie neagră limitează personalizarea și capacitățile de integrare. Utilizați-le cu precauție și luați în considerare implicațiile pe termen lung.
• Abordați preocupările de securitate de la început: Implementați tehnici precum generarea de date sintetice, mascarea datelor PII și criptarea pentru a aborda preocupările de securitate în mod proactiv.

5. Adunați o echipă lean, antreprenorială

Ca și în orice proiect, aveți nevoie de echipa potrivită cu abilitățile esențiale pentru a reuși. Dincolo de expertiza tehnică, echipa dvs. trebuie să fie și agilă și antreprenorială.

• Luați în considerare includerea managerilor de produs și a experților în domeniu (SME) pentru a vă asigura că rezolvați problema potrivită.
• Asigurați-vă că aveți atât dezvoltatori full-stack, cât și ingineri de învățare automată în echipă.
• Evitați angajarea specifică pentru PoC sau împrumutarea de resurse interne de la proiecte cu prioritate mai mare și pe termen lung. În schimb, luați în considerare angajarea de furnizori de servicii mici și mijlocii care pot aduce talentul potrivit rapid.
• Încorporați parteneri din domeniul juridic și securității de la început.

6. Prioritizați cerințele nefuncționale, de asemenea

Pentru un PoC de succes, este crucial să stabiliți limite clare de problemă și un set fix de cerințe funcționale. Cu toate acestea, cerințele nefuncționale nu ar trebui să fie neglijate. În timp ce PoC-ul ar trebui să rămână concentrat în limitele problemei, arhitectura sa trebuie să fie proiectată pentru o performanță ridicată. Mai specific, atingerea unei latențe de milisecunde poate să nu fie o necesitate imediată, cu toate acestea, PoC-ul ar trebui să fie capabil să se scaleze fără efort pe măsură ce utilizatorii beta se extind. Optați pentru o arhitectură modulară care rămâne flexibilă și agnostică față de unelte.

7. Concepți un plan pentru a gestiona halucinațiile

Halucinațiile sunt inevitabile cu modelele de limbaj. Prin urmare, bariera de protecție este critică pentru a scala soluții GenAI în mod responsabil. Cu toate acestea, evaluați dacă bariera de protecție automată este necesară în etapa PoC și în ce măsură. În loc de a ignora sau de a supraingenia bariera de protecție, detectați când modelele dvs. halucinează și le semnalați utilizatorilor PoC.

8. Adoptați cele mai bune practici de gestionare a proiectelor și produselor

Această ilustrație XKCD se aplică PoC-urilor la fel ca și producției. Nu există un plan de joc care se potrivește tuturor. Cu toate acestea, adoptarea celor mai bune practici din gestionarea proiectelor și a produselor poate ajuta la simplificarea și realizarea progresului.

• Utilizați metode kanban sau agile pentru planificarea și executarea tactică.
• Documentați totul.
• Organizați scrum-of-scrums pentru a colabora eficient cu echipele partenere.
• Țineți stakeholderii și conducerea informată cu privire la progres.

Concluzie

Rularea unui PoC GenAI de succes nu se rezumă doar la demonstrarea fezabilității tehnice, ci și la evaluarea alegerilor fundamentale pe termen lung. Prin selectarea atentă a cazului de utilizare potrivit, alinierea metricilor de succes, permiterea experimentării rapide, minimizarea fricțiunii, adunarea echipei potrivite, abordarea atât a cerințelor funcționale, cât și a celor nefuncționale și planificarea provocărilor precum halucinațiile, organizațiile pot îmbunătăți semnificativ șansele de a trece de la PoC la producție.

Cu toate acestea, pașii prezentati mai sus nu sunt exhaustivi, și nu toate recomandările se vor aplica la fiecare caz de utilizare. Fiecare PoC este unic, și cheia succesului constă în adaptarea acestor practici excelente pentru a se potrivi cu obiectivele dvs. de afaceri specifice, constrângerile tehnice și peisajul regulamentar.

O viziune puternică și o strategie sunt esențiale pentru adopția GenAI, dar fără pașii tactici potriviți, chiar și cele mai bine întocmite planuri pot stagna în etapa PoC. Execuția este locul în care ideile excelente fie reușesc, fie eşuează, și avea o abordare structurată clară asigură că inovația se traduce în impact real în lumea reală.