Ajatusjohtajat

Taktiset vaiheet onnistuneen GenAI PoC:n luomiseksi

mm
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa

Proof of Concept (PoC) -projektit ovat uuden teknologian testausalue, ja Generative AI (GenAI) ei ole poikkeus. Mitä onnistunut GenAI PoC todella tarkoittaa? Yksinkertaisesti sanottuna, onnistunut PoC on sellainen, joka siirtyy sujuvasti tuotantoon. Ongelma on, että teknologian uutuuden ja nopean kehityksen vuoksi useimmat GenAI PoC:t keskittyvät ennen kaikkea tekniseen toteutettavuuteen ja mittareihin, kuten tarkkuuteen ja palautuskykyyn. Tämä kapea keskittyminen on yksi tärkeimmistä syistä, miksi PoC:t epäonnistuvat. McKinsey-tutkimus osoitti, että vaikka neljännes vastaajista oli huolissaan tarkkuudesta, monet kamppailivat yhtä paljon turvallisuuden, selittämisen, älyomaisuuden hallinnan ja sääntelyyn liittyvien ongelmien kanssa. Lisäämällä yleisiä ongelmia, kuten heikkoa datan laatua, skaalautuvuuden rajoituksia ja integraatio-ongelmia, on helppo ymmärtää, miksi niin monet GenAI PoC:t eivät pääse eteenpäin.

Hyppy hypestä: GenAI PoC:n todellisuus

GenAI:n omaksuminen on selvästi kasvamassa, mutta PoC:n todellinen onnistumisprosentti on edelleen epäselvä. Raportit tarjoavat erilaisia tilastoja:

  • Gartner ennustaa, että vuoden 2025 loppuun mennessä vähintään 30 % GenAI-projekteista hylätään PoC-vaiheen jälkeen, mikä tarkoittaa, että 70 % voi päästä tuotantoon.
  • Avanaden tutkimus (mainittu RTInsights) osoitti, että 41 % GenAI-projekteista on jumissa PoC-vaiheessa.
  • Deloitten tammikuun 2025 The State of GenAI in the Enterprise -raportti arvioi, että vain 10-30 % PoC:ista skaalautuu tuotantoon.
  • IDC:n tutkimus (mainittu CIO.com) osoitti, että keskimäärin vain 5/37 PoC:sta (13 %) pääsee tuotantoon.

Arviot vaihtelevat 10 %:n ja 70 %:n välillä, mutta todellinen onnistumisprosentti on todennäköisesti lähempänä alempaa päätä. Tämä korostaa, että monet organisaatiot kamppailevat PoC:n suunnittelussa, jolla on selkeä polku skaalautumiseen. Matala onnistumisprosentti voi tyhjentää resursseja, heikentää innostusta ja jarruttaa innovaatiota, mikä johtaa siihen, mitä usein kutsutaan “PoC-uupumukseksi”, jossa tiimit tuntevat olevansa jumiutuneita ajamassa pilottiprojekteja, jotka eivät koskaan pääse tuotantoon.

Siirtyminen hukkaan menevistä ponnisteluista

GenAI on edelleen varhaisessa vaiheessa omaksumisensa elinkaaren suhteen, samoin kuin pilvilaskenta ja perinteinen AI ennen sitä. Pilvilaskenta kesti 15-18 vuotta saavuttaakseen laajan hyväksynnän, kun taas perinteinen AI tarvitsi 8-10 vuotta ja on edelleen kasvamassa. Historiallisesti AI:n omaksuminen on seurannut buumi-busti-kiertoa, jossa alkuvaiheen jännitys johtaa liioiteltuihin odotuksiin, jotka seuraavat haasteiden ilmaantua, ennen kuin ne lopulta vakiintuvat mainstream-käyttöön. Jos historia on opettava, GenAI:n omaksuminen kohtaa omat ylänousunsa ja alamäkensä.

Navigoidaksesi tämän kierron tehokkaasti organisaatioiden on varmistettava, että jokainen PoC on suunniteltu skaalautuvuuden kannalta, välttäen yleisiä ansaita, jotka johtavat hukkaan meneviin ponnisteluihin. Tunnistamalla nämä haasteet, johtavat teknologia- ja konsultointifirmat ovat kehittäneet rakenteellisia kehyksiä auttamaan organisaatioita siirtymään kokeilusta GenAI-alustoja skaalauttavasti.

Tämän artikkelin tavoitteena on täydentää näitä kehyksiä ja strategisia ponnisteluja esittämällä käytännöllisiä, taktisia askelia, jotka voivat merkittävästi lisätä todennäköisyyttä siitä, että GenAI PoC siirtyy testaamisesta todelliseen vaikutukseen.

Avain taktiset vaiheet onnistuneen GenAI PoC:n luomiseksi

1. Valitse käyttötapa, jolla on tuotantoon suuntautuva tavoite

Ensisijaisesti valitse käyttötapa, jolla on selkeä polku tuotantoon. Tämä ei tarkoita kattavaa, koko yrityksen GenAI-valmiuden arviointia. Sen sijaan arvioi jokaista käyttötapausta yksilöllisesti tekijöiden, kuten datan laatu, skaalautuvuus ja integraatiovaatimukset, perusteella ja priorisoi niitä, joilla on suurin todennäköisyys päästä tuotantoon.

Muutamia muita avainkysymyksiä, jotka on syytä ottaa huomioon valitessa oikea käyttötapa:

  • Onko minun PoC:ni linjassa pitkän aikavälin liiketoimintatavoitteiden kanssa?
  • Voidaanko vaadittua dataa käyttää laillisesti?
  • Onko selviä riskejä, jotka estävät skaalautumisen?

2. Määritä ja sovella menestystekijöistä ennen käynnistystä

Yksi suurimmista syistä, miksi PoC:t jumiutuvat, on se, että niillä ei ole hyvin määriteltyjä mittareita menestyksen mittaamiseksi. Ilman vahvaa linjaa tavoitteissa ja odotuksissa tuotannon kannalta, jopa teknisesti kestävät PoC:t voivat kamppailla saadakseen tuotannon hyväksynnän. Arvioida ROI ei ole helppoa, mutta tässä ovat joitakin suosituksia:

  • Kehitä tai omaksu kehys, kuten tämä.
  • Käytä kustannuslaskureita, kuten tätä OpenAI API -hinnan laskuria ja pilvipalveluntarjoajien laskureita arvioimaan kustannuksia.
  • Sijaitsi yksittäisen kohdearvon sijaan kehittääksesi ROI-arvion, joka perustuu todennäköisyyksiin ja ottaa huomioon epävarmuuden.

Tässä on esimerkki siitä, miten Uberin QueryGPT -tiimi arvioi teksti-SQL GenAI-työkalun potentiaalista vaikutusta.

3. Mahdollista nopea kokeilu

GenAI-sovellusten rakentaminen on kaiken kaikkiaan kokeilua, joka vaatii jatkuvaa iterointia. Valitessasi teknologiapinoa, arkkitehtuuria, tiimiä ja prosesseja, varmista, että ne tukevat tätä iteratiivista lähestymistapaa. Valinnat tulee mahdollistaa kevyt kokeilu, aina hypoteesien luomisesta ja testaamisesta aina datan keräämiseen, tuloksien analysointiin, oppimiseen ja parantamiseen.

  • Harkitse pienten ja keskisuurten palveluntarjoajien palkkaamista kokeilun nopeuttamiseksi.
  • Valitse vertailukohtia, arviointeja ja arviointikehyksiä alusta alkaen varmistaaksesi, että ne ovat linjassa käyttötapaasi ja tavoitteidesi kanssa.
  • Käytä tekniikoita, kuten LLM-as-judge tai LLM-as-Juries, automaattisen (puoliautomaattisen) arvioinnin mahdollistamiseksi.

4. Pyri matalan kitkan ratkaisuihin

Matalan kitkan ratkaisu vaatii vähemmän hyväksyntöjä ja siten kohtaa vähemmän tai ei lainkaan vastustusta omaksumisen ja skaalautumisen suhteen. GenAI:n nopea kasvu on johtanut työkalujen, kehysten ja alustojen räjähdysmäiseen kasvuun, joiden tarkoituksena on kiihdyttää PoC:itä ja tuotannon käyttöönottoja. Kuitenkin monet näistä ratkaisuista toimivat mustina laatikoina, jotka vaativat IT-, lakisen, turvallisuuden ja riskienhallinnan tiimien tarkkaa tarkastelua. Osoittautuaksesi näihin haasteisiin ja sujuvoittamaan prosessia, harkitse seuraavia suosituksia matalan kitkan ratkaisun luomiseksi:

  • Luo omistajatielle tiemerkintä: Harkitse omistajatielle tiemerkinnän luomista, jolla käsitellään yhteistyökumppaneiden tiimien huolenaiheita ja hyväksyntöjä.
  • Käytä ennalta hyväksyttyjä teknologiapinoja: Kun mahdollista, käytä teknologiapinoja, jotka on jo hyväksytty ja käytössä, jotta voidaan välttää viiveitä hyväksynnässä ja integroinnissa.
  • Keskitä olennaisiin työkaluihin: Varhaiset PoC:t eivät yleensä vaadi mallin hienosäätöä, automaattista palautetta tai laajaa havainnointia/SRE:ä. Sen sijaan priorisoi työkaluja perustehtäviin, kuten vektoroinnille, upottamisille, tietämyspalveluille, esteille ja UI-kehitykselle.
  • Käytä matalan koodin/ ilman koodin työkaluja varovasti: Vaikka nämä työkalut voivat kiihdyttää aikatauluja, niiden musta laatikko -luonne rajoittaa mukautumis- ja integroimismahdollisuuksia. Käytä niitä varovasti ja harkitse niiden pitkän aikavälin vaikutuksia.
  • Osoita turvallisuuden huolenaiheita aikaisin: Toteuta tekniikoita, kuten synteettisen datan luomista, PII-datan maskaamista ja salaamista, osoittamaan turvallisuuden huolenaiheita proaktiivisesti.

5. Kokoamalla lean- ja yrittäjämäinen tiimi

Kuten minkä tahansa projektin kohdalla, oikean tiimin olemassaolo, jolla on tarvittavat taidot, on kriittinen menestykselle. Teknisen asiantuntemuksen lisäksi tiimisi on oltava myös joustava ja yrittäjämäinen.

  • Harkitse mukaan ottamista tuotejohtajia ja aihekohtaisia asiantuntijoita (SME), jotta varmistat, että ratkaat oikean ongelman.
  • Varmista, että sinulla on sekä full-stack-kehittäjiä että koneoppimisen insinöörejä tiimissä.
  • Vältä palkkaamista vain PoC:lle tai lainaamista sisäisistä resursseista muista korkeampien prioriteettien ja pitkäaikaisten projekteista. Sen sijaan harkitse pienten ja keskisuurten palveluntarjoajien palkkaamista, jotka voivat tuoda oikean osaamisen nopeasti.
  • Upotetaan kumppanit lakitoimistosta ja turvallisuudesta päivästä 1 alkaen.

6. Priorisoi myös ei-toiminnalliset vaatimukset

Onnistuneen PoC:n kannalta on tärkeää määritellä selkeät ongelman rajat ja kiinteä joukko toiminnallisia vaatimuksia. Ei-toiminnalliset vaatimukset eivät kuitenkaan saa jääda huomiotta. Vaikka PoC:n on oltava keskittynyt ongelman rajojen sisällä, sen arkkitehtuuri on suunniteltava korkean suorituskyvyn saavuttamiseksi. Tarkemmin sanottuna, millisekuntien viiveen saavuttaminen ei välttämättä ole välittömästi välttämätöntä, mutta PoC:n on oltava kykenevä skaalautumaan sujuvasti, kun beetakäyttäjät laajenevat. Valitse modulaarinen arkkitehtuuri, joka on joustava ja työkaluista riippumaton.

7. Laadi suunnitelma hallitsemaan harhaluuloja

Harhaluulot ovat välttämättömiä kielineuvotteluissa. Siksi esteet ovat kriittisiä GenAI-ratkaisujen vastuulliselle skaalauttamiselle. Arvioi kuitenkin, tarvitaanko automaattisia esteitä PoC-vaiheessa ja mihin asti. Sen sijaan, että joko ohitetaan tai yli-insinööritaan esteitä, havaitse, koska mallisi harhaluulee ja merkitse ne PoC-käyttäjille.

8. Omaksu tuotteen ja projektin hallinnan parhaiden käytäntöjen

Tämä XKCD -kuvka on sovellettavissa PoC:lle yhtä lailla kuin tuotantoon. Ei ole yhtä kaiken kattavaa pelikirjaa. Kuitenkin omaksumalla parhaiden käytäntöjen projektin- ja tuotteen hallinnasta voidaan saavuttaa sujuvampaa etenemistä.

  • Käytä kanban- tai agile-menetelmiä taktisen suunnittelun ja toteutuksen kannalta.
  • Tallenna kaikki.
  • Pidä scrum-of-scrumeja yhteistyökumppaneiden tiimien kanssa.
  • Pitäkää sidosryhmät ja johto ajan tasalla edistymisestä.

Johtopäätös

Onnistuneen GenAI PoC:n suorittaminen ei ole vain teknisen toteutettavuuden osoittamista, vaan se on arvio perustavanlaatuisista valinnoista pitkän aikavälin kannalta. Valitsemalla oikean käyttötapaustavan, määrittelemällä menestystekijät, mahdollistamalla nopean kokeilun, minimoiden kitkaa, kokoamalla oikea tiimi, huomioimalla sekä toiminnalliset että ei-toiminnalliset vaatimukset ja suunnittelemalla haasteiden, kuten harhaluulojen, hallitsemiseksi, organisaatiot voivat parantaa merkittävästi mahdollisuuksiaan siirtyä PoC:stä tuotantoon.

Sanottakoon, että tässä artikkelissa esitetyt vaiheet eivät ole kattavia, eikä jokainen suositus sovellu jokaiseen käyttötapaan. Jokainen PoC on yksilöllinen, ja avain menestykseen on sovittaa näitä parhaita käytäntöjä sopimaan yrityksesi tarkoituksiin, teknisiin rajoituksiin ja sääntelyympäristöön.

Vahva visio ja strategia ovat olennaisia GenAI:n omaksumiselle, mutta ilman oikeita taktisia askelia, jopa parhaimmat suunnitelmat voivat tyrehtyä PoC-vaiheessa. Toteutus on se, missä suuret ideat joko onnistuvat tai epäonnistuvat, ja selkeän, rakenteellisen lähestymistavan avulla varmistetaan, että innovaatio kääntyy todelliseksi vaikutukseksi.

Lokesh on erikoistunut AI/ML- ja generatiivisen tekoälystrategian, kehityksen ja innovaation kehittämiseen. Hän on LatentView Analyticsin generatiivisen tekoälyosaston johtaja.