Ajatusjohtajat

Tekoälyn orkestrointitekniikan nousu

Andrew Filev
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
A cinematic, wide-angle shot of a technical professional sitting at a futuristic curved workstation in a dark data center, orchestrating a complex digital workflow displayed on glowing holographic glass panels.
Keskeiset kohdatKolmen hengen OpenAI-tiimi toimitti miljoona riviä Codexin kautta kirjoittamatta yhtään…
Näytä lisää
  • Kolmen hengen OpenAI-tiimi toimitti miljoona riviä Codexin kautta kirjoittamatta yhtään koodia käsin.
  • Tekoälyn orkestrointitekniikka yhdistää DevOps-arkkitehtuurin ja tekoälyosaamisen yhdeksi keskitetyksi rooliksi.
  • Organisaatiot, jotka keskittävät agenttityönkulkuja, saavuttavat kaksinkertaisen suorituskyvyn, kun taas muut jäävät automaattitäydennyksen tasolle.

Kymmenkertaisesti tuottava 10x-insinööri on ollut Piilaakson myytti vuosikymmeniä: yksinäinen nero, joka kuulokkeet päässä tuottaa valtavasti eleganttia koodia yli-inhimillisellä nopeudella. Olemme kiistelleet siitä, onko heitä olemassa ja miten heidät palkataan, sekä hiljaa paheksuneet jokaista, joka väittää kuuluvansa joukkoon.

Matkalla kohti tekoälyä ensisijaisesti hyödyntävää tulevaisuutta tapahtui kuitenkin jotakin kiinnostavaa: 10x-insinööristä tuli todellisuutta. Hän ei vain näytä lainkaan siltä kuin kuvittelimme.

OpenAI kertoi hiljattain, miten kolmen hengen tiimi toimitti Codexin avulla 1 500 muutospyyntöä ja noin miljoona riviä koodia kirjoittamatta käsin yhtäkään riviä. Kolme insinööriä ja nolla käsin kirjoitettua koodiriviä. Tuotantokäytössä oleva tuote, jolla on satoja sisäisiä käyttäjiä.

Se ei ole 10x vaan lähempänä 100x:ää. Tämän mahdollistanut taito ei ollut nopeampi kirjoittaminen tai useampien algoritmien tunteminen. Se oli tekoälyagentit tuottaviksi tekevän järjestelmän rakentaminen: työnkulut, suojarajat, varmennussilmukat sekä rajapinnat, joihin agentit liittyvät ja joiden kautta ihmiset tarkastavat työtä.

Uskon, että tässä on syntymässä uusi avaintoiminto ohjelmistokehitysorganisaatioihin. Kutsuisin sitä tekoälyn orkestrointitekniikaksi.

Kolme osaamisalaa saapuu päiväpalaveriin

Kun tarkastelee AI-orkestrointi-insinöörin työtä, siinä tunnistaa kolme tuttua osaamisalaa yhdistyneenä.

Ilmeisin ainesosa on DevOps. Se keskitti käyttöönottoputken: yksi tiimi määritti CI/CD-työnkulut, joita jokainen insinööri käytti toimittaessaan koodia. Tekoälyn orkestrointitekniikka tekee saman agenttien työnkuluille. Se määrittää tehtävien osoittamisen agenteille, tuotosten validoinnin sekä uudelleenyritykset ja varamenettelyt. Se on yhteinen infrastruktuuri, jolla agentit toimivat.

Seuraavaksi tulee arkkitehtuuri, joka limittyy DevOpsiin odotettua enemmän. Arkkitehdit päättävät, mitkä rajapinnat lukitaan, mitä malleja on noudatettava ja mitä rajoja ei saa ylittää. Agentteihin perustuvassa maailmassa tämä korostuu. Agentit tarvitsevat siistejä, hyvin dokumentoituja koodikantoja ja selkeitä sopimuksia. AI-orkestrointi-insinööri määrittää rajoitteet paitsi ihmisten luettavuutta myös agenttien ymmärrystä varten. Sotkuinen koodivarasto ei ole enää vain teknistä velkaa, vaan tuottavuuden yläraja jokaiselle sitä käyttävälle agentille.

Vähiten ymmärretty osa on tekoälyyn liittyvä kerros: kehotteiden suunnittelu, kontekstinhallinta, mallien valinta ja agenttien määritykset. Useimmat insinöörit tekevät tätä nyt hajanaisesti, tehtävä kerrallaan. Jokainen keksii oman kehotetyylinsä, agenttiasetuksensa ja kiertoratkaisunsa. AI-orkestrointi-insinööri keskittää tämän. Hän rakentaa yhteiset toimintamallit, uudelleenkäytettävät määritykset sekä organisaation tietämyksen siitä, mikä toimii ja mikä ei eri malleissa ja käyttötapauksissa.

Nämä kolme toimintoa ovat jo erikseen olemassa useimmissa ohjelmistokehitysorganisaatioissa. Väite on, että niiden yhdistäminen yhdeksi keskitetyksi rooliksi luo jotakin laadullisesti erilaista.

Showrunner-vertaus

Elokuvaohjaaja ei käytä kameraa, näyttele kohtauksissa eikä leikkaa materiaalia. Silti jokainen kuva heijastaa hänen päätöksiään.

Hän valitsee kuvasommittelun, rytmin ja sävyn. Hän päättää lähikuvasta ja laajasta kuvakulmasta. Hän järjestää ympäristön — valaistuksen, lavastuksen ja näyttelijöiden liikkeet — niin, että jokainen kuvausryhmän jäsen voi tehdä parhaansa yhtenäisen vision puitteissa. Ryhmän jäsenet ovat yksilöinä lahjakkaita, mutta ilman koordinointia tuloksena on sotku, joka ei koskaan valmistu.

Tekoälyn orkestrointitekniikka toimii samoin. Agentit ovat kyvykkäitä ja mallit tehokkaita. Mutta jos kukaan ei suunnittele niitä koordinoivaa järjestelmää, määritä rajoitteita, rakenna palautesilmukoita ja jäsennä työnkulkuja, saadaan tuttu lopputulos: epäjohdonmukaiset tuotokset, haaskattu laskentateho, ristikkäisiin tavoitteisiin pyrkivät agentit ja insinöörit, jotka käyttävät tekoälykoodin korjaamiseen enemmän aikaa kuin olisivat käyttäneet sen kirjoittamiseen itse.

Ohjaaja tekee elokuvasta osiensa summaa suuremman. AI-orkestrointi-insinööri tekee saman agenttijoukolle.

Miksi useimmat organisaatiot investoivat liian vähän

Näen alalla tämän: yritykset investoivat paljon tekoälytyökaluihin mutta aivan liian vähän niitä ympäröiviin järjestelmiin.

Insinöörit saavat käyttöönsä Copilotin, Clauden ja Codexin. He kokeilevat yksin. Jotkut kehittyvät tehokäyttäjiksi. Useimmat jäävät ”hienostuneen automaattitäydennyksen” tasolle. Tutkimusten jatkuvasti raportoimat 20 prosentin tuottavuushyödyt? Ne ovat oire työkalujen omaksumisesta ilman järjestelmätason ajattelua.

Läpimurtoon päässeillä organisaatioilla, jotka raportoivat vähintään kaksinkertaisesta läpimenevän työn määrästä, on jotakin yhteistä: ne ovat keskittäneet orkestrointityön. Joku tai jokin tiimi vastaa agenttien työnkuluista, koodivarastojen valmistelusta, varmennusinfrastruktuurista ja yhteisestä kontekstista, johon jokaisella agentilla on pääsy.

Miltä rooli käytännössä näyttää

AI-orkestrointi-insinöörin päivittäiseen työhön voisi kuulua:

  • Agenttien työnkulkujen suunnittelu: miten ominaisuuspyyntö etenee määrittelyksi, suunnitelmaksi, rinnakkaisiksi agenttitehtäviksi ja lopulta tarkastetuksi ja yhdistetyksi koodiksi.
  • Varmennusinfrastruktuurin rakentaminen: automaattiset testit, linttaussäännöt, tietoturvaskannaukset ja arviointikehykset, jotka agenttien työn on läpäistävä ennen yhdistämistä.
  • Koodivarastojen pitäminen agenttien käyttöön sopivina: dokumentaatio, selkeät rajapinnat, riippuvuuksien hallinta ja koodikannan yksinkertaistaminen, kaikki optimoituna agenttien ymmärrystä eikä vain ihmisten luettavuutta varten.
  • Kehote- ja kontekstistrategioiden keskittäminen: koko tiimin käyttämät yhteiset järjestelmäkehotteet, hakuputket, mallien reitityspäätökset ja määritysmallit.
  • Agenttien suorituskyvyn seuranta ja parantaminen: onnistumisasteiden, epäonnistumistapojen, tehtäväkohtaisten kustannusten ja koodin yhdistämiseen kuluvan ajan seuranta koko agenttijoukossa sekä järjestelmän säätäminen tiedon pohjalta.

Rooli sijoittuu alustatekniikan, ohjelmistoarkkitehtuurin ja tekoälyosaamisen risteykseen. Tämä henkilö ei kirjoita ominaisuuksia, vaan rakentaa järjestelmän, joka tekee niiden toimittamisesta nopeaa, luotettavaa ja skaalautuvaa.

Historiallinen kehityskulku

Pilvipalvelujen alkuaikoina käyttöönotto oli jokaisen insinöörin sivutehtävä. Jokaisella tiimillä oli omat skriptinsä, palvelinasetuksensa ja tapansa viedä koodia tuotantoon. DevOps syntyi keskittämään työn, ja alustatekniikka kehittyi tekemään siitä yhteistä itsepalveluinfrastruktuuria.

Tekoäly seuraa samaa kaarta. Agenttien käyttö on nyt jokaisen insinöörin sivutehtävä. Jokaisella on oma kehotetyylinsä, työkalumieltymyksensä ja käsityksensä siitä, milloin tekoäly auttaa ja milloin ei. Organisaatiot, jotka keskittävät tämän ja kohtelevat sitä infrastruktuurina yksilöllisten kokeilujen sijaan, etenevät muiden edelle samalla tavalla kuin kypsien DevOps-käytäntöjen organisaatiot ohittivat muut.

Ero on nopeudessa. DevOps-siirtymä vei vuosikymmenen. Tämä siirtymä saattaa viedä vain joitakin vuosineljänneksiä. Myönnän kuitenkin, että ennuste olettaa organisaatioiden tunnistavan kehityskulun tavallista nopeammin.

Tie eteenpäin

Ohjelmistokehityksen johtajalle ehdottaisin seuraavaa. Tulokset toki vaihtelevat sen mukaan, kuinka pitkällä tiimi jo on.

  1. Tunnista, kuka tekee työtä jo epävirallisesti. Jokaisessa organisaatiossa on joku, joka on selvittänyt agenttien työnkulut ja jolta muut pyytävät neuvoja kehotteisiin tai työkalujen asetuksiin. Hän on tulevan AI-orkestrointi-insinöörin esiaste.
  2. Tee toiminnosta selkeä. Anna sille nimi, toimivaltuus ja resurssit. Älä jätä sitä jonkun ”oikeaan” työhön liitetyksi sivuprojektiksi.
  3. Aloita koodivaraston valmiudesta. Ennen hienostuneisiin agenttityönkulkuihin investoimista varmista, että agentit pystyvät todella liikkumaan koodikannassa: selkeät rajapinnat, hyvä dokumentaatio, kattavat testit ja yksinkertaistettu arkkitehtuuri.
  4. Keskitä toimivat ratkaisut. Kun joku löytää agenttien tuotoksia huomattavasti parantavan kehotestrategian tai työnkulkumallin, tallenna se. Tee siitä koko tiimin oletus, älä yhden ihmisen päähän lukittua hiljaista tietoa.
  5. Mittaa järjestelmätasolla. Älä seuraa vain yksittäisten työkalujen käyttöä. Seuraa, kuinka monta tehtävää agentit hoitavat alusta loppuun, millaisia tarkastus- ja uudelleentyöstöasteet ovat ja missä pullonkaulat sijaitsevat.

Uusi 10x

10x-insinöörin myytti on aina ollut yksilösankaruutta: yksi henkilö päihittää muut pelkällä lahjakkuudella ja kofeiinilla.

Tekoälyaikakauden todellinen 10x-insinööri edustaa järjestelmäajattelua. Hän tekee kaikista muista insinööreistä ja jokaisesta agentista tuottavampia rakentamalla oikean infrastruktuurin, työnkulut ja rajoitteet.

Hän ei kirjoita kymmenkertaista määrää koodia. Hän rakentaa järjestelmän, joka kirjoittaa sen.

En ole varma, kiteytyykö rooli juuri tässä kuvaamallani tavalla. Olen kuitenkin melko varma, että orkestrointikerroksen ratkaisevat organisaatiot — kutsuivatpa ne sitä lopulta miksi tahansa — toteuttavat ne tuottavuushyödyt, joista muut vain puhuvat.

Andrew Filev on Zencoderin perustaja ja toimitusjohtaja. Hän muutti yhteistyöhön perustuvan työn hallinnan perustamalla Wriken (20 000+ asiakasta, myyty 2,25 miljardilla dollarilla), ja hänet on esitetty Forbesissa ja The New York Timesissa, ja hänen intohimonsa tekoälyyn ja innovaatioihin jatkaa työn tulevaisuuden muokkaamista.