KI-agenter vs. copiloter vs. arbeidsflyter: Hva er forskjellen?

KI-copiloter hjelper en person, KI-arbeidsflyter følger en forhåndsdefinert prosess, og KI-agenter avgjør hvordan de skal gå fram for å nå et mål. Alle tre kan bruke de samme underliggende modellene og verktøyene, men de fordeler beslutningsmyndigheten på ulike måter.

Begrepene brukes ofte upresist, noe som skaper urealistiske forventninger og svak styring. Et produkt som kalles en «agent», kan være en arbeidsflyt med et chatgrensesnitt; en copilot kan utføre handlinger; og en arbeidsflyt kan inneholde et agentbasert trinn. Det nyttige spørsmålet handler ikke om betegnelsen, men om hvem som velger veien videre, hvem som godkjenner handlingen, og hvor forutsigbart systemet må være.

Kort fortalt

Hva er en KI-copilot?

En copilot hjelper en person med å utføre en oppgave, samtidig som personen fortsatt er den viktigste beslutningstakeren. Den kan oppsummere et dokument, skrive et kodeutkast, foreslå et svar, forklare en feil eller anbefale neste trinn. Brukeren gjennomgår resultatet og avgjør om det skal brukes.

Det som kjennetegner en copilot, er samspillet – ikke et bestemt grensesnitt. En copilot kan bruke skrivebeskyttede verktøy eller klargjøre et forslag til handling, men holder vanligvis personen tett på beslutningen og utførelsen.

Copiloter fungerer godt når menneskelig kontekst er avgjørende, feil kan få store konsekvenser eller ønsket resultat er subjektivt. De reduserer arbeidsinnsatsen uten at systemet må løse hele oppgaven på egen hånd.

Hva er en KI-arbeidsflyt?

En KI-arbeidsflyt er en sekvens av trinn der rutingen i stor grad er definert på forhånd. Noen trinn kan bruke en modell – for eksempel til å klassifisere en innkommende forespørsel, hente ut felt eller skrive et sammendrag – men det er koden som avgjør hvordan prosessen går fra ett trinn til det neste.

En arbeidsflyt for kundestøtte kan klassifisere en sak, hente kontodata, generere et utkast, kontrollere at det følger retningslinjene og legge resultatet i en kø for gjennomgang. Modellen kan produsere variert innhold, samtidig som den overordnede prosessen forblir forutsigbar.

Anthropics veiledning om å bygge effektive agenter bruker dette skillet: Arbeidsflyter samordner språkmodeller og verktøy gjennom forhåndsdefinerte kodebaner, mens agenter styrer sin egen prosess og bruk av verktøy dynamisk.

Hva er en KI-agent?

En agent får et mål og har frihet til å velge hvilke trinn som trengs for å nå det. Den kan velge verktøy, lage eller revidere en plan, reagere på observasjoner, rette opp enkelte feil og fortsette til den når et stoppkriterium.

En forskningsagent kan for eksempel avgjøre hvilke kilder den skal søke i, finne kunnskapshull, endre søkene sine, sammenligne dokumentasjon og utarbeide en rapport med kildehenvisninger. Utvikleren spesifiserer ikke hvert enkelt søk eller det nøyaktige antallet trinn på forhånd.

Agenter er nyttige når omgivelsene varierer, og det ikke er mulig å forutse hele handlingsforløpet. Den samme fleksibiliteten gjør dem mindre deterministiske enn arbeidsflyter.

Skillet er glidende

En arbeidsflyt kan inneholde et agentbasert trinn, og en agent kan bruke en deterministisk arbeidsflyt som et verktøy. En agent kan for eksempel avgjøre at en kunde kvalifiserer for vurdering av refusjon, mens en fast arbeidsflyt validerer bestillingen, beregner det tillatte beløpet og sender den endelige beslutningen videre til en autorisert medarbeider. Det gir ofte bedre systemer å kombinere disse mønstrene enn å velge én merkelapp for hele produktet.

Produkter i den virkelige verden kombinerer disse mønstrene. En copilot kan inneholde en agent som utfører en avgrenset deloppgave. En arbeidsflyt kan sende et uvanlig tilfelle videre til en agent. En agent kan støtte seg på deterministiske arbeidsflyter for sensitive operasjoner.

Det er mer presist å beskrive graden og omfanget av autonomi:

• Forslag: Systemet foreslår innhold eller en beslutning; en person handler.
• Utkast til handling: Systemet klargjør en endring; en person godkjenner den.
• Avgrenset utførelse: Systemet handler automatisk innenfor et snevert og reversibelt omfang.
• Adaptiv utførelse: Systemet velger trinn og verktøy innenfor fastsatte retningslinjer.
• Delegert drift: Systemet håndterer omfattende arbeid og eskalerer unntak.

Ulike trinn i samme produkt kan befinne seg på forskjellige nivåer.

Slik skiller disse systemene seg fra tradisjonell automatisering

Tradisjonell automatisering følger uttrykkelige regler og deterministisk logikk. Robotisert prosessautomatisering kan gjenskape klikk og dataregistrering i kjente grensesnitt. En arbeidsflyt kan kombinere slik automatisering med modellbaserte trinn. En agent utøver skjønn når den velger selve fremgangsmåten.

Bruk av modeller gjør ikke automatisk et system agentbasert. En planlagt prosess som sender hvert dokument gjennom en fast instruks for oppsummering, er fortsatt en arbeidsflyt.

Hvilken tilnærming bør du velge?

Tenk deretter over hvor mye som står på spill. En agent for forskning med begrenset påvirkning kan utføre mange trinn før den blir kontrollert, mens en økonomisk eller administrativ agent bør stanse ved definerte beslutningspunkter. Betegnelsen på arkitekturen avgjør ikke hvor trygt systemet er; det gjør tillatelsene, muligheten til å gjøre handlinger om og graden av tilsyn som er knyttet til hver handling.

Velg en copilot når:

• brukeren har viktig kontekst som systemet ikke kan fange opp fullt ut;
• kvaliteten er subjektiv eller krever faglig skjønn;
• oppgaven forekommer sjelden, innebærer høy risiko eller er vanskelig å evaluere automatisk;
• innføringen avhenger av at folk får hjelp til å forstå og kontrollere resultatet.

Velg en arbeidsflyt når:

• trinnene og beslutningspunktene er kjent;
• konsistens, etterprøvbarhet og hastighet er viktigere enn fleksibilitet;
• forretningsreglene kan uttrykkes og testes direkte;
• prosessen håndterer store volumer med et begrenset antall typer unntak.

Velg en agent når:

• målet er tydelig, men veien dit varierer;
• systemet må innhente informasjon og reagere på det det finner;
• valg av verktøy og ny planlegging skaper betydelig verdi;
• suksess kan måles, og feil kan begrenses;
• den ekstra kostnaden og forsinkelsen rettferdiggjøres av verdien av oppgaven.

Et praktisk eksempel: Håndtering av en IT-hendelse

En copilot oppsummerer logger, foreslår sannsynlige årsaker og viser en ingeniør diagnostiske kommandoer.

En arbeidsflyt følger en driftsprosedyre: samler inn kjente måledata, starter en tjeneste på nytt under definerte forhold, kontrollerer at den fungerer som den skal, og oppretter en sak hvis kontrollen mislykkes.

En agent undersøker en ukjent hendelse, avgjør hvilke telemetridata som skal inspiseres, formulerer hypoteser, kjører godkjent diagnostikk, oppdaterer planen sin og forbereder eller gjennomfører et tiltak innenfor sitt fullmaktsområde.

Et modent system kan bruke alle tre: En arbeidsflyt håndterer vanlige varsler, en agent undersøker unntak i et sandkassemiljø, og en copilot hjelper ingeniøren med å godkjenne den endelige endringen i produksjonsmiljøet.

Avveininger mellom kostnad og pålitelighet

Kostnadene øker med antallet modellrunder, verktøykall, nye forsøk og evaluerere. Påliteligheten kan utvikle seg i begge retninger: Flere kontroller kan fange opp feil, men flere trinn gir også flere muligheter for at noe går galt. Mål det samlede resultatet av oppgaven på tvers av gjentatte kjøringer, i stedet for å anta at mer autonomi eller flere agenter automatisk gir bedre ytelse.

Copiloter trenger ofte færre autonome trinn, men krever menneskelig oppmerksomhet. Arbeidsflyter krever mer planlegging i forkant, men er effektive i stor skala. Agenter kan redusere behovet for manuell koordinering i komplekse oppgaver, men hvert planleggingstrinn, verktøykall, nye forsøk og hver verifisering øker forsinkelsen og kostnadene.

Påliteligheten påvirkes også. En arbeidsflyt kan enhetstestes ved kjente forgreninger. En agent kan følge ulike forløp i gjentatte kjøringer. Evaluering av agenter krever derfor representative oppgaver, flere forsøk, inspeksjon av forløpene og tydelige vurderingskriterier, slik det beskrives i Anthropics veiledning for å avmystifisere evaluering av agenter.

Styringen bør følge funksjonene, ikke merkevaren

Organisasjoner bør kartlegge hva systemet faktisk kan gjøre: hvilke data det kan lese, hvilke verktøy det kan bruke, hvilke beslutninger det kan ta, om det kommuniserer eksternt, og hvilke handlinger som kan omgjøres.

En «copilot» som har tillatelse til å sende meldinger eller endre oppføringer, trenger kontroller for disse handlingene. En «agent» som er begrenset til forskning i et sandkassemiljø, kan innebære mindre operasjonell risiko. Navn er markedsføring; det er fullmaktene som er avgjørende.

Slik leser du diagrammene over AI-agenter

Les diagrammene over AI-agenter fra det nummererte inndataelementet mot det observerbare resultatet. Sammenligningen isolerer grensen som skiller AI-agenter fra den nærmeste snarveien, mens kontrollbanen viser hvor fullmakter eller usikkerhet må kontrolleres før det får konsekvenser i den virkelige verden. Etikettene er vanlig responsiv sidetekst, slik at de kan oversettes, brytes over flere linjer og tilpasses på nytt på en telefon.

For «AI-agenter vs. copiloter vs. arbeidsflyter: Hva er forskjellen?» er illustrasjonen et kart, ikke en garanti. En reell implementering kan kombinere trinn, gjenta et trinn eller legge inn en grense der et menneske må godkjenne. Det viktige er om teamet kan identifisere de samme funksjonene i systemet som er satt i drift, utpeke en ansvarlig for hver grense og teste overgangen mellom dem. Hvis et trinn ikke kan observeres eller måles, blir det vanskelig å diagnostisere feil der.

Dette bør du huske om AI-agenter, copiloter og arbeidsflyter

Copiloter, arbeidsflyter og agenter er tre måter å fordele arbeid mellom mennesker, kode og modeller på. Med en copilot er det personen som sitter i førersetet. I en arbeidsflyt er det koden som styrer ruten. En agent har et avgrenset handlingsrom til å velge ruten.

Den beste løsningen er som regel systemet med minst autonomi som likevel leverer den nødvendige verdien på en pålitelig måte. Bruk fast kode for kjente trinn, modellbasert vurdering når noe faktisk er tvetydig, og menneskelig godkjenning når konsekvensene tilsier det.