Hva holder kvantecomputing for generativ AI?

Generativ AI, som for eksempel store språkmodeller (LLM) som ChatGPT, opplever en utenforliggende vekst, som vist i en nylig undersøkelse av McKinsey Global. Disse modellene, designet for å generere diversifisert innhold som tekst, visuelt innhold, lyd og andre former for innhold, finner anvendelser i helsevesen, utdanning, underholdning og bedrifter. Likevel er de omfattende fordelene med generativ AI ledsaget av betydelige økonomiske og miljømessige utfordringer. For eksempel medfører ChatGPT en daglig kostnad på 100 000 dollar, og understreker den økonomiske belastningen forbundet med disse modellene. Utenom økonomiske bekymringer er miljøpåvirkningen betydelig, ettersom trening av en generativ AI-modell som LLM utsteder omtrent 300 tonn CO2. Utenom trening medfører også anvendelse av generativ AI en betydelig energietterspørsel. For eksempel er det rapportert at generering av 1000 bilder med en generativ AI-modell som Stable Diffusion har en karbonavtrykk som tilsvarer å kjøre 4,1 mil i en gjennomsnittlig bil. Ifølge en rapport bidrar datasentre som støtter generativ AI til 2-3% av de globale drivhusgassutslippene.

Å håndtere generativ AI-utfordringer

Disse utfordringene stammer hovedsakelig fra de parameterintensive arkitekturer av generativ AI, som inkorporerer milliarder av parametre trent på omfattende datasett. Denne treningsprosessen avhenger av kraftfulle maskiner som GPUer eller TPUs, spesifikt optimalisert for parallell prosessering. Mens denne spesialiserte maskinvaren forbedrer effektiviteten i trening og anvendelse av generativ AI-modeller, medfører den også betydelige utgifter relatert til produksjon, vedlikehold og energibehov for å drive denne maskinvaren.

Således pågår det nå anstrengelser for å forbedre den økonomiske levedyktigheten og bærekraften av generativ AI. En fremtredende strategi innebærer nedskalering av generativ AI ved å redusere de omfattende parameterne i disse modellene. Likevel reiser denne tilnærmingen bekymringer om potensielle påvirkninger på funksjonalitet eller ytelse av generativ AI-modeller. En annen avenue som undersøkes, innebærer å håndtere flaskenakker i tradisjonelle datasystemer brukt for generativ AI. Forskere utvikler aktivt analoge systemer for å overvinne Von Neumann-bottleneck, som skiller prosessering og minne, og medfører betydelige kommunikasjonskostnader.

Utenom disse anstrengelsene, finnes det et mindre utforsket område som innebærer utfordringer innenfor det klassiske digitale datamaskinparadigmet brukt for generativ AI-modeller. Dette inkluderer representasjon av komplekse data i binærtall, som kan begrense nøyaktighet og påvirke beregninger for trening av store generative AI-modeller. Mer viktig er at den sekvensielle prosesseringen av det digitale datamaskinparadigmet introduserer flaskenakker i parallellisme, som resulterer i forlenget trenings tid og økt energiforbruk. For å håndtere disse utfordringene, oppstår kvantecomputing som et kraftfullt paradigme. I de følgende seksjonene, utforsker vi kvantecomputing-prinsipper og deres potensiale for å håndtere problemer i generativ AI.

Å forstå kvantecomputing

Kvantecomputing er et fremvoksende paradigme som tar inspirasjon fra partiklers atferd på de minste skalaer. I klassisk datamaskin, prosesseres informasjon ved hjelp av biter som eksisterer i en av to tilstander, 0 eller 1. Kvantecomputere, derimot, utnytter kvantebiter eller qubits, som kan eksistere i flere tilstander samtidig – et fenomen kjent som superposisjon.

For å forstå forskjellen mellom klassisk og kvantecomputing, forestill deg en klassisk datamaskin som en lysbryter, der den kan være enten på (1) eller av (0). Nå, forestill deg en kvantecomputer som en lysskifter som kan eksistere i flere posisjoner samtidig, representere flere tilstander. Denne evnen tillater kvantecomputere å utforske ulike muligheter samtidig, og gjør dem unikt kraftfulle for bestemte typer beregninger.

I tillegg til superposisjon, utnytter kvantecomputing en annen grunnleggende prinsipp – sammenfletting. Sammenfletting kan betraktes som en mystisk forbindelse mellom partikler. Hvis to qubits blir sammenflettet, vil endring av tilstanden til en qubit umiddelbart påvirke tilstanden til den andre, uavhengig av den fysiske avstanden mellom dem.

Disse kvanteegenskapene – superposisjon og sammenfletting – muliggjør kvantecomputere å utføre komplekse operasjoner parallelt, og tilbyr en betydelig fordel over klassisk datamaskin for bestemte problemer.

Kvantecomputing for levedyktig og bærekraftig generativ AI

Kvantecomputing har potensialet for å håndtere utfordringer i kostnad og bærekraft av generativ AI. Treningsprosessen for generativ AI-modeller innebærer justering av tallrike parametre og prosessering av omfattende datasett. Kvantecomputing kan muliggjøre samtidig utforsking av flere parameterkonfigurasjoner, potensielt akselererende trening. I motsetning til digital datamaskin, som er utsatt for tidsflaskenakker i sekvensiell prosessering, tillater kvantesammenfletting parallell prosessering av parameterjusteringer, og betydelig forhaster trening. I tillegg kan kvanteinspirerte tekniker som tensornettverk komprimere generative modeller, som transformatorer, gjennom “tensorisering“. Dette kunne kutte kostnader og karbonavtrykk, og gjøre generative modeller mer tilgjengelige, muliggjøre distribusjon på kantedevicer, og forbedre komplekse modeller. Tensoriserte generative modeller komprimerer ikke bare, men forbedrer også prøve kvalitet, og påvirker generativ AI-problemløsning.

I tillegg, kvantemaskinlæring, en fremvoksende disiplin, kunne tilby nye data-manipulasjonsmetoder. Videre kan kvantecomputere tilby den nødvendige beregningskraften for komplekse generative AI-oppgaver, som simulering av store virtuelle miljøer eller generering av høyoppløselig innhold i sanntid. Derfor holder integrering av kvantecomputing løftet for å fremme generativ AI-kapasiteter og effektivitet.

Utfordringer i kvantecomputing for generativ AI

Selv om de potensielle fordelene med kvantecomputing for generativ AI er løftende, krever det å overvinne betydelige utfordringer. Utviklingen av praktiske kvantecomputere, avgjørende for sømløs integrering i generativ AI, er fortsatt i sine tidlige faser. Stabiliteten til qubits, fundamentale for kvanteinformasjon, er en formidabel teknisk utfordring på grunn av deres skjørhet, og gjør det vanskelig å opprettholde stabile beregninger. Å håndtere feil i kvantesystemer for nøyaktig AI-trening introduserer ytterligere kompleksitet. Mens forskere bekjemper disse hindrene, er det optimisme for en fremtid hvor generativ AI, drevet av kvantecomputing, bringer transformasjonelle endringer til ulike industrier.

Bunnen av saken

Generativ AI kjemper med kostnad og miljømessige bekymringer. Løsninger som nedskalering og å håndtere flaskenakker er i gang, men kvantecomputing kunne oppstå som en kraftfull kur. Kvantecomputere, som utnytter parallellisme og sammenfletting, tilbyr løftet om å akselerere trening og optimalisere parameterutforsking for generativ AI. Utfordringer i stabil qubit-utvikling består, men pågående kvantecomputing-forskning antyder transformasjonelle løsninger.

Mens praktiske kvantecomputere fortsatt er i sine tidlige faser, forblir deres potensiale for å revolusjonere effektiviteten av generativ AI-modeller høyt. Fortsatt forskning og fremgang kunne åpne veien for banebrytende løsninger på de komplekse utfordringene som generativ AI stiller.