Tilfældet for at decentralisere din AI-teknologi-stack

Så meget af diskussionen om AI-udvikling er blevet domineret af en futuristisk og filosofisk debat – skal vi nærme os generel kunstig intelligens, hvor AI vil blive avanceret nok til at udføre enhver opgave på samme måde som et menneske? Er det overhovedet muligt?

Mens diskussionen om acceleration versus deceleration er vigtig og aktuel med fremgang som Q-star-modellen, er der også andre aspekter, der er vigtige. Især vigtigheden af at decentralisere din teknologi-stack og hvordan man gør det uden at gøre det for dyrt. Disse to udfordringer kan føles modsatrettede: at bygge og implementere modeller er utrolig dyrt, men at afhænge for meget af en enkelt model kan være skadeligt på længere sigt. Jeg kender denne udfordring personligt som AI-grundlægger.

For at bygge intelligens har du brug for talent, data og skalerbar beregning. For at accelerere tid til markedet og gøre mere med mindre, vil mange virksomheder vælge at bygge på eksisterende modeller i stedet for at bygge fra bunden. Og denne tilgang giver mening, når det du bygger er så ressourcekrævende. Denne udfordring forværres af, at modsat software, er de fleste af fremgangen inden for AI hidtil blevet opnået ved at tilføje mere skala, hvilket kræver mere beregningskraft og derfor omkostninger.

Men hvad sker der, når virksomheden, som du har bygget din løsning på, oplever en ledelsesmæssig fejl eller et produktfejl? Fra et praktisk synspunkt betyder det, at du er en del af en negativ effekt for alt, der sker.

Vi skal også huske på risikoen ved at arbejde med systemer, der er probabilistiske. Vi er ikke vant til det, og verden, vi lever i, er indtil nu blevet designet til at fungere med en definitiv besked. Modeller er flydende i forhold til output, og virksomheder justerer konstant modellerne, hvilket betyder, at koden, du har skrevet til at understøtte disse, og resultaterne, dine kunder er afhængige af, kan ændre sig uden din viden eller kontrol.

Centralisering skaber også sikkerhedsproblemer, fordi det introducerer en enkelt fejlkilde. Hver virksomhed arbejder i sin egen bedste interesse. Hvis der er en sikkerheds- eller risikoproblem med en model, har du mindre kontrol over at løse problemet eller mindre adgang til alternativer.

Hvor bringer det os?

AI er uden tvivl gået til at forbedre, hvordan vi lever. Der er så meget, det kan opnå og løse, fra hvordan vi indsamler information til, hvordan vi forstår store mængder data. Men med denne mulighed følger også risiko. Hvis vi afhænger for meget af en enkelt model, åbner alle virksomheder sig op for både sikkerheds- og produktudfordringer.

For at løse dette, har vi brug for at bringe omkostningerne ved slutledning ned og gøre det lettere for virksomheder at have en multi-model-tilgang. Og naturligvis handler alt om data. Data og ejerskab af data vil være vigtigt. Jo mere unik, høj kvalitet og tilgængelig dataen er, jo mere nyttig vil den være.

Til mange problemer kan du optimere modeller for en specifik anvendelse. Den sidste mile af AI er virksomheder, der bygger rute-logik, evalueringer og orkestreringslag på toppen af disse forskellige modeller, specialiserer dem til forskellige vertikaler.

Der har været flere betydelige investeringer i dette område, der bringer os tættere på dette mål. Mistals seneste (og imponerende) finansieringsrunde er en lovende udvikling mod en OpenAI-alternativ. Der er også virksomheder, der hjælper andre AI-udbydere med at gøre cross-model-multiplexing til virkelighed og reducerer slutledningsomkostninger via specialiseret hardware, software og model-destillation, som få eksempler.

Vi vil også se open-source tage af, og regeringsorganer må aktivere open-source for at blive åben. Med open-source-modeller er det lettere at have mere kontrol. Men performancespringene er stadig der.

Jeg antager, at vi ender i en verden, hvor du vil have junior-modeller, der er optimeret til at udføre mindre komplekse opgaver i stor skala, mens større super-intelligente modeller vil fungere som orakler for opdateringer og vil tilbringe mere tid på at løse mere komplekse problemer. Du har ikke brug for en trillion-parametrer-model til at svare på en kundeservice-anmodning. Jeg ligner det med ikke at have en senior eksekutiv ledere en opgave, som en praktikant kan håndtere. Ligesom vi har flere roller for menneskelige modparte, vil de fleste virksomheder også afhænge af en samling af modeller med forskellige niveauer af sofistikation.

For at opnå denne balance har du brug for en klar opgaveafbrydning og benchmarking, hvor du tager hensyn til tid, beregningskompleksitet, omkostninger og den nødvendige skala. Afhængigt af brugsfaldet kan du prioritere derefter. Bestem en grundsandhed, en ideal udgangspunkt for sammenligning, og et eksempel på input- og outputdata, så du kan køre forskellige prompts for at optimere og få den nærmeste udgangspunkt til grundsandheden.

Hvis AI-virksomheder kan decentralisere deres teknologi-stack og bygge på multiple modeller, kan vi forbedre sikkerheden og pålideligheden af disse værktøjer og dermed maksimere den positive effekt af AI. Vi er ikke længere på et sted for teoretiske debatter – det er tid til at fokusere på, hvordan vi kan bruge AI til at gøre disse teknologier mere effektive og robuste.