Älä rakenna yrityksesi tekoälyä lainatun pääsyrän varaan

Kaikki tekoälysovellukset ja yrityssovellukset on rakennettu tähän asti oletuksella, että pääsyrän tekoälymallien käyttö on mahdollista ja lähes rajaton. Tämä oli oikea asenne, kunnes nyt. Trendi oli, että pääsyrän uudet ominaisuudet olivat kommodisoituneet tai avoimia 6 kuukauden kuluessa, ja siksi fokus oli vain tulevien ominaisuuksien ymmärtämisessä mahdollisimman aikaisin. Yritykset, tiimit tai ihmiset, jotka pystyivät rakentamaan tuotteita tarttumalla ja sopeutumalla uusiin pääsyrän ominaisuuksiin mahdollisimman aikaisin sovellusten luomiseksi, ovat voittaneet. Kuitenkin useat signaalit saattavat osoittaa, että tämä aikakausi loppuu pian. Yhdysvaltain kauppaministeriön päätös rajoittaa pääsyä Anthropicin Fable- ja Mythos-malleihin Yhdysvaltain kansalaisille oli vain ensimmäinen merkki. Kuitenkin tämä rajoitus purettiin myöhemmin yhteistyön kautta Anthropicin kanssa, osoittaen, miten nopeasti pääsyrän ehdot voivat muuttua ja miten yritysten on oltava valmiina muutoksiin.

Neljä syytä, miksi pääsyrän pääsy ei ole taattu

Asenne, jossa rakennetaan vain pääsyrän malleja, saattaa loppua, jos niiden saatavuus loppuu. On ainakin neljä syytä, miksi tämä saattaa tapahtua. Ensinnäkin, pääsyrän tekoälyn talous perustuu subsidioidulle hinnoitteluun, joka ei kestä. OpenAI:n ja Anthropicin listautumisvalmistelut ovat pakottaneet heidät avaamaan kirjanpitonsa ja paljastamaan tekoälypalvelujen todelliset kustannukset, jotka eivät välttämättä ole taloudellisesti kestäviä listautumisen jälkeen. huhuja on, että Anthropicin 200 dollarin yksityinen tilaus maksoi todellisuudessa useita tuhansia yritykselle. Siksi token-hintojen odotetaan nousevan, ja pääsyrän mallien edullisen pääsyrän aikakausi loppuu.

Toiseksi, pääsyrän mallit eivät ole halvempia ajaa. Toisin kuin klassinen laskenta, jossa Mooren laki vakaasti laski kustannuksia minkä tahansa operaation aikana, tekoäly ei vaikuta seuraavan tätä käyrää. Mallit ovat suurempia, mutta myös laskennallisesti vaativampia. Kaikki insinöörimme ovat loppuneet Claude-rahastosta 10 minuutin kuluttua (väliaikaisen) Fable 5:n julkaisun jälkeen. Tämä saattaa osoittaa, että seuraavat pääsyrän mallit vaativat enemmän symboleja, enemmän laskentaa ja enemmän infrastruktuuria jokaisen iteroinnin jälkeen.

Kolmanneksi, näyttää siltä, että vähemmän ja vähemmän toimijoita on todella mukana kilpailussa pääsyrän malleista. Mistral, joka oli Euroopan toivo kilpailla pääsyrän mallien kanssa, on tarkistanut ambitsioitaan olla vaatimaton seuraaja. Kiinalaiset mallit ovat nopeita seuraajia, mutta jäävät edelleen jälkeen johtavien laboratorioiden parhaiden julkaisuista.

Neljänneksi, pääsyrän mallit saattavat olla liian vaarallisia käytettäviksi jokaisessa sovelluksessa. Emme käytä miniaturisoituneita ydinreaktoreita autoissa, osittain siksi, että tämä ala on voimakkaasti säädelty ja se on vaarallista. Anthropicin omat kokeet osoittavat, että on erittäin vaikea pitää pääsyrän mallia kurissa, jotta se säilyy vaarattomana ja sen ominaisuudet säilyvät. Tämä saattaa olla pitkäaikainen todellinen opetus ja perustelu Yhdysvaltain sääntelylle Fable 5:lle. Joka tapauksessa on erittäin todennäköistä, että pääsyrän mallit kohdellaan strategisina varoina valtioiden taholta ja eivät ole yhtä vapaasti saatavilla kuin ne ovat nyt.

Siksi saattavat olla menossa maailmaan, jossa token-kustannukset merkitsevät ja pääsyrän mallit eivät ole saatavilla kaikille sovelluksille kaikissa maissa.

Sovelluskerros astuu esiin

Maailmassa, jossa ei jokainen mallikutsu mene parhaimpaan saatavilla olevaan malliin, miten voimme vielä taata, että jokainen tehtävä ratkaistaan luotettavasti ja parhaalla mahdollisella suorituskyvyllä? Vastaus saattaa olla niin kutsutussa “sovelluskerroksessa”.

NVIDIA:n toimitusjohtaja Jensen Huang kuvasi tekoälyä 5 kerroksen kakuna: energia, piirit, tietokeskukset, mallit ja sovellukset. Hän väittää, että sovelluskerros on sekä tärkein että se, joka on edelleen puuttuva.

Joillekin sovelluksille, kuten chatboteille, tämä kerros on erittäin ohut – vain chat-rajapinta. Toisissa, kuten edistyneissä teollisissa ja insinööritoimissa, se on paljon tärkeämpi ja kriittisempi. Se on määräävä kerros arvoketjussa. Koska pääsyrän mallien saatavuus ei ole enää taattu, sovelluskerroksen rooli on yhdenmukaistaa lopputulos malleja ja pitää token-kustannukset hallinnassa.

Konkreettisesti, jos haluan suorittaa monimutkaisen, kriittisen tehtävän, kuten uudelleen suunnittelun valmistusketjua uudelle lentokonemallille, pyydän voimakasta pääsyrän mallia auttamaan minua. Malli saattaa pystyä ratkaisemaan, miten tehdä se yksin, rakentaa suunnittelutyökalun minulle ja viestittää lopputuloksen kaikille tiimeilleeni. Kuitenkin, jos vaihdan mallia parempaan, halvempaan tai toisen toimittajan malliin, saattanen menettää suorituskyvyn tai yhdenmukaisuuden lopputuloksessa. Monissa käytännön tapauksissa yrityssovelluksissa tämä epävarmuus ei ole hyväksytty. Tässä on sovelluskerroksen kriittinen rooli: sen sijaan, että malli toimisi avoimessa tilassa ja riippuisi sen raakaparantumisesta, sovelluskerros määrittää selkeän kankaan, rajoitetun joukon käytettävissä olevia toimintoja ja määritellyn raja-arvon, jossa se voi toimia. Malli ei enää pyydetä ratkaisemaan kaikkea alusta, se saa hyvin määritellyn kankaan, joka parantaa todennäköisyyttä, että mikä tahansa malli toimii hyvin.

Kustannuksiltaan mallini saattaa myös päättää suorittaa erittäin matalatason toiminnot saavuttaakseen tavoitteensa. Se saattaa kirjoittaa uudelleen suunnittelualgoritmin alusta, rakentaa uuden käyttöliittymän minulle visualisoida työtään tai jopa kehittää uuden optimointiratkaisun. Mutta tämä saattaa olla erittäin token-kalliita, kun taas hyvät ohjeet tai valmiit työkalut voivat auttaa mallia saavuttamaan saman lopputuloksen vähemmällä tokenilla. Tämä on sovelluskerroksen rooli. Hyvä uutinen on, että mallit ovat laiskoja ja etsivät lyhyempiä polkuja, joten emme tarvitse rajoittaa niitä liikaa, kunhan niillä on oikea joukko taitoja, työkaluja ja laskentaresursseja.

Lyhyesti, hyvä sovelluskerros tarjoaa selkeät taidot, työkalut ja ohjeet mallille toimia luotettavasti ja kustannustehokkaasti. Lisäksi parantamalla suorituskykyä ja hallitsemalla token-kustannuksia, se myös tarkoittaa, että riippuvuus tietystä mallista vähenee. Jos upotat älykkyyden sovelluskerrokseen eikä itse malliin, malli itse tulee vaihdettavaksi. Monissa tapauksissa se saattaa olla se, mikä tekee eron kokeellisen ja skaalautuvan yritysten tekoälyn välillä.

Kutsu toimintaan yritysjohtajille

Yritysten johtajat tapaavat jokapäiväisesti yritysjohtajia, jotka pyrkivät perustamaan tekoälynsä. Useimmat yritykset aloittavat yhdellä tai useammalla pääsyrän mallitoimittajalla perustamaan tarvittavan mallikerroksensa. Sovelluskerrokselle he luottavat joko itse rakennettuihin työkaluihin, täysin ostettuihin kykyihin tai molempien yhdistelmään.

Anthropicin kielto oli muistutus siitä, että tämä kerros voidaan häiritä yhdessä yössä. Yritysten arkkitehtuureiden on oltava valmiina, kun se tapahtuu jälleen. Valmistautuakseen yritysten on otettava huomioon käyttöönoton nopeus, mutta myös rakennettava ratkaisuja, jotka lieventävät mallin muutosten vaikutuksia sekä kasvavia token-kustannuksia. Se ei ole helppo polku, mutta neuvoni olisi:

• Investoi sovelluskerroksesi strategisesti ja aikaisin. Yritykset, jotka jäävät junan alle, aina tulevat olemaan aikaisempien omaksujien jäljessä
• Tee malliriippumattomuudesta suunnitteluperiaatteen, ei hätäratkaisun
• Mallin vaihtamisen kustannuksien ei pitäisi olla olemassaolokysymys operaatioissasi
• Yhteistyö erikoistuneiden yritysten kanssa, jotka voivat benchmarkkia malleja, validoida suorituskykyä useissa asetelmissa ja auttaa varmistamaan pitkän aikavälin suorituskykyn takuu.

Yritykset, jotka voittavat pelin seuraavassa yritysten tekoälyvaiheessa, eivät välttämättä ole niitä, joilla on pääsy parhaimpiin malleihin, vaan ne, jotka ovat rakentaneet oikean kerroksen niiden ympärille. yritykset, jotka voivat benchmarkkia malleja, validoida suorituskykyä useissa asetelmissa ja auttaa varmistamaan pitkän aikavälin suorituskyvyn takuu. Nämä yritykset ovat ne, jotka voittavat pelin seuraavassa yritysten tekoälyvaiheessa.