Taskukokoinen Tehokone: Esittelyssä Microsoftin Phi-3, Kielimalli joka Mahtuu Puhelimeen

Nopeasti kehittyvässä tekoälyalanalla, jossa trendi on usein ollut suurempien ja monimutkaisempien mallien suuntaan, Microsoft (MSFT ) on omaksunut erilaisen lähestymistavan Phi-3 Mini -mallissaan. Tämä pieni kielimalli (SLM), joka on nyt kolmannessa sukupolvensa, pakkaa suurempien mallien vahvat ominaisuudet kehykseen, joka sopii älypuhelinten tiukkojen resurssirajoitusten sisään. 3,8 miljardilla parametrilla Phi-3 Mini vastaa suurempien kielimallien (LLM) suorituskykyä eri tehtävissä, kuten kieliprosessoinnissa, päättelyssä, koodauksessa ja matematiikassa, ja on suunniteltu tehokkaaseen toimintaan mobiililaitteilla kvantisaation kautta.

Haasteet Suurten KieliMallien Kehittämisessä

Microsoftin Phi-kielimallien kehittäminen on vastaus suurten kielimallien asettamiin merkittäviin haasteisiin, jotka vaativat enemmän laskentakapasiteettia kuin mitä kuluttajalaitteissa yleensä on saatavilla. Tämä suuri vaatimus monimutkaistaa niiden käyttöä standarditietokoneilla ja mobiililaitteilla, aiheuttaa ympäristöongelmia niiden energiankulutuksen koulutuksen ja toiminnan aikana, ja riskeeraa vahvistaa niiden suurten ja monimutkaisten koulutusaineistojen aiheuttamia harhoja. Nämä tekijät voivat myös heikentää mallien vastauskykyä reaaliaikaisissa sovelluksissa ja tehdä päivitykset haasteellisemmiksi.

Phi-3 Mini: Tehokas AI Henkilökohtaisille Laitteille Parantamaan Yksityisyyttä ja Tehokkuutta

Phi-3 Mini on suunniteltu tarjoamaan kustannustehokkaan ja tehokkaan vaihtoehdon edistyneen älykkyyden integroimiseksi suoraan henkilökohtaisiin laitteisiin, kuten puhelimiin ja kannettaviin tietokoneisiin. Tämä suunnittelu mahdollistaa nopeammat ja välittömämmät vastaukset, parantaa käyttäjän vuorovaikutusta teknologian kanssa arjen tilanteissa.

Phi-3 Mini mahdollistaa edistyneiden älykkyyden toimintojen suoran prosessoinnin mobiililaitteilla, mikä vähentää riippuvuutta pilvipalveluista ja parantaa reaaliaikaisen tietojen käsittelyä. Tämä ominaisuus on ratkaiseva sovelluksille, jotka vaativat välitöntä tietojen käsittelyä, kuten mobiilihoito, reaaliaikainen kielentulkkaus ja henkilökohtainen koulutus, ja mahdollistaa edistysten saavuttamisen näissä aloissa. Mallin kustannustehokkuus ei ainoastaan vähennä toimintakustannuksia, vaan laajentaa myös älykkyyden soveltamismahdollisuuksia eri teollisuusaloilla, mukaan lukien uudet markkinat, kuten wearable-tekniikka ja kotiautomaatio. Phi-3 Mini mahdollistaa tietojen käsittelyn suoraan paikallisilla laitteilla, mikä parantaa käyttäjän yksityisyyttä. Tämä voi olla olennaista herkkien tietojen hallinnassa, kuten henkilökohtaisissa terveystilanteissa ja rahoituspalveluissa. Lisäksi mallin alhaiset energiavaatimukset edistävät ympäristöystävällistä älykkyyden toimintaa, joka on linjassa globaaleiden kestävän kehityksen pyrkimyksien kanssa.

Phi-Suunnittelufilosofia ja -evoluutio

Phi-suunnittelufilosofia perustuu opetusohjelmaan perustuvaan oppimiseen, joka ammentaa inspiraatiota koulutuslähestymistavasta, jossa lapset oppivat jatkuvasti haastavampien esimerkkien kautta. Pääidea on aloittaa älykkyyden koulutus helpoimmista esimerkeistä ja vähitellen lisätä koulutusaineiston monimutkaisuutta oppimisprosessin edetessä. Microsoft on toteuttanut tämän opetusstrategian rakentamalla aineiston oppikirjoista, kuten heidän tutkimuksessaan “Oppikirjat ovat kaikki mitä tarvitset“. Phi-sarja julkaistiin kesäkuussa 2023, aloittaen Phi-1:llä, joka on kompakti malli, jolla on 1,3 miljardia parametrejä. Tämä malli osoitti nopeasti tehokkuutensa, erityisesti Python-koodaustehtävissä, joissa se ylitti suurempia ja monimutkaisempia malleja. Tästä menestyksestä rakentuen Microsoft kehitti myöhemmin Phi-1.5:n, joka säilyi samalla parametri-määrällä, mutta laajensi kykyjään alueilla, kuten yleinen järki ja kielentaju. Sarja loisti Phi-2:n julkaisemisella joulukuussa 2023. 2,7 miljardilla parametrillä Phi-2 esitti vaikuttavia taitojaan päättelyssä ja kielentajussa, asettamalla itsensä vahvaksi kilpailijaksi huomattavasti suurempien mallien rinnalla.

Phi-3 vs. Muut Pienet KieliMallit

Laajentamalla edeltäjiensä ominaisuuksia, Phi-3 Mini jatkaa Phi-2:n edistymistä ylittämällä muita pieniä kielimalleja, kuten Google’n Gemma, Mistralin Mistral, Meta’n Llama3-Instruct ja GPT 3.5, useissa teollisuuden sovelluksissa. Nämä sovellukset käsittävät kielentajun ja johtopäätöksen, yleistiedon, yleisen järjen, perusopetuksen matematiikan ja lääketieteellisten kysymysten vastaamisen, osoittaen ylivoimaisen suorituskyvyn näissä malleissa. Phi-3 Mini on myös käynyt läpi offline-testin iPhone 14:llä eri tehtävissä, kuten sisällön luomisessa ja toimintaehdotuksissa, jotka on räätälöity tiettyihin sijainteihin. Tätä tarkoitusta varten Phi-3 Mini on tiivistetty 1,8 Gt:een prosessilla, jota kutsutaan kvantisaatioksi, joka optimoi mallin rajoitettujen resurssien laitteille muuttamalla mallin numeeriset tiedot 32-bittisistä liukuluvuista tiiviimpiin muotoihin, kuten 4-bittisiin kokonaislukuun. Tämä vähentää mallin muistijalanjälkeä ja parantaa prosessointinopeutta ja virrankäyttöä, mikä on olennaista mobiililaitteille. Kehittäjät käyttävät yleensä kehyksiä, kuten TensorFlow Lite tai PyTorch Mobile, jotka sisältävät valmiit kvantisaatiotyökalut automatisoidakseen ja hienostamaan tämän prosessin.

Ominaisuusvertailu: Phi-3 Mini vs. Phi-2 Mini

Alla vertaillaan joitakin Phi-3:n ja sen edeltäjän Phi-2:n ominaisuuksia.

• Mallirakenne: Phi-2 toimii transformer-pohjaisella arkkitehtuurilla, joka on suunniteltu ennustamaan seuraava sana. Phi-3 Mini käyttää myös transformer-dekooderirakennetta, mutta se on lähempänä Llama-2-mallin rakennetta, käyttäen samaa tokenaattoria, jonka sanastokoko on 320 641. Tämä yhteensopivuus varmistaa, että Llama-2:lle kehitetyt työkalut voidaan helposti sovittaa Phi-3 Miniin.
• Viitekehyksen Pituus: Phi-3 Mini tukee 8 000 merkin viitekehyksen pituutta, mikä on huomattavasti suurempi kuin Phi-2:n 2 048 merkkiä. Tämä kasvu mahdollistaa Phi-3 Minin hallita tarkemmin vuorovaikutuksia ja prosessoida pidempiä tekstijaksoja.
• Suoritus Paikallisesti Mobiililaitteilla: Phi-3 Mini voidaan pakata 4-bittiseen muotoon, joka vie noin 1,8 Gt muistia, saman verran kuin Phi-2. Se testattiin toimivaksi offline-tilassa iPhone 14:llä, jossa se saavutti yli 12 tokenin prosessointinopeuden sekunnissa, vastaavan Phi-2:n suorituskyvyn samanlaisissa olosuhteissa.
• Mallin Koko: 3,8 miljardilla parametrillä Phi-3 Mini on suurempi kuin Phi-2, jolla on 2,7 miljardia parametrejä. Tämä heijastaa sen lisääntynyttä kykyä.
• Koulutusaineisto: Toisin kuin Phi-2, joka koulutettiin 1,4 biljoonalla tokenilla, Phi-3 Mini on koulutettu paljon suuremmalla aineistolla, 3,3 biljoonalla tokenilla, mikä mahdollistaa paremman ymmärryksen monimutkaisista kielimalleista.

Phi-3 Minin Rajoitusten Käsittely

Vaikka Phi-3 Mini osoittaa merkittäviä edistymisiä pienissä kielimalleissa, se ei ole ilman rajoituksia. Yksi Phi-3 Minin tärkeimmistä rajoituksista, sen pienemmän koosta johtuen suhteessa suuriin kielimalleihin, on sen rajoitettu kyky tallentaa laajaa faktatietoa. Tämä voi vaikuttaa sen kykyyn käsitellä itsenäisesti kysymyksiä, jotka vaativat syvää tietämys- ja asiantuntijatietoa. Tämä voidaan kuitenkin lieventää integroimalla Phi-3 Mini hakukoneeseen. Tällöin malli voi käyttää laajempaa tietopohjaa reaaliajassa, kompensoiden tehokkaasti sen sisäiset tietorajoitukset. Tämä integraatio mahdollistaa Phi-3 Minin toiminnan erittäin kykenevänä keskustelijana, joka voi tarvittaessa “tarkistaa” tietoja antaakseen tarkat ja ajanmukaiset vastaukset.

Saatavuus

Phi-3 on nyt saatavilla useilla alustoilla, mukaan lukien Microsoft Azure AI Studio, Hugging Face ja Ollama. Azure AI:lla malli sisältää deploy-evaluate-finetune-työvirran, ja Ollamalla se voidaan suorittaa paikallisesti kannettavilla tietokoneilla. Malli on suunniteltu ONNX Runtime:lle ja tukee Windows DirectML:ää, varmistaen sen toimivuuden eri laitteilla, kuten GPU:illa, CPU:illa ja mobiililaitteilla. Lisäksi Phi-3 on tarjolla mikropalveluna NVIDIA NIM (NVDA ):in kautta, joka on varustettu standardilla API:lla helppoon käyttöönottoon eri ympäristöissä ja on optimoitu erityisesti NVIDIA:n GPU:ille. Microsoft aikoo laajentaa Phi-3-sarjaa lähitulevaisuudessa lisäämällä Phi-3-small (7B) ja Phi-3-medium (14B) -mallit, tarjoamalla käyttäjille lisää valinnanvaraa laadun ja kustannusten tasapainottamiseksi.

Lopputulos

Microsoftin Phi-3 Mini tekee merkittäviä edistymisiä tekoälyalanalla sovittamalla suurten kielimallien voiman mobiilikäyttöön. Tämä malli parantaa laitteen kanssa vuorovaikuvaa toimintaa nopeamman ja reaaliaikaisen prosessoinnin sekä parantaa yksityisyyttä vähentämällä tarvetta pilvipalveluille, mikä vähentää toimintakustannuksia ja laajentaa älykkyyden soveltamismahdollisuuksia alueilla, kuten terveydenhuollossa ja kotiautomaatiossa. Keskittyessään vähentämään harhoja opetusohjelmaan perustuvalla oppimisella ja ylläpitäessään kilpailukykyisen suorituskyvyn, Phi-3 Mini kehittyy tärkeäksi työkaluksi tehokkaaseen ja kestävään mobiiliäälykkyyteen, muokkaillen hienovaraisesti, miten vuorovaikutamme teknologian kanssa päivittäin.