Puterea în miniatură: Prezentarea modelului de limbaj Phi-3 de la Microsoft, care se potrivește în telefonul dvs.

În domeniul în rapidă evoluție al inteligenței artificiale, în timp ce tendința a fost adesea îndreptată spre modele mai mari și mai complexe, Microsoft (MSFT ) adoptă o abordare diferită cu Phi-3 Mini. Acest model de limbaj mic (SLM), acum în a treia generație, încorporează capacitățile robuste ale modelelor mai mari într-un cadru care se potrivește în cadrul strict al resurselor de pe smartphone-uri. Cu 3,8 miliarde de parametri, Phi-3 Mini egalează performanța modelelor de limbaj mari (LLM) în diverse sarcini, inclusiv procesarea limbajului, raționament, codificare și matematică, și este proiectat pentru funcționare eficientă pe dispozitive mobile prin cuantificare.

Provocările modelelor de limbaj mari

Dezvoltarea modelelor SLM Phi de către Microsoft este o reacție la provocările semnificative impuse de LLM, care necesită mai multă putere de calcul decât cea disponibilă în mod obișnuit pe dispozitivele consumatorilor. Această cerință ridicată complică utilizarea lor pe calculatoare standard și dispozitive mobile, ridică preocupări de mediu din cauza consumului de energie în timpul antrenamentului și funcționării și riscă să perpetueze prejudecățile cu seturile lor de date de antrenament mari și complexe. Acești factori pot, de asemenea, afecta răspunsul modelului în aplicații în timp real și pot face actualizările mai dificile.

Phi-3 Mini: Optimizarea AI pe dispozitive personale pentru o eficiență și confidențialitate îmbunătățită

Phi-3 Mini este proiectat strategic pentru a oferi o alternativă eficientă și rentabilă pentru integrarea avansată a inteligenței artificiale direct pe dispozitive personale, cum ar fi telefoane și laptopuri. Acest design facilitează răspunsuri mai rapide și mai imediate, îmbunătățind interacțiunea utilizatorului cu tehnologia în scenarii cotidiene.

Phi-3 Mini permite funcționalități AI sofisticate să fie procesate direct pe dispozitive mobile, reducând dependența de serviciile cloud și îmbunătățind procesarea datelor în timp real. Această capacitate este esențială pentru aplicații care necesită procesare imediată a datelor, cum ar fi asistența medicală mobilă, traducerea limbajului în timp real și educația personalizată, facilitând progresele în aceste domenii. Cost-eficiența modelului nu numai că reduce costurile operaționale, dar extinde și potențialul pentru integrarea inteligenței artificiale în diverse industrii, inclusiv piețe emergente precum tehnologia purtabilă și automatizarea caselor. Phi-3 Mini permite procesarea datelor direct pe dispozitive locale, ceea ce sporește confidențialitatea utilizatorului. Acest lucru poate fi vital pentru gestionarea informațiilor sensibile în domenii precum sănătatea personală și serviciile financiare. Mai mult, cerințele energetice scăzute ale modelului contribuie la operațiunile de inteligență artificială durabilă din punct de vedere al mediului, aliniindu-se cu eforturile globale de durabilitate.

Filosofia de proiectare și evoluția lui Phi

Filozofia de proiectare a lui Phi se bazează pe conceptul de învățare pe bază de curriculum, care își propune să inspire din abordarea educațională în care copiii învață prin exemple din ce în ce mai complexe. Ideea principală este de a începe antrenamentul inteligenței artificiale cu exemple mai ușoare și de a crește gradual complexitatea datelor de antrenament pe măsură ce procesul de învățare progresează. Microsoft a implementat această strategie educațională prin construirea unui set de date din manuale școlare, așa cum este detaliat în studiul lor “Manualele școlare sunt tot ce aveți nevoie.” Seria Phi a fost lansată în iunie 2023, începând cu Phi-1, un model compact cu 1,3 miliarde de parametri. Acest model a demonstrat rapid eficacitatea sa, în special în sarcinile de codificare Python, unde a depășit modelele mai mari și mai complexe. Pe baza acestui succes, Microsoft a dezvoltat ulterior Phi-1.5, care a menținut același număr de parametri, dar și-a extins capacitățile în domenii precum raționamentul comun și înțelegerea limbajului. Seria a strălucit cu lansarea Phi-2 în decembrie 2023. Cu 2,7 miliarde de parametri, Phi-2 a demonstrat abilități remarcabile în raționament și înțelegere a limbajului, poziționându-se ca un concurent puternic împotriva modelelor mult mai mari.

Phi-3 vs. Alte modele de limbaj mic

Extinzându-și predecesorii, Phi-3 Mini extinde progresele lui Phi-2, depășind alte modele SLM, cum ar fi Gemma de la Google (GOOGL ), Mistral de la Mistral, Llama3-Instruct de la Meta și GPT 3.5, în diverse aplicații industriale. Aceste aplicații includ înțelegerea și inferența limbajului, cunoașterea generală, raționamentul comun, problemele de matematică la nivel de școală primară și răspunsurile la întrebări medicale, demonstrând o performanță superioară în comparație cu aceste modele. Phi-3 Mini a fost, de asemenea, testat offline pe un iPhone 14 pentru diverse sarcini, inclusiv crearea de conținut și oferirea de sugestii de activități personalizate în funcție de locație. În acest scop, Phi-3 Mini a fost condensat la 1,8 GB folosind un proces numit cuantificare, care optimizează modelul pentru dispozitive cu resurse limitate prin convertirea datelor numerice ale modelului din numere cu virgulă mobilă de 32 de biți în formate mai compacte, cum ar fi numerele întregi de 4 biți. Acest lucru nu numai că reduce amprenta de memorie a modelului, dar îmbunătățește și viteza de procesare și eficiența energetică, ceea ce este vital pentru dispozitivele mobile. Dezvoltatorii utilizează de obicei cadre precum TensorFlow Lite sau PyTorch Mobile, care incorporează unelte de cuantificare integrate pentru a automatiza și a rafina acest proces.

Compararea caracteristicilor: Phi-3 Mini vs. Phi-2 Mini

Mai jos, comparăm unele dintre caracteristicile lui Phi-3 cu predecesorul său Phi-2.

• Arhitectura modelului: Phi-2 funcționează pe o arhitectură bazată pe transformator, proiectată pentru a prezice următorul cuvânt. Phi-3 Mini utilizează, de asemenea, o arhitectură decodificatoare de transformator, dar se aliniază mai mult cu structura modelului Llama-2, folosind același tokenizator cu o dimensiune a vocabularului de 320.641. Această compatibilitate asigură că uneltele dezvoltate pentru Llama-2 pot fi adaptate ușor pentru utilizare cu Phi-3 Mini.
• Lungimea contextului: Phi-3 Mini suportă o lungime a contextului de 8.000 de tokeni, care este considerabil mai mare decât cei 2.048 de tokeni ai lui Phi-2. Această creștere permite lui Phi-3 Mini să gestioneze interacțiuni mai detaliate și să proceseze porțiuni mai lungi de text.
• Funcționare locală pe dispozitive mobile: Phi-3 Mini poate fi comprimat la 4 biți, ocupând aproximativ 1,8 GB de memorie, similar cu Phi-2. A fost testat funcționând offline pe un iPhone 14 cu un cip A16 Bionic, unde a atins o viteză de procesare de peste 12 tokeni pe secundă, egalând performanța lui Phi-2 în condiții similare.
• Mărimea modelului: Cu 3,8 miliarde de parametri, Phi-3 Mini are o scară mai mare decât Phi-2, care are 2,7 miliarde de parametri. Acest lucru reflectă capacitățile sale crescute.
• Date de antrenament: În contrast cu Phi-2, care a fost antrenat pe 1,4 trilioane de tokeni, Phi-3 Mini a fost antrenat pe un set mult mai mare de 3,3 trilioane de tokeni, permițându-i să obțină o înțelegere mai bună a patternurilor complexe de limbaj.

Abordarea limitărilor lui Phi-3 Mini

În timp ce Phi-3 Mini demonstrează progrese semnificative în domeniul modelelor de limbaj mic, nu este lipsit de limitări. O constrângere principală a lui Phi-3 Mini, având în vedere dimensiunea sa mai mică în comparație cu modelele de limbaj masive, este capacitatea sa limitată de a stoca cunoștințe factuale extinse. Acest lucru poate afecta capacitatea sa de a gestiona în mod independent întrebări care necesită o adâncime de cunoștințe factuale specifice sau cunoștințe experte detaliate. Cu toate acestea, acest lucru poate fi mitigat prin integrarea lui Phi-3 Mini cu un motor de căutare. În acest fel, modelul poate accesa o gamă mai largă de informații în timp real, compensând eficient limitările sale intrinseci de cunoaștere. Această integrare permite lui Phi-3 Mini să funcționeze ca un conversaționist capabil, care, în ciuda unei înțelegeri cuprinzătoare a limbajului și contextului, ar putea, ocazional, să “caute” informații pentru a oferi răspunsuri precise și actualizate.

Disponibilitate

Phi-3 este acum disponibil pe mai multe platforme, inclusiv Microsoft Azure AI Studio, Hugging Face și Ollama. Pe Azure AI, modelul incorporează un flux de lucru de implementare, evaluare și finisare, iar pe Ollama, poate fi rulat local pe laptopuri. Modelul a fost personalizat pentru ONNX Runtime și suportă Windows DirectML, asigurând funcționarea sa pe diverse tipuri de hardware, cum ar fi GPU, CPU și dispozitive mobile. În plus, Phi-3 este oferit ca microserviciu prin NVIDIA NIM (NVDA ), echipat cu o interfață de programare standard pentru o implementare ușoară în diverse medii și optimizat în mod special pentru GPU-urile NVIDIA. Microsoft planifică să extindă în curând seria Phi-3 prin adăugarea modelelor Phi-3-small (7B) și Phi-3-medium (14B), oferind utilizatorilor opțiuni suplimentare pentru a echilibra calitatea și costul.

Concluzia

Phi-3 Mini de la Microsoft face progrese semnificative în domeniul inteligenței artificiale, adaptând puterea modelelor de limbaj mari pentru utilizare mobilă. Acest model îmbunătățește interacțiunea utilizatorului cu dispozitivele prin procesarea în timp real și funcții de confidențialitate îmbunătățite. Reduce nevoia de servicii cloud, scăzând costurile operaționale și extinzând domeniul de aplicare al inteligenței artificiale în domenii precum sănătate și automatizare casnică. Cu accentul pe reducerea prejudecăților prin învățarea pe bază de curriculum și menținerea performanței competitive, Phi-3 Mini evoluează într-un instrument cheie pentru inteligența artificială mobilă eficientă și durabilă, transformând subtil modul în care interacționăm cu tehnologia în viața de zi cu zi.