Microsoft presenterar Phi-3: Kraftfulla öppna AI-modeller som levererar toppprestationer i små storlekar

Microsoft (MSFT ) har introducerat Phi-3, en ny familj av små språkmodeller (SLM) som syftar till att leverera hög prestanda och kostnadseffektivitet i AI-applikationer. Dessa modeller har visat starka resultat över benchmarks i språkförståelse, resonemang, kodning och matematik när de jämförs med modeller av liknande och större storlekar. Utgivningen av Phi-3 utökar alternativen för utvecklare och företag som vill utnyttja AI samtidigt som de balanserar effektivitet och kostnad.

Phi-3-modellfamilj och tillgänglighet

Den första modellen i Phi-3-utbudet är Phi-3-mini, en modell med 3,8 miljarder parametrar som nu är tillgänglig på Azure AI Studio, Hugging Face och Ollama. Phi-3-mini kommer instruktionsjusterad, vilket gör att den kan användas “out-of-the-box” utan omfattande finjustering. Den har ett kontextfönster på upp till 128K token, det längsta i sin storleksklass, vilket möjliggör bearbetning av större textinmatningar utan att prestandan försämras.

För att optimera prestanda över olika hårdvarukonfigurationer har Phi-3-mini finjusterats för ONNX Runtime och NVIDIA-GPU:er. Microsoft planerar att utöka Phi-3-familjen snart med utgivningen av Phi-3-small (7 miljarder parametrar) och Phi-3-medium (14 miljarder parametrar). Dessa ytterligare modeller kommer att erbjuda ett bredare utbud av alternativ för att möta olika behov och budgetar.

Bild: Microsoft

Phi-3-prestanda och utveckling

Microsoft rapporterar att Phi-3-modellerna har visat betydande prestandaförbättringar jämfört med modeller av samma storlek och till och med större modeller över olika benchmark-tester. Enligt företaget har Phi-3-mini överträffat modeller som är dubbelt så stora i språkförståelse- och genereringstester, medan Phi-3-small och Phi-3-medium har överträffat betydligt större modeller, såsom GPT-3,5T, i vissa utvärderingar.

Microsoft uppger att utvecklingen av Phi-3-modellerna har följt företagets principer och standarder för ansvarsfull AI, som betonar ansvar, transparens, rättvisa, tillförlitlighet, säkerhet, integritet, säkerhet och inklusivitet. Modellerna har enligt uppgift genomgått säkerhetsträning, utvärderingar och röd team-övningar för att säkerställa efterlevnad av ansvarsfulla AI-distributionspraxis.

Bild: Microsoft

Potentiella tillämpningar och förmågor hos Phi-3

Phi-3-familjen är utformad för att excellerera i scenarier där resurser är begränsade, låg latens är avgörande eller kostnadseffektivitet är en prioritet. Dessa modeller har potentialen att möjliggöra enhetsbaserad inferens, vilket gör att AI-drivna applikationer kan köras effektivt på en mängd olika enheter, inklusive de med begränsad beräkningskraft. Den mindre storleken på Phi-3-modellerna kan också göra finjustering och anpassning mer överkomlig för företag, vilket gör det möjligt för dem att anpassa modellerna till sina specifika användningsfall utan att ådra sig höga kostnader.

I applikationer där snabba svarstider är avgörande erbjuder Phi-3-modellerna en lovande lösning. Deras optimerade arkitektur och effektiv bearbetning kan möjliggöra snabb generering av resultat, vilket förbättrar användarupplevelser och öppnar upp möjligheter för realtids-AI-interaktioner. Dessutom är Phi-3-minis starka resonemangs- och logikförmågor väl lämpade för analytiska uppgifter, såsom dataanalys och insiktsgenerering.