Microsoft presenterar Phi-3: Kraftfulla öppna AI-modeller som levererar toppprestanda i små storlekar

Microsoft har introducerat Phi-3, en ny familj av små språkmodeller (SLM) som syftar till att leverera hög prestanda och kostnadseffektivitet i AI-applikationer. Dessa modeller har visat starka resultat över riktmärken i språkförståelse, resonemang, kodning och matematik jämfört med modeller av liknande och större storlekar. Utgivningen av Phi-3 utökar de tillgängliga alternativen för utvecklare och företag som vill utnyttja AI och samtidigt balansera effektivitet och kostnad.

Phi-3 modellfamilj och tillgänglighet

Den första modellen i Phi-3-serien är Phi-3-mini, en 3.8B-parametermodell som nu finns tillgänglig på Azure AI Studio, Kramande ansikteoch Ollama. Phi-3-mini levereras instruktionsjusterad, vilket gör att den kan användas "out-of-the-box" utan omfattande finjustering. Den har ett kontextfönster på upp till 128K tokens, den längsta i sin storleksklass, vilket möjliggör bearbetning av större textinmatningar utan att offra prestanda.

För att optimera prestanda över hårdvaruinställningar har Phi-3-mini finjusterats för ONNX Runtime och NVIDIA GPU:er. Microsoft planerar att utöka Phi-3-familjen snart med lanseringen av Phi-3-small (7B parametrar) och Phi-3-medium (14B parametrar). Dessa ytterligare modeller kommer att ge ett bredare utbud av alternativ för att möta olika behov och budgetar.

Phi-3 prestanda och utveckling

Microsoft rapporterar att Phi-3-modellerna har visat betydande prestandaförbättringar jämfört med modeller av samma storlek och ännu större modeller över olika riktmärken. Enligt företaget har Phi-3-mini överträffat modeller som är dubbelt så stora när det gäller språkförståelse och genereringsuppgifter, medan Phi-3-small och Phi-3-medium har överträffat mycket större modeller, som GPT-3.5T, i vissa utvärderingar.

Microsoft uppger att utvecklingen av Phi-3-modellerna har följt företagets Ansvarsfulla AI-principer och standarder som betonar ansvarighet, transparens, rättvisa, tillförlitlighet, säkerhet, integritet, säkerhet och inkludering. Modellerna har enligt uppgift genomgått säkerhetsträning, utvärderingar och red-teaming för att säkerställa efterlevnad av ansvarsfulla AI-implementeringsmetoder.

Potentiella tillämpningar och funktioner för Phi-3

Phi-3-familjen är designad för att utmärka sig i scenarier där resurserna är begränsade, låg latens är avgörande eller kostnadseffektivitet är en prioritet. Dessa modeller har potential att möjliggöra slutledning på enheten, vilket gör att AI-drivna applikationer kan köras effektivt på ett brett utbud av enheter, inklusive de med begränsad datorkraft. Den mindre storleken på Phi-3-modeller kan också göra finjustering och anpassning mer överkomlig för företag, vilket gör det möjligt för företag att anpassa modellerna till sina specifika användningsfall utan att ådra sig höga kostnader.

I applikationer där snabba svarstider är kritiska erbjuder Phi-3-modellerna en lovande lösning. Deras optimerade arkitektur och effektiva bearbetning kan möjliggöra snabb generering av resultat, förbättra användarupplevelser och öppna möjligheter för AI-interaktioner i realtid. Dessutom gör Phi-3-minis starka resonemang och logiska kapacitet den väl lämpad för analytiska uppgifter, såsom dataanalys och generering av insikter.