Microsoft presenteert Phi-3: Krachtige Open AI-modellen met topprestaties in kleine formaten

Microsoft (MSFT ) heeft Phi-3 geïntroduceerd, een nieuwe familie van kleine taalmodellen (SLM’s) die hoge prestaties en kostenefficiëntie in AI-toepassingen moeten bieden. Deze modellen hebben sterke resultaten laten zien in benchmarks voor taalbegrip, redeneren, coderen en wiskunde in vergelijking met modellen van vergelijkbare en grotere formaten. De release van Phi-3 breidt de opties uit voor ontwikkelaars en bedrijven die AI willen gebruiken en tegelijkertijd efficiëntie en kosten in balans willen houden.

Phi-3 Model Familie en Beschikbaarheid

Het eerste model in de Phi-3-lijn is Phi-3-mini, een model met 3,8 miljard parameters dat nu beschikbaar is op Azure AI Studio, Hugging Face en Ollama. Phi-3-mini is vooraf ingesteld op instructies, waardoor het “out-of-the-box” kan worden gebruikt zonder uitgebreide fine-tuning. Het heeft een contextvenster van maximaal 128K tokens, het langste in zijn formaatklasse, waardoor het grotere tekstinvoer kan verwerken zonder prestaties te offeren.

Om de prestaties te optimaliseren over verschillende hardwareconfiguraties, is Phi-3-mini vooraf ingesteld op ONNX Runtime en NVIDIA GPU’s. Microsoft plant om de Phi-3-familie binnenkort uit te breiden met de release van Phi-3-small (7 miljard parameters) en Phi-3-medium (14 miljard parameters). Deze extra modellen zullen een breder aanbod aan opties bieden om te voldoen aan diverse behoeften en budgetten.

Afbeelding: Microsoft

Phi-3 Prestaties en Ontwikkeling

Microsoft meldt dat de Phi-3-modellen aanzienlijke prestatieverbeteringen hebben laten zien ten opzichte van modellen van hetzelfde formaat en zelfs grotere modellen in verschillende benchmarks. Volgens het bedrijf heeft Phi-3-mini modellen van tweemaal zijn formaat overtroffen in taalbegrips- en generatietaken, terwijl Phi-3-small en Phi-3-medium grotere modellen, zoals GPT-3,5T, in bepaalde evaluaties hebben overtroffen.

Microsoft verklaart dat de ontwikkeling van de Phi-3-modellen in overeenstemming is met de bedrijfsprincipes en -normen voor Verantwoordelijke AI, die benadrukken hoe belangrijk het is om verantwoordelijkheid, transparantie, eerlijkheid, betrouwbaarheid, veiligheid, privacy, beveiliging en inclusiviteit te waarborgen. De modellen zijn volgens het bedrijf onderworpen aan veiligheidstraining, evaluaties en red teaming om te garanderen dat ze voldoen aan de verantwoorde AI-ontwikkelingspraktijken.

Afbeelding: Microsoft

Mogelijke Toepassingen en Mogelijkheden van Phi-3

De Phi-3-familie is ontworpen om uit te blinken in scenario’s waarin resources beperkt zijn, lage latentie essentieel is of kostenefficiëntie een prioriteit heeft. Deze modellen hebben het potentieel om on-device-inferentie mogelijk te maken, waardoor AI-gebaseerde toepassingen efficiënt kunnen draaien op een breed scala aan apparaten, inclusief apparaten met beperkte rekenkracht. De kleinere grootte van Phi-3-modellen kan ook fine-tuning en aanpassing voor bedrijven goedkoper maken, waardoor ze de modellen kunnen aanpassen aan hun specifieke use-cases zonder hoge kosten te maken.

In toepassingen waarin snelle responstijden essentieel zijn, bieden Phi-3-modellen een veelbelovende oplossing. Hun geoptimaliseerde architectuur en efficiënte verwerking kunnen snelle generatie van resultaten mogelijk maken, waardoor gebruikerservaringen worden verbeterd en mogelijkheden voor real-time AI-interacties worden geopend. Bovendien maken de sterke redeneer- en logische capaciteiten van Phi-3-mini het een goede keuze voor analytische taken, zoals gegevensanalyse en inzichtengeneratie.