Microsoft představuje Phi-3: Výkonné otevřené modely AI, které poskytují špičkový výkon ve små velikostech

Společnost Microsoft (MSFT ) představila Phi-3, novou rodinu malých jazykových modelů (SLM), které mají za cíl poskytovat vysoký výkon a nákladovou efektivitu v aplikacích AI. Tyto modely prokázaly silné výsledky v různých testech, včetně porozumění jazyku, rozumu, kódování a matematiky, ve srovnání s modely podobné a větší velikosti. Uvedení Phi-3 rozšiřuje možnosti pro vývojáře a podniky, které chtějí využívat AI, zatímco zajišťují efektivitu a nákladovou efektivitu.

Rodina modelů Phi-3 a dostupnost

Prvním modelem v řadě Phi-3 je Phi-3-mini, model s 3,8 miliardami parametrů, který je nyní k dispozici na Azure AI Studio, Hugging Face a Ollama. Phi-3-mini je dodáván s předem nastavenými instrukcemi, což umožňuje jeho použití “z krabice” bez rozsáhlého jemného ladění. Má kontextové okno až 128K tokenů, což je nejdelší ve své třídě, a umožňuje zpracování větších textových vstupů bez ztráty výkonu.

Pro optimalizaci výkonu napříč hardwarovými konfiguracemi byl Phi-3-mini jemně laděn pro ONNX Runtime a NVIDIA GPU. Společnost Microsoft plánuje brzy rozšířit rodinu Phi-3 o vydání Phi-3-small (7 miliard parametrů) a Phi-3-medium (14 miliard parametrů). Tyto další modely poskytnou širší spektrum možností pro splnění různých potřeb a rozpočtů.

Obrázek: Microsoft

Výkon a vývoj Phi-3

Společnost Microsoft uvádí, že modely Phi-3 prokázaly významná zlepšení výkonu ve srovnání s modely stejné a větší velikosti v různých testech. Podle společnosti Phi-3-mini překonal modely dvakrát větší velikosti v úkolech porozumění a generování jazyka, zatímco Phi-3-small a Phi-3-medium překonaly mnohem větší modely, jako je GPT-3,5T, v určitých hodnoceních.

Společnost Microsoft uvádí, že vývoj modelů Phi-3 probíhal v souladu s principy a standardy odpovědného AI, které zdůrazňují zodpovědnost, transparentnost, spravedlnost, spolehlivost, bezpečnost, soukromí, bezpečnost a inkluzivitu. Modely údajně prošly bezpečnostním tréninkem, hodnocením a testováním, aby zajistily dodržování zásad odpovědného nasazení AI.

Obrázek: Microsoft

Potenciální aplikace a schopnosti Phi-3

Rodina Phi-3 je navržena tak, aby vynikala v scénářích, kde jsou zdroje omezené, nízká latence je nezbytná nebo nákladová efektivita je prioritou. Tyto modely mají potenciál umožnit inference na zařízení, což umožňuje efektivní běh aplikací AI na širokém spektru zařízení, včetně těch s omezenou výpočetní silou. Menší velikost modelů Phi-3 může také učinit jemné ladění a přizpůsobení более dostupnými pro podniky, umožňující jim přizpůsobit modely svým konkrétním případům použití bez vysokých nákladů.

V aplikacích, kde jsou rychlé reakční časy kritické, modely Phi-3 nabízejí slibné řešení. Jejich optimalizovaná architektura a efektivní zpracování umožňují rychlou generaci výsledků, zlepšují uživatelské zkušenosti a otevírají možnosti pro interakce AI v reálném čase. Kromě toho jsou silné schopnosti rozumu a logiky Phi-3-mini vhodné pro analytické úkoly, jako je analýza dat a generování přehledů.