Mesterséges Intelligencia
A Microsoft bemutatja a Phi-3-at: Erőteljes nyílt mesterséges intelligencia modellek, amelyek kis méretben is kiváló teljesítményt nyújtanak
A Microsoft bemutatta a Phi-3 új családját kis nyelvi modellek (SLM-ek) amelyek célja, hogy nagy teljesítményt és költséghatékonyságot biztosítsanak az AI-alkalmazásokban. Ezek a modellek erős eredményeket mutattak a nyelvi megértés, az érvelés, a kódolás és a matematika viszonyítási alapjaiban, összehasonlítva a hasonló és nagyobb méretű modellekkel. A Phi-3 kiadása kibővíti a fejlesztők és a vállalkozások számára elérhető lehetőségeket, akik az AI-t kívánják kihasználni, miközben egyensúlyban tartják a hatékonyságot és a költségeket.
Phi-3 modellcsalád és elérhetőség
A Phi-3 sorozat első modellje a Phi-3-mini, egy 3.8B paraméteres modell, amely már elérhető Azure AI Studio, Átölelő arcés Ollama. A Phi-3-mini utasításokkal van hangolva, lehetővé téve, hogy alapos finomhangolás nélkül „kivételből” lehessen használni. Akár 128 XNUMX tokenből álló kontextusablak található benne, amely méretkategóriájában a leghosszabb, és lehetővé teszi nagyobb szövegbevitelek feldolgozását a teljesítmény feláldozása nélkül.
A hardverbeállítások teljesítményének optimalizálása érdekében a Phi-3-minit az ONNX Runtime és az NVIDIA GPU-khoz finomhangolták. A Microsoft azt tervezi, hogy hamarosan bővíti a Phi-3 családot a Phi-3-small (7B paraméterek) és a Phi-3-medium (14B paraméterek) kiadásával. Ezek a kiegészítő modellek szélesebb választékot kínálnak a különféle igények és költségvetések kielégítésére.
Phi-3 teljesítmény és fejlesztés
A Microsoft jelentése szerint a Phi-3 modellek jelentős teljesítményjavulást mutattak az azonos méretű és a még nagyobb modellekhez képest különböző benchmarkokban. A vállalat szerint a Phi-3-mini kétszeresen teljesített nagyobb modelleknél a nyelvértési és generálási feladatokban, míg a Phi-3-small és a Phi-3-medium bizonyos esetekben sokkal nagyobb modelleket, mint például a GPT-3.5T. értékelések.
A Microsoft kijelenti, hogy a Phi-3 modellek fejlesztése követte a vállalatét Felelős mesterséges intelligencia alapelvei és szabványok, amelyek az elszámoltathatóságot, az átláthatóságot, a méltányosságot, a megbízhatóságot, a biztonságot, a magánélet védelmét, a biztonságot és a befogadást hangsúlyozzák. A modellek állítólag biztonsági képzésen, értékelésen és red-teamingon estek át, hogy biztosítsák a felelős mesterséges intelligencia bevezetési gyakorlatok betartását.
A Phi-3 lehetséges alkalmazásai és képességei
A Phi-3 családot úgy tervezték, hogy kiválóan teljesítsen olyan esetekben, amikor az erőforrások korlátozottak, az alacsony késleltetés elengedhetetlen, vagy a költséghatékonyság prioritás. Ezek a modellek lehetővé teszik az eszközön történő következtetést, lehetővé téve az AI-alapú alkalmazások hatékony futtatását számos eszközön, beleértve a korlátozott számítási teljesítményűeket is. A Phi-3 modellek kisebb mérete a finomhangolást és a testreszabást is megfizethetőbbé teheti a vállalkozások számára, lehetővé téve számukra, hogy a modelleket a sajátos használati eseteikhez igazítsák anélkül, hogy magas költségekkel járnának.
Azokban az alkalmazásokban, ahol a gyors válaszidő kritikus, a Phi-3 modellek ígéretes megoldást kínálnak. Optimalizált architektúrájuk és hatékony feldolgozásuk lehetővé teszi az eredmények gyors generálását, javítva a felhasználói élményt, és lehetőségeket nyithat meg a valós idejű AI interakciók számára. Ezen túlmenően a Phi-3-mini erős érvelési és logikai képességei kiválóan alkalmassá teszik az elemzési feladatokhoz, például adatelemzéshez és betekintések generálásához.