Microsoft представила Phi-3: мощные открытые модели ИИ с высокими показателями производительности при небольших размерах

Microsoft (MSFT ) представила Phi-3, новую семью небольших языковых моделей (SLM), которые призваны обеспечить высокую производительность и эффективность в приложениях ИИ. Эти модели показали сильные результаты по различным тестам в понимании языка, рассуждении, программировании и математике по сравнению с моделями аналогичного и большего размера. Выпуск Phi-3 расширяет возможности для разработчиков и бизнеса, которые хотят использовать ИИ, сохраняя при этом эффективность и экономичность.

Семья моделей Phi-3 и их доступность

Первая модель в линейке Phi-3 – Phi-3-mini, модель с 3,8 млрд параметров, которая сейчас доступна на Azure AI Studio, Hugging Face и Ollama. Phi-3-mini поставляется с предварительной настройкой, что позволяет использовать ее “из коробки” без обширной донастройки. Она имеет контекстное окно до 128 К токенов, самое длинное в своем классе, что позволяет обрабатывать более крупные текстовые входные данные без ущерба для производительности.

Чтобы оптимизировать производительность на различных конфигурациях оборудования, Phi-3-mini была донастроена для ONNX Runtime и NVIDIA GPU. Microsoft планирует расширить семью моделей Phi-3 в ближайшее время с выпуском Phi-3-small (7 млрд параметров) и Phi-3-medium (14 млрд параметров). Эти дополнительные модели обеспечат более широкий спектр вариантов для удовлетворения различных потребностей и бюджетов.

Изображение: Microsoft

Производительность и разработка Phi-3

Microsoft сообщает, что модели Phi-3 показали значительные улучшения производительности по сравнению с моделями аналогичного и большего размера по различным тестам. Согласно компании, Phi-3-mini превзошла модели в два раза большего размера в задачах понимания и генерации языка, а Phi-3-small и Phi-3-medium превзошли гораздо более крупные модели, такие как GPT-3,5T, в определенных оценках.

Microsoft заявляет, что разработка моделей Phi-3 проводилась в соответствии с принципами и стандартами ответственного ИИ, которые подчеркивают подотчетность, прозрачность, справедливость, надежность, безопасность, конфиденциальность, безопасность и инклюзивность. Модели прошли обучение на безопасность, оценку и красные команды, чтобы обеспечить соблюдение ответственных практик развертывания ИИ.

Изображение: Microsoft

Потенциальные применения и возможности Phi-3

Семья моделей Phi-3 предназначена для того, чтобы преуспеть в сценариях, где ресурсы ограничены, низкая задержка имеет решающее значение, или экономичность является приоритетом. Эти модели имеют потенциал для обеспечения вывода на устройстве, что позволит приложениям ИИ работать эффективно на широком спектре устройств, включая те, которые имеют ограниченную вычислительную мощность. Более компактный размер моделей Phi-3 также может сделать донастройку и настройку более доступными для бизнеса, позволяя им адаптировать модели к своим конкретным случаям использования без значительных затрат.

В приложениях, где быстрота ответа имеет решающее значение, модели Phi-3 предлагают перспективное решение. Их оптимизированная архитектура и эффективная обработка могут обеспечить быстрое получение результатов, улучшая пользовательский опыт и открывая возможности для взаимодействия с ИИ в реальном времени. Кроме того, сильные возможности рассуждения и логического вывода Phi-3-mini делают ее хорошо подходящей для аналитических задач, таких как анализ данных и генерация выводов.