마이크로소프트, Phi-3 공개: 강력한 오픈 AI 모델, 작은 크기에서 최고의 성능 제공

마이크로소프트는 Phi-3라는 새로운 작은 언어 모델(SLM) 패밀리를 소개했습니다. 이 모델은 AI 애플리케이션에서 높은 성능과 비용 효율성을 제공하는 것을 목표로 합니다. 이러한 모델은 언어 이해,推論, 코딩 및 수학과 같은 벤치마크에서 강한 결과를 보여주었습니다. Phi-3의 출시로 개발자와 기업은 효율성과 비용을 균형적으로 고려하면서 AI를 활용할 수 있는 옵션이 확대되었습니다.

Phi-3 모델 패밀리 및 가용성

Phi-3 라인업의 첫 번째 모델은 Phi-3-mini로, 3.8B 파라미터 모델입니다. 현재 Azure AI Studio, Hugging Face, Ollama에서 사용할 수 있습니다. Phi-3-mini는 instruction-tuned되어 있어 광범위한 fine-tuning 없이 “out-of-the-box”로 사용할 수 있습니다. 최대 128K 토큰의 컨텍스트 창을 갖추고 있어 성능을 희생하지 않으면서 더 큰 텍스트 입력을 처리할 수 있습니다.

하드웨어 설정에 따른 성능 최적화를 위해 Phi-3-mini는 ONNX Runtime과 NVIDIA (NVDA ) GPU에 대해 fine-tuning되었습니다. 마이크로소프트는 곧 Phi-3-small(7B 파라미터)와 Phi-3-medium(14B 파라미터)을 출시하여 다양한 nhu cầu와 예산에 맞는 더 많은 옵션을 제공할 계획입니다.

이미지: 마이크로소프트

Phi-3 성능 및 개발

마이크로소프트는 Phi-3 모델이 같은 크기와 더 큰 모델에 비해 다양한 벤치마크에서 상당한 성능 개선을 보여주었다고 보고합니다. 회사에 따르면, Phi-3-mini는 언어 이해와 생성 작업에서 두 배 크기의 모델을 능가했습니다. Phi-3-small과 Phi-3-medium은 특정 평가에서 GPT-3.5T와 같은 더 큰 모델을 앞섰습니다.

마이크로소프트는 Phi-3 모델의 개발이 책임 있는 AI 원칙과 표준을 따랐으며, 책임성, 투명성, 공정성, 신뢰성, 안전성, 개인 정보 보호, 보안, 및 포용성을 강조한다고 밝혔습니다. 모델은 안전성 교육, 평가, 및 적응 테스트를 거쳐 책임 있는 AI 배포 관행을 준수한다고 보고합니다.

이미지: 마이크로소프트

Phi-3의 잠재적 응용 및 능력

Phi-3 패밀리는 자원 제약, 낮은 지연 시간, 또는 비용 효율성이 우선시되는 시나리오에서 우수한 성능을 발휘하도록 설계되었습니다. 이러한 모델은 효율적으로 작동하는 AI 기반 애플리케이션을 다양한 기기에 실행할 수 있는 온디바이스 추론을 가능하게 할 수 있습니다. Phi-3 모델의 작은 크기 때문에 비즈니스에서는 모델을 맞춤화하고 최적화하는 비용을 줄일 수 있습니다.

빠른 응답 시간이 중요한 애플리케이션에서 Phi-3 모델은 유망한 솔루션을 제공합니다. 최적화된 아키텍처와 효율적인 처리로 빠른 결과 생성이 가능해져 사용자 경험을 향상시키고 실시간 AI 상호작용의 가능성을 열어줍니다. 또한, Phi-3-mini의 강한 추론 및 논리 능력으로 분석 작업에 적합합니다.