AI 모델 및 플랫폼
OVHcloud, 첫 오픈소스 대규모 언어 모델 LLM Olala Mini 7A1B 공개

핵심 포인트OVHcloud는 자사의 소형 모델을 외부 연구소에 의존하지 않고 전적으로 유럽 공공 슈퍼컴퓨터에서 학습시켰다.
더 보기
- OVHcloud는 자사의 소형 모델을 외부 연구소에 의존하지 않고 전적으로 유럽 공공 슈퍼컴퓨터에서 학습시켰다.
- Qwant는 즉답형 답변에 이 모델을 도입했고 응답 속도가 빨라지고 운영 비용이 크게 낮아졌다고 보고했다.
- 로드맵은 에이전트형 비즈니스 AI, 클라우드 운영, 사이버보안을 위한 더 큰 특화 모델로 나아간다.
OVHcloud는 2026년 11월 17일 첫 대규모 언어 모델 제품군인 Olala를 발표했으며, 첫 모델로 소형 모델 Olala mini 7A1B를 선보였다. 회사에 따르면 이 모델은 메모리가 8GB에 불과한 GPU에서도 실행할 수 있으며, Apache 2.0 라이선스에 따라 Hugging Face에서 오픈소스로 제공할 계획이다.
공식 출시 발표는 2026년 11월 19일 열리는 OVHcloud AI Summit에서 진행될 예정이다. 공개 패키지에는 모델 가중치, 사전 학습된 기본 모델, 유럽연합의 인공지능 법률인 인공지능법 준수 관련 문서가 포함된다.
하이브리드 어텐션으로 하드웨어 요구 사항 낮춰
Olala mini는 매개변수가 70억 개인 아키텍처를 갖췄지만, 요청 하나를 처리할 때 활성화되는 매개변수는 10억 개뿐이다. 활성화된 매개변수는 레이어마다 256개의 전문가에 분산되어 있어, 각 요청은 전체 네트워크가 아니라 모델의 일부만 사용한다. 하이브리드 어텐션 설계에는 Differential-TPA와 Mamba-3가 결합되어 있으며, BF16 형식을 사용한다.
이 구조는 속도를 높이고 메모리 요구량을 줄이기 위한 것이다. OVHcloud는 RTX A4500에서 초당 160토큰, GPU가 없는 일반 프로세서에서 초당 50토큰의 처리량을 보고했다. 현재 컨텍스트 창, 즉 모델이 한 번의 시퀀스에서 처리할 수 있는 텍스트의 양을 토큰으로 나타낸 값은 32,000토큰이다.
유럽의 학습 인프라와 Qwant 도입
Olala mini는 유럽의 공공 슈퍼컴퓨터 세 곳인 Jupiter, MeluXina, Jean Zay에서 처음부터 학습됐다. 학습 인프라에는 GH200, A100, H100 GPU가 포함됐다. OVHcloud는 이 프로젝트를 뒷받침한 공공 지원이 컴퓨팅 사용 시간으로 환산해 700만 유로에 해당하며, 결정적인 역할을 했다고 설명한다.
이번 사업을 통해 회사의 AI 팀도 결집했고, 그 결과 Agentic Lab인 OVHai LLM이 출범했다. 이에 따라 이 프로젝트는 첫 모델 출시를 넘어 조직 차원의 역할을 맡게 됐다. OVHcloud는 Olala mini를 일회성 학습 프로젝트로 취급하는 대신, 모델 제품군을 계속 개발할 전담 조직을 설립했다.
Qwant는 이미 빠른 답변 기능에 Olala mini를 도입했다. OVHcloud에 따르면 Qwant가 이전에 사용하던 모델과 비교해 답변 속도는 20% 빨라졌고 운영 비용은 3분의 1로 줄었다. 이는 회사가 추구하는 도입 경제성을 보여주는 초기 운영 사례다.
워크스페이스, DevOps, 보안으로 확장되는 로드맵
OVHcloud의 로드맵에는 2026년 말까지 컨텍스트 창을 128,000토큰으로 늘리고 수학적 추론 능력을 개선한 버전 1.1을 출시하는 계획이 담겨 있다. 버전 2.0은 매개변수가 1,000억 개를 넘을 예정이며, OVHai LLM은 기업용 에이전트형 AI, 클라우드 DevOps, 사이버 보안 분야에 특화된 모델을 개발한다. 여기에는 방어적 용도와 공격적 용도가 모두 포함된다.
후속 버전은 이 모델 제품군을 OVHcloud의 제품과 운영 도구에 적용하는 것을 목표로 한다. 향후 Olala는 OVHai Workspace의 기반 모델로 사용될 전망이며, 암호화 버전에는 워크스테이션에서 로컬로 실행할 수 있는 모델이 필요하다. DevOps 작업에는 개발자, 아키텍트, 24시간 서비스 연속성을 책임지는 운영팀을 위한 버전이 포함된다.
Octave Klaba 최고경영자는 OVHcloud가 자체 내부 요구와 고객의 요구를 모두 충족하는 모델을 만들어야 한다고 말했다. 그는 “앞으로 몇 년 동안 특정 연구소들이 오픈소스로 LLM을 공유해 주기를 그저 기대고 있을 수는 없습니다”라고 말했다. Klaba는 학습 전문성을 폭넓게 확보할 수 있게 됐고 3년 만에 비용이 20분의 1 수준으로 낮아졌다며, 이러한 변화가 수익성 있는 모델 개발의 길을 열어 준다고 설명했다.
따라서 Olala는 OVHcloud에 소형 모델과 자체 개발 경로를 모두 제공한다. 핵심은 OVHai LLM이 첫 모델에서 보고된 효율성과 도입 성과를 컨텍스트가 더 긴 후속 버전과 로드맵에 제시된 훨씬 더 큰 특화 시스템에서도 이어갈 수 있느냐는 점이다.












