라이너 큐, 파이어웍스 AI의 CEO 및 공동 창립자 – 인터뷰 시리즈

라이너 큐는 이전에 메타의 파이토치 책임자였으며 현재 파이어웍스 AI의 공동 창립자이자 CEO입니다. 파이어웍스 AI는 개발자를 위한 생산 AI 플랫폼으로, 세계 최고의 생성적 AI 연구자와 파트너십을 맺어 가장 빠른 속도로 최고의 모델을 제공합니다. 파이어웍스 AI는 최근에 $25M 시리즈 A 자금을 조달했습니다.

컴퓨터 과학에 처음 관심을 가지게 된 것은 무엇인가?

私の 아버지는 선박 공장에서 화물선 등을 제작하는 고위급 기계 엔지니어였습니다.私は 어린 시절부터 선박의 청사진을 읽고 정확한 각도와 측정을 배우는 것을 좋아했습니다.

私は 중학교부터 STEM(과학, 기술, 공학, 수학)에 관심을 가지게 되었습니다. 모든 수학, 물리학, 화학을 공부했습니다. 고등학교 과제 중 하나는 BASIC 프로그래밍을 배우는 것이었고,私は 뱀의 꼬리를 먹는 게임을 코딩했습니다. 그 후,私は 컴퓨터 과학이私の 미래의 길임을 알게 되었습니다.

메타에서 300명 이상의 세계 최고의 엔지니어를 이끌며 AI 프레임워크 및 플랫폼을 구축하고 배포했습니다. 이 경험에서 얻은 주요 교훈은 무엇인가?

대규모 기술 회사들은 항상 5년 이상 앞서갑니다. 2015年に 메타에 입사했을 때, 우리는 AI 여정의 시작에 있었습니다. CPU에서 GPU로의 전환을 설계해야 했습니다. 우리는 AI 인프라를 처음부터 설계해야 했습니다. Caffe2와 같은 모델은 당시에는 혁신적이었습니다. 그러나 AI가 너무 빠르게 발전하여 곧 구식이 되었습니다. 우리는 PyTorch와 그周りの 시스템을 개발했습니다.

PyTorch에서私は 개발자들이 AI를 구축하는 데 직면하는 가장 큰 장애물들을 배웠습니다. 첫 번째 도전은 안정적이고 신뢰할 수 있는 모델 아키텍처를 찾는 것입니다. 두 번째 도전은 총 소유 비용입니다. 회사가 모델을 성장시키려고 시도하면서 파산하지 않도록 해야 합니다.

메타에서 보낸 시간은 PyTorch와 같은 모델 및 프레임워크를 오픈 소스로 유지하는 것이 얼마나 중요한지 보여주었습니다. 이는 혁신을 촉진합니다. 우리는 오픈 소스 기회 없이 PyTorch에서 그렇게 많이 성장하지 않았을 것입니다. 또한 최신 연구를 모두 따라가기 위해 협력이 불가능합니다.

파이어웍스 AI를 출시하게 된 계기는 무엇인가?

私は 기술 산업에서 20년 이상 일했습니다. 클라우드, 모바일 앱 등 산업 수준의 변화를 보았습니다. 그러나 이 AI 변환은 완전한 지각 변동입니다. 많은 회사들이 이 변화를 어려워하고 있었습니다. 모두가 빠르게 움직이고 AI를 우선적으로 하려고 했지만, 필요한 인프라, 자원, 재능이 부족했습니다. 이러한 회사들과 더 많이 이야기할수록,私は 이 격차를 메우는 방법을 찾을 수 있었습니다.

私は 파이어웍스 AI를 출시하여 이 문제를 해결하고 PyTorch에서 đạt한 놀라운 성과를 확장하기 위해 했습니다. 이는 실제로 우리의 이름을 영감했습니다! PyTorch는 화재를 잡고 있는 횃불입니다. 그러나 우리는이 화재를 모든 곳에 퍼지게 하려고 합니다. 따라서 파이어웍스입니다.

私は 기술을 민주화하고, 개발자가 자원에 관계없이 혁신을 할 수 있도록 쉽고 저렴하게 만들고 싶었습니다. 따라서 우리는 사용자 친화적인 인터페이스와 강력한 지원 시스템을 제공하여 개발자가 자신의 비전을 실현할 수 있도록 합니다.

개발자 중심 AI에 대해 논의해 주시겠습니까?

개발자 중심 AI는 단순히 개발자의需求을 우선시하는 것을 의미합니다. 예를 들어, 개발자가 더 효율적이고 자율적으로 일할 수 있도록 도구, 커뮤니티, 프로세스를 만드는 것입니다.

파이어웍스와 같은 개발자 중심 AI 플랫폼은 기존 워크플로우와 기술 스택에 통합되어야 합니다. 개발자가 실험하고, 실수를 하고, 자신의 작업을 개선할 수 있도록 해야 합니다. 개발자가 성공하기 위해 무엇이 필요한지 이해하는 개발자들의 피드백을 장려해야 합니다. 마지막으로,이는 단순히 플랫폼이 아니라 커뮤니티입니다. 협력하는 개발자가 AI의 가능성을 넓히는 것입니다.

파이어웍스 AI에서 개발한 GenAI 플랫폼은 대형 언어 모델을 사용하는 개발자들에게重大한 발전입니다. 플랫폼의 고유한 기능과 이점, 특히 기존 솔루션과의 비교에서 논의해 주시겠습니까?

우리의 전체 접근 방식은 고유합니다. 그러나 일부 주요 기능은 다음과 같습니다.

효율적인 추론 – 우리는 파이어웍스 AI를 효율성과 속도로 설계했습니다. 우리 플랫폼을 사용하는 개발자는 자신의 LLM 애플리케이션을 가장 낮은 지연 시간과 비용으로 실행할 수 있습니다. 우리는 프롬프트 캐싱, 적응형 샤딩, 양자화, 연속 배칭, FireAttention 등을 포함한 최신 모델 및 서비스 최적화 기술을 사용하여이를 달성합니다.

LoRA 튜닝 모델에 대한 저렴한 지원 – 우리는 기초 모델에 대한 다중 테넌시를 통해 LoRA(저ラン크 적응) 미세 조정 모델을 제공합니다. 이는 개발자가 동일한 모델의 다양한 사용 사례 또는 변형을 실험할 수 있도록 해주며 비용 부담 없이 할 수 있습니다.

간단한 인터페이스 및 API – 우리의 인터페이스와 API는 개발자가 자신의 애플리케이션에 통합하기 쉽습니다. 우리의 API는 또한 OpenAI와의 이식성 쉽게 하기 위해 호환됩니다.

사전 훈련된 모델 및 미세 조정된 모델 – 우리는 개발자가 즉시 사용할 수 있는 100개 이상의 사전 훈련된 모델을 제공합니다. 우리는 최고의 LLM, 이미지 생성 모델, 임베딩 모델 등을 다룹니다. 그러나 개발자는 또한 자신의 사용자 정의 모델을 호스팅하고 제공할 수 있습니다. 우리는 또한 개발자가 자신의 고유한 데이터로 이러한 사용자 정의 모델을 미세 조정하는 데 도움이 되는 자체 서비스 미세 조정을 제공합니다.

커뮤니티 협력 – 우리는 오픈 소스 정신의 커뮤니티 협력을 믿습니다. 우리의 플랫폼은 개발자가 자신의 미세 조정된 모델을 공유하고, AI 자산 및 지식의 성장하는 은행에 기여하도록鼓励합니다. 모두가 우리의 집체적인 전문 지식을 성장시키는 데부터 혜택을 받습니다.

모델 병렬성과 데이터 병렬성 사이의 하이브리드 접근 방식에 대해 논의해 주시겠습니까?

기계 학습 모델을 병렬화하면 모델 훈련의 효율성과 속도를 개선하고, 개발자가 단일 GPU로 처리할 수 없는 더 큰 모델을 처리할 수 있도록 도와줍니다.

모델 병렬성은 모델을 여러 부분으로 나누고, 각 부분을 별도의 프로세서에서 훈련하는 것을 포함합니다. 반면에 데이터 병렬성은 데이터 세트를 하위 세트로 나누고, 동일한 모델을 별도의 프로세서에서 동시에 훈련하는 것을 포함합니다. 하이브리드 접근 방식은 이러한 두 가지 방법을 결합합니다. 모델을 별도의 부분으로 나누고, 각 부분을 다른 데이터 하위 세트에서 훈련하여 효율성, 확장성 및 유연성을 개선합니다.

파이어웍스 AI는 20,000명 이상의 개발자들이 사용하고 있으며, 현재 일일 60억 토큰을 제공하고 있습니다. 이러한 수준으로 운영을 확장하는 데 직면한 도전은 무엇이며, 이를 어떻게 극복했습니까?

저는 정직하게 말하겠습니다. 2022年に 파이어웍스 AI를 설립한 이후 많은 높은 산을 넘어야 했습니다.

초기 고객은 저희에게 매우 낮은 지연 시간 지원을 요청했습니다. 그들은 소비자, 프로슈머 또는 다른 개발자를 위한 애플리케이션을 구축하고 있었기 때문입니다. 그들의 애플리케이션이 빠르게 확장하기 시작했을 때, 그들은 이러한 확장의 일반적인 비용을 감당할 수 없다는 것을 깨달았습니다. 그들은 저희에게 총 소유 비용을 낮추는 데 도움을 요청했습니다. 우리는 그렇게 했습니다. 그들은 OpenAI에서 OSS 모델로 마이그레이션하고 싶었고, OpenAI와 같은 또는 더 나은 품질을 제공하도록 요청했습니다. 우리는 그렇게 했습니다.

제품의 모든 진화 단계는 어려운 문제였지만, 고객의需求이 파이어웍스 AI를 오늘날의 것으로 만드는 데 도움이 되었습니다. 즉, 저지연 추론 엔진과 낮은 총 소유 비용을 제공하는 것입니다. 또한 우리는 개발자가 선택할 수 있는 다양한 높은 품질의 사전 훈련된 모델과 사용자 정의 모델을 위한 미세 조정 서비스를 제공합니다.

AI와 기계 학습의 빠른 발전으로 인해, 윤리적 고려는 더 중요해졌습니다. 파이어웍스 AI는 편향, 개인 정보, AI의 윤리적 사용과 관련된 우려에 어떻게 대처합니까?

저는 10대 두 딸을 두고 있습니다. 그들은 종종 ChatGPT와 같은 genAI 앱을 사용합니다. 어머님으로서,私は 그들이 잘못된 또는 부적절한 내용을 찾을 수 있다는 것을 걱정합니다. 산업은 콘텐츠 안전성 문제를 해결하기 시작했습니다. 메타는 Purple Llama 프로젝트를 진행하고 있으며, Stability AI의 새로운 SD3 모드는 훌륭합니다. 두 회사는 콘텐츠 안전성을 제공하기 위해 노력하고 있습니다. Llama Guard와 같은 입력-출력 안전 모델은我们的 플랫폼에서 사용됩니다. 그러나 산업 전체는 콘텐츠 안전성과 AI 윤리를 앞으로 더욱 강조해야 합니다.

파이어웍스 AI는 개인 정보와 보안을 매우 중요하게 생각합니다. 우리는 HIPAA 및 SOC2를 준수하며, 안전한 VPC 및 VPN 연결을 제공합니다. 회사는 파이어웍스 AI를 신뢰하고, 자신의 독점적인 데이터와 모델을 제공하여 비즈니스 모아를 구축합니다.

AI의 발전 방향에 대한 비전은 무엇입니까?

알파고가 스스로 체스를 배우는 것과 같이,私は genAI 애플리케이션이 더 자율적으로 될 것이라고 생각합니다. 애플리케이션은 자동으로 요청을 올바른 에이전트 또는 API로 라우팅하고, 올바른 출력을 얻을 때까지 코스 수정할 것입니다. 함수 호출 모델이 다른 모델에서 폴링하는 컨트롤러로 작동하는 대신, 우리는 더 많은 자율적이고 조정된 에이전트가 협력하여 문제를 해결하는 것을 볼 것입니다.

파이어웍스 AI의 빠른 추론, 함수 호출 모델 및 미세 조정 서비스는 이러한 현실을 가능하게 했습니다. 이제는 혁신적인 개발자가 이를 실현하는 것입니다.

감사합니다. 더 많은 정보를 원하는 독자는 파이어웍스 AI를 방문하십시오.