백블레이즈의 AI 담당 시니어 제품 매니저 제로니모 데 레온 – 인터뷰 시리즈

제로니모 데 레온은 10년 이상의 경력을 가진 AI 기반 제품 관리 리더입니다. 그는 현재 백블레이즈의 AI 담당 시니어 제품 매니저로, AI/ML 기능 개발을 이끌고, 백블레이즈가 고객의 MLOps 아키텍처에 대한 AI 데이터 수명 주기를 향상시키는 방법에 집중하고, 내부 운영을 최적화하기 위한 AI 도구와 에이전트를 구현합니다.

백블레이즈는 개인과 비즈니스 고객을 위한 무제한 자동 컴퓨터 백업과 엔터프라이즈, 미디어, 애플리케이션 워크로드를 위한 확장 가능한 오브젝트 스토리지 솔루션을 제공하는 클라우드 스토리지 및 백업 회사입니다. 그들의 서비스는 비용 효율성, 데이터 보안, 쉽게 데이터를 복구하는 기능, 기존 시스템과의 무결점한 호환성을 강조합니다.

당신은 인텔라스에서 LLM을 작업하고 웰컴.AI에서 RAG를 작업한 후 블룸버그의 챗봇을 출시하고 현재 백블레이즈에서 AI 노력을 이끌고 있습니다. 이러한 경험은 클라우드 스토리지가 AI/ML 워크플로우를 확장하는 데 어떻게 영향을 미쳤나요?

IBM 왓슨에서 AI 프로젝트를 시작한 이후로, 혁신의 속도가劇적으로 가속화되는 것을 보았습니다. 연구에서 생산까지 몇 년이 걸리던 것이 이제 몇 개월이면 가능해졌습니다. 그러나 기본적인 인프라적인 도전은 여전히 같습니다. 데이터는 어디에 저장되어 있고, 어떻게 효율적으로 접근할 수 있을까요?

과거에는 컴퓨팅 능력과 모델이 제한적이었습니다. 그러나 지금은 사전 훈련된 모델이 풍부하고, 많은 컴퓨팅 제공업체가 있습니다. 그러나 프로젝트를 시작할 때, 데이터 수집과 처리 프로젝트에서 시작해야 했던 것은 여전히 같습니다. 항상 조직이 데이터를 통합하는 병목 현상을 경험합니다. 데이터 접근성을早期에 해결하는 조직이 성공합니다. 스토리지 아키텍처 결정은 모델 훈련과 혁신을 얼마나 빠르게 할 수 있는지 결정합니다.

AI 수명 주기에서 클라우드 스토리지가 가장 중요한 역할을 하는 곳은 어디인가요? 데이터 수집, 처리, 훈련, 미세 조정, 추론, 모니터링을 포함하여?

클라우드 스토리지는 AI 수명 주기 전반에 걸쳐 중요한 역할을 합니다. 데이터 수집, 처리, 훈련, 추론의 모든 단계에서 중요합니다. 처음에는 데이터를 체계적으로 통합, 카탈로그화, 보안화하여 새로운 프로젝트를 신속하게 시작할 수 있고, 새로운 모델을 쉽게 테스트할 수 있습니다. 깨끗하고 잘 처리된 데이터는 많은 데이터보다 더 중요합니다. 이것은 스토리지의 품질과 규모에 모두 중요합니다. 훈련 중에 확장 가능한 스토리지로大量의 데이터를 처리할 수 있고, 추론 중에 예측 출력과 사용자 피드백을 캡처하여 지속적인 반복을 가능하게 합니다. 결국, 스토리지는 AI로 혁신을 얼마나 빠르게 할 수 있는지 결정하는 基礎입니다.

조직이 AI를 위한 스토리지를 확장하는 데 직면하는 가장 큰 장애물은 무엇이며, 이것은 작은 스타트업과 큰 기업에서 어떻게 다릅니까?

AI를 위한 스토리지를 확장하는 데 직면하는 가장 큰 장애물은 비용, 데이터 관리, 접근성입니다.大量의 데이터를 저장하는 것은 부분적인 도전입니다. 데이터는 또한 조직화되어야 하고, 검색 가능해야 하고, 적절한 제어로 관리되어야 합니다. 깨끗하고 잘 구조화된 데이터는 많은 데이터보다 더 가치 있습니다.

스타트업의 경우, 초기 도전은 충분한 데이터를 수집하여 모델을 훈련하고 tinh chỉnh하는 것입니다. 한번 데이터를 얻으면, 비용과 아키텍처가 다음 장벽이 됩니다.

큰 기업의 경우, 도전은 복잡성입니다. 데이터는 풍부하지만, 실로, 레거시 시스템, 규제 체제로 분산되어 있어, 통합과 접근성이 어려울 수 있습니다.

성공하는 조직은 스토리지를 전략적인 활성화자로 간주하여, 비용, 성능, 접근성에서 AI 성숙도와 함께 확장합니다.

비용, 대기 시간, 보안, 규정 준수를 포함하여, 현재 AI를 확장하는 데 가장 중요한 장벽은 무엇이며, 조직은 어떻게 이를 해결해야 합니까?

비용, 대기 시간, 보안, 규정 준수를 포함하여, 대기 시간은 가장 중요한 장벽 중 하나입니다. 모델 훈련과 추론에 직접적인 영향을 미치며, 특히 추론에서 사용자 경험을 형성합니다. 조직은 이 단계에서 가능한 모든 것을 하여 지연을 줄입니다. 지연은 채택을 약화시킵니다.

비용은 데이터 볼륨이 증가함에 따라 지속적인 도전입니다. 규정 준수는 규제 산업에서 특히 중요해집니다. 스타트업은 일반적으로 비용과 대기 시간에 먼저 집중하며, 기업은 대기 시간과 거버넌스, 규정 요구를 균형있게 맞추어야 합니다. 우선순위는 훈련과 추론을 위한 대기 시간을 최소화하는 스토리지를 구축하는 것입니다. 동시에 비용 효율성과 규정 준수를 고려하여 AI 채택이 확대됩니다.

기업은 데이터 접근성과 유연성을 강조하며, AI 혁신을 추동하고자 합니다. 데이터 접근성의 真의 유연성이 무엇이며, 왜 이것이 इतन 중요한가요?

最近의 강연에서 나는 스마트 아카이빙의 아이디어를 강조했습니다. 데이터 접근성의 真의 유연성은 정보를 구조화된, 검색 가능한 아카이브로 중앙집중화하는 것으로 시작합니다. 즉, 다양한 형식을 통일하고, 일관성을 위해 정규화하고 태그를 지정하고, 미래의 쿼리를 위해 색인을 생성하는 것입니다. 이러한 접근 방식은 데이터가 저장되는 것만 아니라 사용 가능하게 만듭니다.

이것은 분석과 모델링을 위한 基礎를 마련하기 때문입니다. 데이터가 구조화되어 있고 검색 가능할 때, 팀은 더 빠르게 움직일 수 있고, 더 자유롭게 실험할 수 있고, 훈련과 추론에서 대기 시간을 줄일 수 있습니다. 이러한 유연성이 없으면 스토리지는 AI 혁신을 위한 병목 현상이 됩니다.

Decart AI나 Wynd Labs와 같은 고객 사례를 통해 올바른 클라우드 스토리지 접근 방식이 직접적으로 AI 혁신을 가능하게 하는 방법을 공유할 수 있나요?

이들은 클라우드 스토리지 접근 방식이 직접적으로 AI 혁신을 가능하게 하는 두 가지 좋은 예입니다. Decart는 모델 훈련에 중점을 두었습니다. 여기서 데이터를 컴퓨팅으로 효율적으로 이동하는 것이 중요했습니다. 백블레이즈 B2를 사용하여 90일 만에 16PB로 확장했으며, 여러 GPU 클러스터에서 이그레스 비용 없이 훈련을 수행했으며, 경쟁사에 비해 10배 더 효율적인 성능을 달성했습니다. 이러한 신뢰성과 효율성으로 더 빠르게 혁신할 수 있었습니다.

Wynd Labs는 고객이 데이터에 접근하는 방식에 중점을 두었습니다. 그들은 일일로 페타바이트 단위의 데이터를 수집하고, 월별로 수십 페타바이트의 데이터를 제공합니다. 백블레이즈의 높은 성능과 무료 이그레스로, 기업 수준의需求에 맞게 확장할 수 있었으며, 제품 개발에 자원을 재투자할 수 있었습니다. 이러한 데이터 접근성은 플랫폼에 새로운 기회를 열어주었습니다.

両方의 경우, 올바른 스토리지 전략은 인프라를 제약에서 혁신의 원동력으로変換하여, 회사가 AI에서 혁신에 집중할 수 있게 했습니다.

AI 모델과 데이터셋이 더 복잡해짐에 따라, 스토리지 성능과 비용 효율성을 균형있게 맞추는 데 도전하는 조직에 대한 조언은 무엇인가요?

조직은 제품과 함께 장기적인 데이터 사용을 고려해야 합니다. 데이터를 수집, 처리, 이동, 추론에 사용하는 것은 모두 제품의 진화에 핵심이 될 것입니다. 이러한 점을 지금 고려하지 않으면, 비용과 스토리지 도전은 시간이 지남에 따라 더 커질 것입니다. AI는 제품과 조직의 핵심이 될 것입니다. 따라서 스토리지는 성능과 비용 효율성을 균형있게 맞추어, 제품이 성장함에 따라 원활하게 확장할 수 있도록 설계되어야 합니다.

보안과 규정 준수는 규제 산업에서 특히 중요합니다. 클라우드 스토리지는 규정 준수를 지원하면서도 팀이 빠르게 혁신할 수 있도록 어떻게 진화하고 있나요?

거버넌스는 스토리지의 중요한 부분입니다. 접근을 간소화하고 데이터가 관리, 보안, 감사되는 방식을 위한 견고한 基礎를 마련하는 것이 중요합니다. 클라우드 스토리지는 기본적으로 더 강력한 제어를 갖추고 있습니다. 예를 들어, 기본 암호화, 세분화된 권한, 감사 로그, 데이터 거주지 옵션 등이 있습니다. 또한 데이터 계보가 중요합니다. AI에서 데이터가 어디에서 왔는지, 어떻게 처리되었는지, 모델에 어떻게 공급되는지 알고 있는 것이 중요합니다.

동시에 스토리지 플랫폼은 팀이 빠르게 움직일 수 있도록 사용성을 개선하고 있습니다. 거버넌스, 계보, 접근성이 함께 작동하면, 조직은 규정 요구를 충족하면서도 AI에서 빠르게 혁신할 수 있습니다.

B2를 평가하거나 마이그레이션하는 조직에 대한 조언은 무엇이며, 특히 데이터 마이그레이션, 기존 MLOps 또는 컴퓨팅 스택との 통합, 처리량 및 이그레스 최적화와 관련하여 무엇인가요?

백블레이즈 B2는 S3와 호환되므로, 기존 MLOps와 컴퓨팅 스택에 직접 통합됩니다. 우리는 일반적으로 클라이언트와 함께 검증을 위해 시범 프로젝트를 진행하여 마이그레이션, 성능, 통합을 확인한 후 확장합니다. 그 다음에, 처리량, 데이터 이동, 데이터 오케스트레이션을 최적화하여 팀이 클러스터에서 훈련을 수행하고, 추론을 실행하고, 지연 없이 반복할 수 있도록 합니다.

AI 워크로드가 확장함에 따라, 특히 대형 언어 모델, 엑사바이트 규모의 데이터셋, 하이브리드 또는 멀티 클라우드 전략과 관련하여, 백블레이즈는 이러한 새로운 요구에 대응하여 스토리지 제공을 어떻게 진화시키고 있나요?

백블레이즈에서 우리는 현재 데이터가 사용되는 방법뿐만 아니라, 어떻게 미래에 오케스트레이션될 것인지에 대해 집중하고 있습니다. 스토리지는 더 이상 단순히 보관소가 아닙니다. 빠른 접근, 효율적인 이동, 신뢰할 수 있는 오케스트레이션을 가능하게 하는 도구가 됩니다. 대형 언어 모델과 엑사바이트 규모의 데이터셋과 관련하여, 이러한 基礎는 훈련과 추론을 위한 것뿐만 아니라, 데이터를 사용하여 프로세스를 더 자율적으로 만드는 새로운 AI 에이전트 클래스에도 중요합니다. 결과는 현재 혁신을 가능하게 하는 스토리지 基礎이고, 조직이 미래에 무엇을 준비할 수 있도록 합니다.

감사합니다. 더 많은 정보를 원하는 독자는 백블레이즈를 방문할 수 있습니다.