Kris Beevers, CEO 겸 공동 설립자, Netbox Labs – 인터뷰 시리즈

Kris Beevers, CEO 겸 공동 설립자인 NetBox Labs는 네트워킹, 클라우드 인프라 및 자동화에 초점을 맞춘 기업 및 플랫폼을 구축한 20년 이상의 경험을 가진 기술 기업가이자 인프라 소프트웨어 베테랑입니다. NetBox Labs를 이끌기 전, Beevers는 2013년에 NS1을 공동 설립하고 거의 10년 동안 CEO를 역임하며 회사를 네트워크 자동화 및 애플리케이션 트래픽 관리 기술의 주요 공급업체로 성장시켰으며, 2023년에 IBM에 인수되었습니다. 해당 거래의 일환으로 NetBox Labs는 NS1에서 분리되어 IBM이 투자자로 참여하는 독립 기업이 되었습니다. 초기 경력에서는 Internap Network Services와 Voxel에서 선임 엔지니어링 및 아키텍처 역할을 수행했으며, SolidJoint Research도 공동 설립했습니다.

NetBox Labs는 조직이 점점 복잡해지는 네트워크와 IT 인프라를 모델링, 운영, 자동화 및 거버넌스할 수 있도록 설계된 인프라 인텔리전스 플랫폼을 개발합니다. 이 회사는 10,000개 이상의 조직이 사용하는 널리 채택된 오픈 소스 네트워크 및 인프라 기록 시스템인 NetBox의 상업적 관리 주체입니다. 그 플랫폼은 인프라 그래프와 진실의 원천을 운영 인텔리전스, 자동화, AI 지원 오케스트레이션 및 거버넌스 기능과 결합하여 엔지니어와 AI 에이전트가 인프라와 안전하게 상호 작용할 수 있게 합니다. NetBox Labs는 클라우드, 자체 관리 엔터프라이즈, 하이브리드 및 에어갭 배포를 지원하며, Ansible, Terraform, Nornir 및 지속적 통합·배포 파이프라인과 같은 도구와 통합됩니다.

당신은 2013년에 NS1을 공동 설립하고 거의 10년 동안 회사를 성장시킨 뒤 IBM에 인수되었으며, 그 후 NetBox Labs가 독립 기업으로 등장했습니다. NS1을 구축하면서 얻은 교훈이 NetBox Labs를 설립하게 된 이유에 어떻게 영향을 미쳤으며, AI 시대에 해결하려는 인프라 문제는 어떻게 변했습니까?

제가 NS1을 구축하면서 배운 한 가지는 인프라 문제는 거의 결코 깔끔하게 제한되지 않는다는 점입니다. DNS는 우리 스택의 한 부분이었지만, 고객들은 네트워크, 데이터 센터, 애플리케이션 및 자동화가 서로 의존하는 매우 복잡한 환경을 운영하고 있었습니다. 그 팀들과 함께할수록 인프라 자체를 이해하는 것이 훨씬 더 큰 문제라는 것이 명확해졌습니다.

그것이 제가 NetBox에 끌린 큰 이유 중 하나였습니다. 이미 널리 채택된 오픈 소스 프로젝트와 이를 사용해 자신이 가진 것을 모델링하고, 연결 방식과 기대되는 모습을 정의하는 엔지니어 커뮤니티가 존재했습니다. 우리는 그 기반 위에 무언가를 구축할 기회를 보았습니다.

AI와 함께 변한 가장 큰 점은 속도와 규모입니다. 인프라 팀은 엄청난 환경을 매우 빠르게 구축하라는 요구를 받고 있으며, 기반 기술도 그만큼 빠르게 변화하고 있습니다. 동시에 우리는 그 인프라의 운영을 더 많이 자동화하기 시작했으며, 이는 흥미로운 미래를 제시합니다. AI가 인프라에 적용되면서 IT 팀은 자동화를 위해 인프라에 대한 정확하고 실시간 데이터를 보유해야 함을 깨닫고 있으며, AI가 계획에서 벗어난 운영 인프라를 식별할 수 있도록 의도된 상태가 어떻게 생겼는지를 알아야 합니다.

따라서 NS1에서 얻은 교훈은 여전히 유효합니다. 인프라를 효과적으로 자동화하려면 먼저 인프라를 이해해야 합니다. AI는 그 이해를 더욱 시급하게 만들 뿐입니다.

지난 10년 동안 클라우드 컴퓨팅은 개발자와 인프라 팀이 애플리케이션 아래의 물리적 하드웨어를 추상화하도록 해왔습니다. 왜 AI가 그 추세를 뒤집고 DevOps, Site Reliability Engineering (SRE) 및 네트워크 엔지니어가 다시 전원, 냉각, 랙, 케이블링 및 물리적 네트워킹을 고민하도록 만들고 있나요?

클라우드는 우리에게 인프라를 사실상 무한한 것으로 취급하도록 가르쳤습니다. 컴퓨팅을 요청하면 바로 제공되었습니다. 서버가 어디에 있는지, 어떻게 전원이 공급되는지, 어떻게 냉각되는지, 혹은 그 아래에 있는 물리적 요소들이 어떻게 결합되는지에 대해 반드시 신경 쓸 필요는 없었습니다.

AI 인프라는 실제로 그렇게 할 수 없게 만듭니다.

이러한 환경을 구축할 때는 꽤 물리적인 질문부터 시작합니다. 나는 얼마나 많은 토지를 보유하고 있는가? 얼마나 많은 전력을 확보할 수 있는가? 어떤 종류의 냉각을 지원할 수 있는가? 그런 다음 랙, GPU 서버, 스위치, 광섬유 케이블로 이동하고 최종적으로 논리 계층인 IP 주소, 구성 및 소프트웨어에 이르게 됩니다.

이 모든 요소는 서로 의존합니다. 전력 및 냉각 밀도를 이해하지 못하고는 몇 개의 랙을 배치할지 결정할 수 없습니다. GPU를 네트워크와 연결된 상태와 독립적으로 생각할 수도 없습니다.

이는 물리 계층에서 벗어나 오랫동안 작업해 온 분야들이 다시 그와 마주하도록 강요하고 있습니다. 추상화 자체가 사라진 것은 아니지만, 그 아래에 있는 물리적 제약이 갑자기 훨씬 더 중요해졌습니다.

AI 데이터 센터가 기가와트 규모로 논의되는 경우가 점점 늘어나고 있습니다. 인프라가 기존 기업 또는 클라우드 환경에서 거대한 GPU 클러스터를 중심으로 설계된 시설로 이동할 때 운영 측면에서 근본적으로 무엇이 달라집니까?

기가와트 규모는 정말 어마어마합니다. 규모가 분명히 다르지만, 더 흥미로운 차이점은 요구되는 협업량이라고 생각합니다.

300메가와트 규모의 데이터 센터를 가동하려면 어떤 일이 일어나야 하는지 생각해 보세요. 토지와 전력이 필요합니다. 그런 다음 시설을 설계하고 랙, GPU 서버, 스위치, 광섬유, 전력 인프라 및 냉각 장비를 완전히 다른 공급업체와 전혀 다른 방식으로 표현되는 제품들로부터 조달해야 합니다. 모든 장비가 도착하고, 수령되고, 랙에 장착되고, 케이블이 연결되고, 구성되고, 테스트된 뒤 최종적으로 교육이나 추론을 위해 인도되어야 합니다.

그리고 그 과정에서 바닥이 계속 움직이고 있습니다. GPU 아키텍처가 변하고, 네트워킹이 변하고, 냉각 요구사항이 변합니다. 지금부터 6개월 후에 사용할 수 있는 부품은 오늘 설계한 부품과 다를 수도 있습니다.

그래서 작은 비효율이 매우 빠르게 누적됩니다. 저는 최근 세계 최대 광섬유 케이블 제조업체 중 하나를 방문했는데, 그들은 가장 큰 비즈니스 문제 중 하나가 고객이 잘못된 케이블 길이를 주문해서 발생하는 반품이라고 말했습니다. 수십만 개의 케이블을 주문한다면 거의 사소한 문제처럼 들리지만 실제로는 큰 문제입니다.

이러한 규모에서는 인프라 운영이 거대한 물류 및 제약 만족 문제로 변합니다. 이를 잘 수행하는 기업은 설계 데이터를 조달, 배포 및 운영 전 단계에 걸쳐 정확히 전달하는 데 매우 능숙합니다.

당신은 이 규모의 인프라를 운영하기 위한 확립된 플레이북이나 인재 파이프라인이 사실상 없다고 말했습니다. 현재 가장 찾기 어려운 기술은 무엇이며, AI 인프라가 확대됨에 따라 가장 큰 인재 부족이 어디에서 발생할 것으로 예상하십니까?

현재 전 세계에 이와 같은 인프라를 이 속도와 규모로 구축할 수 있는 사람은 수백 명에 불과합니다. 그리고 그들 대부분은 실제로 그 일을 하고 있어 매우 바쁩니다.

이 순간이 특별한 이유도 바로 여기에 있습니다. 공부할 수 있는 성숙한 지식 체계가 존재하지 않습니다. 이 일을 하는 사람들은 서로에게서 배우고 실시간으로 문제를 해결하고 있습니다. 그리고 기술 변화가 너무 빨라 일부 교훈은 금방 구식이 됩니다.

따라서 부족 현상은 특정 직책보다 더 큽니다. 네트워킹, 컴퓨팅, 자동화를 이해하는 사람뿐 아니라 그 시스템이 존재하는 물리적 환경까지 이해하는 사람이 필요합니다. 전력, 냉각, 시설 설계, 공급망 및 현장 운영이 모두 같은 대화의 일부가 되고 있습니다.

이러한 경계를 넘나들 수 있는 사람은 매우 귀중한 자산이 될 것입니다. 하지만 아직 그 역할이 정확히 어떻게 생겼는지는 정해지지 않았습니다. 인재 모델은 인프라와 함께 구축되고 있습니다.

소프트웨어, 네트워킹, 시설, 에너지, 데이터센터 엔지니어링 사이의 경계가 흐려지면서 어떤 새로운 기술 직무나 혼합 스킬셋이 등장할 것으로 예상하십니까?

아직 모든 역할이 어떻게 될지는 모릅니다. 우리가 알고 있는 것은 이 인프라를 구축하는 사람들이 이전보다 훨씬 넓은 범위의 문제를 생각해야 한다는 점입니다.

컴퓨팅이나 네트워킹만을 따로 생각하는 것이 아니라 전력, 냉각, 물리적 설계, 공급망, 네트워킹 및 자동화가 모두 결합돼야 이러한 환경을 가동하고 유지할 수 있습니다.

각 분야에 깊은 전문성을 가진 인력이 여전히 필요하다고 생각합니다. 하지만 점점 더 그들은 자신의 분야에서 내린 결정이 인프라 전체에 어떤 영향을 미치는지도 이해해야 합니다. 그리고 작업 속도가 빨라짐에 따라 자동화 능력은 더 많은 분야에서 중요해질 것입니다.

AI 에이전트가 문제를 진단하고, 구성을 생성하며, 인프라 운영의 일부를 자동화하기 시작하고 있습니다. 어떤 책임을 AI가 현실적으로 인프라 엔지니어에게서 넘겨받을 것이며, 어떤 부분은 오히려 인간의 깊은 전문성에 더 의존하게 될 것이라고 보십니까?

입력, 원하는 결과 및 경계가 명확한 작업은 점점 AI가 처리하게 될 것이라고 생각합니다. 구성 생성은 명백한 예이며, 일반적인 문제 진단, 인프라가 의도된 설계와 일치하는지 확인, 혹은 무엇이 잘못됐고 안전한 대응이 무엇인지 충분히 확신할 수 있을 때 특정 문제를 해결하는 것도 포함됩니다.

인간이 더 중요해지는 순간은 답이 명확하지 않을 때입니다.

인프라는 이상한 방식으로 고장납니다. 광섬유가 끊기고, 장치가 설계와 다르게 동작하고, 변경 사항이 환경의 다른 곳에 예상치 못한 영향을 미칩니다. AI는 엔지니어가 이러한 상황을 훨씬 빠르게 이해하도록 도울 수 있지만, 다음에 무엇을 해야 할지 결정할 만큼 시스템을 깊이 이해한 사람은 여전히 필요합니다.

이것이 흥미로운 전환점이라고 생각합니다. 엔지니어는 반복적인 구성 및 트러블슈팅에 쓰는 시간을 줄이고, 의도 정의, 시스템 설계, 자동화 경계 설정 및 진정으로 새로운 문제 처리에 더 많은 시간을 할애하게 될 것입니다. 모든 작업은 AI에 의해 보강되겠지만, 궁극적으로는 사람에 의해 주도됩니다.

그렇기 때문에 전문성이 더 가치 있게 됩니다. 인프라가 왜 그렇게 작동하는지 진정으로 이해하는 엔지니어는 자동화가 명확한 답을 제시하지 못할 때 매우 중요한 역할을 하게 될 것입니다.

NetBox Labs는 인프라를 관리하는 AI 시스템이 장치, 연결, 종속성 및 기타 물리적·논리적 관계에 대한 권위 있는 모델을 필요로 한다고 주장합니다. AI 어시스턴트가 권고를 제공하는 단계에서 실제로 행동을 취할 수 있는 에이전트로 전환할 때 이러한 인프라 컨텍스트가 왜 이렇게 중요한가요?

큰 차이점은 에이전트가 행동할 수 있게 되면, 실수가 실제적인 결과를 초래한다는 점입니다.

인프라 에이전트는 현재 장치가 무엇을 하고 있는지에 대한 스냅샷만으로는 충분하지 않습니다. 주변 환경을 이해해야 합니다: 무엇이 존재하는지, 어떻게 연결되어 있는지, 최근에 무엇이 변경되었는지, 그리고 무엇보다 인프라가 어떻게 보여야 하는지에 대한 의도까지.

예를 들어 연결 문제를 트러블슈팅하는 경우를 생각해 보세요. 장치가 접근 불가능하다는 사실만으로는 충분하지 않습니다. 에이전트가 케이블 경로를 추적하고, 해당 장치 주변의 종속성을 이해하며, 최근 변경 사항을 살펴보고, 다음에 무엇을 해야 할지 제안하기 전에 어떤 다른 요소가 영향을 받을 수 있는지 판단할 수 있어야 합니다.

이것이 바로 NetBox Labs가 수년간 구축해 온 기반이며, 물리적 및 논리적 인프라 모두에 대한 정확한 모델과 그것이 어떻게 작동해야 하는지에 대한 의도를 팀에 제공합니다.

하지만 데이터만으로는 충분하지 않습니다. 에이전트가 스스로 할 수 있는 일과 사람의 승인이 필요한 일을 결정하고, 모든 행동이 어떻게 추적·검증되는지도 정해야 합니다.

인프라는 코드와 달리 잘못된 변경을 항상 깔끔하게 되돌릴 수 없습니다. 잘못된 변경은 운영을 중단시킬 수 있습니다. 따라서 AI가 엔지니어에게 생각을 알려주는 단계에서 실제 작업을 수행하는 단계로 넘어갈수록 컨텍스트와 제어가 훨씬 더 중요해집니다.

귀하의 최근 CIO 기사, “왜 내가 CEO로서 직접 우리 AI 전략을 구축하고 있는가”에서 AI가 기업 리더가 단순히 위임하기엔 너무 중요하다고 주장하고 AI 도구로 직접 프로토타이핑한 경험을 설명했습니다. 이러한 시스템을 직접 다루면서 인프라 운영에서 AI가 현실적으로 자동화할 수 있는 것에 대한 생각이 어떻게 변했나요?

직접 참여하면 이론적인 대화에 덜 관심을 갖게 됩니다.

저는 실제로 이러한 도구로 구축하는 데 많은 시간을 보냈으며, 요즘은 주로 Claude Code로 프로토타이핑하거나 완전한 제품을 만들고 있습니다. 인상적인 데모를 보는 것과 실제로 신뢰할 수 있는 유용한 작업을 수행하도록 만드는 것 사이에는 큰 차이가 있다는 것을 금방 깨닫게 됩니다.

또한 기술이 어디로 움직이고 있는지를 읽는 것보다 훨씬 빠르게 감지하게 됩니다. 6개월 전에는 자동화하기 어렵다고 생각했던 것들이 갑자기 꽤 간단해질 수 있습니다. 동시에 컨텍스트, 판단 및 구조가 아직 부족한 부분이 어디인지도 매우 명확히 보입니다.

이것이 인프라 운영에 대한 제 사고방식에 영향을 미쳤습니다. 운영 작업을 얼마나 자동화할 수 있을지에 대해 매우 낙관적이지만, 최종 목표인 완전한 자율성에는 아직 거리가 멀다고 생각합니다.

제가 관심 있는 질문은 훨씬 기본적입니다. 이것이 인프라를 더 빠르고, 더 신뢰성 있게, 혹은 더 효율적으로 운영하도록 돕는가? 그렇다면 좋습니다. 그렇지 않다면 AI가 얼마나 정교하든 상관없습니다.

AI 데이터 센터가 전력 가용성과 냉각 요구 사항에 점점 더 제약을 받게 되면서, 인프라 엔지니어링이 주로 컴퓨팅 자원 관리에서 에너지와 물리적 용량을 적극적으로 조정하는 방향으로 진화할 수 있을까요?

네, 이미 그 흐름을 보고 있습니다. 내부에서는 “주차장에 터빈”이라는 표현을 쓰는데, 이는 초대규모 AI 인프라를 구축하는 팀과의 실제 대화에서 나온 말입니다. 그들은 인프라를 너무 빨리 가동시켜 전력망이 따라가지 못했기 때문에, 전력을 충분히 확보하기 위해 실제로 터빈을 구매해 주차장에 설치하고 있었습니다.

이것이 바로 이러한 팀들이 직면한 환경입니다. 전력이 주요 제약 조건이 되면, 가용 자원을 어떻게 활용할지 훨씬 더 스마트해져야 합니다. 전력망 변동에 대응해 AI 워크로드를 적극적으로 조정하는 수요 측 대응은 이미 진행 중이며, 전력을 많이 소비하는 인프라를 운영하는 팀에게 점점 중요한 역량이 되고 있습니다.

모든 워크로드가 동일한 요구 사항을 갖는 것은 아닙니다. 지연에 민감한 추론은 온라인 상태를 유지해야 할 수 있지만, 일부 학습이나 배치 워크로드는 전력이 제한될 때 이동하거나 일시 중단될 수 있습니다. 앞으로 인프라 팀이 컴퓨팅, 전력 및 물리적 용량을 동일한 운영 문제의 일부로 관리하는 경우가 늘어날 것으로 생각합니다.

앞으로 AI 확장의 가장 큰 병목 현상이 결국 GPU와 모델 개발이 될지, 아니면 충분한 전력, 물리 인프라, 네트워킹 용량, 자동화 및 이를 운영할 숙련된 엔지니어를 찾는 더 광범위한 과제가 될지에 대해 어떻게 생각하십니까?

하나의 병목 현상만 존재할 것이라고는 생각하지 않습니다.

현재 시장이 요구하는 속도와 규모로 AI 인프라를 구축하는 것은 기본적으로 제약 만족 문제입니다. 언제든지 어떤 요소가 주요 제약이 됩니다.

한동안 모두가 GPU에 대해 이야기했습니다. 전력은 현재 명백히 큰 병목 현상입니다. 하지만 네트워킹 장비, 냉각, 토지, 광섬유, 조달, 건설, 혹은 이 모든 것을 조합할 수 있는 충분한 인력을 찾는 것 역시 병목이 될 수 있습니다.

하나의 제약을 해결하면 또 다른 제약이 더 눈에 띄게 됩니다. 이는 수요가 공급보다 훨씬 클 때 일어나는 현상입니다.

따라서 하나의 영구적인 병목에 베팅하지 않을 것입니다. 제약이 이동함에 따라 적응할 수 있는 능력이 더 중요하다고 생각합니다.

이것이 현재 AI 인프라에 대한 확정적인 매뉴얼이 존재하지 않는다고 생각하는 이유이기도 합니다. 이를 구축하는 사람들은 확장하면서 이를 파악하고 있으며, 두 가지를 모두 놀라울 정도로 빠르게 진행하고 있습니다.

훌륭한 인터뷰에 감사드립니다. 더 알고 싶어하는 독자들은 NetBox Labs를 방문하십시오.