인터뷰

에탄 긴스버그, 마티안의 공동 창립자 – 인터뷰 시리즈

Antoine Tardif
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트Martian은 모든 옵션을 테스트하는 대신 모델 동작을 이해함으로써 각 프롬프트를 최적의 모델로 라우팅합니다.
더 보기
  • Martian은 모든 옵션을 테스트하는 대신 모델 동작을 이해함으로써 각 프롬프트를 최적의 모델로 라우팅합니다.
  • 모델 매핑은 불투명한 언어 모델을 해석 가능한 시스템으로 전환하여 각 모델을 실행하지 않고도 라우팅 결정을 내릴 수 있게 합니다.
  • 이 회사는 인공지능이 견고한 지능 이론을 갖출 때까지 해석 가능성 분야의 돌파구를 제공하는 것을 목표로 합니다.

에탄 긴스버그는 모든 프롬프트를 최적의 LLM으로 동적으로 라우팅하는 플랫폼 마티안의 공동 창립자입니다. 마티안은 GPT-4를 포함한 모든 개별 제공 업체보다 더 높은 성능과 낮은 비용을 제공합니다. 시스템은 회사만의 고유한 모델 매핑 기술을 기반으로 구축되어 있습니다. 이 기술은 LLM이라는 복잡한 블랙박스를 더 해석 가능한 아키텍처로 풀어내며, 기계론적 해석 가능성의 첫 상업적 적용 사례입니다.

에탄은 중학교 시절부터 코딩, 웹사이트 디자인, 이비즈니스 구축 등 다양한 활동을 해왔습니다. 그는 세계 기억력 선수권 대회에 참가했으며, 중국 선전에서 열린 세계 속독 선수권 대회에서 2위를 차지했습니다.

그는 해커톤에도 열성적으로 참가했습니다. 과거 수상 경력으로는 Tech Crunch SZ에서 3위, 프린스턴 해커톤에서 상위 일곱 명의 결선 진출자 중 한 명, 예일 해커톤에서 3개의 산업상을 수상했습니다.

당신은 이전에 두 번의 스타트업을 창립했습니다. 이러한 회사들은 무엇이었으며, 그 경험에서 무엇을 배웠나요?

제 첫 번째 회사는 미국 닌자 워리어 스포츠를 홍보하고 발전시키는 첫 번째 플랫폼이었습니다. 2012년에, 저는 아메리칸 닌자 워리어를 1990년대 MMA처럼 아직 주류가 아닌 스포츠로 보았습니다. 저는 사람들이 블루프린트를 구매하고, 장애물을 주문하고, 훈련할 수 있는 짐을 찾을 수 있는 첫 번째 플랫폼을 만들었습니다. 저는 짐을 시작하려는 회사들을 위해 상담했으며, 미국 특수 부대와 함께 훈련 코스를 개발하고, 냅킨 위의 스케치에 불과하던 시설을 첫 3개월에 매출 30만 달러를 올릴 정도로 키우는 것을 도왔습니다. 저는 고등학교에 다니고 있었지만, 20명 이상의 작업자를 관리하는 첫 번째 경험을 했으며, 효과적인 관리와 대인 관계에 대해 배웠습니다.

제 두 번째 회사는 2017년 암호화폐 ICO 열풍 이전에 제가 공동 창립한 대체 자산 관리 회사였습니다. 이것은 저의 첫 번째 NLP 경험으로, 저희는 소셜 미디어 데이터의 감정 분석을 투자 전략으로 사용했습니다.

저는 스타트업을 운영하는 데 필요한 하드 스킬과 소프트 스킬을 많이 배웠습니다. 저는 팀을 관리하는 방법과 NLP의 기술적인 측면에 대해 배웠습니다. 동시에, 저는 저 자신에 대해 더 많이 배웠고, 무엇에 대해 일하고 싶은지에 대해 더 많이 배웠습니다. 저는 가장 성공적인 회사는 더 넓은 비전이나 목표를 가진 창립자에 의해 시작된다고 믿습니다. 저는 2017년에 암호화폐를 떠나 NLP에 집중하기로 결정했습니다. 왜냐하면 인간의 지능을 강화하고 이해하는 것이 저에게 정말 중요한 일이기 때문입니다. 저는 그것을 발견해서 기뻤습니다.

펜실베니아 대학교에서 당신은 어떤 AI 연구를 했나요?

우리의 연구는 처음에 LLM의 응용 프로그램을 구축하는 데 중점을 두었습니다. 특히, 우리는 LLM의 교육 응용 프로그램에 대해 연구했으며, 첫 번째 LLM 기반 인지 튜터를 구축했습니다. 결과는 꽤 좋았습니다. 우리는 초기 실험에서 학생들의 성과가 0.3 표준 편차 개선되는 것을 보았으며, 우리의 시스템은 펜실베니아 대학교에서 부탄 대학교까지 사용되었습니다.

이 연구는 어떻게 마티안의 공동 창립자로 이어졌나요?

우리는 LLM 위에 응용 프로그램을 구축하는 첫 번째 사람들 중 하나였기 때문에, 우리는 LLM 위에 응용 프로그램을 구축할 때 발생하는 문제를 처음으로 마주했습니다. 그것은 우리의 연구를 인프라 계층으로 향하게 했습니다. 예를 들어, 우리는 초기에 더 큰 모델의 출력에 작은 모델을 미세 조정하고, 프로그래밍 및 수학 문제 해결과 같은 작업을 위한 전문 데이터 소스에 모델을 미세 조정했습니다. 그것은 결국 모델 행동을 이해하고 모델 라우팅에 대한 문제로 이어졌습니다.

마티안의 이름과 지능과의 관계는 흥미롭습니다. 이름이 어떻게 선택되었는지 이야기해 주세요.

우리의 회사 이름은 20세기에 살았던 헝가리-미국 과학자 그룹인 “화성인들“으로부터 유래했습니다. 이 그룹은 지능이 매우 높은 사람들로 구성되어 있었습니다.

  • 가장 유명한 사람은 존 폰 노이만입니다. 그는 게임 이론, 현대 컴퓨터 아키텍처, 자동 기계 이론을 발명했으며, 수십 가지 다른 분야에서 기본적인 기여를 했습니다.
  • 폴 에르되시는 역사상 가장 다작한 수학자로, 1500개 이상의 논문을 발표했습니다.
  • 테오도르 폰 카르만은 공기 역학의 기본 이론을 확립하고, 미국 우주 프로그램을 도왔습니다. 인간이 정의한 지구와 외계 공간의 경계는 그의 업적을 기리기 위해 “카르만 라인”이라고 명명되었습니다.
  • 레오 실라르드는 원자 폭탄, 방사선 요법, 입자 가속기를 발명했습니다.

이 과학자들과 수소폭탄 발명자, 현대 물리학에 군론을 도입한 인물, 조합론·정수론·수치해석·확률론 등의 분야에 근본적으로 기여한 인물들을 포함한 다른 14명은 모두 부다페스트의 같은 지역에서 태어났습니다. 그것은 사람들이 지능의 원천에 대해 의문을 가지게 했습니다.

실라드는 “마티안은 이미 여기 있습니다. 그리고 그들은 헝가리인이라고 자신을 부릅니다!”라고 농담했습니다. 실제로는… 아무도 모릅니다.

인간은 오늘날에도 새로운 초지능 마음, 즉 인공 지능에 대해 비슷한 상황에 있습니다. 사람들은 모델이 매우 지능적일 수 있다는 것을 압니다. 그러나 그들이 어떻게 작동하는지에 대해 아무도 모릅니다.

우리의 목표는 그 질문에 답하는 것입니다. 현대의 초지능을 이해하고 활용하는 것입니다.

당신은 기억력 경쟁에 참여한 경험이 있습니다. 어떻게 기억력 경쟁에 참여하게 되었으며, 그것이 마티안의 개념에 어떻게 도움이 되었나요?

대부분의 스포츠에서, 프로 선수는 보통 사람보다 약 두세 배 더 뛰어난 성과를 냅니다. 예를 들어 미식축구에서 필드골을 얼마나 멀리 찰 수 있는지, 야구에서 얼마나 빠른 공을 던지는지를 프로와 비교해 볼 수 있습니다. 기억 스포츠에서는, 최고의 선수는 평균 사람보다 100배 또는 1000배 더 많은 것을 기억할 수 있습니다. 그리고 그것은 대부분의 스포츠보다 더 적은 훈련으로 이루어집니다. 이러한 사람들은 평균적인 기억력을 가진 사람들이 누구나 배울 수 있는 특정 기법을 통해 성과를 낼 수 있다는 것을 보여줍니다. 저는 인간의 지식을 최대화하고 싶었습니다. 그래서 저는 세계 기억력 선수권 대회를 인간 지능을 강화하는 데 도움이 될 수 있는 제대로 주목받지 못한 통찰으로 간주했습니다.

저는 교육 시스템에 기억 기술을 배포하고 싶었습니다. 그래서 저는 NLP와 LLM이 효과적인 교육 방법을 주류 교육 시스템에서 사용하는 것을 방해하는 설정 비용을 줄이는 데 어떻게 도움이 될 수 있는지 탐구하기 시작했습니다. 야시와 저는 첫 번째 LLM 기반 인지 튜터를 만들었습니다. 그리고 그것은 우리가 오늘날 해결하는 LLM 배포 문제를 발견하도록 이끌었습니다.

마티안은 본질적으로 개발자가 어떤 대형 언어 모델을 사용할지 결정하는 것을 추상화합니다. 왜 이것이 현재 개발자에게 어려운 문제인가요?

언어 모델을 생성하는 것이 점점 더 쉬워지고 있습니다. 컴퓨팅 비용이 낮아지고, 알고리즘이 더 효율적이 되고, 언어 모델을 생성하는 데 사용되는 오픈 소스 도구가 더 많이 사용되고 있습니다. 따라서 더 많은 회사와 개발자가 맞춤형 데이터로 훈련한 맞춤형 모델을 만들고 있습니다. 이러한 모델은 서로 다른 비용과 능력을 가지고 있기 때문에, 여러 모델을 사용하여 더 좋은 성능을 얻을 수 있습니다. 그러나 모든 모델을 테스트하고 올바른 모델을 찾는 것이 어렵습니다. 우리는 개발자를 위해 그것을 처리합니다.

시스템은 어떻게 각 특정 작업에 가장 적합한 LLM을 이해할 수 있나요?

잘 라우팅하는 것은 본질적으로 모델을 이해하는 문제입니다. 모델 사이에서 효과적으로 라우팅하려면, 모델이 실패하거나 성공하는 이유를 이해하고 싶습니다. 모델 매핑을 통해 모델의 특성을 이해할 수 있으므로, 모델을 실행하지 않고도 요청에 대한 모델의 성능을 예측할 수 있습니다. 따라서 요청을 가장 좋은 결과를 생성할 모델로 보낼 수 있습니다.

LLM을 최적화하여 비용을 절감할 수 있는 유형은 무엇인가요?

우리는 사용자가 비용과 성능을 어떻게 트레이드오프할지 지정할 수 있도록 합니다. 만약 성능만이 중요하다면, 우리는 오픈AI의 평가에서 GPT-4를 뛰어넘을 수 있습니다. 만약 특정 비용을 지불하여 유닛 경제를 작동시키고 싶다면, 우리는 요청에 대한 최대 비용을 지정하도록 한 다음 그 요청을 수행할 최적의 모델을 찾습니다. 그리고 만약 더 동적인 것을 원한다면, 우리는 더 좋은 답변을 얻기 위해 얼마큼 지불할 의향이 있는지 지정할 수 있도록 합니다. 따라서 두 모델이 비슷한 성능을 가지지만 큰 차이의 비용을 가진다면, 우리는 더 저렴한 모델을 사용할 수 있도록 합니다. 일부 고객은 최대 12배의 비용 감소를 경험했습니다.

마티안의 미래에 대한 비전은 무엇인가요?

우리가 모델에 대한 우리의 이해를 개선할 때마다, 그것은 AI에 대한 패러다임 전환을 의미합니다. 미세 조정은 출력을 이해하는 것을 기반으로 하는 패러다임입니다. 프롬프트는 입력을 이해하는 것을 기반으로 하는 패러다임입니다. 모델의 이해에서 이러한 차이는 전통적 ML(“회귀 모델을 훈련하자”)과 현대의 생성형 AI(“초기 단계의 AGI에 프롬프트를 주자”)를 구분하는 차이의 상당 부분을 이룹니다.

우리의 목표는 AI가 완전히 이해되고, 논리 또는 미적분의 이론만큼 강력한 지능 이론을 갖는 데까지 지속적으로 해석 가능성의 돌파구를 제공하는 것입니다.

그것은 구축하는 것을 의미합니다. 그것은 놀라운 AI 툴링을 만들고 사람들의 손에 넣는 것을 의미합니다. 그것은 기존의 틀을 깨고 이전에 아무도 하지 못한 것을 출시하는 것을 의미합니다. 그리고 무엇보다도, 그것은 흥미롭고 유용한 것을 의미합니다.

프랜시스 베이컨의 말에 따르면, “지식은 권력입니다.” 따라서 AI를 이해하는 최고의 방법은 강력한 툴을 출시하는 것입니다. 우리의 견해에 따르면, 모델 라우터는 그런 툴입니다. 우리는 그것을 구축하고, 성장시키고, 사람들의 손에 넣는 것을 기대합니다.

이것은 우리가 향후 몇 개월 동안 출시할 많은 도구 중 첫 번째입니다. 인공 지능의 아름다운 이론을 발견하고, 완전히 새로운 유형의 AI 인프라를 가능하게 하며, 인간과 기계 모두를 위한 더 밝은 미래를 구축하는 데 도움이 되도록 하기 위해 – 우리는 그 툴을 당신과 공유하기를 기다릴 수 없습니다.

이 인터뷰에 감사드립니다. 더 많은 정보를 원하는 독자는 마티안을 방문하십시오.

앙투안은 Unite.AI의 비전 있는 리더이자 창립 파트너로, AI와 로봇공학의 미래를 만들어 가고 발전시키는 데 변함없는 열정을 쏟고 있습니다. 여러 기업을 창업한 그는 AI가 전기만큼 사회를 크게 변화시킬 것이라고 믿으며, 혁신적인 기술과 범용 인공지능(AGI)의 잠재력에 관해 자주 열정적으로 이야기합니다.

미래학자로서 이러한 혁신이 세상을 어떻게 바꿀지 탐구하는 데 전념하고 있습니다. 또한 미래를 새롭게 정의하고 산업 전반을 변화시키는 첨단 기술에 대한 투자에 초점을 맞춘 플랫폼인 Securities.io의 설립자입니다.