에탄 긴스버그, 마티안의 공동 창립자 – 인터뷰 시리즈

에탄 긴스버그는 마티안의 공동 창립자입니다. 마티안은 LLM을 동적으로 라우팅하여 최고의 성능과 낮은 비용을 제공하는 플랫폼입니다. 마티안은 GPT-4를 포함한 모든 개별 제공 업체보다 더 높은 성능과 낮은 비용을 제공합니다. 시스템은 회사만의 고유한 모델 매핑 기술을 기반으로 구축되어 있습니다. 이 기술은 복잡한 블랙 박스를 더 해석 가능한 아키텍처로 분해하여 LLM을 이해하고 해석하는 데 도움이 됩니다.

에탄은 중학교 시절부터 코딩, 웹사이트 디자인, 이비즈니스 구축 등 다양한 활동을 해왔습니다. 그는 세계記憶選手権에서 2위를 차지했으며, 중국 深圳에서 열린 세계 속독 선수권 대회에서 2위를 차지했습니다.

그는 비디오 해커톤 대회에도 참가했습니다. 과거 수상 경력으로는 Tech Crunch SZ에서 3위, 프린스턴 해커톤에서 7위, 예일 해커톤에서 3개의 산업상을 수상했습니다.

당신은 이전에 두 번의 스타트업을 창립했습니다. 이러한 회사들은 무엇이었으며, 그 경험에서 무엇을 배웠나요?

제 첫 번째 회사는 미국 닌자 워리어 스포츠를 홍보하고 발전시키는 첫 번째 플랫폼이었습니다. 2012년에, 저는 미국 닌자 워리어를 지하 스포츠로 간주했습니다. 저는 사람들이 블루프린트를 구매하고, 장애물을 주문하고, 훈련할 수 있는 짐을 찾을 수 있는 첫 번째 플랫폼을 만들었습니다. 저는 짐을 시작하려는 회사들을 위해 상담했으며, 미국 특수 부대와 함께 훈련 코스를 개발하고, 첫 3개월에 30만 달러의 수익을 올리는 시설을 확장하는 것을 도왔습니다. 저는 고등학교에 다니고 있었지만, 20명 이상의 작업자를 관리하는 첫 번째 경험을 했으며, 효과적인 관리와 대인 관계에 대해 배웠습니다.

제 두 번째 회사는 2017년에 저가 공동 창립한 대체 자산 관리 회사였습니다. 이것은 저의 첫 번째 NLP 경험으로, 저희는 소셜 미디어 데이터의 감정 분석을 투자 전략으로 사용했습니다.

저는 스타트업을 운영하는 데 필요한 하드 스킬과 소프트 스킬을 많이 배웠습니다. 저는 팀을 관리하는 방법과 NLP의 기술적인 측면에 대해 배웠습니다. 동시에, 저는 저 자신에 대해 더 많이 배웠고, 무엇에 대해 일하고 싶은지에 대해 더 많이 배웠습니다. 저는 가장 성공적인 회사는 더 широк은 비전이나 목표를 가진 창립자에 의해 시작된다고 믿습니다. 저는 2017년에 암호화폐를 떠나 NLP에 집중하기로 결정했습니다. 왜냐하면 인간의 지능을 강화하고 이해하는 것이 저에게 정말 중요한 일이기 때문입니다. 저는 그것을 발견해서 기뻤습니다.

펜실베니아 대학교에서 당신은 어떤 AI 연구를 했나요?

우리의 연구는 처음에 LLM의 응용 프로그램을 구축하는 데 중점을 두었습니다. 특히, 우리는 LLM의 교육 응용 프로그램에 대해 연구했으며, 첫 번째 LLM 기반 인지 튜터를 구축했습니다. 결과는 khá 좋았습니다. 우리는 초기 실험에서 학생들의 성과가 0.3 표준 편차 개선되는 것을 보았으며, 우리의 시스템은 펜실베니아 대학교에서 부탄 대학교까지 사용되었습니다.

이 연구는 어떻게 마티안의 공동 창립자로 이어졌나요?

우리는 LLM 위에 응용 프로그램을 구축하는 첫 번째 사람들 중 하나였기 때문에, 우리는 LLM 위에 응용 프로그램을 구축할 때 발생하는 문제를 처음으로遭遇했습니다. 그것은 우리의 연구를 인프라 계층으로 направ하게 했습니다. 예를 들어, 우리는 초기에 더 큰 모델의 출력에 작은 모델을 미세 조정하고, 프로그래밍 및 수학 문제 해결과 같은 작업을 위한 전문 데이터 소스에 모델을 미세 조정했습니다. 그것은 결국 모델 행동을 이해하고 모델 라우팅에 대한 문제로 이어졌습니다.

마티안의 이름과 지능과의 관계는 интерес롭습니다. 이름이 어떻게 선택되었는지 이야기해 주세요.

우리의 회사 이름은 20세기에 살았던 헝가리-미국 과학자 그룹인 “마티안”으로부터 유래했습니다. 이 그룹은 지능이 매우 높은 사람들로 구성되어 있었습니다.

• 가장 유명한 사람은 존 폰 노이만입니다. 그는 게임 이론, 현대 컴퓨터 아키텍처, 자동 기계 이론을 발명했으며, 수십 가지 다른 분야에서 기본적인 기여를 했습니다.
• 폴 에르도스는 역사상 가장多작한 수학자로, 1500개 이상의 논문을 발표했습니다.
• 테오도르 폰 카르만은 공기 역학의 기본 이론을 확립하고, 미국 우주 프로그램을 도왔습니다. 인간이 정의한 지구와 외계 공간의 경계는 그의 업적을 기리기 위해 “카르만 라인”이라고命名되었습니다.
• 레오 실라드는 원자 폭탄, 방사선 요법, 입자 가속기를 발명했습니다.

이 과학자들과 14명의 다른 사람들은 모두 부다페스트의 같은 지역에서 태어났습니다. 그것은 사람들이 지능의 원천에 대해疑問을 가지게 했습니다.

실라드는 “마티안은 이미 여기 있습니다. 그리고 그들은 헝가리인이라고 자신을 부릅니다!”라고 농담했습니다. 실제로는… 아무도 모릅니다.

인간은 오늘날에도 새로운 超智慧 마음, 즉 인공 지능에 대해 비슷한 상황에 있습니다. 사람들은 모델이 매우 지능적일 수 있다는 것을 압니다. 그러나 그들이 어떻게 작동하는지에 대해 아무도 모릅니다.

우리의 목표는 그 질문에 답하는 것입니다. 현대의 超智慧를 이해하고 활용하는 것입니다.

당신은 기억력 경쟁에 참여한 경험이 있습니다. 어떻게 기억력 경쟁에 참여하게 되었으며, 그것이 마티안의 개념에 어떻게 도움이 되었나요?

대부분의 스포츠에서, 전문 선수는 평균 사람보다 2-3배 더 잘할 수 있습니다. 기억 스포츠에서는, 최고의 선수는 평균 사람보다 100배 또는 1000배 더 많은 것을 기억할 수 있습니다. 그리고 그것은 대부분의 스포츠보다 더 적은 훈련으로 이루어집니다. 이러한 사람들은 평균적인 기억력을 가진 사람들이 특정 기술을 통해 성과를 낼 수 있다는 것을 보여줍니다. 저는 인간의 지식을 최대화하고 싶었습니다. 그래서 저는 세계記憶選手権을 인간 지능을 강화하는 데 도움이 될 수 있는 비중시된 통찰력으로 간주했습니다.

저는 교육 시스템에 기억 기술을 배포하고 싶었습니다. 그래서 저는 NLP와 LLM이 효과적인 교육 방법을 주류 교육 시스템에서 사용하는 것을 방해하는 설정 비용을 줄이는 데 어떻게 도움이 될 수 있는지 탐구하기 시작했습니다. 야시와 저는 첫 번째 LLM 기반 인지 튜터를 만들었습니다. 그리고 그것은 우리가 오늘날 해결하는 LLM 배포 문제를 발견하도록 이끌었습니다.

마티안은 본질적으로 개발자가 어떤 대형 언어 모델을 사용할지 결정하는 것을 추상화합니다. 왜 이것이 현재 개발자에게痛点인가요?

언어 모델을 생성하는 것이 점점 더 쉬워지고 있습니다. 컴퓨팅 비용이 낮아지고, 알고리즘이 더 효율적이 되고, 언어 모델을 생성하는 데 사용되는 오픈 소스 도구가 더 많이 사용되고 있습니다. 따라서 더 많은 회사와 개발자가 사용자 정의 모델을 생성하고 있습니다. 이러한 모델은 서로 다른 비용과 능력을 가지고 있기 때문에, 여러 모델을 사용하여 더好的 성능을 얻을 수 있습니다. 그러나 모든 모델을 테스트하고 올바른 모델을 찾는 것이 어렵습니다. 우리는 개발자를 위해 그것을 처리합니다.

시스템은 어떻게 각 특정 작업에 가장 적합한 LLM을 이해할 수 있나요?

잘 라우팅하는 것은 본질적으로 모델을 이해하는 문제입니다. 모델 사이에서 효과적으로 라우팅하려면, 모델이 실패하거나 성공하는 이유를 이해하고 싶습니다. 모델 매핑을 통해 모델의 특성을 이해할 수 있으므로, 모델을 실행하지 않고도 요청에 대한 모델의 성능을 예측할 수 있습니다. 따라서 요청을 가장好的 결과를 생성할 모델로 보낼 수 있습니다.

LLM을 최적화하여 비용을 절감할 수 있는 유형은 무엇인가요?

우리는 사용자가 비용과 성능을 어떻게 트레이드오프할지 지정할 수 있도록 합니다. 만약 성능만이 중요하다면, 우리는 오픈艾의 평가에서 GPT-4를超越할 수 있습니다. 만약 특정 비용을 지불하여 유닛 경제를 작동시키고 싶다면, 우리는 요청에 대한 최대 비용을 지정할 수 있도록 합니다. 그리고 만약 더 동적인 것을 원한다면, 우리는 더好的 답변을 얻기 위해 얼마큼 지불할 의향이 있는지 지정할 수 있도록 합니다. 따라서 두 모델이 비슷한 성능을 가지지만 큰 차이의 비용을 가진다면, 우리는 더 저렴한 모델을 사용할 수 있도록 합니다. 일부 고객은 최대 12배의 비용 감소를 경험했습니다.

마티안의 미래에 대한 비전은 무엇인가요?

우리가 모델에 대한 우리의 이해를 개선할 때마다, 그것은 AI에 대한 패러다임 전환을 의미합니다. 미세 조정은 출력을 이해하는 것을 기반으로 하는 패러다임입니다. 프롬프트는 입력을 이해하는 것을 기반으로 하는 패러다임입니다. 모델의 이해에서 이러한 차이는 전통적인 ML과 현대의 생성적 AI를 구분합니다.

우리의 목표는 AI가 완전히 이해되고, 논리 또는 미적분의 이론만큼 강력한 지능 이론을 갖는 데까지 지속적으로 해석 가능성의 돌파구를 제공하는 것입니다.

그것은 구축하는 것을 의미합니다. 그것은 놀라운 AI 툴링을 만들고 사람들의 손에 넣는 것을 의미합니다. 그것은 이전에 아무도 하지 못한 것을发布하는 것을 의미합니다. 그리고 무엇보다도, 그것은 흥미롭고 유용한 것을 의미합니다.

프랜시스 베이컨의 말에 따르면, “지식은 권력입니다.” 따라서 AI를 이해하는 최고의 방법은 강력한 툴을发布하는 것입니다. 우리의 견해에 따르면, 모델 라우터는那种 툴입니다. 우리는 그것을 구축하고, 성장시키고, 사람들의 손에 넣는 것을 기대합니다.

이것은 우리가 향후 몇 개월 동안发布할 많은 툴 중 하나입니다. 인공 지능의 아름다운 이론을 발견하고, 완전히 새로운 유형의 AI 인프라를 가능하게 하며, 인간과 기계 모두를 위한 더 밝은 미래를 구축하는 데 도움이 되도록 하기 위해 – 우리는 그 툴을 당신과 공유하기를 기다릴 수 없습니다.

이 인터뷰에 감사드립니다. 더 많은 정보를 원하는 독자는 마티안을 방문하십시오.