Yaron Singer, Robust Intelligence의 CEO 및 하버드 대학교 컴퓨터 과학 교수 – 인터뷰 시리즈

Yaron Singer는 Robust Intelligence의 CEO이자 하버드 대학교의 컴퓨터 과학 및 응용 수학 교수입니다. Yaron은 기계 학습, 알고리즘 및 최적화 분야에서 획기적인 결과로 알려져 있습니다. 이전에 Yaron은 Google Research에서 일했으며 UC Berkeley에서 박사 학위를 받았습니다.

컴퓨터 과학 및 기계 학습 분야에 처음으로 관심을 갖게 된 것은 무엇입니까?

私の 여정은 수학에서 시작되어 컴퓨터 과학을 거쳐 기계 학습으로 이어졌습니다. 수학은 처음에 나에게 새로운 세계를 창조할 수 있는 능력을 주었기 때문에 관심을 끌었습니다. 컴퓨터 과학에서는 존재 증명에 대해 배웠고, 또한 그背后的 알고리즘에 대해 배웠습니다. 창의적인 관점에서 컴퓨터 과학은 우리가 할 수 있는 것과 할 수 없는 것의 경계를 그리는 것입니다.

기계 학습에 대한 나의 관심은 항상 실제 데이터, 거의 물리적인 측면에 관심이 있었습니다. 실제 세계의 것을 가져와서 의미 있는 것을 만들기 위해 모델링합니다. 우리는 실제로 모델링을 통해 더 나은 세계를 설계할 수 있습니다. 수학은 나에게 증명할 수 있는 기반을 제공했고, 컴퓨터 과학은 할 수 있는 것과 할 수 없는 것을 보는 데 도움이 되며, 기계 학습은 이러한 개념을 세계에서 모델링할 수 있게 해줍니다.

최근까지 하버드 대학교의 컴퓨터 과학 및 응용 수학 교수였습니다. 그 경험에서 얻은 주요 교훈은 무엇입니까?

하버드 대학교의 교수로 있는 동안 얻은 가장 큰 교훈은 큰 것을 하는 것에 대한欲求을 개발한다는 것입니다. 하버드 대학교는 전통적으로 소규모 교수진을 가지고 있으며, 임기제 교수진은 큰 문제를 해결하고 새로운 분야를 창조해야 합니다. 당신은 대담해야 합니다. 이것은 카테고리 생성 스타트업을 출시하고 새로운 공간을 정의하는 것을 준비하는 데 매우 좋은 준비가 됩니다. 나는 반드시 하버드 임기제를 거쳐야 한다고 추천하지는 않지만, 만약 당신이 그것을 살아남으면, 스타트업을 구축하는 것은 더 쉽습니다.

고급 AI 시스템이 나쁨 데이터에 취약하다는 것을 깨달았을 때의 ‘아하’ 순간을 설명해 주시겠습니까? 일부는遠-reaching한 의미를 가질 수 있습니다.

UC 버클리에서 대학원생일 때, 나는 소셜 네트워크에서 마케팅을 위한 기계 학습 모델을 구축하는 스타트업을 위해 잠시 시간을 가져왔습니다. 이것은 2010년에였습니다. 우리는 소셜 미디어에서大量의 데이터를 가지고 있었고, 우리는 모든 모델을 스크래치에서 코딩했습니다. 소매업체에 대한 재정적影響은 상당했으므로 우리는 모델의 성능을密接하게 따랐습니다. 우리는 소셜 미디어의 데이터를 사용했기 때문에 입력에 많은 오류가 있었고, 또한漂移이 있었습니다. 우리는 매우 작은 오류가 모델 출력에 큰 변화를 일으킬 수 있으며, 제품을 사용하는 소매업체에 대한 나쁨 재정적 결과를 초래할 수 있다는 것을 보았습니다.

구글+ (우리가 기억하는 사람들을 위해)로 전환했을 때, 나는 정확히 같은 효과를 보았습니다. 더 극적으로, AdWords와 같은 시스템에서는 광고의 클릭 가능성에 대한 예측을 만들었고, 우리는 입력에 작은 오류가 매우 나쁨 예측을 초래할 수 있다는 것을 알았습니다. 구글 규모에서 이 문제를 목격하면, 문제는 보편적이라는 것을 실감합니다.

이러한 경험은私の 연구 초점을 크게 형성했으며, 나는 하버드에서 AI 모델이 실수를 하는 이유와, 중요하게는 모델이 실수를 하는 것을 방지하는 알고리즘을 설계하는 방법을 조사하는 데 시간을 보냈습니다. 이것은 물론 더 많은 ‘아하’ 순간을 가져왔고, 결국, Robust Intelligence의 창조로 이어졌습니다.

Robust Intelligence의 창조 이야기Behind를 공유해 주시겠습니까?

Robust Intelligence는 초기에 이론적인 문제에 대한 연구에서 시작되었습니다. AI 모델을 사용하여 결정할 수 있는 보증은 무엇입니까? Kojin은 하버드의 학생이었고, 우리는 함께 연구를 시작했으며, 초기에는 연구 논문을 작성했습니다. 그래서, 이것은 이론적으로 가능하고 불가능한 것을 설명하는 논문을 작성하는 것에서 시작됩니다. 이러한 결과는 이후 알고리즘과 모델을 설계하여 AI 실패에 강한 프로그램을 개발하는 데 이어졌습니다. 우리는 그런 알고리즘을 실행할 수 있는 시스템을 구축했습니다. 그런 다음, 그런 시스템을 사용할 수 있는 회사를 시작하는 것은 자연스러운 다음 단계였습니다.

Robust Intelligence가 해결하는 많은 문제는 잠재적 오류입니다. 잠재적 오류란 무엇이며, 왜 그렇게 위험한가요?

기술적인 정의를 제공하기 전에, 우리는 왜 AI 모델이 오류를犯する 것에 관심을 가져야 하는지 이해해야 합니다. 우리는 AI 모델이 오류를犯하는 것에 관심을 가져야 하는 이유는 이러한 오류의 결과입니다. 우리의 세계는 중요 결정에 자동화를 위해 AI를 사용하고 있습니다. 누가 비즈니스 대출을 받는지, 어떤 이자율로 받는지, 누가 의료 보험을 받는지, 어떤 이자율로 받는지, 어느 지역을 경찰이 순찰해야 하는지, 누가 일자리 후보자 중 가장优秀한지, 공항 보안을 어떻게 조직해야 하는지 등입니다. AI 모델이非常 오류가 많은 것은 이러한 결정의 자동화를 통해 많은 위험을 наслед받는다는 것을 의미합니다. Robust Intelligence에서 우리는 이것을 “AI 위험”이라고 부르며, 회사의 임무는 AI 위험을 제거하는 것입니다.

잠재적 오류는 AI 모델이 입력을 받고, 예측이나 결정이 잘못되거나 편향된 출력을 생성하는 오류입니다. 그래서, 표면적으로 시스템은 정상적으로 작동하는 것처럼 보이지만, 예측이나 결정은 잘못되었습니다. 이러한 오류는 잠재적이기 때문에 시스템은 오류를 알 수 없습니다. 이것은 AI 모델이 출력을 생성하지 않는 경우보다 훨씬 더 나쁠 수 있습니다. 왜냐하면, 조직이 자신의 AI 시스템이 결함이 있다는 것을 깨닫는 데 오랜 시간이 걸릴 수 있기 때문입니다. 그러면 AI 위험은 AI 실패로 변할 수 있으며, 심각한 결과를 초래할 수 있습니다.

Robust Intelligence는 본질적으로 불가능한 것으로 간주되었던 AI 방화벽을 설계했습니다. 왜 이것이 기술적인 도전입니까?

AI 방화벽이 기술적인 도전인 이유 중 하나는 이전에 ML 커뮤니티가 가지고 있던 패러다임에 반한다는 것입니다. ML 커뮤니티의 이전 패러다임은 오류를 제거하기 위해 모델에 더 많은 데이터, 포함하여 나쁨 데이터를 제공해야 한다는 것이었습니다. 그렇게 함으로써, 모델은 스스로 오류를 수정하는 방법을 배우게 됩니다. 그러나, 이러한 접근법의 문제는 모델의 정확도가劇的に 떨어진다는 것입니다. 이미지의 경우, 가장 잘 알려진 결과는 AI 모델의 정확도를 98.5%에서 약 37%로 떨어뜨립니다.

AI 방화벽은 다른 해결책을 제공합니다. 우리는 오류를 식별하는 문제를 예측을 생성하는 역할에서 분리합니다. 즉, 방화벽은 하나의 특정 작업에만 집중할 수 있습니다. 즉, 데이터 포인트가 오류 예측을 생성할지 여부를 결정하는 것입니다.

이것은 많은 이유로 모델이 오류를犯하는 것을 예측하는 기술을 구축하는 것이 쉽지 않은 도전이었습니다. 우리는幸運히 훌륭한 엔지니어를 가지고 있습니다.

시스템은 어떻게 AI 편향을 방지하는 데 도움이 될 수 있습니까?

모델 편향은 모델을 훈련한 데이터와 예측을 만들기 위해 사용하는 데이터 간의 불일치에서 발생합니다. AI 위험으로 돌아가면, 편향은 잠재적 오류의 주요 문제입니다. 예를 들어, 이는 종종 소수자 집단과 관련된 문제입니다. 모델은 그 인구에서 더 적은 데이터를 본 때문에 편향을 가질 수 있으며, 이는 모델의 성능과 예측의 정확도를劇的に影響할 수 있습니다. AI 방화벽은 조직에 이러한 데이터 불일치를 경고하고 모델이 올바른 결정에 도움이 될 수 있습니다.

Robust Intelligence가 도와주는 다른 조직의 위험은 무엇입니까?

임의의 회사에서 중요 결정에 자동화를 위해 AI를 사용하는 경우, 자동으로 위험을 도입합니다. 나쁨 데이터는 0과 1을 입력하는 것과 같은 작은 문제일 수 있으며,仍然으로서도 심각한 결과를 초래할 수 있습니다. 잘못된 의료 예측이나 잘못된 대출 예측 등, AI 방화벽은 조직이 이러한 위험을 완전히 방지하는 데 도움이 될 수 있습니다.

Robust Intelligence에 대해 더 공유하고 싶은 것이 있습니까?

Robust Intelligence는 급속히 성장하고 있으며, 우리는 훌륭한 후보자들이 지원하고 있습니다. 그러나, 나는 강조하고 싶은 것은 우리가 후보자에게 가장 중요한 자질을 찾는 것은 그들의 임무에 대한 열정입니다. 우리는 기술적으로 강한 후보자들을 많이 만나지만, 실제로 그들이 AI 위험을 제거하여 더 안전하고 좋은 세계를 만들기 위해 열정을 가진지 여부를 이해하는 것이 중요합니다.

우리가 향하는 세계에서, 현재 인간이하는 많은 결정들이 자동화될 것입니다. 그것이 우리가 원하는지 여부와 상관없이, 그것은 사실입니다. Robust Intelligence의 모든 사람들이 자동화된 결정이 책임 있게 이루어지기를 원합니다. 따라서, 영향에 대해 열광하는 사람, 그것이 사람들의 삶에 어떻게影響할 수 있는지 이해하는 사람, 그것은 우리가 찾고 있는 후보자입니다. 우리는 그 열정을 찾고 있습니다. 우리는 이 기술을 toàn 세계가 사용할 수 있는 기술을 창조할 사람들을 찾고 있습니다.

훌륭한 인터뷰에 감사합니다. 나는 AI 편향을 방지하고 AI 방화벽의 필요성에 대한您的 견해를 배우는 것을 즐겼습니다. 더 많은 정보를 배우고 싶은 독자는 Robust Intelligence를 방문해야 합니다.