야론 싱어, 로버스트 인텔리전스 CEO 및 하버드 대학교 컴퓨터 과학 교수 – 인터뷰 시리즈

야론 싱어는 로버스트 인텔리전스의 CEO이며 하버드 대학교에서 컴퓨터 과학 및 응용 수학 교수이다. 야론은 기계 학습, 알고리즘 및 최적화 분야에서 획기적인 성과를 내는 것으로 알려져 있다. 이전에는 구글 연구소에서 일했으며 UC 버클리에서 박사 학위를 받았다.

컴퓨터 과학 및 기계 학습 분야에 처음 관심을 갖게 된 것은 무엇인가?

내 여정은 수학에서 시작되어 컴퓨터 과학을 거쳐 기계 학습으로 이어졌다. 수학은 처음에 나에게 새로운 세계를 창조할 수 있는 공리 체계을 제공했다. 컴퓨터 과학을 공부하면서 존재 증명에 대해 배웠고, 알고리즘에 대해 배웠다. 창의적인 관점에서 컴퓨터 과학은 우리가 할 수 있는 것과 할 수 없는 것의 경계를 그리는 것이다.

기계 학습에 대한 내 관심은 항상 실제 데이터, 거의 물리적인 측면에 근거한다. 실제 세계에서 것을 가져와 의미 있는 것을 만들기 위해 모델링한다. 우리는 실제로 모델링을 통해 더 나은 세계를 만들 수 있다. 수학은 나에게 증명할 수 있는 기반을 제공했고, 컴퓨터 과학은 내가 할 수 있는 것과 할 수 없는 것을 보여주었고, 기계 학습은 이러한 개념을 세계에서 모델링할 수 있게 해주었다.

최근까지 하버드 대학교에서 컴퓨터 과학 및 응용 수학 교수로 재직했다. 그 경험에서 얻은 주요 교훈은 무엇인가?

하버드 대학교의 교수로 있는 동안 내가 얻은 가장 큰 교훈은 큰 일을 하는 것에 대한 욕구를 키우는 것이다. 하버드 대학교는 일반적으로 소규모 교수진을 가지고 있으며, 테뉴어 트랙 교수진은 큰 문제를 해결하고 새로운 분야를 창조해야 한다. 당신은 대담해야 한다. 이것은 새로운 분야를 정의하는 카테고리 생성형 스타트업을 시작하는 데 매우 좋은 준비가 된다. 나는 반드시 하버드 대학교의 테뉴어 트랙 교수진을 거쳐야 한다고 권장하지는 않지만, 만약 당신이 그것을 견뎌낸다면, 스타트업을 구축하는 것은 더 쉽다.

고급 AI 시스템이 나쁜 데이터에 취약하여 심각한 결과를 초래할 수 있다는 것을 깨달은 순간은 언제였는가?

나는 UC 버클리에서 대학원생일 때, 잠시 학업을 쉬고 소셜 네트워크 마케팅을 위한 기계 학습 모델을 구축하는 스타트업을 설립했다. 그것은 2010년이었다. 우리는 소셜 미디어에서대량의 데이터를 가지고 있었고, 모든 모델을 직접 코딩했다. 소매업체에 대한 금융적 영향은 상당했기 때문에 모델의 성능을 면밀히 추적했다. 우리는 소셜 미디어의 데이터를 사용했기 때문에 입력에 많은 오류가 있었고,드리프트도 있었다. 우리는 매우 작은 오류가 모델의 출력에서 큰 변화를 일으키고 소매업체의 나쁜 재무적 결과를 초래할 수 있다는 것을 보았다.

그 후에 나는 구글+에서 일했을 때, 같은 효과를 보았다. 더 극적인 예로, AdWords와 같은 시스템에서 키워드에 대한 광고를 클릭할 가능성을 예측하는 경우, 모델에 대한 입력의 작은 오류가 매우 부정확한 예측을 초래할 수 있다는 것을 알았다. 구글의 규모에서 이러한 문제를 목격하면, 문제는 보편적임을 알 수 있다.

이러한 경험은나의 연구 초점을 형성했고, 나는 하버드 대학교에서 왜 AI 모델이 실수를 하는지 그리고 어떻게 알고리즘을 설계하여 모델이 실수를 하지 않도록 할 수 있는지 조사했다. 이것은 더 많은 깨달음의 순간과 궁극적으로 로버스트 인텔리전스의 창설로 이어졌다.

로버스트 인텔리전스의 창립 배경에 대해 설명해 주시겠는가?

로버스트 인텔리전스는 초기에 이론적인 문제인 AI 모델로 내린 결정에 대해 어떤 보장을 할 수 있는가에 대한 연구에서 시작되었다. 코진은 하버드 대학교의 학생이었고, 우리는 함께 연구 논문을 썼다. 그래서, 이것은 연구 논문을 작성하여 무엇이 근본적으로 가능하고 불가능한지에 대한 결과를 얻는 것으로 시작된다. 이러한 결과는 나중에 알고리즘과 모델을 설계하여 AI 실패에 강한 시스템을 구축하는 프로그램으로 이어졌다. 우리는 이러한 알고리즘을 실행할 수 있는 시스템을 구축했다. 그런 다음, 조직이 이러한 시스템을 사용할 수 있도록 회사를 설립하는 것은 자연스러운 다음 단계였다.

로버스트 인텔리전스가 해결하는 많은 문제는 무음 오류이다. 무음 오류란 무엇이며, 무엇이 그것을 그토록 위험하게 만드는가?

무음 오류의 기술적인 정의를 제공하기 전에, 왜 우리는 AI가 오류를 범하는지에 관심을 가져야 하는지 이해하는 것이 중요하다. AI 모델의 오류를 우려하는 이유는 그러한 오류가 초래하는 결과 때문이다. 우리의 세계는 중요한 결정에 대한 자동화를 위해 AI를 사용하고 있다. 누가 비즈니스 대출을 받고, 어떤 이자율로 받는지, 누가 건강 보험에 가입할 수 있는지, 보험료는 얼마인지, 경찰이 어느 지역을 순찰해야 하는지, 누가 가장 좋은 후보자인지, 공항 보안을 어떻게 조직해야 하는지 등이다. AI 모델이 매우 오류가 많다는 것은 자동화된 결정에서 많은 위험을 수반한다는 것을 의미한다. 로버스트 인텔리전스에서는 이것을 “AI 위험”이라고 하며, 회사의 목표는 AI 위험을 제거하는 것이다.

무음 오류는 AI 모델이 입력을 받고, 예측이나 결정이 잘못되거나 편향된 출력을 생산할 때 발생한다. 그래서, 표면적으로 시스템은 정상적으로 작동하는 것처럼 보인다. 그러나 예측이나 결정은 잘못된 것이다. 이러한 오류는 시스템이 오류를 인식하지 못하기 때문에 무음 오류이다. 이것은 AI 모델이 출력을 생산하지 않는 경우보다 훨씬 더 나쁠 수 있다. 왜냐하면 조직이 자신의 AI 시스템이 결함이 있다는 것을 깨닫기까지 오랜 시간이 걸릴 수 있기 때문이다. 그런 다음, AI 위험은 AI 실패로 이어질 수 있으며, 심각한 결과를 초래할 수 있다.

로버스트 인텔리전스는 본질적으로 AI 방화벽을 설계했다. 이것은 이전에 불가능한 것으로 여겨졌던 기술이다. 왜 이것이 기술적인 도전이 되는가?

AI 방화벽이 도전적인 이유 중 하나는 기계 학습 커뮤니티의 이전 패러다임에 반한다는 것이다. 기계 학습 커뮤니티의 이전 패러다임은 오류를 제거하기 위해 모델에 잘못된 데이터도 포함하여 더 많은 데이터를 제공해야 한다는 것이었다. 그러면 모델이 스스로 학습하고 오류를 바로잡는 법을 배우게 된다는 생각이다. 그러나 이 접근법은 모델의 정확도를 크게 떨어뜨린다. 예를 들어, 이미지에 대한 가장 잘 알려진 결과는 AI 모델의 정확도를 98.5%에서 약 37%로 떨어뜨린다.

AI 방화벽은 다른 해결책을 제공한다. 우리는 오류를 식별하는 문제를 예측의 역할에서 분리한다. 즉, 방화벽은 오류를 생산할 수 있는 데이터 포인트를 결정하는 하나의 특정 작업에 집중할 수 있다.

이것은 단일 데이터 포인트가 오류를 일으킬지 예측하는 것이 어렵기 때문에 도전적인 작업이었다. 모델이 오류를 범하는 이유는 많기 때문에, 이러한 오류를 예측할 수 있는 기술을 구축하는 것이 쉽지 않았다. 우리는다행히도 훌륭한 엔지니어들을 가지고 있다.

시스템은 어떻게 AI 편향을 방지하는 데 도움이 될 수 있는가?

모델 편향은 모델이 학습된 데이터와 예측에 사용된 데이터 간의 불일치에서 발생한다. AI 위험으로 돌아가면, 편향은 무음 오류의 주요 문제이다. 예를 들어, 이는 대표성이 부족한 인구 집단에 대한 문제일 수 있다. 모델은 해당 인구 집단에 관한 데이터를 적게 보았기 때문에 편향이 발생할 수 있으며, 이는 모델의 성능과 예측의 정확도에 큰 영향을 미칠 수 있다. AI 방화벽은 이러한 데이터 불일치를 조직에 경고하고, 모델이 올바른 결정을 내릴 수 있도록 도와줄 수 있다.

AI 방화벽이 조직을 보호하는 다른 위험은 무엇인가?

AI로 의사결정을 자동화하는 모든 회사는, 특히 중요한 의사결정을 자동화할 때 위험을 도입하게 된다. 잘못된 데이터는 1 대신 0을 입력하는 정도의 작은 차이여도 심각한 결과를 초래할 수 있다. 잘못된 의료 예측이나 대출 예측과 같은 위험은 AI 방화벽이 조직을 보호하는 데 도움이 될 수 있다.

로버스트 인텔리전스에 대해 더 공유하고 싶은 것이 있나?

로버스트 인텔리전스는 급속히 성장하고 있으며, 훌륭한 후보자들이 지원하고 있다. 그러나 내가 강조하고 싶은 것은, 우리가 후보자에게 찾고 있는 가장 중요한 자질은 임무에 대한 열정이다. 우리는 기술적으로 강한 후보자들을 많이 만나지만, 결국 그들이 AI 위험을 제거하여 세상을 더 안전하고 좋은 곳으로 만드는 일에 진정한 열정을 갖고 있는지에 달려 있다.

우리가 향하는 세계에서, 현재 인간이 하는 결정들이 자동화될 것이다. 그것이 우리가 원하는지 여부와 상관없이, 그것은사실이다. 로버스트 인텔리전스의 모든 사람들이 자동화된 결정이 책임감 있게 이루어지기를 원한다. 따라서, 영향력을 미치고, 이것이 사람들의 삶에 어떻게 영향을 미칠 수 있는지 이해하는 사람들을 찾고 있다. 우리는 그 열정을 찾고 있다. 우리는 이 기술을 만들어서 전 세계가 사용할 수 있는 사람들을 찾고 있다.

인터뷰에 감사드립니다. AI 편향을 방지하고 AI 방화벽의 필요성에 대한귀하의 견해를 배우는 것이 좋았습니다. 더 많은 정보를 원하는 독자는 로버스트 인텔리전스를 방문할 수 있습니다.