๋-๊ธฐ๊ณ ์ธํฐํ์ด์ค
Lama Nachman, Intel Fellow & Director of Anticipatory Computing Lab – ์ธํฐ๋ทฐ ์๋ฆฌ์ฆ
Lama Nachman, 는 Intel Fellow & Anticipatory Computing Lab의 디렉터입니다. Lama는 Stephen Hawking 교수와 함께 일한 것으로 가장 잘 알려져 있으며, Stephen Hawking 교수와 의사소통을 돕기 위한 보조 컴퓨터 시스템을 구축하는 데 중요한 역할을 했습니다. 오늘날 그녀는 영국의 로봇공학자 Peter Scott-Morgan 박사와 의사소통을 돕고 있습니다. 2017년, Peter Scott-Morgan 박사는 운동 신경 세포 질환(MND, ALS 또는 루게릭병으로도 알려짐)을 진단받았습니다. MND는 뇌와 신경을 공격하여 결국 모든 근육을 마비시킵니다. 호흡과 삼키기 등을 가능하게 하는 근육도 포함됩니다.
Peter Scott-Morgan 박사는曾經 다음과 같이 말했습니다: “나는 인간으로 죽고 사이보그로 살 것이다.”
당신은 무엇이 AI에 끌렸나요?
나는 기술이伟大的 평등자로 될 수 있다는 생각에 항상 끌렸습니다. 책임감 있게 개발되면 사회적 불평등을 해결하고 인간의 잠재력을 증폭시킬 수 있습니다. 이는 AI에서 더욱 그렇습니다. 많은 산업은 AI와 인간의 관계를 적대적으로 пози션 하지만, 나는 기계와 사람들이 각각 잘하는 唯一한 것들이 있다고 믿습니다. 따라서 나는 인간-AI 협력을 위한 미래를 인간-AI 경쟁보다는 인간-AI 협력의 렌즈를 통해 보는 것을 선호합니다. 나는 Intel Labs의 Anticipatory Computing Lab을 이끌고 있으며, 우리의 모든 연구 노력은 광범위한 사회적 영향을 미치는 컴퓨팅 혁신을 제공하는 데 중점을 두고 있습니다. AI가 이미 매우 普遍하고 우리 삶의 모든 측면에서 점점 더 많은 발자취를 남기고 있기 때문에, 나는 내 팀이 연구를 통해 AI를 더 접근하기 쉽게 하고, 더 많은 컨텍스트를 인식하게 하고, 더 책임감 있게 만들고, 궁극적으로 기술 솔루션을 제공하여 실제 세계에서 사람들을 돕는 데 큰 약속을 보입니다.
당신은 전설적인 물리학자 Stephen Hawking 교수와 함께 일했습니다. 그는 의사소통과 대부분의 사람들이 일상적으로 생각하는 태스크를 돕는 AI 시스템을 만들었습니다. 이러한 일상적인 태스크에는 어떤 것이 있나요?
Stephen Hawking 교수와 일하는 것은 내 인생에서 가장 의미 있는 일이었습니다. 그것은 기술이 사람들의 삶을 어떻게 깊게 개선할 수 있는지에 대해 내 영혼을 먹였습니다. 그는 ALS라는 퇴행성 신경 질환이 있었는데, 이 질환은 시간이 지남에 따라 환자의 가장 간단한 활동을 수행하는 능력을 빼앗아갑니다. 2011년, 우리는 그를 돕기 위해 보조 컴퓨터 시스템을 개선하는 방법을 탐색하기 시작했습니다. 사람들과 대화하기 위해 컴퓨터를 사용하는 것 외에도, Stephen은 문서를 편집하고, 웹을 검색하고, 강의를 하고, 이메일을 읽고/쓰는 등 우리 모두가 하는 것처럼 컴퓨터를 사용했습니다. 기술이 Stephen에게 그의 신체적 능력이 급격히 감소한 후에도 세계에 계속 참여하고 영감을 줄 수 있도록 허용했다는 것은 – 그것이 기술이 누군가의 삶에 미치는 의미 있는 영향의 예입니다!
Stephen Hawking 교수와 일하면서 얻은 주요 통찰은 무엇인가요?
우리의 컴퓨터 화면은真正로 우리가 世界로 들어가는 문입니다. 사람들이 자신의 PC를 제어할 수 있다면, 그들은 자신의 삶의 모든 측면을 제어할 수 있습니다 (콘텐츠를 소비하고, 디지털 세계에 접근하고, 물리적 환경을 제어하고, 휠체어를 이동시키는 등). 음성 인식을 사용할 수 있는 능력으로 인해 음성을 사용할 수 없는 사람들은 자신의 장치를 완전히 제어할 수 있습니다 (그리고 어느 정도로 물리적 환경을 제어할 수 있습니다). 그러나 말할 수 없고 움직일 수 없는 사람들은 독립적으로 행동할 수 없습니다. Stephen Hawking 교수와의 경험은 보조 기술 플랫폼이 사용자의 특정需求에 맞게 맞춤형으로 설계되어야 한다는 것을 가르쳤습니다. 예를 들어, 우리는 ALS 환자들에게 단일 솔루션이 작동한다고 가정할 수 없습니다. 왜냐하면 이 질환은 환자마다 다른 능력에 영향을 미치 때문입니다. 따라서 우리는 ACAT(Assistive Context Aware Toolkit)을 구축했습니다. 이는 모듈식, 오픈 소스 소프트웨어 플랫폼으로 개발자가 다양한 기능을 구축할 수 있도록 합니다.
나는 또한 사용자가 효율성을 위해 제어를 얼마나 양보하는지 이해하는 것이 중요하다는 것을 배웠습니다 (이는 장애가 있는 사람들에게만 국한되지 않습니다). 예를 들어, AI는 작업을 더 빠르고 효율적으로 수행하기 위해 사용자로부터 더 많은 제어를 가져갈 수 있지만, 모든 사용자는 위험에 대한 다른 수준의 감수성을 가지고 있습니다. 일부 사용자는 더 많은 제어를 양보하는 것을 원하지만, 다른 사용자는 더 많은 제어를 유지하고 싶어합니다. 이러한 임계값을 이해하고 사용자가 어디까지 갈 수 있는지에 대한 이해는 이러한 시스템을 설계하는 데 큰 영향을 미칩니다. 우리는 효율성과 정확성의 객관적인 척도만이 아니라 사용자의 편안함 수준을 기준으로 시스템 설계를 재고해야 합니다.
最近, 유명한 영국 과학자 Peter Scott-Morgan 박사와 함께 일했습니다. 그는 운동 신경 세포 질환을 앓고 있으며 세계 최초의 완전한 사이보그가 되는 것을 목표로 하고 있습니다. Peter의 이러한 야심적인 목표에는 어떤 것이 있나요?
AAC(Assistive and Augmentative Communication)의 문제 중 하나는 “침묵 간격”입니다. 많은 ALS 환자들은 화면의 문자/단어를 선택하여 다른 사람과 대화하기 위해 시선 제어를 사용합니다. 이는 누군가가 문장을 끝내고 컴퓨터를看着 반응을 준비하는 동안 긴 침묵을 초래합니다. Peter는 이 침묵 간격을 가능한 한 줄이고 의사소통에서 말의 즉흥성을 다시 가져오고 싶었습니다. 그는 또한 자신의 목소리와 개성을 보존하고 고유한 의사소통 스타일(예: 그의 유머, 그의 신속한 비꼬임, 그의 감정)을 표현하는 텍스트 음성 시스템을 사용하고 싶었습니다.
영국의 로봇공학자 Peter Scott-Morgan 박사는 2019년부터 기술을 사용하여 그의 삶을 연장하는 일련의 수술을 받기 시작했습니다. (크레디트: Cardiff Productions)
Peter Scott-Morgan 박사를 돕고 있는 기술 중 어떤 것이 있나요?
Peter는 우리가 Stephen Hawking 박사와 일하면서 구축하고 나중에 오픈 소스로发布한 ACAT 플랫폼을 사용하고 있습니다. Stephen Hawking 박사와는 달리 가슴 근육을 사용하여 화면의 문자를 제어하는 트리거로 사용한 반면, Peter는 화면의 문자를 선택하여 사람들과 대화하고 컴퓨터를 제어하기 위해 시선 제어를 사용합니다. 이는 우리가 기존의 ACAT에 추가한 기능입니다. 시스템은 Peter에게 맞춤형으로 설계된 CereProc의 텍스트 음성 솔루션과 인터페이스하고 있으며, 이는 다양한 감정/강조를 표현할 수 있습니다. 시스템은 또한 Peter에게 맞춤형으로 설계된 아바타를 제어합니다.
우리는 현재 ACAT용 응답 생성 시스템을 개발 중이며, 이는 Peter가 높은 수준에서 시스템과 상호작용할 수 있도록 AI 기능을 허용합니다. 이 시스템은 시간이 지남에 따라 Peter의 대화를 듣고 화면에서 선택할 수 있는 응답을 제안할 것입니다. 목표는 AI 시스템이 Peter의 데이터에서 학습하여 키워드만 사용하여 시스템이 최상의 응답을 제공하도록 “눈치”를 줄 수 있도록 하는 것입니다(현재 웹에서 검색하는 방식과 유사합니다). 응답 생성 시스템의 목표는 언급된 침묵 간격을 줄이고 ACAT의 미래 사용자를 자연스러운 속도로 의사소통할 수 있도록 하는 것입니다.
AI에서 투명성의 중요성에 대해 이야기했습니다. 이 연구 분야에 더 집중해야 하는 이유는 무엇인가요?
특히 의사 결정 시스템이나 인간-AI 협력 시스템에서 배포되는 경우 이는 큰 문제입니다. 예를 들어, Peter의 보조 시스템의 경우, 시스템이 이러한 추천을 하는 이유와 시스템의 학습을 어떻게 影響할 수 있는지 이해해야 합니다.
의사 결정 시스템의 더 큰 맥락에서, 의료 이미지에 기반한 진단을 돕거나 대출을 승인하는 추천을 하는 경우, AI 시스템은 인간이 해석할 수 있는 정보를 제공하여 어떻게 이러한 결정을 내렸는지, 어떤 속성 또는 기능이 이러한 결정에 가장 큰 영향을 미쳤는지, 시스템이 추론에 대한 어떤 정도의 확신을 가지고 있는지 등에 대해 제공해야 합니다. 이는 AI 시스템에 대한 신뢰를 높이고 인간-AI 협력 시스템에서 인간과 AI의 협력을 개선합니다.
인종차별과 성별 차별과 같은 AI 편향은 큰 문제이지만, 어떤 편향을 찾고 있는지 모르는 경우 다른 유형의 편향을 어떻게 식별하나요?
这是一个非常 어려운 문제이며, 기술만으로는 해결할 수 없습니다. 우리는 AI 시스템 개발에 더 많은 다양성을 가져와야 합니다(인종, 성별, 문화, 신체 능력 등). 이는 오늘날 이러한 AI 시스템을 구축하는 인구의 명백한 격차입니다. 또한, 사회 과학, 철학, 심리학, 윤리 및 정책을 포함한 다학제적 팀을 참여시켜 특정 프로젝트와 문제의 맥락에서 탐구 프로세스에 참여해야 합니다(컴퓨터 과학만이 아니라).
인간의 잠재력을 증폭시키는 데 가장 많은 약속을 보여주는 분야는 무엇인가요?
명백한 분야는 장애가 있는 사람들을 더 독립적으로 살 수 있도록 하여, 사랑하는 사람들과 의사소통하고 사회에 계속 기여할 수 있도록 하는 것입니다. 나는 교육에서 큰 잠재력을 보며, 학생들의 참여를 이해하고, 개인의 필요와 능력에 따라 학습 경험을 개인화하여 참여를 개선하고, 교사들에게 이러한 지식을 제공하고, 학습 결과를 개선하는 데 있습니다. 오늘날 교육의 불평등은 매우 심각하며, 이를 일부 줄이기 위해 AI를 사용할 수 있습니다. 많은 분야에서 인간-AI 협력 시스템을 생성하여 많은 가치를 제공할 수 있습니다(의료, 제조 등). 왜냐하면 인간과 AI가 제공하는 것은 매우 보완적이기 때문입니다. 이를 위해서는 사회 과학, HCI 및 AI의 교차점에서 혁신이 필요합니다. 강력한 다중 모달 인식, 컨텍스트 인식, 제한된 데이터에서 학습, 물리적으로 위치한 HCI 및 해석 가능성이 이러한 비전을 실현하기 위해 집중해야 할 주요 도전입니다.
미래의 AI에 대한 감정 인식의 중요성에 대해 이야기했습니다. 왜 AI 산업은 이 연구 분야에 더 집중해야 합니까?
감정 인식은 인간-AI 시스템에서 여러 가지 이유로 핵심 능력입니다. 하나의 측면은 인간的情绪가 예측 시스템에서 인간의 컨텍스트를 이해하기 위해 핵심입니다.
더 중요한 것은 이러한 시스템이 사용자와의 상호작용에 따라 野에서 계속 학습하고 적응해야 한다는 것입니다. 직접 피드백은 학습을 위한 핵심 신호이지만, 간접 신호도 매우 중요하며, 사용자에게 더 많은 작업을 요구하지 않습니다(사용자에게 더 적은 작업). 예를 들어, 디지털 어시스턴트는 사용자의 목소리에서 불안을 학습할 수 있으며, 이는 사용자에게 피드백을 요청하지 않고도 미래에 무엇을 해야 하는지에 대한 피드백 신호로 사용할 수 있습니다. 이러한 정보는 사용자의 데이터에서 학습하여 사용자의 아이디어를 더 정확하게 표현할 수 있도록 AI 시스템을 개선하는 데 사용할 수 있습니다.
Anticipatory Computing Lab 또는 다른 문제에 대해 더 공유하고 싶은 것이 있나요?
보조 시스템을 구축할 때, 우리는 이러한 시스템을 책임감 있게 구축하는 방법과 사용자가 수집되는 정보를 이해하고 이러한 시스템을 제어하는 방법을 사용자에게 제공하는 방법에 대해 생각해야 합니다. AI 연구자로서, 우리는 종종 데이터에 매료되고 이러한 시스템을 개선하기 위해 가능한 한 많은 데이터를 원합니다. 그러나 수집하는 데이터의 유형과 양 사이에 사용자의 개인 정보와의 트레이드오프가 있습니다. 우리는 시스템이 추론 작업을 수행하는 데 절대적으로 필요한 데이터만 수집해야 하며, 사용자가 수집하는 데이터가 무엇인지 알 수 있도록 해야 하며, 이러한 트레이드오프를 의미 있는 방식으로 조정할 수 있도록 사용자에게 허용해야 합니다.
이 훌륭한 인터뷰에 감사합니다. 이 프로젝트에 대해 더 알아보고 싶은 독자는 Intel의 Lama Nachman과 Peter Scott-Morgan: 두 과학자, 하나의 ‘인간 사이보그’라는 기사를 읽어야 합니다.
Intel의 Anticipatory Computing Lab 팀은 Assistive Context-Aware Toolkit을 개발했습니다. 팀원으로는 Alex Nguyen, Sangita Sharma, Max Pinaroc, Sai Prasad, Lama Nachman 및 Pete Denman이 있습니다. Bruna Girvent, Saurav Sahay 및 Shachi Kumar는 사진에 없습니다. (크레디트: Lama Nachman)
