Lama Nachman, Intel Fellow & Director of Anticipatory Computing Lab – Phỏng vấn Series

Lama Nachman, là một Intel Fellow & Director of Anticipatory Computing Lab. Lama nổi tiếng với công việc của cô với Giáo sư Stephen Hawking, cô đã giúp xây dựng một hệ thống máy tính hỗ trợ để giúp Giáo sư Stephen Hawking giao tiếp. Ngày nay, cô đang giúp nhà roboticist người Anh, Tiến sĩ Peter Scott-Morgan, giao tiếp. Vào năm 2017, Tiến sĩ Peter Scott-Morgan đã được chẩn đoán mắc bệnh thần kinh vận động (MND), cũng được gọi là ALS hoặc bệnh Lou Gehrig. MND tấn công não và dây thần kinh và cuối cùng sẽ gây tê liệt tất cả các cơ, bao gồm cả những cơ giúp hô hấp và nuốt.

Tiến sĩ Peter Scott-Morgan từng nói: “Tôi sẽ tiếp tục tiến hóa, chết như một con người, sống như một cyborg.”

Bạn đã bị thu hút bởi AI như thế nào?

Tôi luôn bị thu hút bởi ý tưởng rằng công nghệ có thể là một yếu tố quyết định. Khi được phát triển một cách có trách nhiệm, nó có tiềm năng san bằng sân chơi, giải quyết các bất bình đẳng xã hội và khuếch đại tiềm năng của con người. Không nơi nào là đúng hơn với AI. Trong khi nhiều cuộc trò chuyện trong ngành về AI và con người đặt mối quan hệ giữa hai bên là đối thủ, tôi tin rằng có những điều độc đáo mà máy móc và con người giỏi, vì vậy tôi thích xem tương lai thông qua ống kính của sự hợp tác giữa con người và AI hơn là sự cạnh tranh giữa con người và AI. Tôi lãnh đạo Phòng thí nghiệm Máy tính Dự báo tại Intel Labs, nơi – trên tất cả các nỗ lực nghiên cứu của chúng tôi – chúng tôi có một焦 điểm duy nhất là cung cấp đổi mới máy tính có thể mở rộng để có tác động xã hội rộng lớn. Cho dù AI đã phổ biến như thế nào và dấu chân ngày càng tăng của nó trong mọi khía cạnh của cuộc sống, tôi thấy tiềm năng to lớn trong nghiên cứu mà nhóm của tôi đang thực hiện để làm cho AI trở nên dễ tiếp cận hơn, nhận thức ngữ cảnh hơn, có trách nhiệm hơn và cuối cùng là mang lại các giải pháp công nghệ ở quy mô để hỗ trợ mọi người trong thế giới thực.

Bạn đã làm việc chặt chẽ với nhà vật lý học nổi tiếng Giáo sư Stephen Hawking để tạo ra một hệ thống AI giúp ông giao tiếp và thực hiện các nhiệm vụ mà hầu hết chúng ta coi là bình thường. Những nhiệm vụ bình thường đó là gì?

Làm việc với Giáo sư Stephen Hawking là một trong những nhiệm vụ có ý nghĩa và đầy thách thức nhất trong cuộc đời tôi. Nó cho tôi thấy công nghệ có thể cải thiện cuộc sống của mọi người như thế nào. Ông sống với ALS, một bệnh thần kinh thoái hóa, tước đi khả năng thực hiện các hoạt động đơn giản nhất theo thời gian. Vào năm 2011, chúng tôi bắt đầu làm việc với ông để khám phá cách cải thiện hệ thống máy tính hỗ trợ cho phép ông tương tác với thế giới. Ngoài việc sử dụng máy tính để nói chuyện với mọi người, Stephen sử dụng máy tính của mình như tất cả chúng ta làm, chỉnh sửa tài liệu, lướt web, giảng bài, đọc / viết email, v.v. Công nghệ cho phép Stephen tiếp tục tham gia tích cực vào và truyền cảm hứng cho thế giới trong nhiều năm sau khi khả năng thể chất của ông suy giảm nhanh chóng. Đó – đối với tôi – là tác động có ý nghĩa của công nghệ đối với cuộc sống của một người!

Một số hiểu biết quan trọng mà bạn đã rút ra từ việc làm việc với Giáo sư Stephen Hawking?

Màn hình máy tính của chúng ta thực sự là cánh cửa vào thế giới. Nếu mọi người có thể kiểm soát PC của mình, họ có thể kiểm soát tất cả các khía cạnh của cuộc sống (tiêu thụ nội dung, truy cập thế giới kỹ thuật số, kiểm soát môi trường vật lý, điều hướng xe lăn, v.v.). Đối với những người khuyết tật vẫn có thể nói, các tiến bộ trong nhận dạng giọng nói cho phép họ có quyền kiểm soát đầy đủ các thiết bị của mình (và ở mức độ lớn, môi trường vật lý của họ). Tuy nhiên, những người không thể nói và không thể di chuyển thực sự bị suy giảm khả năng độc lập. Điều mà kinh nghiệm với Giáo sư Hawking đã dạy tôi là các nền tảng công nghệ hỗ trợ cần được tùy chỉnh theo nhu cầu cụ thể của người dùng. Ví dụ, chúng ta không thể giả định rằng một giải pháp duy nhất sẽ hoạt động cho những người mắc bệnh ALS, vì bệnh ảnh hưởng đến các khả năng khác nhau trên các bệnh nhân. Vì vậy, chúng ta cần các công nghệ có thể được cấu hình và thích nghi dễ dàng với nhu cầu của từng cá nhân. Đây là lý do tại sao chúng tôi xây dựng ACAT (Bộ công cụ hỗ trợ nhận thức ngữ cảnh), một nền tảng phần mềm mã nguồn mở có thể cho phép các nhà phát triển đổi mới và xây dựng các khả năng khác nhau trên đó.

Tôi cũng học được rằng điều quan trọng là phải hiểu ngưỡng thoải mái của mỗi người dùng khi trao đổi sự kiểm soát để có hiệu quả hơn (điều này không chỉ giới hạn ở những người khuyết tật). Ví dụ, AI có thể có khả năng lấy đi nhiều quyền kiểm soát của người dùng để thực hiện một nhiệm vụ nhanh hơn hoặc hiệu quả hơn, nhưng mỗi người dùng có một mức độ rủi ro khác nhau. Một số người sẵn sàng từ bỏ nhiều quyền kiểm soát hơn, trong khi những người dùng khác muốn duy trì nhiều hơn. Hiểu được những ngưỡng này và mức độ mà mọi người sẵn sàng đi có tác động lớn đến cách các hệ thống này có thể được thiết kế. Chúng ta cần phải suy nghĩ lại thiết kế hệ thống theo mức độ thoải mái của người dùng chứ không chỉ là các biện pháp khách quan về hiệu quả và độ chính xác.

Gần đây, bạn đã làm việc với một nhà khoa học nổi tiếng của Anh, Peter Scott Morgan, người đang mắc bệnh thần kinh vận động và có mục tiêu trở thành cyborg đầu tiên trên thế giới. Một số mục tiêu tham vọng mà Peter có là gì?

Một trong những vấn đề với AAC (Truyền thông hỗ trợ và bổ sung) là “khoảng cách im lặng”. Nhiều người mắc bệnh ALS (bao gồm cả Peter) sử dụng kiểm soát tầm nhìn để chọn chữ cái / từ trên màn hình để nói chuyện với người khác. Điều này dẫn đến một khoảng im lặng dài sau khi ai đó kết thúc câu của mình trong khi người đó nhìn vào máy tính của mình và bắt đầu xây dựng chữ cái và từ để trả lời. Peter muốn giảm khoảng im lặng này càng nhiều càng tốt để mang lại sự tự phát cho giao tiếp.

Nhà roboticist người Anh, Tiến sĩ Peter Scott-Morgan, người mắc bệnh thần kinh vận động, đã bắt đầu vào năm 2019 để trải qua một loạt các cuộc phẫu thuật để kéo dài cuộc sống của mình bằng công nghệ. (Tín dụng: Cardiff Productions)

Bạn có thể thảo luận về một số công nghệ đang được sử dụng để hỗ trợ Tiến sĩ Peter Scott-Morgan?

Peter đang sử dụng ACAT (Bộ công cụ hỗ trợ nhận thức ngữ cảnh), nền tảng mà chúng tôi đã xây dựng trong công việc với Tiến sĩ Hawking và sau đó phát hành dưới dạng mã nguồn mở. Không giống như Tiến sĩ Hawking, người đã sử dụng các cơ ở má như một “kích hoạt đầu vào” để kiểm soát các chữ cái trên màn hình của mình, Peter đang sử dụng kiểm soát tầm nhìn (một khả năng chúng tôi đã thêm vào ACAT hiện có) để nói chuyện và kiểm soát PC của mình, giao diện với giải pháp Text-to-Speech (TTS) từ một công ty có tên là CereProc được tùy chỉnh cho anh ấy và cho phép anh ấy thể hiện các cảm xúc / nhấn mạnh khác nhau. Hệ thống cũng kiểm soát một hình đại diện được tùy chỉnh cho anh ấy.

Chúng tôi hiện đang làm việc trên một hệ thống tạo phản hồi cho ACAT có thể cho phép Peter tương tác với hệ thống ở mức cao hơn bằng cách sử dụng các khả năng AI. Hệ thống này sẽ lắng nghe các cuộc trò chuyện của Peter theo thời gian và đề xuất phản hồi để Peter chọn trên màn hình. Mục tiêu là rằng theo thời gian, hệ thống AI sẽ học từ dữ liệu của Peter và cho phép anh ấy “đẩy” hệ thống để cung cấp phản hồi tốt nhất bằng cách sử dụng chỉ một số từ khóa (tương tự như cách tìm kiếm trên web ngày nay). Mục tiêu của chúng tôi với hệ thống tạo phản hồi là giảm khoảng im lặng trong giao tiếp và trao quyền cho Peter và người dùng ACAT trong tương lai để giao tiếp ở tốc độ cảm thấy “tự nhiên” hơn.

Bạn cũng đã nói về tầm quan trọng của tính minh bạch trong AI, vấn đề này lớn đến mức nào?

Đây là một vấn đề lớn, đặc biệt khi nó được triển khai trong các hệ thống ra quyết định hoặc hệ thống hợp tác giữa con người và AI. Ví dụ, trong trường hợp của hệ thống hỗ trợ của Peter, chúng tôi cần hiểu những gì đang gây ra hệ thống đưa ra những khuyến nghị này và làm thế nào để ảnh hưởng đến việc học của hệ thống này để thể hiện chính xác hơn ý tưởng của anh ấy.

Trong bối cảnh lớn hơn của các hệ thống ra quyết định, cho dù đó là giúp chẩn đoán dựa trên hình ảnh y tế hay đưa ra khuyến nghị về việc cấp vay, các hệ thống AI cần cung cấp thông tin có thể giải thích được cho con người về cách chúng đến được quyết định, những thuộc tính hoặc tính năng nào có tác động nhất đến quyết định đó, hệ thống có mức độ tin cậy nào trong suy luận được thực hiện, v.v. Điều này làm tăng niềm tin vào các hệ thống AI và cho phép hợp tác tốt hơn giữa con người và AI trong các kịch bản ra quyết định hỗn hợp.

Th偏见 của AI, đặc biệt là khi nói đến chủ nghĩa phân biệt chủng tộc và sexism, là một vấn đề lớn, nhưng làm thế nào để bạn xác định các loại偏见 khác khi bạn không biết偏见 bạn đang tìm kiếm?

Đây là một vấn đề rất khó và không thể giải quyết được bằng công nghệ alone. Chúng tôi cần mang lại sự đa dạng hơn vào sự phát triển của các hệ thống AI (chủng tộc, giới tính, văn hóa, khả năng thể chất, v.v.). Điều này rõ ràng là một khoảng trống lớn trong dân số xây dựng các hệ thống AI ngày nay. Ngoài ra, điều quan trọng là phải có các nhóm đa ngành tham gia vào việc định nghĩa và phát triển các hệ thống này, mang lại khoa học xã hội, triết học, tâm lý học, đạo đức và chính sách vào bàn (không chỉ khoa học máy tính), và tham gia vào quá trình điều tra trong bối cảnh của các dự án và vấn đề cụ thể.

Bạn đã nói trước đó về việc sử dụng AI để khuếch đại tiềm năng của con người. Một số lĩnh vực nào cho thấy nhiều hứa hẹn nhất cho sự khuếch đại này của tiềm năng con người?

Một lĩnh vực rõ ràng là cho phép những người khuyết tật sống độc lập hơn, giao tiếp với những người thân yêu và tiếp tục tạo ra và đóng góp cho xã hội. Tôi thấy tiềm năng lớn trong giáo dục, trong việc hiểu sự tham gia của học sinh và cá nhân hóa trải nghiệm học tập theo nhu cầu và khả năng của từng học sinh để cải thiện sự tham gia, trao quyền cho giáo viên với kiến thức này và cải thiện kết quả học tập. Sự bất bình đẳng trong giáo dục ngày nay là rất sâu sắc và có một chỗ cho AI để giúp giảm một số bất bình đẳng này nếu chúng tôi làm đúng. Có vô số cơ hội để AI mang lại nhiều giá trị bằng cách tạo ra các hệ thống hợp tác giữa con người và AI trong nhiều lĩnh vực (chăm sóc sức khỏe, sản xuất, v.v.) vì những gì con người và AI mang lại là rất bổ sung. Để điều này xảy ra, chúng tôi cần phải đổi mới tại giao điểm của khoa học xã hội, HCI và AI. Nhận thức đa phương thức mạnh mẽ, nhận thức ngữ cảnh, học tập từ dữ liệu hạn chế, HCI được đặt trong bối cảnh vật lý và khả năng giải thích là một số thách thức chính mà chúng tôi cần tập trung vào để đưa tầm nhìn này vào hiện thực.

Bạn cũng đã nói về tầm quan trọng của việc nhận dạng cảm xúc đối với tương lai của AI? Tại sao ngành công nghiệp AI nên tập trung nhiều hơn vào lĩnh vực nghiên cứu này?

Nhận dạng cảm xúc là một khả năng quan trọng của các hệ thống con người và AI cho nhiều lý do. Một khía cạnh là cảm xúc của con người cung cấp bối cảnh quan trọng cho bất kỳ hệ thống chủ động nào để hiểu trước khi nó có thể hành động.

Quan trọng hơn, những hệ thống này cần tiếp tục học hỏi trong thế giới thực và thích nghi dựa trên tương tác với người dùng, và trong khi phản hồi trực tiếp là một tín hiệu quan trọng cho việc học, các tín hiệu gián tiếp rất quan trọng và chúng miễn phí (ít công việc hơn cho người dùng). Ví dụ, một trợ lý kỹ thuật số có thể học được nhiều điều từ sự thất vọng trong giọng nói của người dùng và sử dụng tín hiệu đó để học hỏi những gì cần làm trong tương lai, thay vì yêu cầu người dùng phản hồi mỗi lần. Thông tin này có thể được sử dụng cho các hệ thống AI học tập chủ động để tiếp tục cải thiện theo thời gian.

Có điều gì khác mà bạn muốn chia sẻ về những gì bạn đang làm tại Phòng thí nghiệm Máy tính Dự báo hoặc các vấn đề khác mà chúng tôi đã thảo luận?

Khi xây dựng các hệ thống hỗ trợ, chúng tôi thực sự cần phải suy nghĩ về cách xây dựng các hệ thống này một cách có trách nhiệm và cách cho phép mọi người hiểu những gì thông tin đang được thu thập và cách kiểm soát những hệ thống này một cách thực tế. Là các nhà nghiên cứu AI, chúng tôi thường bị thu hút bởi dữ liệu và muốn có càng nhiều dữ liệu càng tốt để cải thiện những hệ thống này, tuy nhiên, có một sự đánh đổi giữa loại và lượng dữ liệu chúng tôi muốn và quyền riêng tư của người dùng. Chúng tôi thực sự cần giới hạn dữ liệu chúng tôi thu thập để những gì cần thiết để thực hiện nhiệm vụ suy luận, làm cho người dùng nhận thức được chính xác những gì dữ liệu chúng tôi đang thu thập và cho phép họ điều chỉnh sự đánh đổi này theo những cách có ý nghĩa và hữu ích.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm về dự án này nên đọc bài viết Intel’s Lama Nachman and Peter Scott-Morgan: Two Scientists, One a ‘Human Cyborg’.

Đội ngũ Phòng thí nghiệm Máy tính Dự báo của Intel, những người đã phát triển Bộ công cụ hỗ trợ nhận thức ngữ cảnh, bao gồm (từ trái) Alex Nguyen, Sangita Sharma, Max Pinaroc, Sai Prasad, Lama Nachman và Pete Denman. Không có trong ảnh là Bruna Girvent, Saurav Sahay và Shachi Kumar. (Tín dụng: Lama Nachman)