Lama Nachman, Intel Fellow & Diretor do Laboratório de Computação Antecipatória – Série de Entrevistas

Lama Nachman, é uma Intel (INTC ) Fellow & Diretora do Laboratório de Computação Antecipatória. Lama é mais conhecida por seu trabalho com o Prof. Stephen Hawking, ela foi instrumental na criação de um sistema de computador assistivo para ajudar o Prof. Stephen Hawking a se comunicar. Hoje, ela está ajudando o robótico britânico Dr. Peter Scott-Morgan a se comunicar. Em 2017, o Dr. Peter Scott-Morgan recebeu um diagnóstico de doença de neurônio motor (DNM), também conhecida como ELA ou doença de Lou Gehrig. A DNM ataca o cérebro e os nervos e, eventualmente, paralisa todos os músculos, incluindo aqueles que permitem a respiração e a deglutição.

O Dr. Peter Scott-Morgan já disse: “Vou continuar a evoluir, morrendo como um ser humano, vivendo como um cyborg.”

O que o atraiu para a IA?

Eu sempre fui atraído pela ideia de que a tecnologia pode ser o grande equalizador. Quando desenvolvida de forma responsável, ela tem o potencial de nivelar o campo de jogo, abordar desigualdades sociais e ampliar o potencial humano. Em nenhum lugar isso é mais verdadeiro do que com a IA. Enquanto grande parte da conversa da indústria sobre IA e humanos posiciona a relação entre os dois como adversarial, eu acredito que há coisas únicas que as máquinas e as pessoas são boas, então eu prefiro ver o futuro através da lente da colaboração Humano-IA em vez da competição Humano-IA. Eu lidero o Laboratório de Computação Antecipatória da Intel Labs, onde – em todos os nossos esforços de pesquisa – temos um foco singular em entregar inovação em computação que tenha impacto social amplo. Dada a forma como a IA já é onipresente e sua pegada crescente em todos os aspectos da vida, eu vejo um grande potencial na pesquisa que minha equipe está realizando para tornar a IA mais acessível, mais consciente do contexto, mais responsável e, em última análise, trazer soluções tecnológicas em escala para ajudar as pessoas no mundo real.

Você trabalhou em estreita colaboração com o físico legendário Prof. Stephen Hawking para criar um sistema de IA que o ajudasse a se comunicar e a realizar tarefas que a maioria de nós consideraria rotineiras. Quais foram algumas dessas tarefas rotineiras?

Trabalhar com o Prof. Stephen Hawking foi a empreitada mais significativa e desafiadora da minha vida. Isso alimentou minha alma e realmente mostrou como a tecnologia pode melhorar profundamente a vida das pessoas. Ele vivia com ELA, uma doença neurológica degenerativa, que tira, ao longo do tempo, a capacidade do paciente de realizar as atividades mais simples. Em 2011, começamos a trabalhar com ele para explorar como melhorar o sistema de computador assistivo que lhe permitia interagir com o mundo. Além de usar seu computador para conversar com as pessoas, Stephen usava seu computador como todos nós, editando documentos, navegando na web, dando palestras, lendo/escrivendo e-mails, etc. A tecnologia permitiu que Stephen continuasse a participar ativamente do mundo e a inspirar as pessoas por anos, mesmo após suas habilidades físicas diminuírem rapidamente. Isso – para mim – é o que o impacto significativo da tecnologia na vida de alguém parece!

Quais são algumas das principais lições que você tirou do trabalho com o Prof. Stephen Hawking?

Nossa tela de computador é realmente nossa porta de entrada para o mundo. Se as pessoas puderem controlar seu PC, elas podem controlar todos os aspectos de suas vidas (consumir conteúdo, acessar o mundo digital, controlar o ambiente físico, navegar em sua cadeira de rodas, etc). Para pessoas com deficiências que ainda podem falar, os avanços no reconhecimento de voz permitem que elas tenham controle total de seus dispositivos (e, em grande medida, de seu ambiente físico). No entanto, aqueles que não podem falar e não conseguem se mover estão verdadeiramente prejudicados por não poderem exercer muita independência. O que a experiência com o Prof. Hawking me ensinou é que as plataformas de tecnologia assistiva precisam ser personalizadas para as necessidades específicas do usuário. Por exemplo, não podemos simplesmente supor que uma solução única funcionará para pessoas com ELA, porque a doença afeta diferentes habilidades em pacientes diferentes. Então, precisamos de tecnologias que possam ser facilmente configuradas e adaptadas às necessidades individuais. É por isso que construímos a ACAT (Assistive Context Aware Toolkit), uma plataforma de software de código aberto modular que pode permitir que os desenvolvedores inovem e construam diferentes capacidades sobre ela.

Eu também aprendi que é importante entender o limiar de conforto de cada usuário em relação a dar controle em troca de mais eficiência (isso não se limita a pessoas com deficiências). Por exemplo, a IA pode ser capaz de tirar mais controle do usuário para realizar uma tarefa mais rápido ou de forma mais eficiente, mas cada usuário tem um nível diferente de aversão ao risco. Alguns estão dispostos a dar mais controle, enquanto outros usuários querem manter mais controle. Entender esses limites e até onde as pessoas estão dispostas a ir tem um grande impacto na forma como esses sistemas podem ser projetados. Precisamos repensar o design do sistema em termos de nível de conforto do usuário, em vez de apenas medidas objetivas de eficiência e precisão.

Mais recentemente, você tem trabalhado com um famoso cientista britânico, Peter Scott Morgan, que sofre de doença de neurônio motor e tem o objetivo de se tornar o primeiro cyborg completo do mundo. Quais são alguns dos objetivos ambiciosos que Peter tem?

Um dos problemas com a AAC (Comunicação Assistiva e Augmentativa) é a “lacuna de silêncio”. Muitas pessoas com ELA (incluindo Peter) usam controle de olhar para escolher letras/palavras na tela para falar com os outros. Isso resulta em um longo silêncio após alguém terminar sua frase enquanto a pessoa olha para o computador e começa a formular suas letras e palavras para responder. Peter quer reduzir essa lacuna de silêncio o máximo possível para trazer de volta a espontaneidade verbal à comunicação. Ele também quer preservar sua voz e personalidade e usar um sistema de texto-para-fala que expresse seu estilo único de comunicação (por exemplo, seus trocadilhos, sua ironia rápida, suas emoções).

O robótico britânico Dr. Peter Scott-Morgan, que tem doença de neurônio motor, começou em 2019 a se submeter a uma série de operações para prolongar sua vida usando tecnologia. (Crédito: Cardiff Productions)

Poderia discutir algumas das tecnologias que estão sendo usadas atualmente para ajudar o Dr. Peter Scott-Morgan?

Peter está usando a ACAT (Assistive Context Aware Toolkit), a plataforma que construímos durante nosso trabalho com o Dr. Hawking e posteriormente liberamos como código aberto. Ao contrário do Dr. Hawking, que usava os músculos de sua bochecha como um “gatilho de entrada” para controlar as letras em sua tela, Peter está usando controle de olhar (uma capacidade que adicionamos à ACAT existente) para falar e controlar seu PC, que se conecta a uma solução de Texto-para-Fala (TTS) de uma empresa chamada CereProc que foi personalizada para ele e permite que ele expresse diferentes emoções/ênfase. O sistema também controla um avatar que foi personalizado para ele.

Atualmente, estamos trabalhando em um sistema de geração de respostas para a ACAT que possa permitir que Peter interaja com o sistema em um nível mais alto usando capacidades de IA. Esse sistema ouvirá as conversas de Peter ao longo do tempo e sugerirá respostas para Peter escolher na tela. O objetivo é que, com o tempo, o sistema de IA aprenda com os dados de Peter e permita que ele “empurre” o sistema para fornecer as melhores respostas usando apenas algumas palavras-chave (semelhante à forma como as buscas funcionam na web hoje). Nosso objetivo com o sistema de geração de respostas é reduzir a lacuna de silêncio na comunicação mencionada acima e permitir que Peter e futuros usuários da ACAT se comuniquem em um ritmo que se sinta mais “natural”.

Você também falou sobre a importância da transparência na IA, quão grande é esse problema?

É um grande problema, especialmente quando é implantado em sistemas de tomada de decisão ou sistemas de colaboração Humano-IA. Por exemplo, no caso do sistema assistivo de Peter, precisamos entender o que está fazendo o sistema tomar essas recomendações e como impactar o aprendizado desse sistema para expressar mais precisamente as ideias dele.

Em um contexto mais amplo de sistemas de tomada de decisão, seja ajudando no diagnóstico com base em imagens médicas ou fazendo recomendações sobre a concessão de empréstimos, os sistemas de IA precisam fornecer informações humanamente interpretáveis sobre como chegaram a essas decisões, quais atributos ou recursos tiveram mais impacto nessa decisão, qual é a confiança que o sistema tem na inferência feita, etc. Isso aumenta a confiança nos sistemas de IA e permite uma melhor colaboração entre humanos e IA em cenários de tomada de decisão mista.

A tendência da IA, especialmente quando se trata de racismo e sexismo, é um problema enorme, mas como você identifica outros tipos de tendência quando não tem ideia de quais tendências você está procurando?

É um problema muito difícil e que não pode ser resolvido apenas com tecnologia. Precisamos trazer mais diversidade para o desenvolvimento de sistemas de IA (racial, de gênero, cultural, de capacidade física, etc.). Isso é claramente uma grande lacuna na população que está construindo esses sistemas de IA hoje. Além disso, é fundamental ter equipes multidisciplinares envolvidas na definição e desenvolvimento desses sistemas, trazendo ciência social, filosofia, psicologia, ética e política para a mesa (não apenas ciência da computação), e envolvendo-se no processo de inquérito no contexto de projetos e problemas específicos.

Você falou antes sobre usar a IA para ampliar o potencial humano. Quais são algumas áreas que mostram mais promessa para essa ampliação do potencial humano?

Uma área óbvia é permitir que pessoas com deficiências vivam de forma mais independente, se comuniquem com entes queridos e continuem a criar e contribuir para a sociedade. Eu vejo um grande potencial na educação, na compreensão do engajamento do aluno e na personalização da experiência de aprendizado para as necessidades e capacidades individuais do aluno para melhorar o engajamento, empoderar os professores com esse conhecimento e melhorar os resultados de aprendizado. A desigualdade na educação hoje é tão profunda e há um lugar para a IA ajudar a reduzir parte dessa desigualdade se fizermos isso corretamente. Há oportunidades ilimitadas para a IA trazer muito valor criando sistemas de colaboração Humano-IA em muitos setores (saúde, manufatura, etc.) porque o que os humanos e a IA trazem para a mesa são muito complementares. Para que isso aconteça, precisamos de inovação na interseção da ciência social, HCI e IA. Percepção multi-modal robusta, conscientização de contexto, aprendizado com dados limitados, HCI fisicamente situado e interpretabilidade são alguns dos principais desafios que precisamos focar para trazer essa visão à realidade.

Você também falou sobre como o reconhecimento de emoção é importante para o futuro da IA? Por que a indústria de IA deve se concentrar mais nessa área de pesquisa?

O reconhecimento de emoção é uma capacidade fundamental dos sistemas de IA para várias razões. Um aspecto é que a emoção humana oferece um contexto humano fundamental para qualquer sistema proativo entender antes de agir.

Além disso, esses tipos de sistemas precisam continuar a aprender no mundo real e adaptar-se com base nas interações com os usuários, e enquanto o feedback direto é um sinal fundamental para o aprendizado, os sinais indiretos são muito importantes e são gratuitos (menos trabalho para o usuário). Por exemplo, um assistente digital pode aprender muito com a frustração na voz do usuário e usar isso como um sinal de feedback para o aprendizado do que fazer no futuro, em vez de pedir feedback ao usuário a cada vez. Essa informação pode ser usada para sistemas de IA de aprendizado ativo para continuar a melhorar ao longo do tempo.

Há algo mais que você gostaria de compartilhar sobre o que você está trabalhando no Laboratório de Computação Antecipatória ou outros problemas que discutimos?

Quando construímos sistemas assistivos, realmente precisamos pensar sobre como construir esses sistemas de forma responsável e como permitir que as pessoas entendam quais informações estão sendo coletadas e como controlar esses sistemas de forma prática. Como pesquisadores de IA, muitas vezes estamos fascinados com os dados e queremos ter tantos dados quanto possível para melhorar esses sistemas, no entanto, há um trade-off entre o tipo e a quantidade de dados que queremos e a privacidade do usuário. Precisamos limitar os dados que coletamos ao que é absolutamente necessário para realizar a tarefa de inferência, tornar os usuários cientes de exatamente quais dados estamos coletando e permitir que eles ajustem esse trade-off de forma significativa e útil.

Obrigado pela entrevista fantástica, leitores que desejam aprender mais sobre esse projeto devem ler o artigo Intel’s Lama Nachman e Peter Scott-Morgan: Dois Cientistas, um ‘Cyborg Humano’.

A equipe do Laboratório de Computação Antecipatória da Intel que desenvolveu a Assistive Context-Aware Toolkit inclui (da esquerda para a direita) Alex Nguyen, Sangita Sharma, Max Pinaroc, Sai Prasad, Lama Nachman e Pete Denman. Não estão presentes Bruna Girvent, Saurav Sahay e Shachi Kumar. (Crédito: Lama Nachman)