Lama Nachman, Intel Fellow & Direktor des Anticipatory Computing Lab – Interviewreihe

Lama Nachman, ist ein Intel (INTC ) Fellow und Direktor des Anticipatory Computing Lab. Lama ist bekannt für ihre Arbeit mit Prof. Stephen Hawking, sie war maßgeblich an der Entwicklung eines assistiven Computersystems beteiligt, um Prof. Stephen Hawking bei der Kommunikation zu helfen. Heute unterstützt sie den britischen Roboter-Ingenieur Dr. Peter Scott-Morgan bei der Kommunikation. Im Jahr 2017 erhielt Dr. Peter Scott-Morgan die Diagnose einer motorischen Neuronenkrankheit (MND), auch bekannt als ALS oder Lou-Gehrig-Krankheit. MND greift das Gehirn und die Nerven an und lähmt schließlich alle Muskeln, einschließlich derjenigen, die das Atmen und Schlucken ermöglichen.

Dr. Peter Scott-Morgan sagte einmal: “Ich werde weiterentwickeln, als Mensch sterben, als Cyborg leben.”

Was hat Sie zur KI hingezogen?

Ich bin immer von der Idee angezogen worden, dass Technologie der große Gleichmacher sein kann. Wenn sie verantwortungsvoll entwickelt wird, hat sie das Potenzial, das Spielfeld zu leveln, soziale Ungleichheiten anzugehen und das menschliche Potenzial zu verstärken. Nirgendwo ist dies truer als bei der KI. Während ein Großteil der Branche um die KI und die Menschen die Beziehung zwischen beiden als adversativ darstellt, glaube ich, dass es einzigartige Dinge gibt, die Maschinen und Menschen gut können, also bevorzuge ich es, die Zukunft durch die Linse der Mensch-KI-Kollaboration zu betrachten, anstatt der Mensch-KI-Konkurrenz. Ich leite das Anticipatory Computing Lab bei Intel Labs, wo wir in all unseren Forschungsbemühungen einen einzigen Fokus auf die Lieferung von Computing-Innovationen haben, die für einen breiten gesellschaftlichen Einfluss skaliert sind. Angesichts der Tatsache, dass die KI bereits allgegenwärtig ist und ihre Fußabdrücke in jedem Aspekt unseres Lebens hat, sehe ich ein enormes Versprechen in der Forschung, die mein Team durchführt, um die KI zugänglicher, kontextbewusster, verantwortungsvoller und letztendlich Technologielösungen auf Skalenebene zu liefern, um Menschen in der realen Welt zu helfen.

Sie haben eng mit dem legendären Physiker Prof. Stephen Hawking zusammengearbeitet, um ein KI-System zu entwickeln, das ihm half, zu kommunizieren und Aufgaben zu erledigen, die die meisten von uns als Routine betrachten. Was waren einige dieser Routineaufgaben?

Die Arbeit mit Prof. Stephen Hawking war das bedeutendste und herausforderndste Unterfangen meines Lebens. Es hat meine Seele genährt und mir wirklich gezeigt, wie Technologie das Leben von Menschen tiefgreifend verbessern kann. Er litt an ALS, einer degenerativen neurologischen Krankheit, die dem Patienten über die Zeit die Fähigkeit nimmt, die einfachsten Aktivitäten auszuführen. Im Jahr 2011 begannen wir, mit ihm zu arbeiten, um zu erkunden, wie man das assistive Computersystem verbessern kann, das es ihm ermöglichte, mit der Welt zu interagieren. Neben der Verwendung seines Computers, um mit Menschen zu sprechen, nutzte Stephen seinen Computer wie wir alle, um Dokumente zu bearbeiten, im Internet zu surfen, Vorlesungen zu halten, E-Mails zu lesen und zu schreiben usw. Die Technologie ermöglichte es Stephen, weiterhin aktiv am Leben teilzunehmen und die Welt für Jahre nachdem seine körperlichen Fähigkeiten rapide abgenommen hatten. Das – für mich – ist der bedeutungsvolle Einfluss von Technologie auf das Leben eines Menschen!

Was sind einige der wichtigsten Erkenntnisse, die Sie aus der Arbeit mit Prof. Stephen Hawking gewonnen haben?

Unser Computerbildschirm ist wirklich unsere Tür zur Welt. Wenn Menschen ihren PC steuern können, können sie alle Aspekte ihres Lebens steuern (Inhalte konsumieren, die digitale Welt zugänglich machen, ihre physische Umgebung steuern, ihr Rollstuhl steuern usw.). Für Menschen mit Behinderungen, die noch sprechen können, ermöglichen Fortschritte in der Spracherkennung es ihnen, ihre Geräte vollständig zu steuern (und in einem großen Maße ihre physische Umgebung). Allerdings sind diejenigen, die nicht sprechen und sich nicht bewegen können, wirklich behindert, da sie ihre Unabhängigkeit nicht ausüben können. Was die Erfahrung mit Prof. Hawking mir gelehrt hat, ist, dass assistive Technologieplattformen auf die spezifischen Bedürfnisse des Benutzers zugeschnitten werden müssen. Zum Beispiel können wir nicht einfach annehmen, dass eine einzige Lösung für Menschen mit ALS funktionieren wird, da die Krankheit unterschiedliche Fähigkeiten bei Patienten beeinträchtigt. Also müssen wir Technologien entwickeln, die leicht konfiguriert und an die individuellen Bedürfnisse angepasst werden können. Deshalb haben wir ACAT (Assistive Context Aware Toolkit) entwickelt, eine modulare, Open-Source-Softwareplattform, die es Entwicklern ermöglicht, unterschiedliche Fähigkeiten darauf aufzubauen.

Ich habe auch gelernt, dass es wichtig ist, jedes Benutzers Komfortschwelle rund um die Aufgabe der Kontrolle im Austausch für mehr Effizienz zu verstehen (dies ist nicht nur auf Menschen mit Behinderungen beschränkt). Zum Beispiel kann die KI in der Lage sein, mehr Kontrolle vom Benutzer zu übernehmen, um eine Aufgabe schneller oder effizienter zu erledigen, aber jeder Benutzer hat ein anderes Maß an Risikoscheu. Einige sind bereit, mehr Kontrolle abzugeben, während andere Benutzer mehr davon behalten möchten. Das Verständnis dieser Schwellen und wie weit Menschen gehen wollen, hat einen großen Einfluss auf die Gestaltung dieser Systeme. Wir müssen das Systemdesign in Bezug auf die Benutzerkomfortebene neu denken, anstatt nur objektive Maßstäbe für Effizienz und Genauigkeit zu verwenden.

Was sind einige der ambitionierten Ziele, die Peter hat?

Eines der Probleme mit AAC (Assistive and Augmentative Communication) ist die “Stille-Lücke”. Viele Menschen mit ALS (einschließlich Peter) verwenden Blicksteuerung, um Buchstaben / Wörter auf dem Bildschirm auszuwählen, um mit anderen zu sprechen. Dies führt zu einer langen Stille nachdem jemand seinen Satz beendet hat, während die Person auf ihren Computer starrt und beginnt, Buchstaben und Wörter zu formulieren, um zu antworten. Peter wollte diese Stille-Lücke so weit wie möglich reduzieren, um die verbale Spontanität wiederherzustellen. Er wollte auch seine Stimme und Persönlichkeit bewahren und ein Text-to-Speech-System verwenden, das seinen einzigartigen Kommunikationsstil ausdrückt (z. B. seine Scherze, seine schnelle Wortgewandtheit, seine Emotionen).

Der britische Roboter-Ingenieur Dr. Peter Scott-Morgan, der an motorischer Neuronenkrankheit leidet, begann 2019, eine Reihe von Operationen zu unterziehen, um sein Leben mit Technologie zu verlängern. (Credit: Cardiff Productions)

Können Sie einige der Technologien besprechen, die derzeit verwendet werden, um Dr. Peter Scott-Morgan zu helfen?

Peter verwendet ACAT (Assistive Context Aware Toolkit), die Plattform, die wir während unserer Arbeit mit Dr. Hawking entwickelt und später als Open Source veröffentlicht haben. Im Gegensatz zu Dr. Hawking, der die Muskeln in seiner Wange als “Eingabetrigger” verwendete, um die Buchstaben auf seinem Bildschirm zu steuern, verwendet Peter Blicksteuerung (eine Fähigkeit, die wir der bestehenden ACAT hinzugefügt haben), um zu sprechen und seinen PC zu steuern, der mit einer Text-to-Speech-Lösung von einem Unternehmen namens CereProc verbunden ist, die für ihn angepasst wurde und es ihm ermöglicht, unterschiedliche Emotionen / Betonungen auszudrücken. Das System steuert auch ein Avatar, der für ihn angepasst wurde.

Wir arbeiten derzeit an einem Antwortgenerierungssystem für ACAT, das es Peter ermöglichen wird, mit dem System auf höherer Ebene zu interagieren, indem es KI-Fähigkeiten nutzt. Dieses System wird Peters Gespräche über die Zeit hinweg anhören und Antworten für Peter auf dem Bildschirm vorschlagen. Das Ziel ist, dass das KI-System über die Zeit aus Peters Daten lernt und es Peter ermöglicht, das System zu “nudgen”, um die besten Antworten zu erhalten, indem es nur einige Schlüsselwörter verwendet (ähnlich wie Suchen im Internet heute). Unser Ziel mit dem Antwortgenerierungssystem ist es, die Stille-Lücke in der Kommunikation zu reduzieren und Peter und zukünftige ACAT-Benutzer zu befähigen, auf eine Weise zu kommunizieren, die sich “natürlicher” anfühlt.

Sie haben auch über die Bedeutung von Transparenz in der KI gesprochen. Wie groß ist dieses Problem?

Es ist ein großes Problem, insbesondere wenn es in Entscheidungssystemen oder menschlich-KI-Kollaborationssystemen eingesetzt wird. Zum Beispiel müssen wir in Peters assistivem System verstehen, was die Empfehlungen des Systems verursacht und wie man das Lernen dieses Systems beeinflusst, um seine Ideen genauer auszudrücken.

Im größeren Kontext von Entscheidungssystemen, ob es darum geht, bei der Diagnose auf der Grundlage von medizinischen Bildern zu helfen oder Empfehlungen für die Gewährung von Krediten zu geben, müssen KI-Systeme menschlich interpretierbare Informationen darüber liefern, wie sie zu ihren Entscheidungen gekommen sind, welche Attribute oder Merkmale am meisten Auswirkungen auf diese Entscheidung hatten, wie viel Vertrauen das System in die Inferenz hat usw. Dies erhöht das Vertrauen in die KI-Systeme und ermöglicht eine bessere Zusammenarbeit zwischen Menschen und KI in gemischten Entscheidungsszenarien.

Die KI-Verzerrung, insbesondere im Hinblick auf Rassismus und Sexismus, ist ein enormes Problem, aber wie identifizieren Sie andere Arten von Verzerrungen, wenn Sie keine Ahnung haben, wonach Sie suchen?

Es ist ein sehr hartes Problem und eines, das nicht allein mit Technologie gelöst werden kann. Wir müssen mehr Vielfalt in die Entwicklung von KI-Systemen bringen (rassisch, geschlechtlich, kulturell, physisch behindert usw.). Dies ist offensichtlich eine enorme Lücke in der Bevölkerung, die diese KI-Systeme heute baut. Zusätzlich ist es entscheidend, multidisziplinäre Teams in die Definition und Entwicklung dieser Systeme einzubinden, Sozialwissenschaften, Philosophie, Psychologie, Ethik und Politik in den Prozess der Anfrage im Kontext der spezifischen Projekte und Probleme einzubinden.

Sie haben zuvor über die Verwendung von KI zur Verstärkung des menschlichen Potenzials gesprochen. Welche Bereiche zeigen das größte Versprechen für diese Verstärkung des menschlichen Potenzials?

Ein offensichtlicher Bereich ist die Ermöglichung von Menschen mit Behinderungen, unabhängiger zu leben, mit ihren Liebsten zu kommunizieren und weiterhin zur Gesellschaft beizutragen. Ich sehe ein großes Potenzial in der Bildung, im Verständnis der Schülerbeteiligung und der Personalisierung des Lernerlebnisses auf die individuellen Bedürfnisse und Fähigkeiten des Schülers, um die Beteiligung zu verbessern, Lehrer mit diesem Wissen zu befähigen und die Lernergebnisse zu verbessern. Die Ungleichheit in der Bildung heute ist so tiefgreifend und es gibt einen Platz für die KI, um einige dieser Ungleichheiten zu reduzieren, wenn wir es richtig machen. Es gibt endlose Möglichkeiten für die KI, um viel Wert zu bringen, indem sie menschlich-KI-Kollaborationssysteme in so vielen Sektoren (Gesundheitswesen, Fertigung usw.) schafft, weil das, was Menschen und KI auf den Tisch bringen, sehr komplementär sind. Dafür müssen wir Innovationen an der Schnittstelle zwischen Sozialwissenschaften, HCI und KI haben. Robuste multimodale Wahrnehmung, Kontextbewusstsein, Lernen aus begrenzten Daten, physisch situierte HCI und Interpretierbarkeit sind einige der wichtigsten Herausforderungen, auf die wir uns konzentrieren müssen, um diese Vision zu verwirklichen.

Sie haben auch über die Bedeutung der Emotionserkennung für die Zukunft der KI gesprochen. Warum sollte die KI-Branche sich stärker auf diesen Forschungsbereich konzentrieren?

Die Emotionserkennung ist eine Schlüsselkompetenz von menschlich-KI-Systemen aus mehreren Gründen. Ein Aspekt ist, dass menschliche Emotionen einen wichtigen menschlichen Kontext für jedes proaktive System liefern, bevor es handeln kann.

Wichtiger noch ist, dass diese Systeme weiterhin im Feld lernen und sich anhand von Interaktionen mit Benutzern anpassen müssen, und während direktes Feedback ein wichtiger Signal für das Lernen ist, sind indirekte Signale sehr wichtig und sie sind kostenlos (weniger Arbeit für den Benutzer). Zum Beispiel kann ein digitaler Assistent viel aus der Frustration in der Stimme eines Benutzers lernen und dies als Feedback-Signal für das Lernen verwenden, was in Zukunft zu tun ist, anstatt den Benutzer jedes Mal nach Feedback zu fragen. Diese Informationen können für aktives Lernen von KI-Systemen verwendet werden, um sich über die Zeit hinweg zu verbessern.

Gibt es noch etwas, das Sie über Ihre Arbeit im Anticipatory Computing Lab oder andere Themen, die wir besprochen haben, teilen möchten?

Wenn wir assistive Systeme aufbauen, müssen wir wirklich überlegen, wie wir diese Systeme verantwortungsvoll aufbauen und wie wir es den Menschen ermöglichen, zu verstehen, welche Informationen gesammelt werden und wie sie diese Systeme in einer praktischen Weise steuern können. Als KI-Forscher sind wir oft von Daten fasziniert und wollen so viel Daten wie möglich haben, um diese Systeme zu verbessern, aber es gibt einen Kompromiss zwischen der Art und Menge der Daten, die wir haben wollen, und der Privatsphäre des Benutzers. Wir müssen die Daten, die wir sammeln, auf das beschränken, was absolut notwendig ist, um die Inferenzaufgabe auszuführen, den Benutzern bewusst machen, welche Daten wir sammeln, und sie in der Lage versetzen, diesen Kompromiss auf eine sinnvolle und nutzbare Weise zu steuern.

Vielen Dank für das fantastische Interview. Leser, die mehr über dieses Projekt erfahren möchten, sollten den Artikel “Intel’s Lama Nachman und Peter Scott-Morgan: Zwei Wissenschaftler, einer ein ‘menschlicher Cyborg'” lesen.

Intels Anticipatory Computing Lab-Team, das das Assistive Context-Aware Toolkit entwickelt hat, besteht aus (von links) Alex Nguyen, Sangita Sharma, Max Pinaroc, Sai Prasad, Lama Nachman und Pete Denman. Nicht abgebildet sind Bruna Girvent, Saurav Sahay und Shachi Kumar. (Credit: Lama Nachman)