Patrick M. Pilarski, Ph.D. Canada CIFAR AI Chair (Amii) – Intervju-serie

Dr. Patrick M. Pilarski er en Canada CIFAR Artificial Intelligence Chair, tidligere Canada Research Chair in Machine Intelligence for Rehabilitation, og en associate professor i avdelingen for fysisk medisin og rehabilitering, medisinsk fakultet, University of Alberta.

I 2017 var Dr. Pilarski med på å etablere DeepMinds første internasjonale forskningskontor, som ligger i Edmonton, Alberta, der han tjenestegjorde som kontorsleder og senior forskningsvitenskapsmann frem til 2023. Han er en fellow og medlem av styret i Alberta Machine Intelligence Institute (Amii), og er medlem av BLINC-laboratoriet og er en hovedforsker ved Reinforcement Learning and Artificial Intelligence Laboratory (RLAI) og Sensory Motor Adaptive Rehabilitation Technology (SMART) Network ved University of Alberta.

Dr. Pilarski er en prisbelønt forfatter eller medforfatter av over 120 fagfellevurderte artikler, er en senior medlem av IEEE og har mottatt støtte fra provinsielle, nasjonale og internasjonale forskningsstipender.

Vi hadde en samtale under den årlige 2023 Upper Bound-konferansen om AI, som ble holdt i Edmonton, AB og ble arrangert av Amii (Alberta Machine Intelligence Institute).

Hvordan kom du inn i AI? Hva trakk deg til industrien?

Disse er to separate spørsmål. I forhold til hva som trekker meg til AI, er det noe vakkert ved hvordan kompleksitet kan oppstå og hvordan struktur kan oppstå fra kompleksitet. Intelligens er bare ett av disse fantastiske eksemplene på det, så enten det kommer fra biologi eller hvordan vi ser på kompleks atferd som oppstår i maskiner, tror jeg det er noe vakkert ved det. Det har alltid fascinert meg i en svært lang tid, og min lange og vanskelige vei inn i området jeg jobber i nå, som er maskiner som lærer gjennom prøving og feil, forsterknings-systemer som samhandler med mennesker mens de begge er dypt involvert i det, strømmen av erfaring, flyten av tid, kom gjennom mange forskjellige platåer. Jeg studerte hvordan maskiner og mennesker kunne samhandle i forhold til biomekaniske enheter og bioteknologi, ting som kunstige lemmer og proteser.

Jeg så på hvordan AI kan brukes til å støtte medisinske diagnoser, hvordan vi kan bruke maskinintelligens til å begynne å forstå mønster som fører til sykdom eller hvordan forskjellige sykdommer kan presenteres i forhold til innspillingsdata på en maskin. Men det er all del av denne lange og vanskelige reisen for å begynne å verdsette hvordan man kan få svært komplekse atferder ut av svært enkle grunnlag. Og det er hva jeg virkelig elsker, spesielt om forsterkningslæring, er ideen om at maskinen kan innlemme seg i strømmen av tid og lære fra sin egen erfaring til å vise svært komplekse atferder og fange både komplekse fenomener, virkelig, i verden rundt det.

Mekanikken i det, gjorde jeg faktisk mye sportsmedisin-træning og ting som det back i high school. Jeg studerte sportsmedisin og nå er jeg her og jobber i en miljø hvor jeg ser på hvordan maskinintelligens og rehabiliteringsteknologi kommer sammen for å støtte mennesker i deres daglige liv. Det er en svært interessant reise, som sidefascinasjon med komplekse systemer og kompleksitet, og så de praktiske pragmatikken om hvordan vi starter å tenke på hvordan mennesker kan bli bedre støttet, leve livene de ønsker å leve.

Hvordan ledet idrett deg til proteser?

Hva som er virkelig interessant om felt som sportsmedisin er å se på menneskekroppen og hvordan noen unike behov, enten det er idretts- eller andre behov, kan faktisk bli støttet av andre mennesker, av prosedyrer og prosesser. De bioniske lemmer og proteseteknologiene handler om å bygge enheter, bygge systemer, bygge teknologi som hjelper mennesker å leve livene de ønsker å leve. Disse to ting er virkelig tett koblet sammen. Det er faktisk svært spennende å kunne komme full sirkel og ha noen av disse tidligere interessene komme til fruition i, igjen, å lede en laboratorium hvor vi ser på… Og spesielt maskinlærings-systemer som arbeider i en tett koblet måte, personen de er designet til å støtte.

Du har tidligere diskutert hvordan en protese tilpasser seg personen i stedet for at personen tilpasser seg protesen. Kan du fortelle om maskinlæringen bak dette?

Absolutt. Som et grunnlag i historien om verktøybruk, har mennesker tilpasset seg sine verktøy og så har vi tilpasset våre verktøy til våre behov. Og så er det en iterativ prosess hvor vi tilpasser oss våre verktøy. Vi er nå, i en viktig tid i historien, hvor vi kan forestille oss å bygge verktøy som bringer inn noen av de hallmarks av menneskelig intelligens. Verktøy som vil faktisk tilpasse seg og forbedre seg mens de brukes av en person. De underliggende teknologiene støtter kontinuerlig læring. Systemer som kan kontinuerlig lære fra en pågående strøm av erfaring. I dette tilfelle, forsterkningslæring og mekanismene som ligger til grunn for det, ting som tidsforskjellslæring, er virkelig kritiske for å bygge systemer som kan kontinuerlig tilpasse seg mens de samhandler med en person og mens de er i bruk av en person som støtter dem i deres daglige liv.

Kan du definere tidsforskjellslæring?

Absolutt, hva jeg virkelig liker ved dette er at vi kan tenke på de grunnleggende teknologiene, tidsforskjellslæring og de fundamentale prediksjonslæring-algoritmene som ligger til grunn for mye av det vi jobber med i laboratoriet. Du har et system som, lik oss, lager en prediksjon om hva fremtiden vil være som med hensyn til en signal, med hensyn til noe som fremtidig belønning er hva vi vanligvis ser. Men noen andre signaler du kan forestille deg å prediktere, som hvor mye kraft jeg utøver nå eller hvor varmt det kommer til å være eller hvor mange donuter jeg kommer til å ha i morgen? Disse er mulige ting du kan forestille deg å prediktere. Og så er den grunnleggende algoritmen virkelig å se på forskjellen mellom min gjett om hva som kommer til å skje nå og min gjett om hva som kommer til å skje i fremtiden, sammen med noen signaler jeg mottar nå.

Hvor mye kraft utøver jeg som en robotarm løfter opp en kopp kaffe eller en kopp vann? Dette kan være å se på forskjellen mellom prediksjonen om mengden kraft det vil utøve nå eller mengden det vil over en periode i fremtiden. Og så sammenligner det med forventningene om fremtiden og kraften det faktisk utøver. Legg alle disse sammen, og du får denne feilen, tidsforskjellsfeilen. Det er en fin akkumulering av den tidsutvidede forutsigelsen i fremtiden og forskjellene mellom dem, som du kan bruke til å oppdatere strukturen til læremaskinen selv.

Og så, igjen, for konvensjonell forsterkningslæring basert på belønning, kan dette være å se på å oppdatere måten maskinen handler basert på den forventede belønningen du kan se. For mye av det vi gjør, er det å se på andre typer signaler, å bruke generaliserte verdi-funksjoner, som er tilpasningen av forsterkningslæring-prosessen, tidsforskjellslæring av belønnings-signaler til noen signaler av interesse som kan være anvendelige for maskinens drift.

Du snakker ofte om en protese kalt Cairo Toe i dine presentasjoner. Hva har den å lære oss?

The Cairo Toe University of Basel, LHTT. Image: Matjaž Kačičnik

Jeg liker å bruke eksempelet på Cairo Toe, en 3000 år gammel protese. Jeg jobber i området neuroproteser, og nå ser vi svært avanserte robotiske systemer som kan ha samme nivå av kontroll eller grad av kontroll som biologiske kroppsdeler. Og likevel, går jeg tilbake til en svært stilisert tre-tå som er 3000 år gammel. Jeg tror det som er pent er at det er et eksempel på mennesker som utvider seg med teknologi. Det er noe vi ser nå i forhold til neuroproteser og menneske-maskin-interaksjon, er ikke noe som er underlig, nytt eller rart. Vi har alltid vært verktøybrukere, dyr som ikke er mennesker, bruker også verktøy. Det er mange gode bøker om dette, spesielt av Frans de Waal, “Are We Smart Enough to Know How Smart Animals Are?”.

Dette utvidelsen av oss selv, forbedringen og forbedringen av oss selv gjennom bruk av verktøy, er ikke noe nytt, det er noe som har skjedd siden tid og minne i det landet vi er på nå, av menneskene som bodde her. Det andre interessante med Cairo Toe er at bevisene, i alle fall fra de lærde rapportene om det, viser at det ble tilpasset flere ganger over tid, under interaksjon med brukerne. De gikk faktisk inn og tilpasset det og endret det, modifiserte det under bruk.

Mitt forståelse, det var ikke bare et fast verktøy som var festet til en person under deres livstid, det var et fast verktøy som var festet, men også modifisert. Det er et eksempel på hvordan, igjen, ideen om at verktøy tilpasses under deres levetid og en varig levetid, er faktisk noe som også er svært gammelt. Det er ikke noe nytt, og det er mye lærdom å hente fra samtilpasningen av mennesker og verktøy over mange, mange år.

Du har tidligere nevnt tilbakekoblingsveien mellom proteser og menneske, kan du utdype om tilbakekoblingsveien?

Vi er også i en spesiell tid i forhold til hvordan vi ser på forholdet mellom en person og maskinen som skal støtte dem i deres daglige liv. Når noen bruker en kunstig lem, la oss si noen med lem-differanse, noen med amputasjon, som bruker en kunstig lem. Tradisjonelt vil de bruke det svært mye som et verktøy, som en utvidelse av deres kropp, men vi ser dem hovedsakelig avhengig av hva vi kaller kontrollveien. At noen sans eller hensikt blir overført til enheten, som så blir bedt om å finne ut hva det er og så utføre det, enten det er å åpne og lukke en hånd eller bøye en albue eller skape en pinch-grep for å gripe en nøkkel. Vi ser ofte ikke mennesker som studerer eller overveier tilbakekoblingsveien.

Så en stor del av de kunstige lemmer du kan se i kommersiell bruk, kan veien av informasjon fra enheten tilbake til personen være den mekaniske koblingen, måten de faktisk føler kreftene av lemmen og handler på dem. Det kan være at de hører på motorens summing eller at de ser på når de plukker opp en mansjett og flytter den over en skrivebord eller de griper den fra en annen del av deres arbeidsplass. Og så, disse veiene er de tradisjonelle måtene å gjøre det på. Det skjer noen fantastiske ting over hele verden for å se på hvordan informasjon kan bli bedre overført fra en kunstig lem til personen som bruker den. Spesielt her i Edmonton, er det mye spennende arbeid med å se på hvordan informasjon kan bli bedre overført fra en kunstig lem til personen som bruker den, særlig med å bruke omdanning av nervesystemet, målrettet nerve-renovasjon og andre ting for å støtte den veien. Men det er fortsatt et svært nytt og fremvoksende område å studere, å tenke på hvordan maskinlæring kan støtte interaksjonene med hensyn til den tilbakekoblingsveien.

Hvordan maskinlæring kan støtte et system som kan se på og prediktere mye om sin verden, og hvordan det kan overføre informasjon tydelig og effektivt tilbake til personen som bruker det. Hvordan maskinlæring kan støtte det? Jeg tror dette er et fantastisk emne, fordi hvis du har både den tilbakekoblingsveien og kontrollveien, og begge systemer bygger modeller av hverandre, tilpasser seg i sanntid basert på erfaring, og starter å overføre informasjon i en toveis kanal. Du kan gjøre noe nærmest mirakuløst. Du kan nesten overføre informasjon uten noen innsats og uten noen bandevidde.

Og det åpner opp hele nye verdener av menneske-maskin samarbeid, spesielt i området neuroproteser. Jeg tror virkelig dette er en svært spennende tid for oss å starte å studere dette området.

Tror du disse kommer til å bli 3D-utskrevet i fremtiden eller hvordan tror du produksjonen vil gå?

Jeg føler ikke at jeg er den beste til å spekulere på hvordan det kan skje. Jeg kan si at vi ser en stor økning i kommersielle leverandører av neuroproteser som bruker additiv produksjon, 3D-utskriving og andre former for additiv produksjon på stedet for å lage enhetene sine. Dette er også svært spennende å se, at det ikke bare er et prototype som bruker additiv produksjon eller 3D-utskriving, men at 3D-utskriving blir en integrert del av hvordan vi leverer enheter til enkeltpersoner og hvordan vi optimaliserer disse enhetene til de eksakte personene som bruker dem.

Additiv produksjon eller skreddersydd produksjon, tilpasset protesepasning skjer på sykehus hele tiden. Dette er en naturlig del av omsorgstilbud til mennesker med lem-differanse som trenger assistive teknologier eller andre former for rehabiliteringsteknologi. Jeg tror vi begynner å se at mye av denne tilpassingen begynner å bli en del av produsentene av enhetene, og ikke bare overlatt til omsorgstilbudene. Og det er også svært spennende. Jeg tror det er en stor mulighet for enheter som ikke bare ligner på hender eller brukes som hender, men enheter som meget nøyaktig møter behovene til personen som bruker dem, som lar dem uttrykke seg på måten de ønsker å uttrykke seg, og lar dem leve livene de ønsker å leve, ikke bare på måten vi tenker en hånd bør brukes i daglig liv.

Du har skrevet over 120 papirer. Er det ett som står ut for deg som vi bør vite om?

Det er et nylig publisert papir i Neural Computing Applications, men det representerer toppen av en isfjell av tanker som vi har fremmet i over et tiår nå, om rammer for hvordan mennesker og maskiner samhandler, spesielt hvordan mennesker og protese-enhet samhandler. Det er ideen om kommunikativ kapital. Og så er dette papiret som vi nylig publiserte.

Og dette papiret legger frem vår syn på hvordan prediksjoner som lærer og vedlikeholdes i sanntid av en, si, protese-enhet som samhandler med en person, personen selv kan danne en slags kapital, en ressurs som begge parter kan stole på. Husk, tidligere sa jeg at vi kan gjøre noe virkelig spesielt når vi har en menneske og en maskin som begge bygger modeller av hverandre, tilpasser seg i sanntid basert på erfaring, og starter å overføre informasjon i en toveis kanal. Som en sidekommentar, fordi vi lever i en magisk verden hvor det finnes opptak og du kan klippe ting ut av det.

Det er nesten som magi.

Ja, det høres ut som magi. Hvis vi går tilbake til tenkere som Ashby, W. Ross Ashby, tilbake i 1960-årene og hans bok “Introduction of Cybernetics” snakket om hvordan vi kan forbedre menneskelig intelligens. Og han sa at det kommer ned til å forbedre evnen til en person til å velge mellom ett av mange alternativer. Og dette er mulig å gjøre med systemer hvor en person samhandler med, si, en maskin, hvor det er en kanal av kommunikasjon åpen mellom dem.

Hva er noen av applikasjonene du ser for hjernen-maskin grensesnitt med hva du nettopp diskuterte?

En av mine favoritter er noe vi har fremmet, igjen, over de siste 10 årene, er en teknologi kalt adaptiv switching. Adaptiv switching er basert på kunnskapen om at mange systemer vi samhandler med på en daglig basis avhenger av oss å skifte mellom mange moduser eller funksjoner. Enten jeg skifter mellom apper på min telefon eller jeg prøver å finne riktig innstilling på min bor eller jeg tilpasser andre verktøy i mitt liv, vi skifter mellom mange moduser eller funksjoner hele tiden, tenk tilbake til Ashby, vår evne til å velge mellom mange alternativer. Så i adaptiv switching, bruker vi tidsforskjellslæring til å la en kunstig lem lære hva motorfunksjon en person kan ønske å bruke og når de ønsker å bruke det. Så virkelig en svært enkel premisse er at, bare handlingen min når jeg rekker over til en kopp og lukker min hånd.

Vel, et system kan bygge opp prediksjoner gjennom erfaring som sier at i denne situasjonen, er jeg sannsynligvis å bruke hånd-åpne-lukke-funksjonen. Og så, i fremtiden, i lignende situasjoner, kan det forutsi det. Og når jeg navigerer gjennom en sky av moduser og funksjoner, kan det gi meg mer eller mindre de funksjonene jeg ønsker, uten at jeg må gå gjennom alle disse mange alternativene. Og dette er et svært enkelt eksempel på å bygge opp kommunikativ kapital. Du har et system som faktisk bygger opp prediksjoner gjennom interaksjon, det er prediksjoner om personen, maskinen, deres forhold i den situasjonen på den tiden. Og den felles ressursen lar så systemet omkonfigurere kontrollgrensesnittet på fly, så personen får hva de ønsker og når de ønsker. Og virkelig, i en situasjon hvor systemet er svært sikker på hva motorfunksjon en person kan ønske, kan det faktisk bare velge det for dem mens de går inn.

Og det kule er at personen alltid har muligheten til å si, “Ah, dette er hva jeg virkelig ønsket,” og skifte til en annen motorfunksjon. I en robot-arm, kan det være forskjellige typer grep-mønster, enten det er å forme gripen for å gripe en dørhåndtak eller plukke opp en nøkkel eller å riste noen sin hånd. Disse er forskjellige moduser eller funksjoner, forskjellige grep-mønster. Det er svært interessant at systemet kan begynne å bygge opp en forståelse av hva som er passende i hvilken situasjon. Enheter av kapital som begge parter kan stole på for å bevege seg raskere gjennom verden, og med mindre kognitivt press, spesielt i delen av enheten.

Takk for det fantastiske intervjuet, lesere som ønsker å lære mer kan besøke følgende ressurser:

• Dr. Patrick M. Pilarski University of Alberta-side.
• Upper Bound AI-konferansen.
• Amii (Alberta Machine Intelligence Institute)