Patrick M. Pilarski, Ph.D. Canada CIFAR AI Chair (Amii) – Intervieuserie

Dr. Patrick M. Pilarski er en Canada CIFAR Artificial Intelligence Chair, tidligere Canada Research Chair i Machine Intelligence for Rehabilitation, og en associeret professor i afdelingen for fysisk medicin og rehabilitering, medicinske afdeling, University of Alberta.

I 2017 co-foundede Dr. Pilarski DeepMinds første internationale forskningskontor, beliggende i Edmonton, Alberta, hvor han fungerede som kontorleder og senior staff research scientist indtil 2023. Han er en fellow og bestyrelsesmedlem i Alberta Machine Intelligence Institute (Amii), co-leder af Bionic Limbs for Improved Natural Control (BLINC) Laboratory, og er en principal investigator i Reinforcement Learning and Artificial Intelligence Laboratory (RLAI) og Sensory Motor Adaptive Rehabilitation Technology (SMART) Network på University of Alberta.

Dr. Pilarski er en prisvindende forfatter eller medforfatter af over 120 peer-reviewed artikler, en senior medlem af IEEE, og har været støttet af provinsiale, nationale og internationale forskningsbevillinger.

Vi satte os ned til en interview ved den årlige 2023 Upper Bound konference om AI, der afholdes i Edmonton, AB og arrangeres af Amii (Alberta Machine Intelligence Institute).

Hvordan fandt du vej til AI? Hvad tiltrak dig til branchen?

Det er to separate spørgsmål. I forhold til, hvad der tiltrækker mig til AI, er der noget smukt ved, hvordan kompleksitet kan opstå, og hvordan struktur kan opstå ud af kompleksitet. Intelligens er blot et af disse fantastiske eksempler på det, så enten det kommer fra biologi eller fra, hvordan vi ser kompleks adfærd opstå i maskiner, synes jeg, der er noget smukt ved det. Det har altid fascineret mig i en meget lang tid, og min meget lange og snoede vej til at arbejde i området af AI, som jeg arbejder i nu, som er maskiner, der lærer gennem prøvning og fejl, forstærkningssystemer, der interagerer med mennesker, mens de begge er dybt involveret i det, strømmen af oplevelse, flow af tid, kom gennem alle mulige forskellige plateauer. Jeg studerede, hvordan maskiner og mennesker kunne interagere i forhold til biomekaniske enheder og bioteknologi, ting som kunstige lemmer og proteser.

Jeg kiggede på, hvordan AI kan bruges til at støtte medicinske diagnoser, hvordan vi kan bruge maskinintelligens til at starte at forstå mønstre, der fører til sygdom eller, hvordan forskellige sygdom kan præsentere sig i forhold til optagelser på en maskine. Men det er alle en del af denne lange og snoede vej til at starte at værdsætte, hvordan man kan få meget komplekse adfærder ud af meget simple grundlag. Og det er, hvad jeg virkelig elsker, især om forstærkninglæring, er idéen om, at maskinen kan indlejre sig selv i strømmen af tid og lære af sin egen oplevelse for at udvise meget komplekse adfærder og fange både de komplekse fænomener, virkelig, i verden omkring det. Det har været en drivende kraft.

Mekanikken i det, jeg faktisk har lavet meget sportsmedicinsk træning og sådan noget tilbage i high school. Jeg studerede sportsmedicin, og nu er jeg her og arbejder i en omgang, hvor jeg kigger på, hvordan maskinintelligens og rehabiliteringsteknologier kommer sammen for at støtte mennesker i deres daglige liv. Det er en meget interessant rejse, ligesom sidefascinationen med komplekse systemer og kompleksitet, og så de meget praktiske pragmatikker om, hvordan vi starter at tænke på, hvordan mennesker kan blive bedre støttet, leve liv, de vil leve.

Hvordan førte sport til, at du begyndte at arbejde med proteser?

Hvad er virkelig interessant om fag som sportsmedicin er at kigge på det menneskelige legeme og, hvordan en persons unikke behov, enten det er sport eller andet, kan faktisk blive støttet af andre mennesker, af procedurer og processer. De bioniske lemmer og proteseteknologier er om at bygge enheder, bygge systemer, bygge teknologi, der hjælper mennesker med at leve liv, de vil leve. Disse to ting er virkelig tæt forbundet. Det er faktisk rigtig spændende at kunne komme fuld cirkel og have nogle af disse meget tidlige interesser komme til frugtion i, igen, co-lede et laboratorium, hvor vi kigger på… Og især maskinlærings-systemer, der arbejder i en tæt sammenkoblet måde med personen, de er designet til at støtte.

Du har tidligere diskuteret, hvordan en protese tilpaser sig personen i stedet for, at personen tilpaser sig protesen. Kan du tale om maskinlæringen bag dette?

Absolut. Som grundlag i historien om værktøjsbrug har mennesker tilpasset os selv til vores værktøjer, og derefter har vi tilpasset vores værktøjer til de behov, vi har. Og så er der denne iterative proces af os til at tilpasse os til vores værktøjer. Vi er, lige nu, på et vendepunkt, hvor for første gang kan vi forestille os at bygge værktøjer, der bringer nogle af de kendetegn ved menneskelig intelligens med. Værktøjer, der vil faktisk tilpasse sig og forbedre, mens de bliver brugt af en person. De underliggende teknologier støtter kontinuerlig læring. Systemer, der kan kontinuerligt lære af en pågående strøm af oplevelser. I dette tilfælde er forstærkninglæring og de mekanismer, der underbygger det, ting som temporal difference learning, virkelig kritiske for at bygge systemer, der kan kontinuerligt tilpasse sig, mens de interagerer med en person og mens de er i brug af en person, der støtter dem i deres daglige liv.

Kan du definere temporal difference learning?

Absolut, hvad jeg virkelig kan lide ved dette er, at vi kan tænke på de grundlæggende teknologier, temporal difference learning og de fundamentale predictionslæring-algoritmer, der underbygger meget af det, vi arbejder med i laboratoriet. Du har et system, der, ligesom vi gør, laver en prædiction om, hvad fremtiden vil se ud til med hensyn til en signal, med hensyn til noget som fremtidig belønning, som vi normalt ser. Men enhver anden signal, du kan forestille dig, som, hvor meget kraft udøver jeg lige nu? Hvordan varmt vil det være i morgen? Hvordan mange donuts vil jeg have i morgen? Disse er de mulige ting, du kan forestille dig at prædicere. Og så er den grundlæggende algoritme virkelig at kigge på forskellen mellem min gæt om, hvad der vil ske lige nu, og mit gæt om, hvad der vil ske i fremtiden sammen med enhver slags signal, jeg lige nu modtager.

Hvor meget kraft udøver jeg som en robotarm, der løfter op en kop kaffe eller en kop vand? Dette kan være at kigge på forskellen mellem min prædiction om, hvor meget kraft det vil udøve lige nu eller hvor meget det vil udøve over en periode i fremtiden. Og derefter sammenligne det med mine forventninger om fremtiden og den kraft, det faktisk udøver. Sæt dem alle sammen, og du får denne fejl, den temporale difference fejl. Det er denne flotte akkumulation af den tidsmæssigt udstrakte forudsigelse i fremtiden og forskellen mellem dem, som du kan bruge til at opdatere strukturen af læremaskinen selv.

Og så, igen, for konventionel forstærkninglæring baseret på belønning, dette kunne være at kigge på at opdatere, hvordan maskinen handler baseret på den fremtidige forventede belønning, man kan percieve. For meget af det, vi gør, er det at kigge på andre slags signaler, bruge generaliserede værdifunktioner, som er tilpasningen af forstærkninglæringprocessen, temporal difference learning af belønnings-signaler til enhver slags signal, der kan være relevant for maskinens drift.

Du taler ofte om en protese kaldet Cairo Toe i dine præsentationer. Hvad har den at lære os?

The Cairo Toe University of Basel, LHTT. Image: Matjaž Kačičnik

Jeg kan lide at bruge eksemplet på Cairo Toe, en 3000 år gammel protese. Jeg arbejder i området af neuroproteser, og vi ser nu meget avancerede robotiske systemer, der i nogle tilfælde kan have samme niveau af kontrol eller grad af kontrol som biologiske kropsdele. Og alligevel går jeg tilbage til en meget stiliseret trætå fra 3000 år siden. Jeg synes, det er dejligt, fordi det er et eksempel på, hvordan mennesker udvider sig selv med teknologi. Det, vi ser lige nu i forhold til neuroproteser og menneske-maskine-interaktion, er ikke noget, der er underligt, nyt eller mærkeligt. Vi har altid været værktøjsbrugere, og også ikke-menneskelige dyr bruger værktøjer. Der er mange fantastiske bøger om dette, især af Frans de Waal, “Are We Smart Enough to Know How Smart Animals Are?”.

Dette udvidelse af os selv, forbedringen og forbedringen af os selv gennem brugen af værktøjer er ikke noget nyt, det er noget, der har været sket siden tid og minde på den jord, vi er på lige nu, af de mennesker, der boede her. Det andet interessante ved Cairo Toe er, at beviserne, i hvert fald fra de lærde rapporter om det, viser, at det blev tilpasset flere gange over dens samspil med brugerne. De tilpassede det faktisk og ændrede det under brug.

Min forståelse er, at det ikke blot var et fast værktøj, der var fastgjort til en person under deres livstid, men et fast værktøj, der blev tilpasset og ændret under brug. Det er et eksempel på, hvordan, igen, idéen om, at værktøjer tilpasses under deres levetid, og en vedvarende levetid, faktisk er noget, der er meget gammelt. Det er ikke noget nyt, og der er mange lektioner, vi kan lære af samspillet mellem mennesker og værktøjer over mange, mange år.

Du har tidligere nævnt feedback-stien mellem proteser og mennesket, kan du uddybe dette?

Vi er også i en særlig tid i forhold til, hvordan vi ser på forholdet mellem en person og maskinen, der søger at støtte dem i deres daglige liv. Når en person bruger en kunstig lem, lad os sige en person med lem-forskel, en person med en amputation, der bruger en kunstig lem. Traditionelt vil de bruge det meget som et værktøj, som en udvidelse af deres krop, men vi ser dem overvejende afhængige af, hvad vi kalder kontrol-stien. At nogen form for deres hjul eller deres intention bliver overført til enheden, som derefter skal finde ud af, hvad det er, og derefter udføre det, enten det er åbning og lukning af en hånd eller bøjning af en albue eller skabelse af en gribe-greb. Vi ser ofte ikke mennesker, der studerer eller overvejer feedback-stien.

Så en stor del af de kunstige lemmer, du måske ser anvendt kommercielt, kan stien af information fra enheden tilbage til personen være den mekaniske kobling, måden, de faktisk føler kræfterne fra lemmen og handler på dem. Det kan være dem, der hører worrying af motorerne eller dem, der ser på, mens de tager en cuff og flytter den over en skrivebord eller de tager den fra en anden del af deres arbejdsområde. Og sådan er disse stier den traditionelle måde at gøre det på. Der sker dog mange fantastiske ting over hele verden for at se på, hvordan information kan blive bedre overført fra en kunstig lem til personen, der bruger den. Især her i Edmonton er der meget coolt arbejde med at se på, hvordan nerve-systemet kan genopbygges, målrettet nerve-renovation og andre ting for at støtte den sti. Men det er stadig et meget varmt og nyt område at studere, hvordan maskinlæring kan støtte interaktioner i forhold til den feedback-sti.

Hvordan maskinlæring kan støtte et system, der faktisk opfatter og prædicerer meget om sin verden, og hvordan det kan overføre den information tydeligt og effektivt tilbage til personen, der bruger det. Hvordan maskinlæring kan støtte det? Jeg synes, det er et fantastisk emne, fordi hvis du har både den feedback-sti og den kontrol-sti, og begge systemer er tilpasset hinanden, har de begge bygget modeller af hinanden. Du kan gøre noget næsten mirakuløst. Du kan næsten overføre information for gratis. Hvis du har begge disse systemer, der faktisk er godt tilpasset hinanden, har de bygget en meget kraftfuld model af hinanden, og de har en tilpasning både til kontrol-stien og feedback-stien, kan du danne meget tætte partnerskaber mellem mennesker og maskiner, der kan overføre en masse information med meget lidt indsats og meget lidt båndbredde.

Og det åbner op for hele nye områder af menneske-maskine-sammenarbejde, især i området af neuroproteser. Jeg synes, det er en meget mirakuløs tid for os at starte med at studere dette område.

Mener du, at disse proteser bliver 3D-printet i fremtiden eller hvordan mener du, at fremstillingen vil ske?

Jeg føler ikke, at jeg er den bedste til at spekulere over, hvordan det kan ske. Jeg kan sige, at vi ser en stor øgning i kommercielle leverandører af neuroproteser, der bruger additiv manufacturing, 3D-printing og andre former for additiv på stedet-fremstilling til at skabe deres enheder. Det er også rigtig spændende at se, at det ikke blot er et prototype, der bruger additiv manufacturing eller 3D-printing, men 3D-printing bliver en integreret del af, hvordan vi leverer enheder til individer og hvordan vi optimerer disse enheder til de præcise mennesker, der bruger dem.

Additiv manufacturing eller skræddersyning, tilpasset protese-pasning sker på hospitaler over hele verden. Det er en naturlig del af pleje til mennesker med lem-forskel, der har brug for hjælpemidler eller andre former for rehabiliteringsteknologi. Jeg synes, vi er begyndt at se, at meget af denne tilpasning begynder at blande sig med fabrikationen af enhederne, og ikke kun efterlades til pleje-givere. Og det er også rigtig spændende. Jeg synes, der er en stor mulighed for enheder, der ikke blot ligner hænder eller bruges som hænder, men enheder, der meget præcist møder behovene hos den person, der bruger dem, og som giver dem mulighed for at udtrykke sig på den måde, de vil udtrykke sig, og som giver dem mulighed for at leve liv, de vil leve, ikke kun på den måde, vi synes, en hånd skal bruges i daglig liv.

Du har skrevet over 120 artikler. Er der en, der står ud for dig, som vi bør kende til?

Der er en artikel, der er offentliggjort i Neural Computing Applications, men den repræsenterer toppen af en isbjerg af tanker, vi har fremført i mere end et årti nu, om rammer for, hvordan mennesker og maskiner interagerer, især hvordan mennesker og proteser interagerer. Det er idéen om kommunikativ kapital. Og så er dette artiklen, vi nyligt offentliggjorde.

Og denne artikel lægger vores synspunkt frem på, hvordan prædictioner, der lærer og vedligeholdes i realtid af en, sagen, en protese, der interagerer med en person, personen selv kan danne en slags kapital, kan danne en ressource, som begge parter kan stole på. Husk, tidligere sagde jeg, at vi kan gøre noget rigtig fantastisk, når vi har et menneske og en maskine, der begge bygger modeller af hinanden, tilpasser sig i realtid baseret på oplevelse og starter med at overføre information i en to-vejs kanal. Som en sideløbende bemærkning, fordi vi lever i en magisk verden, hvor der er optagelser, og du kan klippe ting ud af det.

Det er næsten som magi.

Præcis. Det lyder som magi. Hvis vi går tilbage til tænkere som Ashby, W. Ross Ashby, tilbage i 1960’erne og hans bog “Introduction of Cybernetics” talte om, hvordan vi kan forstærke den menneskelige intelligens. Og han sagde, at det kommer ned til at forstærke evnen hos en person til at vælge mellem en af mange muligheder. Og dette er muligt, når vi har et system, hvor en person interagerer med, sagen, en maskine, hvor der er en kanal af kommunikation åben mellem dem. Så hvis vi har denne kanal af kommunikation åben, hvis den er to-vejs, og hvis begge systemer bygger kapital i form af prædictioner og andre ting, kan vi starte at se dem rigtig godt tilpasse sig hinanden og blive mere end summen af deres dele. Du kan få mere ud end de putter i.

Og jeg synes, det er hvorfor jeg betragter denne artikel som en af vores mest spændende artikler, fordi den repræsenterer en tanke-vending. Den repræsenterer en tanke-vending mod at tænke på neuroproteser som systemer med agenti, systemer, vi ikke blot kan tildele agenti til, men som vi kan stole på for at kunne tilpasse os sammen med for at bygge disse ressourcer, den kommunikative kapital, der giver os mulighed for at multiplicere vores evne til at interagere med verden, giver os mulighed for at få mere ud end vi putter i, og som giver mennesker mulighed for at, jeg vil sige, fra et protese-perspektiv, stoppe med at tænke på protesen i deres daglige liv og starte med at leve deres daglige liv. Ikke på den måde, vi synes, en protese skal bruges i daglig liv, men på den måde, de selv vil leve det.

Hvad er nogle af de anvendelser, du ser for brain-machine-grænseflader med det, du lige har diskuteret?

En af mine favoritter er noget, vi har fremført, igen, over de sidste næsten 10 år, er en teknologi kaldet adaptiv skift. Adaptiv skift er baseret på viden om, at mange systemer, vi interagerer med på daglig basis, afhænger af os skiftende mellem mange modi eller funktioner. Enten jeg skifter mellem apps på min telefon eller jeg prøver at finde den rigtige indstilling på min boremaskine eller jeg tilpasser andre værktøjer i mit liv, vi skifter mellem mange modi eller funktioner hele tiden, tænk tilbage på Ashby, vores evne til at vælge mellem mange muligheder. Så i adaptiv skift bruger vi temporal difference learning til at give en kunstig lem mulighed for at lære, hvilken motor-funktion en person måske vil bruge og hvornår de vil bruge den. Så virkelig ret enkelt præmis er, at blot det faktum, at jeg rækker ud efter en kop.

Vel, et system skal kunne bygge op prædictioner gennem oplevelse, at i denne situation, er jeg sandsynligvis gået hen og brugt hånd-åbning-lukke-funktionen. Og derefter i fremtiden, i lignende situationer, kan det forudsige det. Og når jeg navigerer gennem den svirrende sky af modi og funktioner, kan det give mig mere eller mindre de funktioner, jeg vil have, uden at jeg skal gå igennem alle disse mange muligheder. Og dette er et meget enkelt eksempel på at bygge op den kommunikative kapital. Du har et system, der faktisk bygger op prædictioner gennem interaktion, de er prædictioner om personen, maskinen, deres forhold i den situation på det tidspunkt. Og den fælles ressource giver så systemet mulighed for at omkonfigurere sin kontrol-grænseflade på flyvet, så personen får, hvad de vil have, og hvornår de vil have det. Og virkelig, i en situation, hvor systemet er meget, meget sikker på, hvilken motor-funktion en person måske vil have, kan det faktisk blot vælge det for dem, mens de er på vej ind.

Og det cool er, at personen altid har mulighed for at sige, “Ah, det er, hvad jeg virkelig ville have,” og skifte til en anden motor-funktion. I en robot-arm kan det være forskellige former for hånd-greber, enten det er at forme grebet til at gribe en dørhåndtag eller til at samle en nøgle eller til at ryste en hånd. Disse er forskellige modi af funktioner, forskellige greb-mønstre. Det er virkelig interessant, at systemet kan starte med at bygge op en forståelse af, hvad der er passende i hvilken situation. Enheder af kapital, som begge parter kan stole på for at bevæge sig hurtigere gennem verden og med mindre kognitivt pres, især i den del af enheden.

Tak for det fantastiske interview, læsere, der ønsker at lære mere, skal besøge følgende ressourcer:

• Dr. Patrick M. Pilarski University of Alberta side.
• Upper Bound AI Konference.
• Amii (Alberta Machine Intelligence Institute)