Patrick M. Pilarski, Ph.D. Canada CIFAR AI Chair (Amii) – Interviewreeks

Dr. Patrick M. Pilarski is een Canada CIFAR Artificial Intelligence Chair, voormalig Canada Research Chair in Machine Intelligence for Rehabilitation, en een Associate Professor in de afdeling Fysieke Geneeskunde en Revalidatie, Faculteit Geneeskunde, University of Alberta.

In 2017 co-founded Dr. Pilarski de eerste internationale onderzoeksafdeling van DeepMind, gevestigd in Edmonton, Alberta, waar hij diende als kantoorco-lead en Senior Staff Research Scientist tot 2023. Hij is een Fellow en lid van de raad van bestuur van het Alberta Machine Intelligence Institute (Amii), co-leidt het Bionic Limbs for Improved Natural Control (BLINC) Laboratory, en is een hoofdonderzoeker bij het Reinforcement Learning and Artificial Intelligence Laboratory (RLAI) en het Sensory Motor Adaptive Rehabilitation Technology (SMART) Network aan de University of Alberta.

Dr. Pilarski is de prijswinnende auteur of co-auteur van meer dan 120 peer-reviewed artikelen, een Senior Member van de IEEE, en heeft ondersteuning ontvangen van provinciale, nationale en internationale onderzoeksbeurzen.

We gingen zitten voor een interview op de jaarlijkse 2023 Upper Bound conferentie over AI die wordt gehouden in Edmonton, AB en gehost door Amii (Alberta Machine Intelligence Institute).

Hoe bent u in de AI terechtgekomen? Wat trok u aan in de industrie?

Die zijn twee aparte vragen. In termen van wat me aantrekt in de AI, is er iets moois aan hoe complexiteit kan ontstaan en hoe structuur kan ontstaan uit complexiteit. Intelligentie is slechts een van deze geweldige voorbeelden, dus of het nu komt uit biologie of uit hoe we ingewikkelde gedrag zien ontstaan in machines, denk ik dat er iets moois aan is. Dat heeft me altijd gefascineerd, en mijn lange, kronkelende route naar het werken in het gebied van AI waar ik nu in werk, dat wil zeggen machines die leren door trial and error, versterkingsystemen die interactie hebben met mensen terwijl ze allebei ondergedompeld zijn in de stroom van ervaring, kwam door allerlei verschillende plateaus. Ik studeerde hoe machines en mensen konden interactie hebben in termen van biomechanische apparaten en biotechnologie, dingen als kunstmatige ledematen en protheses.

Ik keek naar hoe AI gebruikt kan worden om medische diagnoses te ondersteunen, hoe we machine-intelligentie kunnen gebruiken om patronen te begrijpen die leiden tot ziekte of hoe verschillende ziektes zich kunnen manifesteren in termen van opnames op een machine. Maar dat is allemaal onderdeel van deze lange, kronkelende route om echt te beginnen te waarderen hoe je heel complex gedrag kunt krijgen uit heel eenvoudige fundamenten. En dat is wat ik echt leuk vind, vooral over versterkingsleren, is het idee dat de machine zichzelf kan ingraven in de stroom van tijd en kan leren van zijn eigen ervaring om heel complex gedrag te vertonen en om zowel complexe fenomenen in de wereld om ons heen te vangen.

De mechanica ervan, ik deed eigenlijk veel sportmedicinetraining en dingen zoals dat terug in de middelbare school. Ik studeerde sportmedicinetraining en nu ben ik hier werkend in een omgeving waar ik kijk naar hoe machine-intelligentie en revalidatietechnologieën samen komen om mensen in hun dagelijks leven te ondersteunen. Het is een heel interessante reis, zoals de zijdelingse fascinatie met complexe systemen en complexiteit, en dan de heel praktische pragmatiek van hoe we beginnen te denken over hoe mensen beter kunnen worden ondersteund, leven die ze willen leven.

Hoe leidde sport je oorspronkelijk naar protheses?

Wat echt interessant is aan velden zoals sportmedicinetraining is kijken naar het menselijk lichaam en hoe iemands unieke behoeften, of het nu sport of anders is, in feite kunnen worden ondersteund door andere mensen, door procedures en processen. De bionische ledematen en prothesetechnologieën zijn over het bouwen van apparaten, systemen, technologie die mensen helpt om het leven te leven dat ze willen leven. Deze twee dingen zijn echt nauw verbonden. Het is eigenlijk heel spannend om in staat te zijn om een volledige cirkel te maken en te hebben dat sommige van die veel eerder interesses tot uitdrukking komen in, opnieuw, co-leiden van een lab waar we naar kijken… En vooral machine learning systemen die werken met in een nauw gekoppelde manier, de persoon die ze zijn ontworpen om te ondersteunen.

U hebt eerder besproken hoe een prothese zich aanpast aan de persoon in plaats van de persoon die zich aanpast aan de prothese. Kunt u praten over de machine learning achter dit?

Absoluut. Als fundament in de geschiedenis van het gebruik van gereedschap, hebben mensen zich aangepast aan hun gereedschap en vervolgens hebben we ons gereedschap aangepast aan de behoeften die we hebben. En dus is er dit iteratieve proces van ons aanpassen aan ons gereedschap. We zijn, op dit moment, op een keerpunt waarop we voor het eerst kunnen denken aan het bouwen van gereedschap dat enkele van die kenmerken van menselijke intelligentie heeft. Gereedschap dat in feite zal aanpassen en verbeteren terwijl het wordt gebruikt door een persoon. De onderliggende technologieën ondersteunen voortdurend leren. Systemen die voortdurend kunnen leren van een voortdurende stroom ervaring. In dit geval, versterkingsleren en de mechanismen die het ondersteunen, dingen zoals tijdsverschil leren, zijn echt cruciaal voor het bouwen van systemen die voortdurend kunnen aanpassen terwijl ze interactie hebben met een persoon en terwijl ze in gebruik zijn door een persoon die hen in hun dagelijks leven ondersteunt.

Kunt u tijdsverschil leren definiëren?

Absoluut, wat ik echt leuk vind aan dit is dat we kunnen denken aan de kern technologieën, tijdsverschil leren en de fundamentele voorspellingsleren algoritmes die veel van wat we in het lab werken ondersteunen. U hebt een systeem dat, net als wij, een voorspelling maakt over wat de toekomst zal zijn met betrekking tot een signaal, met betrekking tot iets zoals de toekomstige beloning is wat we meestal zien. Maar elk ander signaal dat u zich kunt voorstellen, zoals hoeveel kracht ik op dit moment uitoefen? Hoe warm zal het zijn? Hoeveel donuts zal ik morgen hebben? Deze zijn de mogelijke dingen die u zich kunt voorstellen om te voorspellen. En dus is het kernalgoritme echt kijken naar het verschil tussen mijn schatting over wat er nu zal gebeuren en mijn schatting over wat er in de toekomst zal gebeuren, samen met elk signaal dat ik op dit moment ontvang.

Hoeveel kracht ik uitoefen als een robotarm een kop koffie of een kop water optilt? Dit kan kijken naar het verschil tussen de voorspelling over de hoeveelheid kracht die ik op dit moment uitoefen of de hoeveelheid die ik over een periode van de toekomst zal uitoefenen. En dan vergelijken met mijn verwachtingen over de toekomst en de kracht die ik daadwerkelijk uitoefen. Zet die allemaal samen, en u krijgt deze fout, de tijdsverschil fout. Het is deze leuke accumulatie van de tijdelijk uitgebreide voorspelling in de toekomst en de verschillen tussen hen, die u kunt gebruiken om de structuur van de lerende machine zelf bij te werken.

En dus, opnieuw, voor conventioneel versterkingsleren op basis van beloning, kan dit kijken naar het bijwerken van de manier waarop de machine handelt op basis van de verwachte toekomstige beloning die u mogelijk waarneemt. Voor veel van wat we doen, is het kijken naar andere soorten signalen, met behulp van gegeneraliseerde waarde functies, die de adaptatie van het versterkingsleren proces is, tijdsverschil leren van beloningsignalen naar elk type signaal van interesse dat van toepassing kan zijn op de werking van de machine.

U praat vaak over een prothese genaamd de Cairo Toe in uw presentaties. Wat heeft het te leren?

De Cairo Toe University of Basel, LHTT. Afbeelding: Matjaž Kačičnik

Ik vind het leuk om het voorbeeld van de Cairo Toe te gebruiken, een 3000 jaar oude prothese. Ik werk in het gebied van neuroprotheses, we zien nu heel geavanceerde robot systemen die in sommige gevallen hetzelfde niveau van controle of graden van controle kunnen hebben als biologische lichaamsdelen. En toch, ga ik terug naar een heel gestileerde houten teen van 3000 jaar geleden. Ik denk dat wat leuk is, is dat het een voorbeeld is van hoe mensen zichzelf uitbreiden met technologie. Dat is wat we nu zien in termen van neuroprotheses en mens-machine interactie, is niet iets wat vreemd, nieuw of raar is. We zijn altijd gereedschapsgebruikers, dieren, niet-menselijke dieren gebruiken ook gereedschap. Er zijn veel geweldige boeken over dit, vooral door Frans de Waal, “Are We Smart Enough to Know How Smart Animals Are?”.

Dit uitbreiden van onszelf, het verhogen en verbeteren van onszelf door het gebruik van gereedschap is niet iets nieuws, het is iets ouds. Het is iets dat al gebeurt sinds de tijd en de herinnering in het land waar we nu op staan door de mensen die hier woonden. Het andere interessante ding over de Cairo Toe is dat het bewijs, tenminste uit de geleerde rapporten over het, laat zien dat het meerdere keren aangepast is tijdens zijn interacties met zijn gebruikers. Ze hebben het daadwerkelijk aangepast en veranderd, gemodificeerd tijdens zijn gebruik.

Mijn begrip, het was niet alleen een vast gereedschap dat aan een persoon was vastgemaakt tijdens hun leven, het was een vast gereedschap dat was vastgemaakt, maar ook gemodificeerd. Het is een voorbeeld van hoe, opnieuw, het idee dat gereedschap wordt aangepast tijdens zijn gebruik en een duurzaam gebruik is, in feite iets ouds. Het is niet iets nieuws, en er zijn veel lessen die we kunnen leren van de co-aanpassing van mensen en gereedschap over veel, veel jaar.

U hebt eerder vermeld dat de feedback pathway tussen protheses en de mens kan worden uitgelegd. Kunt u dit toelichten?

We zijn ook in een speciale tijd in termen van hoe we de relatie tussen een persoon en de machine die hen in hun dagelijks leven ondersteunt, zien. Wanneer iemand een kunstmatig lichaamsdeel gebruikt, laten we zeggen iemand met een ledemaatverschil, iemand met een amputatie die een kunstmatig lichaamsdeel gebruikt. Traditioneel zullen ze het gebruiken als een gereedschap, als een uitbreiding van hun lichaam, maar we zullen ze voornamelijk zien die afhankelijk zijn van wat we de controle pathway noemen. Dat een zeker gevoel van hun wiel of hun intentie wordt doorgegeven aan dat apparaat, dat vervolgens wordt belast met het figuur uit wat het is, en dan uitvoeren op basis van dat, of het nu gaat om het openen en sluiten van een hand of het buigen van een elleboog of het creëren van een pinch grip om een sleutel te grijpen. We zien vaak niet mensen die de feedback pathway bestuderen.

De pathway van informatie die van het apparaat naar de persoon stroomt, kan de mechanische koppeling zijn, de manier waarop ze daadwerkelijk de krachten van het lichaamsdeel voelen en erop reageren. Het kan zijn dat ze het geluid van de motoren horen of dat ze kijken terwijl ze een manchet oppakken en deze over een bureau verplaatsen of ze grijpen het van een andere deel van hun werkruimte. En dus, die pathways zijn de traditionele manier van doen. Er gebeuren heel interessante dingen over de hele wereld om te kijken hoe informatie beter kan worden doorgegeven van een kunstmatig lichaamsdeel naar de persoon die het gebruikt. Vooral hier in Edmonton, is er heel cool werk dat gebeurt met het herschrijven van het zenuwstelsel, gerichte zenuwrenovatie en andere dingen om die pathway te ondersteunen. Maar het is nog steeds een heel hot en opkomend gebied van studie om te denken over hoe machine learning de interacties met betrekking tot die feedback pathway kan ondersteunen.

Hoe machine learning een systeem kan ondersteunen dat mogelijk veel over zijn wereld waarneemt en voorspelt, en die informatie duidelijk en effectief kan doorgeven aan de persoon die het gebruikt. Hoe kan machine learning die pathway ondersteunen? Ik denk dat dit een geweldig onderwerp is, omdat, als u zowel die feedback pathway als die controle pathway hebt, en beide systemen modellen van elkaar aan het bouwen zijn, en aan het aanpassen in real-time op basis van ervaring, dan kunt u iets bijna miraculeus doen. U kunt bijna informatie doorgeven zonder enige moeite en zonder enige bandbreedte.

En dat opent heel nieuwe domeinen van mens-machine coördinatie, vooral in het gebied van neuroprotheses. Ik denk echt dat dit een heel miraculeuze tijd is voor ons om te beginnen met het bestuderen van dit gebied.

Denkt u dat deze in de toekomst met 3D-printen zullen worden gemaakt of hoe denkt u dat de productie zal verlopen?

Ik voel me niet alsof ik de beste plek ben om te speculeren over hoe dat zou kunnen gebeuren. Ik kan zeggen dat we een grote toename zien in commerciële aanbieders van neuroprothesedevices die additieve fabricage, 3D-printen en andere vormen van additieve fabricage gebruiken om hun apparaten te maken. Dit is ook heel leuk om te zien, dat het niet alleen een prototype is dat additieve fabricage of 3D-printen gebruikt, maar dat 3D-printen een integraal onderdeel wordt van hoe we apparaten aan individuen leveren en hoe we die apparaten optimaliseren voor de exacte mensen die ze gebruiken.

Additieve fabricage of op maat gemaakte prothesefitting gebeurt in ziekenhuizen de hele tijd. Dit is een natuurlijk onderdeel van de zorgverlening aan mensen met ledemaatverschil die ondersteunende technologieën of andere soorten revalidatietechnologieën nodig hebben. Ik denk dat we beginnen te zien dat veel van die aanpassing begint te integreren in de fabricage van de apparaten, en niet alleen wordt overgelaten aan de zorgverleners. En dat is ook heel spannend. Ik denk dat er een geweldige kans is voor apparaten die niet alleen eruitzien als handen of worden gebruikt als handen, maar apparaten die heel precies voldoen aan de behoeften van de persoon die ze gebruikt, die hen in staat stellen om zich uit te drukken op de manier die ze willen, en hen laten leven het leven dat ze willen leven, niet alleen de manier waarop wij denken dat een hand moet worden gebruikt in het dagelijks leven.

U hebt meer dan 120 papers geschreven. Is er een die voor u opvalt die we zouden moeten kennen?

Er is een recent gepubliceerd paper in Neural Computing Applications, maar het vertegenwoordigt de top van een ijsberg van denken dat we hebben voorgesteld voor wel meer dan een decennium nu, over kaders voor hoe mensen en machines interactie hebben, vooral hoe mensen en prothesedevices interactie hebben. Het is het idee van communicatief kapitaal. En dus is dit het paper dat we onlangs gepubliceerd hebben.

En dit paper legt onze visie voor op hoe voorspellingen die in real-time worden geleerd en onderhouden door een, zeg, prothesedevice dat interactie heeft met een persoon, de persoon zelf kan vormen, kan essentieel kapitaal vormen, kan een resource vormen die beide partijen kunnen gebruiken. Herinner, eerder zei ik dat we iets heel spectaculairs kunnen doen als we een mens en een machine hebben die allebei modellen van elkaar aan het bouwen zijn, aan het aanpassen in real-time op basis van ervaring, en beginnen te communiceren in een tweerichtingskanaal. Als een zijspoor, omdat we in een magische wereld leven waar opnames zijn en u dingen kunt knippen.

Het is eigenlijk als magie.

Exact. Het klinkt als magie. Als we terug gaan naar denkers zoals Ashby, W. Ross Ashby, terug in de jaren 60 en zijn boek “Introduction of Cybernetics” sprak over hoe we de menselijke intelligentie kunnen verhogen. En hij zei echt dat het neerkomt op het verhogen van de mogelijkheid van een persoon om te kiezen tussen een van de vele opties. En dit is mogelijk gemaakt door systemen waar een persoon interactie heeft met, zeg, een machine, waar een kanaal van communicatie open is tussen hen. Dus, als we dat kanaal van communicatie hebben, als het tweerichtingsverkeer is, en als beide systemen kapitaal aan het bouwen zijn in de vorm van voorspellingen en andere dingen, dan kunnen we beginnen te zien dat ze echt op één lijn komen en meer worden dan de som van hun delen. U kunt meer krijgen dan ze erin stoppen.

Wat zijn enkele van de toepassingen die u ziet voor brain-machine interfaces met wat u net besproken heeft?

Een van mijn favorieten is iets dat we hebben voorgesteld, opnieuw, over de laatste bijna 10 jaar, is een technologie genaamd adaptieve schakeling. Adaptieve schakeling is gebaseerd op de kennis dat veel systemen die we dagelijks interactie hebben, afhankelijk zijn van ons schakelen tussen veel modi of functies. Of ik nu schakel tussen apps op mijn telefoon of ik probeer de juiste instelling te vinden op mijn boor of ik andere gereedschap in mijn leven aanpas, we schakelen tussen veel modi of functies de hele tijd, denkend aan Ashby, onze mogelijkheid om te kiezen tussen veel opties. Dus, in adaptieve schakeling, gebruiken we tijdsverschil leren om een kunstmatig lichaamsdeel te laten leren welke motorfunctie een persoon mogelijk wil gebruiken en wanneer ze het willen gebruiken. Dus, eigenlijk een heel eenvoudig principe is dat, gewoon het feit dat ik naar een kop koffie reik en mijn hand sluit.

Wel, een systeem zou in staat moeten zijn om voorspellingen op te bouwen door ervaring dat, in deze situatie, ik waarschijnlijk de hand open-sluitfunctie zal gebruiken. En dan, in de toekomst, in soortgelijke situaties, kan het voorspellen. En wanneer ik door de wolk van modi en functies navigeer, kan het me meer of minder geven van wat ik wil zonder dat ik door alle opties heen hoef te gaan. En dit is een heel eenvoudig voorbeeld van het opbouwen van dat communicatief kapitaal. U hebt een systeem dat in feite voorspellingen aan het opbouwen is door interactie, het zijn voorspellingen over die persoon, die machine, hun relatie in die situatie op dat moment. En die gedeelde resource laat het systeem toe om zijn besturingsinterface op de fly te reconfigureren, zodat de persoon krijgt wat ze willen en wanneer ze het willen. En echt, in een situatie waar het systeem heel zeker is over welke motorfunctie een persoon mogelijk wil, kan het in feite voor hen kiezen als ze naar binnen gaan.

En het coolste is, is dat de persoon altijd de mogelijkheid heeft om te zeggen, “Ah, dit is wat ik echt wilde,” en schakelt naar een andere motorfunctie. In een robotarm, dat kan verschillende soorten handgrepen zijn, of het nu gaat om het vormen van een greep om een deurknop te grijpen of een sleutel op te pakken of iemand de hand te schudden. Die zijn verschillende modi van functies, verschillende greep patronen. Het is heel interessant dat het systeem kan beginnen om een waardering op te bouwen van wat passend is in welke situatie. Eenheden van kapitaal die beide partijen kunnen gebruiken om sneller door de wereld te navigeren, en met minder cognitieve belasting, vooral in het deel van de eenheid.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten de volgende bronnen bezoeken:

• Dr. Patrick M. Pilarski University of Alberta pagina.
• Upper Bound AI Conferentie.
• Amii (Alberta Machine Intelligence Institute)