Dr. Serafim Batzoglou, Chief Data Officer i Seer – Intervju-serie

Serafim Batzoglou er Chief Data Officer i Seer. Før han begynte i Seer, var Serafim Chief Data Officer i Insitro, der han ledet maskinlæring og datavidenskab i deres tilgang til legemiddeludvikling. Før Insitro var han VP of Applied and Computational Biology i Illumina, hvor han ledede forskning og teknologiudvikling af AI og molekylære assays til at gøre genomdata mere fortolkelige i menneskers sundhed.

Hva var det som først tiltalte deg til feltet genomics?

Jeg blev interesseret i feltet computational biology ved starten af min ph.d. i datalogi på MIT, da jeg tog en klasse om emnet undervist af Bonnie Berger, som blev min ph.d.-vejleder, og David Gifford. Det menneskelige genom-projekt var i fuld gang under min ph.d. Eric Lander, som ledede Genome Center på MIT, blev min ph.d.-medvejleder og involverede mig i projektet. Motiveret af det menneskelige genom-projekt, arbejdede jeg med whole-genome assembly og komparativ genomics af menneske- og mus-DNA.

Jeg flyttede derefter til Stanford University som ansat på Computer Science-afdelingen, hvor jeg tilbragte 15 år, og havde privilegium at have vejledt omkring 30 utrolig talentfulde ph.d.-studerende og mange postdoktorale forskere og studenter. Mit teams fokus har været anvendelsen af algoritmer, maskinlæring og softwareværktøjer til analyse af store mængder genom- og biomolekylær data. Jeg forlod Stanford i 2016 for at lede en forsknings- og teknologiudviklingsgruppe i Illumina. Siden da har jeg nydt at lede R&D-hold i industrien. Jeg finder, at samarbejde, forretningsaspektet og en mere direkte indvirkning på samfundet er karakteristika for industrien i forhold til akademiet. Jeg har arbejdet i innovative virksomheder hele min karriere: DNAnexus, som jeg co-foundede i 2009, Illumina, Insitro og nu Seer. Beregning og maskinlæring er essentielle på tværs af teknologikæden i biotek, fra teknologiudvikling til dataindsamling, til biologisk datafortolkning og oversættelse til menneskers sundhed.

Over de sidste 20 år er sekventering af det menneskelige genom blevet betydelig billigere og hurtigere. Dette har ført til en dramatisk vækst i markedet for genomsekventering og en bredere anvendelse i life sciences-industrien. Vi er nu ved kanten af at have population-genom-, multi-omisk og fenotypisk data af tilstrækkelig størrelse til at revolutionere sundhedspleje, herunder forebyggelse, diagnose, behandling og legemiddeludvikling. Vi kan stadig mere opdage de molekylære underliggende årsager til sygdomme hos enkeltpersoner gennem komputermæssig analyse af genomdata, og patienter har chancen for at modtage behandlinger, der er tilpasset og målrettede, især i områderne kræft og sjældne genetiske sygdomme. Ud over den åbenlyse anvendelse i medicin giver maskinlæring kombineret med genomisk information os indsigt i andre områder af vores liv, såsom vores slægt og ernæring. De næste flere år vil se en anvendelse af personlig, data-dreven sundhedspleje, først for udvalgte grupper af mennesker, såsom patienter med sjældne sygdomme, og derefter for den brede offentlighed.

Før din nuværende rolle var du Chief Data Officer i Insitro, hvor du ledede maskinlæring og datavidenskab i deres tilgang til legemiddeludvikling. Hvad var nogle af dine vigtigste indsigter fra denne periode om, hvordan maskinlæring kan anvendes til at accelerere legemiddeludvikling?

Den konventionelle legemiddeludviklings- og udviklingsparadigme “prøv-og-fejl” er plaget af ineffektive og ekstremt lange tidsrammer. For at få et enkelt legemiddel på markedet, kan det tage op til 1 milliard dollars og mere end et årti. Ved at inkorporere maskinlæring i disse bestræbelser kan vi dramatisk reducere omkostninger og tidsrammer på flere måder. Et skridt er målidentifikation, hvor et gen eller en gruppe gener, der kan modulere en sygdomsfænotype eller omdanne en sygdomscelle til en mere sund tilstand, kan identificeres gennem store skala genetiske og kemiske perturbationer og fenotypiske læsninger såsom billedanalyse og funktionel genomics. Et andet skridt er stofidentifikation og optimering, hvor et lille molekyle eller en anden modalitet kan designes ved hjælp af maskinlæring-drevet in silico-prædiktion såvel som in vitro-screening, og ønskede egenskaber af et legemiddel såsom opløselighed, permeabilitet, specifitet og non-toxicitet kan optimeres. Det sværeste og vigtigste aspekt er måske oversættelse til mennesker. Her er valget af den rette model – induceret pluripotent stamcelle-afledte linjer versus primære patientcellelinjer og vævprøver versus dyremodeller – for den rette sygdom en utrolig vigtig sæt af kompromiser, der til sidst reflekterer over evnen af de resulterende data plus maskinlæring til at oversætte til patienter.

Seer Bio er pioner inden for nye måder at afkode hemmelighederne om proteomet på for at forbedre menneskers sundhed. For læsere, der er ukendte med denne term, hvad er proteomet?

Proteomet er det skiftende sæt af proteiner, der produceres eller modificeres af en organisme over tid og i respons til miljø, ernæring og sundhedsstatus. Proteomik er studiet af proteomet inden for en given celletype eller vævsprøve. Det menneskelige eller andre organismers genom er statisk: med den vigtige undtagelse af somatiske mutationer, er genomet ved fødslen det samme genom, der kopieres nøjagtigt i hver celle i kroppen, hele livet igennem. Proteomet er dynamisk og ændrer sig over tidsspans af år, dage og endda minutter. Som sådan er proteomer langt tættere på fænotype og til sidst sundhedsstatus end er genomer, og derfor mere informativt for overvågning af sundhed og forståelse af sygdom.

Vi har på Seer udviklet en ny måde at få adgang til proteomet på, der giver dybere indsigt i proteiner og proteoformer i komplekse prøver såsom plasma, som er en lettilgængelig prøve, der desværre hidtil har udgjort en stor udfordring for konventionel masse-spektrometri-proteomik.

Hvad er Seers Proteograph™-platform, og hvordan giver den en ny visning af proteomet?

Seers Proteograph-platform udnytter en bibliotek af proprietære, designede nanopartikler, drevet af en enkel, hurtig og automatiseret arbejdsgang, der muliggør dyb og skalerbar afhøring af proteomet.

Proteograph-platformen udmærker sig ved at afhøre plasma og andre komplekse prøver, der viser store dynamiske områder – mange størrelsesordener forskel i abundance af forskellige proteiner i prøven – hvor konventionelle masse-spektrometri-metoder ikke kan detektere den lave abundance-del af proteomet. Seers nanopartikler er designet med justerbare fysio-kemiske egenskaber, der indsamler proteiner på tværs af dynamisk område på en upartisk måde. I typiske plasma-prøver muliggør vores teknologi detektion af 5-8 gange flere proteiner end ved behandling af ren plasma uden brug af Proteograph. Som resultat heraf hjælper vores Proteograph Product Suite forskere med at finde proteom-sygdomssignaturer, der ellers ville være undetectable. Vi siger, at vi på Seer åbner en ny port til proteomet.

Kan du diskutere nogle af de maskinlærings-teknologier, der anvendes på Seer Bio i øjeblikket?

Seer udnytter maskinlæring på alle skridt fra teknologiudvikling til downstream-data-analyse. Disse skridt omfatter: (1) design af vores proprietære nanopartikler, hvor maskinlæring hjælper os med at bestemme, hvilke fysio-kemiske egenskaber og kombinationer af nanopartikler, der vil fungere med bestemte produktlinjer og assays; (2) detektion og kvantificering af peptider, proteiner, varianter og proteoformer fra læse-data produceret fra MS-instrumenterne; (3) downstream proteomiske og proteogenomiske analyser i store populationskohorter.

Sidste år publicerede vi en artikel i Advanced Materials, hvor vi kombinerede proteomik-metoder, nano-teknologi og maskinlæring til at forbedre vores forståelse af mekanismerne bag protein-korona-dannelse. Denne artikel afslørede nano-bio-interaktioner og informerer Seer om skabelsen af forbedrede fremtidige nanopartikler og produkter.

Ud over nanopartikel-udvikling har vi udviklet nye algoritmer til identifikation af variant-peptider og post-translational-modifikationer (PTMs). Vi har nylig udviklet en metode til detektion af protein-kvantificeret-trait-loci (pQTLs), der er robust over for protein-varianter, som er en kendt konfounder for affinitets-baseret proteomik. Vi udvider dette arbejde til at identificere disse peptider direkte fra de rå spektra ved hjælp af deep learning-baseret de novo-sekventeringsmetoder, så vi kan søge uden at øge størrelsen af spektrallibliotekerne.

Vores team udvikler også metoder til at enable forskere uden dyb ekspertise i maskinlæring til at optimere og anvende maskinlæringsmodeller i deres opdagelsesarbejde. Dette opnås via en Seer ML-ramme baseret på AutoML-værktøjet, der muliggør effektiv hyperparameter-justering via Bayesian-optimering.

Til sidst udvikler vi metoder til at reducere batch-effekten og øge den kvantitative nøjagtighed af mass-spec-læse-værdierne ved at modellere de målte kvantitative værdier for at maksimere forventede mål såsom korrelation af intensitetsværdier på tværs af peptider inden for en protein-gruppe.

Hallucinationer er et almindeligt problem med LLM’er, hvad er nogle af løsningerne til at forhindre eller mindske dette?

LLM’er er generative metoder, der er givet en stor korpus og trænet til at generere lignende tekst. De fanger de underliggende statistiske egenskaber af teksten, de er trænet på, fra simple lokale egenskaber såsom, hvor ofte visse kombinationer af ord (eller tokens) er fundet sammen, til højere niveau-egenskaber, der emulerer forståelse af kontekst og mening.

Men LLM’er er ikke primært trænet til at være korrekte. Forstærkning med menneskelig feedback (RLHF) og andre teknikker hjælper med at træne dem for ønskede egenskaber, herunder korrektheden, men er ikke fuldt ud succesfulde. Givet en prompt, vil LLM’er generere tekst, der mest næsten ligner de statistiske egenskaber af træningsdataene. Ofte er denne tekst også korrekt. For eksempel, hvis man spørger “hvornår blev Alexander den Store født”, er det korrekte svar 356 f.Kr. (eller f.Kr.), og en LLM er sandsynligvis at give dette svar, fordi Alexander den Stores fødsel ofte optræder som denne værdi i træningsdataene. Men hvis man spørger “hvornår blev kejserinde Reginella født”, en fiktiv karakter, der ikke er til stede i træningskorpusset, er LLM’en sandsynligvis at hallucinere og skabe en historie om hendes fødsel. Ligeledes, hvis man stiller et spørgsmål, som LLM’en måske ikke kan hente det rigtige svar for (enten fordi det rigtige svar ikke findes, eller af andre statistiske årsager), er den sandsynligvis at hallucinere og svare, som om den ved det. Dette skaber hallucinationer, der er et åbenlyst problem for alvorlige anvendelser, såsom “hvordan kan sådan en og sådan kræft behandles”.

Der er ingen perfekte løsninger endnu for hallucinationer. De er endemiske for LLM’ens design. En delvis løsning er korrekt promptning, såsom at bede LLM’en om at “tænke omhyggeligt, skridt for skridt”, og så videre. Dette øger LLM’ens sandsynlighed for at ikke opdigte historier. En mere sofistikeret tilgang, der udvikles, er brugen af viden-grafer. Viden-grafer giver struktureret data: enheder i en viden-graf er forbundet til andre enheder på en foruddefineret, logisk måde. At konstruere en viden-graf for et givet domæne er naturligvis en udfordrende opgave, men det kan gøres med en kombination af automatiserede og statistiske metoder og kuratering. Med en indbygget viden-graf kan LLM’er kontrollere de udsagn, de genererer, mod den strukturerede samling af kendte fakta, og kan begrænses til ikke at generere en udsagn, der modsiger eller ikke understøttes af viden-grafen.

På grund af det fundamentale problem med hallucinationer og sandsynligvis på grund af deres manglende tilstrækkelige evner til resonnering og dømmekraft er LLM’er i dag kraftfulde til at hente, forbinde og destillere information, men kan ikke erstatte menneskelige eksperter i alvorlige anvendelser såsom medicinsk diagnose eller juridisk rådgivning. Alligevel kan de enormt forbedre effektiviteten og kapaciteten af menneskelige eksperter i disse domæner.

Kan du dele din vision for en fremtid, hvor biologi styres af data snarere end hypoteser?

Den traditionelle hypotesedrevne tilgang, der indebærer, at forskere finder mønstre, udvikler hypoteser, udfører eksperimenter eller studier for at teste dem, og derefter forfiner teorierne på baggrund af dataene, erstattes af en ny paradigme baseret på data-drevet modellering.

I denne opblomstrende paradigme starter forskerne med hypotesefri, stor-skala-data-generering. Derefter træner de en maskinlæringsmodel såsom en LLM med målet om nøjagtig rekonstruktion af skjulte data, stærk regression eller klassifikationspræstation i en række downstream-opgaver. Når maskinlæringsmodellen kan nøjagtigt forudsige dataene, og opnår en troværdighed, der er sammenlignelig med ligheden mellem eksperimentelle replikater, kan forskerne afhøre modellen for at udtrække indsigt om det biologiske system og afsløre de underliggende biologiske principper.

LLM’er viser sig at være særlig gode til at modelere biomolekylær data og er rettet mod at fremme en skift fra hypotesedrevet til data-drevet biologisk opdagelse. Denne skift vil blive mere og mere udtalt over de næste 10 år og tillade en nøjagtig modelering af biomolekylære systemer på en detaljeringsgrad, der går langt ud over menneskers kapacitet.

Hvad er potentialet for sygdomsdiagnose og legemiddeludvikling?

Jeg tror, at LLM og generativ AI vil føre til betydelige ændringer i life sciences-industrien. Et område, der vil have stor gavn af LLM’er, er klinisk diagnose, især for sjældne, svært-diagnosticerede sygdomme og kræft-undergrupper. Der er enorme mængder af omfattende patientinformation, som vi kan udnytte – fra genetiske profiler, behandlingsrespons, medicinske journaler og familehistorie – for at drive præcis og tidlig diagnose. Hvis vi kan finde en måde at samle alle disse data, så de er lettilgængelige, og ikke siloed af enkelt sundhedsorganisationer, kan vi dramatisk forbedre diagnostisk præcision. Dette indebærer ikke, at maskinlæringsmodellerne, herunder LLM’er, kan fungere autonomt i diagnose. På grund af deres tekniske begrænsninger vil de ikke være autonome i den nærmeste fremtid, men vil i stedet være kraftfulde værktøjer til at hjælpe lægerne med at give superb informerede vurderinger og diagnoser på en brøkdel af den tid, der er nødvendig i dag, og til at dokumentere og kommunikere deres diagnoser til patienten såvel som til det hele netværk af sundhedsudbydere, der er forbundet gennem maskinlærings-systemet.

Industrien anvender allerede maskinlæring til legemiddeludvikling og udvikling, og hævder, at det kan reducere omkostninger og tidsrammer i forhold til den traditionelle paradigme. LLM’er tilføjer yderligere til den tilgængelige værktøjskasse og giver fremragende rammer for modelering af store mængder biomolekylær data, herunder genomer, proteomer, funktionel genomics og epigenomics-data, single-celledata og mere. I den nærmeste fremtid vil grundlæggende LLM’er uden tvivl forbinde sig på tværs af alle disse data-modaliteter og på tværs af store kohorter af individer, hvis genetiske, proteomiske og sundhedsinformation er indsamlet. Sådanne LLM’er vil hjælpe med at generere lovende legemiddel-mål, identificere sandsynlige lommer af aktivitet af proteiner forbundet med biologisk funktion og sygdom, eller foreslå stier og mere komplekse cellulære funktioner, der kan moduleres på en bestemt måde med små molekyler eller andre legemiddel-modaliteter. Vi kan også udnytte LLM’er til at identificere legemiddel-respondenter og ikke-respondenter på basis af genetisk følsomhed eller til at genanvende legemiddel i andre sygdomsindikationer. Mange af de eksisterende innovative AI-baserede legemiddeludviklings-virksomheder er uden tvivl allerede begyndt at tænke og udvikle i denne retning, og vi bør forvente at se dannelse af yderligere virksomheder samt offentlige bestræbelser rettet mod udviklingen af LLM’er i menneskers sundhed og legemiddeludvikling.

Tak for det detaljerede interview, læsere, der ønsker at lære mere, skal besøge Seer.