Andrea Vattani, medgrunnlegger og sjefsvitenskapsmann i Spiketrap – Intervju-serie

Andrea Vattani er medgrunnlegger og sjefsvitenskapsmann i Spiketrap, et selskap som driver kontekstualisering og gir innsikt i publikumsadfærd og mediaprestasjoner for kreatører, plattformer og merker. Deres proprietære Clair AI trekker ut signalene fra støyen i ustrukturerte datasett, og gir en ubeskrivelig klarhet og kontekst, spesielt i høyt hastighet online-miljøer.

Hva var det som opprinnelig tiltalte deg til datavitenskap og AI?

Det var en kombinasjon av heldige omstendigheter. Jeg møtte opp på Universitetet i Roma for å ta opptaksprøven i statistikk, og det viste seg at jeg var en dag forsinket! Jeg fikk rådet til å søke på datavitenskap i stedet, og gå tilbake til statistikk året etter. Jeg gikk til datavitenskap-opptaksprøven (som var samme dag!) og bestod den… og gikk aldri tilbake til statistikk! Min interesse for AI startet virkelig da jeg innsett hvordan datamaskiner kan hjelpe deg med å automatisere ting, og AI er den ultimate automatiseringsmaskinen. Og naturlig språk og hvordan mennesker bruker det har alltid vært et interesseområde for meg: Jeg konsentrerte meg om klassiske studier på videregående skole, hvor jeg studerte gammelgresk og latin, som er lignende til hvordan en maskin føler når den mates med en strøm av ord.

Tidligere jobbet du som senior lead software engineer i Amazon (AMZN ) Goodreads. Hva var noen av prosjektene du jobbet på, og hva var noen av de viktigste lærdommene fra denne erfaringen?

Mens jeg var i Goodreads, jobbet jeg på flere maskinlæringsprosjekter som inkluderte spam-avdekning og skaleringsmuligheter for bokanbefalingsmotoren. Mine lærdommer fra tiden der var å lære viktigheten av å definere ML-målinger som matcher forretnings- og kundemål. For å gi et eksempel, anbefalingsmotorer har eksistert i lang tid. Husk “Netflix (NFLX ) Prize”-konkurransen tilbake i 2009 for å finne bedre film-anbefalinger? Noen innsikter fra de beste løsningene antydet at sjansen for at du ser en film ikke er så mye drevet av om du kommer til å like den eller ikke, men hovedsakelig om den er lik dine interesser. Det kan fungere for filmer, siden det er en kort 90-minutters forpliktelse, men for bøker er det ikke tilfelle. Å integrere det riktige målet i dine målinger er nøkkel.

En annen lærdom jeg har anvendt i Spiketrap er å bygge AI-lag som er leveringsorienterte og integrert med produktveien i stedet for et isolert lag som bare fokuserer på utforskning og forskning. Dette fører til bedre definerte mål, tidsfrister og forståelse av ROI. Det favoriserer også naturlig laget å fokusere på hastighet og praktisitet i en modell i stedet for å se bare på nøyaktighet. Gå tilbake til Netflix-konkurransen-eksemplet, modellene til de vinnende lagene ble aldri integrert fordi de ikke var praktiske nok til tross for deres forbedrede nøyaktighet.

Din forskning er blitt publisert i flere tidsskrifter. Hva mener du er det viktigste arbeidet så langt?

Under min Ph.D. hadde jeg det store privilegiet å samarbeide med flere forskere fra ulike områder, inkludert maskinlæring, “big data”, sosial dataanalyse og spillteori. En artikkel jeg liker for sin enkelhet og anvendelighet er “Scalable K-Means++” : K-means++ er en overalt brukt usupervisert klastermetode for å dele en datasett inn i K kohesive grupper. Den gjør dette ved å legge til en gruppe om gangen, så når du har masse data og grupper, blir det for langsomt. I den artikkelen viser vi hvordan du kan oppnå det samme, hvis ikke bedre, nøyaktighet ved å parallelisere metoden. Vår metodologi er ekstremt enkel og er blitt implementert i flere maskinlæringsbiblioteker.

Kunne du dele opphavshistorien bak Spiketrap?

Efter å ha jobbet i Goodreads, forsto jeg og medgrunnleggerne av Spiketrap, Kieran og Virgilio, at det var et hull i industrien for å få avanserte merkeinnsikt fra nisjesosiale plattformer. Ved å bruke AI-teknologier kunne vi løse problemet på en effektiv måte.

I dagens økonomi er det avgjørende for selskaper å lytte til kundene sine og deres respektive industrier som helhet. Men mye av hva kundene har å si om merker går uhørt. Millioner av mennesker uttrykker sine meninger åpent hver dag, på plattformer som Twitter, Reddit, Twitch og lignende. Det er bevist å være en ekstremt verdifull ressurs for enhver markedsforsker, så lenge innholdet kan kontekstualiseres i stor skala. Problemet er at innsiktindustrien ikke har holdt tritt med den digitale atferden og språket.

Lyttverktøy avhenger fortsatt av nøkkelord og booleske søk, og savner mye av samtalen som kunne og burde tilskrives et bestemt merke. I mellomtiden har markedsforskningsfirmaer vært fanget i en stadig vanskeligere balansekunst, hvor de prøver å fastslå kvalitative innsikter fra kvantitative og kostnadsbegrensede metoder.

Kort sagt, folk har manglet verktøyene de trenger for å forstå sine publikum i stor skala. Salgstall og seertall svarer på “hva”-spørsmålet om publikumsatferd, men ikke “hvorfor”. Uten kontekst er det et gjettspill å finne ut hva som er korrelasjon versus årsak. Ved å erkjenne denne tomheten, gravde vi ned i hva en løsning for kontekstuell forståelse ville se ut, og Spiketrap ble født.

Hva er noen av de maskinlærings-teknologiene som brukes i Spiketrap?

Vi bruker en mengde teknologier, fra vanlige Scikit-learn til dyplæringsbiblioteker som Pytorch. Bortsett fra biblioteker, metodene, modellene og datasettene vi bruker er hovedsakelig proprietære. Vi har lært at ferdige metoder og modeller bare tar deg så langt, men for å virkelig løse et problem må du sette din egen innsats inn, fra mål til modellarkitektur og datasett. For å gi et eksempel, emne-modellering er oppgaven med å trekke ut temaer fra en samling tekststykker. Vårt “Spiketrap Convos” gir kundene våre avgjørende innsikter om publikum, og bruker emne-modellering som ett av signalene. Din vanlige metode for emne-modellering er LDA (Latent Dirichlet Allocation), men dessverre er det for inkonsistent og uforutsigbart og ikke kraftig nok. På den andre siden kan du prøve en moderne forhånds-trent modell som Bert-Topics, som – selv om den er kraftig og omfattende – også er svært stiv og langsom. NLP og språk-AI har gjort store fremskritt de siste ti årene, men å ta eksisterende modeller og omdanne dem til produkter er fortsatt langt fra optimalt og en risikabel veddemål.

Kunne du utdype hvordan Spiketrap gir øyeblikkelig publikumsforståelse for kreatører, plattformer og merker?

Annonsører og byråer bruker våre influencer-liste og merke-tilhørighet-verktøy for å identifisere kreatører hvis samfunn er merke-sikre over en rekke kategorier, inkludert karakterer for toksisk, banal, seksuelt innhold – samt overordnet samfunns-merke-sikkerhet.

Kreatører kan bruke verktøyet til å dykke ned i enkeltstrømmer og se hvilke samtaler som var de mest eller minst trygge, hvilke drev positiv engasjement for deres sponsorer, og hvor de kan forbedre sine modereringsinnsats.

En nylig artikkel med tittelen ‘FeelsGoodMan: Inferring Semantics of Twitch Neologisms‘ ble publisert av Spiketrap. Kunne du kort beskrive hva denne artikkelen handler om?

Måten mennesker kommuniserer og uttrykker seg online har blitt stadig mer kompleks og utfordrende å tyde. Først kom emotikonene 🙂. Så kom emojiene 🤩. Så kom memene 🤣… og nå “emotes”, en ny form for ikon-basert kommunikasjon som har blitt svært populær på Twitch-strømmingsplattformen. Noe lignende emojis i deres blandede bruk med vanlig tekst, presenterer de lignende utfordringer som memes i og med at de er brukergenererte og deres kryptiske mening har ingen åpenbar tilknytning til det faktiske bildet avbildet. Det finnes over 8 millioner distinkte emotes til dato, med over 400 000 brukt ukentlig. Likevel kommuniserer mennesker effektivt ved å bruke dem til å uttrykke enhver type følelse, som glede, kjedsomhet, spenning eller sarkasme. Vår nylige artikkel er en AI-kokbok for å slutte seg til den semantiske betydningen av emotes. Vår tilnærming krever ikke å vedlikeholde og oppdatere en manuelt kurert datasett, og den kan selv-tilpasse seg den kontinuerlige introduksjonen av nye emotes, samt evolusjonen av mening av populære emotes. Dette er spesielt viktig når en emote får en politisk eller rase-betinget ladning, noe vi har sett skje med ekstremt populære emotes, som “TriHard”, “PogChamp” og “FeelsGoodMan”. Dynamisk bruk av språk og skift i mening stiller enorme problemer for modererings-systemer eller sentiment-analyse-rammeverk, så vi er stolte av å løse dette problemet på riktig måte i Spiketrap.

Er det noe annet du ønsker å dele om Spiketrap?

Som vi ser fremover mot det nye året, jobber Spiketrap med å utvikle og perfeksjonere et nytt verktøy som vil gi en dypere forståelse av merke-sentiment for våre kunder. Spiketrap’s nye Affinity-verktøy gir en interaktiv og intuitiv måte å identifisere og kvantifisere publikums-tilhørighet over kreatører, merker, spill og mer. For hver gitt forespørsel genererer verktøyet tilhørighets-indeks-poeng som indikerer hvordan godt en gitt enhet er positivt korrelert til en annen. Tallrike kontekstuelle signaler utgjør poenget, inkludert hyppigheten og sentimentet av relaterte omtaler. Spiketrap’s teknologistack er unikt posisjonert for å indeksere tilhørighet mellom spill, merker og kreatører. Deres proprietære Clair AI prosesserer millioner av offentlig publiserte brukergenererte meldinger hver dag, og tilskriver ellers tvetydig innhold til enheter i Spiketrap’s omfattende kunnskapsgraf, identifiserer samtale-emner, bestemmer sentiment og overvåker sikkerhet. Tilføyelsen av det nye Affinity-verktøyet gir utviklere, kreatører, merker og mer mulighet til å forstå sine publikum og merke-påvirkning.

Takk for det flotte intervjuet, lesere som ønsker å lære mer kan besøke Spiketrap.