Adam Gross, medstifter og administrerende direktør for HarmonEyes – Interviewserie

Adam Gross, medstifter og administrerende direktør for HarmonEyes, er en serieiværksætter med næsten tre årtiers erfaring med at bygge og skalere teknologidrevne virksomheder inden for sundhedssektoren, finansielle tjenester og dataanalyse. Han var medstifter af RightEye i 2013, hvor der blev udviklet en øjensporingsteknologiplatform, der anvendes inden for sundhedspleje, professionel sport og militære præstationsapplikationer, før han i 2024 medstiftede HarmonEyes sammen med Dr. Melissa Hunfalvay for at udvide denne ekspertise til AI-drevet menneskelig tilstandsinformation. Tidligere i sin karriere var Gross medstifter af sundheds‑omkostningsbegrænsningsfirmaet KeyClaims, som blev opkøbt af Stratose/Zelis Healthcare i 2012, samt finansanalytisk platform Trending123.com, som blev opkøbt af InvestorPlace Media i 2007. Han grundlagde også fintech‑virksomheden KeepMore og var medstifter af Eastern ATM, som drev et privat hæveautomatnetværk langs den amerikanske østkyst, inden det blev opkøbt i 1998.

HarmonEyes udvikler Theia, en AI‑grundmodel designet til at udlede aspekter af en persons kognitive, emotionelle og fysiske tilstand ud fra øjenbevægelser i realtid. Teknologien kan måle signaler såsom kognitiv belastning, opmærksomhed, mental beredskab, træthed, stress, distraktion, køresyge og brugerautentificering, med potentielle anvendelser inden for AI‑assistenter, bilsystemer, udvidet virkelighed, forsvar, sundhedspleje, uddannelse, industriel sikkerhed, spil og markedsundersøgelser. Theia er designet til at køre i kanten på almindelige enheder med kamera uden at kræve specialiseret øjensporingshardware, og HarmonEyes oplyser, at video‑ og persondata ikke gemmes. Virksomheden sporer sin teknologi tilbage til RightEye og siger, at deres modeller bygger på mere end 585 milliarder øjenbevægelses‑datapunkter fra 16,3 millioner poster, hvilket giver et stort proprietært datasæt til træning og finjustering af deres menneskelige tilstandsinformations‑AI.

Du var medstifter af RightEye i 2013 og har i mere end et årti udviklet øjensporingsteknologi til sundhedspleje, sport og militære anvendelser, før du lancerede HarmonEyes i 2024. Hvad overbeviste dig om, at denne underliggende teknologi og datasæt kunne understøtte en bredere grundmodel for menneskelig tilstandsinformation, og hvorfor var HarmonEyes det rette køretøj for denne vision?

Med mere end et årti af erfaring med at udvikle øjensporingsprodukter til en række forskellige områder var der tre ændringer, der udløste vores vision om, at HarmonEyes skulle bringe menneskelig tilstandsinformation til milliarder af enheder:

1. I løbet af det sidste årti har vi indsamlet den største validerede og mærkede øjensporingsdatabase, som indeholder over 130 datasæt, der dækker demografi (fx alder, køn), præstation, opmærksomhed, følelser, syn og sundhedstilstande osv.
2. Med AI‑ens udbredelse blev teknikker til at træne realtidsmodeller pludselig tilgængelige for os – og vi havde dataene til at træne dem.
3. Øjensporingssignaler indfanges af kameraer. For nylig, og for første gang nogensinde, er forbruger‑klasse kameraer blevet bedre, hurtigere, billigere og kraftige nok til at udtrække disse signaler. Gennem vores teams innovationer kan vi nu implementere øjensporingsmodeller på enhver kamera‑baseret enhed, herunder bærbare computere, telefoner, tablets, biler osv.

Ofcom har skelnet mellem adfærdsmæssig aldersinference, som kræver observation af, hvordan en bruger anvender en platform, og alderskontroller, der kan udføres, før adgang gives. Hvordan adskiller aldersestimering ud fra øjenbevægelser sig teknisk og etisk fra analyse af browserhistorik, indholdspræferencer, sprog eller andre adfærdssignaler?

Vores teknologi kræver kun et lille udsnit af en persons øjenbevægelser for at placere vedkommende i en aldersgruppe eller bekræfte, at nogen er yngre/ældre end en specifik alder. Vi kan indsamle øjenbevægelsesdata passivt, kontinuerligt og ikke‑invasivt uden at gemme eller indsamle personligt identificerbare oplysninger. Desuden destrueres alle øjensporingsdata, så snart resultaterne er leveret. Vi har også mulighed for at udføre livstidsdetektion og beskyttelse mod forfalskning, så folk ikke kan manipulere systemet.

Etisk betyder dette, at vi ikke profilerer en persons adfærd, vaner, beslutninger eller præferencer – i modsætning til adfærdsmæssig inference, som per definition konstruerer et billede af en person ud fra deres handlinger over tid. Vi leverer aldersgaranti uden at indsamle eller opbevare denne type personlige oplysninger, så brugere og forældre kan være sikre på, at de bliver beskyttet i stedet for overvåget eller profileret.

HarmonEyes’ offentliggjorte forskning analyserede øjenbevægelser fra 45.696 personer og rapporterede 94,67 % klassifikationsnøjagtighed på tværs af 12 aldersgrupper. Hvad måler dette nøjagtighedstal præcist, og hvor meget yderligere validering kræves, før modellen pålideligt kan afgøre, om nogen ligger over eller under en specifik tærskel som f.eks. 16 år?

Nøjagtigheden måler, at når en persons data tilføjes datasættet, vil vedkommendes øjenbevægelser i 94,67 % af tilfældene korrekt kategorisere den aldersgruppe, de tilhører (ud af 12 grupper). At kunne afgøre om en person er over eller under 16 år er mindre krævende end at identificere en specifik aldersinterval. Dataene, der blev brugt i undersøgelsen, ekskluderede dog personer med synsforstyrrelser eller neurologiske tilstande, så yderligere validering skal inkludere personer med visse ikke‑funktionelle øjenbevægelser.

Kan du gennemgå, hvad der teknisk sker, når en udvikler kalder Theias aldersestimeringsfunktion, fra indfangning af øjenbevægelser med et almindeligt kamera til returnering af et aldersinterval, og forklare hvilke trin der foregår udelukkende på brugerens enhed?

Kameraet beregner først blikvektorer, som hjælper med at bestemme, hvor brugeren ser hen. Disse blikvektorer behandles derefter gennem vores SDK, hvor de omdannes til øjensporingsfunktioner, såsom hastighed (hvor hurtigt øjnene bevæger sig) og fikseringer (hvor øjnene fokuserer).

Når disse funktioner er genereret, føres de ind i vores ML‑ og AI‑algoritmer for at bestemme brugerens aldersinterval.

Hele denne behandling foregår i kanten og kan udføres direkte på brugerens enhed eller, afhængigt af implementeringsstrategien, i skyen. Ingen rå øjensporingsdata gemmes; de slettes straks efter hvert output er genereret.

Aldersestimeringssystemer kan fungere forskelligt afhængigt af lysforhold, kamera­kvalitet, briller, kontaktlinser, øjensygdomme, handicap, etnicitet og brugerens afstand til enheden. Hvordan tester I Theia på tværs af disse variable, og hvilket bevis vil udviklere modtage vedrørende nøjagtighed for forskellige befolkningsgrupper og miljøer?

Det er sandt, at aldersestimeringsnøjagtighed varierer afhængigt af forholdene. For at levere aldersgarantimodeller til den brede befolkning tester, validerer og rapporterer HarmonEyes resultaterne transparent, så Theia bruges ansvarligt. Dette omfatter udvidelse og generalisering af vores modeller ved hjælp af større og mere mangfoldige datasæt.

• Vi giver vejledning om nøjagtighedsrater, og om f.eks. lav dataprøvefrekvens påvirker aldersgarantiens output‑latens.
• Overvejelse og realtidsmonitorering af mange aspekter af datakvalitet.

Hvordan vil Theia forsvare sig mod omgåelsesforsøg som forudindspillede videoer, fotografier, syntetiske ansigter, en ældre søskende, der udfører kontrollen, eller en bruger, der bevidst ændrer sit blik, og vil livstidsdetektion blive indbygget direkte i software‑udviklingskittet?

Alle HarmonEyes aldersgarantimodeller vil indeholde livstidsdetektion og forfalskningskontrol. Øjenbevægelser er unikke for hver enkelt, og HarmonEyes kan afgøre, om øjenbevægelserne for en konto svarer til den person, der oprettede kontoen, eller om det er en anden person, f.eks. en ældre søskende.

Ingen aldersestimeringsmodel vil være fuldstændig præcis, især for brugere tæt på en lovmæssig tærskel. Hvordan bør udviklere håndtere usikre resultater, og forestiller du dig, at Theia bruges som den primære kontrol, som et risikosignal eller som en del af en lagdelt proces, der eskalerer visse brugere til en anden verifikationsmetode?

Ingen aldersestimeringsmodel er perfekt. Vi leverer et tillidsniveau sammen med hvert resultat. Dette niveau af nøjagtighed og tillid kan være tilstrækkeligt til at bekræfte aldersgaranti. Men hvis f.eks. tillidsniveauet for en specifik måling er under en vis grænse, kan det bruges som en udløser for en sekundær verifikation. Vores aldersgarantimodel kan anvendes som én af flere metoder til at validere en persons alder, hvor flere metoder skal bestås. Endelig vil risikotolerance og om brugsscenariet kræver en specifik alder, snarere end et aldersinterval, eller endda en aldersgrænse (fx 16 år eller yngre) afgøre, om løsningen er en primær kontrol eller en lagdelt proces.

HarmonEyes siger, at Theia behandler information i kanten og destruerer øjensporingsdata, så snart et output er leveret. Hvordan kan udviklere, revisorer eller regulatorer uafhængigt verificere denne arkitektur, og hvordan vil virksomheden forbedre sine modeller uden at indsamle rå øjensporingsdata fra implementerede applikationer?

Vores modeludviklingsproces og efterfølgende modelforbedring udføres inden for vores proprietære øjensporingspipeline. Vi bruger ikke kundedata til dette – vi anvender eksisterende (og voksende) validerede data.

Dette giver os mulighed for at levere vores løsninger i kanten (ingen cloud), hvis det ønskes. I sådanne kant‑baserede miljøer er beregning og lagring typisk begrænsede, og der er ingen mulighed for at gemme data på enheden. Vi leverer vores aldersgaranti‑output hvert sekund – og vores politik er at destruere øjensporingsdata hvert sekund (efter hvert output er leveret).

Vi anerkender, at arkitekturanpræg kun er så troværdige som evnen til at bekræfte dem eksternt. Vi forfølger tredjeparts‑certificeringer og attester, der er designet til at give udviklere, revisorer og regulatorer mulighed for at verificere, at øjensporingsdata hverken indsamles eller opbevares i implementerede applikationer.

Det Forenede Kongerige udvikler kriterier for yderst effektive kontroller, mens Den Europæiske Union lægger vægt på anonyme aldersbevis‑systemer, der afslører så lidt personlige oplysninger som muligt. Hvordan vil HarmonEyes demonstrere, at fysiologisk aldersestimering opfylder disse nye krav i stedet for blot at introducere en anden form for biometrisk overvågning?

Hver model, vi leverer, medfølger med et hvidbog, der dokumenterer udviklingsmetodologi, modelnøjagtighed og kendte begrænsninger, og vi gør Theia tilgængelig for live, fjern‑test, så regulatorer eller revisorer kan evaluere den faktiske ydeevne direkte.

Efterhånden som aldersgaranti bevæger sig fra individuelle sociale platforme til operativsystemer, app‑butikker og enhedsniveau‑infrastruktur, hvor mener du, at Theia bør placeres i den teknologiske stack, og hvordan vil ansvarlig adoption se ud på tværs af forbruger‑apps, spil, sociale medier og andre aldersbegrænsede tjenester?

Vi forfølger mange typer integrationer for vores aldersgarantifunktion. Vi forestiller os, at Theia opererer inden for en virksomheds private teknologiske stack, såsom en social medieplatform; inden for enheds‑infrastruktur, f.eks. et operativsystem; inden for handels‑infrastruktur, såsom et betalingsnetværk; eller direkte på app‑niveau.

For os betyder ansvarlig adoption, at levere en præcis aldersgaranti med gennemsigtighed i valideringsprocesserne, datas mangfoldighed i modellen, og at levere dette på en måde, der er privat og omkostningseffektiv at implementere.

Tak for det gode interview, læsere der ønsker at lære mere, bør besøge HarmonEyes.