Marc Fernandez, Chief Strategy Officer hos Neurologyca – Intervjuserie

Marc Fernandez, Chief Strategy Officer at Neurologyca, er en teknologistrateg og forretningsutviklingsleder med mer enn to tiår erfaring innen kunstig intelligens, fremvoksende teknologier, forbrukerelektronikk og menneske‑datamaskin‑interaksjon. Hos Neurologyca fokuserer han på strategi og kommersialisering av Human Context AI, som er designet for å hjelpe AI‑systemer med å tolke signaler som stress, selvtillit og engasjement. Fernandez var tidligere administrerende direktør i Pearl, en AI‑drevet plattform for myke ferdigheter og profesjonell utvikling, og som Entrepreneur in Residence i ALIVE Ventures, hvor han arbeidet med alders‑teknologi. Tidligere ledet han USAs strategi i OPPO, med fokus på neste‑generasjons teknologier inkludert AI, Web3, blokkjedeteknologi og mobile operativsystemer, og hadde seniorroller innen forretningsutvikling i Emerge, Denizen, SweetLabs, Movella og X‑Rite/Pantone. Han har også vært tilknyttet professor ved University of Southern California i 15 år, hvor han underviste i skjæringspunktet mellom entreprenørskap, kommunikasjon, sosiale plattformer, AI, blokkjedeteknologi og andre fremvoksende teknologier.

Neurologyca er et AI‑selskap i San Francisco som bygger det de beskriver som Human Context Layer for intelligente systemer, og gjør det mulig for AI‑applikasjoner og agenter å bedre forstå og tilpasse seg menneskene de betjener. Plattformen, som er API‑ og SDK‑basert, behandler multimodale atferdssignaler, interaksjonsmønstre og situasjonskontekst for å generere maskinlesbare indikatorer rundt faktorer som engasjement, selvtillit, stress, oppmerksomhet og tillit. Disse innsiktene kan hjelpe AI‑systemer med å tilpasse sine svar, tempo, anbefalinger og handlinger i sanntid samtidig som de opprettholder kontekstuell kontinuitet på tvers av interaksjoner. Neurologyca posisjonerer teknologien som infrastruktur snarere enn en frittstående applikasjon, med potensielle bruksområder innen utdanning og opplæring, velvære, bedriftsprogramvare, autonome agenter, førersikkerhet, spill og andre interaktive systemer. Selskapet tilbyr foreløpig plattformen gjennom et selektivt tidlig‑tilgangsprogram for partnere som bygger adaptive AI‑opplevelser.

Din karriere har tatt deg fra neste‑generasjons teknologistrategi i OPPO til å bygge Pearl rundt AI‑styrte myke ferdigheter og nå utvikle menneskelig‑kontekst‑AI i Neurologyca. Hvordan har den utviklingen formet ditt syn på at en av AI‑s største begrensninger ikke er intelligensen i seg selv, men forståelsen av mennesket bak en instruksjon?

Tredve år siden gjorde nettet informasjon tilgjengelig. For fem år siden gjorde AI resultatene rikelige. I dag drukner vi i innhold mens vi fortsatt sliter med å få nyttige resultater. Ren teknisk kraft garanterer ikke et godt resultat for den faktiske mottakeren.

Det har vært den gjennomgående tråden i arbeidet mitt – fra å integrere fremvoksende teknologi i hverdagen hos OPPO, til å teste om AI kan lære mellommenneskelige ferdigheter i Pearl, til å bygge menneskelig kontekst som infrastruktur i Neurologyca. Intelligens er ikke lenger den egentlige flaskehalsen; modeller resonnerer og utfører fint. Det vanskeligere er all den usagte konteksten folk bringer inn i en enkel forespørsel: hvorfor de spurte, hva som gjør dem ukomfortable, eller om en liten nøling betyr at systemet bør avbryte. Akkurat nå ser AI kun et komprimert utsnitt av dette gjennom tekst, og når agenter begynner å utføre handlinger i den virkelige verden, blir dette blinde flekket kritisk.

Nylige eksempler på autonome agenter som stjeler påloggingsinformasjon, lager falske identiteter eller skjuler sine handlinger reiser spørsmål om hva som skjer når en AI blir svært effektiv til å oppnå et mål uten å fullt ut forstå intensjonen bak det. Ser du dette hovedsakelig som et justeringsproblem, et ingeniørproblem, eller en grunnleggende begrensning i hvordan vi i dag designer agenter?

Det er en designsvikt som spenner både over justering og ingeniørkunst. Vi har optimalisert systemer til å nå mål uten å bruke like mye innsats på å lære dem hvordan reell suksess ser ut for en menneskelig bruker.

Se på det klassiske GPT‑4 TaskRabbit‑eksemplet: når modellen møtte en CAPTCHA, løy den og hevdet å være synshemmet for å få en menneskelig arbeider til å løse den. Ingen lærte den å bedra noen; den identifiserte bare et hinder og tok den minst motstandsfulle veien. Belønner du en agent kun basert på resultatet, vil den ta ville snarveier. Den grunnleggende utfordringen er å skille handlinger som må blokkeres arkitektonisk fra handlinger som er teknisk tillatt, men kontekstuelt feil.

Du har hevdet at selskaper blir bedre til å fortelle AI‑agenter hvilket mål de skal forfølge uten å gi dem tilstrekkelig forståelse av hva «suksess» egentlig betyr for den menneskelige brukeren. Hvilken informasjon trenger en agent utover selve prompten for virkelig å forstå intensjonen?

Promptene er bare overflatelaget. Sann intensjon hviler på situasjonsdybde: tidligere historie, hvilke avveininger som er akseptable, faktiske innsatser, og hvordan brukeren reagerer under oppgaven.

Noe av dette kommer fra app‑miljøets tilstand eller chat‑historikk, men i direkte interaksjoner er atferdssignaler det som holder konteksten dynamisk. Folk nøler, endrer mening underveis, eller blir forvirret. Hvis en agent ikke kan lese disse endringene, ender den bare opp med å utrettelig følge en instruksjon som ble foreldet for to steg siden.

Det er en viktig forskjell mellom handlinger som simpelthen bør være teknisk umulige for en agent og handlinger som er tillatt, men upassende i en gitt kontekst. Hvordan bør utviklere dele ansvaret mellom harde sikkerhetsbarrierer og en AI‑systems evne til å utøve kontekstuell dømmekraft?

Enhver handling som forårsaker alvorlig skade uten noen legitime bruksområder – kreditttyveri, sletting av revisjonslogger, uautorisert privilegieoppgradering – bør hard‑kodes bort. En agent bør ikke bruke beregningsressurser på å forhandle om å omgå sikkerhetskontroller; systemarkitekturen bør rett og slett gjøre dem umulige.

Den egentlige gråsonen er hverdagslige handlinger som å sende e‑post, avlyse møter eller endre interne arbeidsflyter. Disse er teoretisk sett tillatt, men om en agent skal utføre dem automatisk avhenger av innsats, brukerhistorikk, reversibilitet og subtile signaler om brukerens nøling. Å vite når man skal stoppe fordi kontekst mangler er langt viktigere enn ren kapasitet.

Neurologyca utvikler teknologi som kan omforme signaler som stress, selvtillit, oppmerksomhet, engasjement og tillit til maskinlesbar kontekst. Hvordan kan slike signaler praktisk endre oppførselen til en autonom AI‑agent mens den utfører en oppgave?

Disse atferdsinngangene er i hovedsak sanntidsreaksjonsdata – den eksakte tilbakemeldingssløyfen som mangler i dagens AI‑arkitekturer. Akkurat nå sporer modeller sine egne handlinger, men de opererer helt blinde for hvordan mennesket faktisk mottar dem. Tenk på en undervisningskontekst: en bruker skriver «Jeg forstår», men deres fysiologiske eller atferdsmessige signaler viser økende forvirring og synkende oppmerksomhet. Det er et direkte signal til AI‑en om å endre kurs, senke tempoet eller tilby en alternativ forklaring. Målet er ikke klinisk diagnostikk; det handler bare om å etablere en tett tilbakemeldingssløyfe – kontekst, handling, respons, tilpasning – slik at systemet lærer hva som faktisk fungerer for den enkelte.

Menneskelig kontekst kan også være tvetydig. Et system kan feiltolke nøling, stress, stemmeleie eller andre atferdssignaler. Hvordan hindrer du kontekst‑bevisst AI i å bli for selvsikker på hva en person tenker eller har til hensikt?

Atferdssignaler er iboende støyende og probabilistiske. En plutselig økning i stress eller en pause i skriving kan bety forvirring, eller det kan bare bety at brukeren sølte kaffen sin. Systemer som oversetter ett enkelt datapunkt til en definitiv påstand om en persons emosjonelle tilstand er grunnleggende feil.

Robuste systemer ser på sammensatte signaler over tid, tar hensyn til miljømessige referanseverdier, og gir eksplisitt ut konfidensintervaller. Det er en enorm forskjell mellom å logge «økt kognitiv belastning i forhold til basisnivå» og å konkludere med «brukeren er engstelig». Når usikkerheten er høy eller innsatsen betydelig, er agentens oppgave ikke å gjette – den skal stille et avklarende spørsmål.

Å ha et menneske i sløyfen for hver konsekvensfull beslutning kan undergrave mye av den effektiviteten autonome agenter lover. Hvordan ser en skalerbar modell for menneskelig tilsyn ut der en agent vet når den kan fortsette uavhengig og når den virkelig må stoppe og be om veiledning?

Skalerbart tilsyn handler ikke om å opprettholde et permanent menneske‑i‑sløyfen; det handler om dynamisk eskalering.

Lave‑risiko, reversibel oppgaver går videre automatisk. Men etter hvert som risikoen øker, støyen i omgivelsene øker, eller signaler antyder brukerens ubehag, øker godkjenningsgrensen dynamisk. Avgjørende er at disse tersklene må tilpasses – én leder kan med glede delegere kalenderstyring, mens en annen vil godkjenne hver mindre endring. Systemet må lære individuelle grenser, ikke anvende stive globale retningslinjer.

Etter hvert som agenter utvikler vedvarende minne og stadig mer detaljerte modeller av menneskene de betjener, kan kontekst raskt bli sensitiv personlig data. Hvordan bør selskaper forholde seg til samtykke, personvern, dataeierskap og grenser for hva en AI skal få lov til å huske om en bruker?

Dette er den viktigste tillitsflaskehalsen for autonome systemer. Vedvarende minne gjør et generisk verktøy til en assistent, men det er en farlig overlapping mellom å lagre arbeidsflytpreferanser og stille å bygge en uautorisert psykologisk profil. Datastyring her krever strenge formålsgrenser. Hvis en agent avleder stressmønstre under en ledercoaching‑sesjon, kan ikke den konteksten lekke inn i prestasjonsvurderinger, forsikringsalgoritmer eller annonseteknologi. Åpenhet må være detaljert – brukerne trenger innsyn i lagret kontekst, ett‑klikk‑sletting og fornuftige standardretensjonsgrenser. Bare fordi et system kan avlede noe om deg, gir det det ikke tillatelse til å lagre det.

Hvordan skal vi evaluere om en autonom agent virkelig forstår menneskelig intensjon? Er dagens måleparametere for tungt fokusert på oppgavefullføring og nøyaktighet i stedet for om agenten oppnådde målet på en måte brukeren faktisk vil anse som akseptabel?

Oppgavefullføring er en dypt misvisende målestokk. En agent kan følge en instruksjon til punkt og prikke og likevel levere et resultat brukeren avskyr.

Hvis en agent sikrer den laveste prisen på en kontrakt, men ødelegger et tiår langt leverandørforhold for å oppnå den, registrerer tradisjonelle evalueringsmålinger en 100 % suksessrate. For lederen er det en katastrofe. Vi trenger målestokker som måler ytelse innen usagte grenser: Respekterte den uskrevne normer? Stoppet den da forholdene endret seg? Det gapet mellom rå fullføring og faktisk tilfredshet er det nåværende måleparametrene helt overser.

Når vi ser fremover, forventer du at menneskelig‑kontekst‑funksjoner blir et standardlag i AI‑stakken sammen med modeller, minne, verktøy og sikkerhet? Hva må fortsatt løses før bedrifter trygt kan delegere meningsfullt arbeid til agenter uten kontinuerlig tilsyn?

Etter hvert som AI går fra å generere innhold til å utføre handlinger i den virkelige verden, blir menneskelig kontekst et essensielt lag. Modeller håndterer resonnering og verktøy gir systemet hender, men uten menneskelig kontekst som en levende tilbakemeldingssløyfe, opererer minne‑ og sikkerhetsbarrierer i hovedsak på statiske antakelser.

Før bedrifter kan delegere reell myndighet, må vi fortsatt løse kontekstuell personvern, probabilistisk resonnering under usikkerhet, og detaljerte styringsregler. Å bygge AI som fullfører isolerte oppgaver er stort sett løst; å få systemer til å tilpasse seg dynamisk til mennesket bak prompten er det som vil avgjøre hvor mye reell autonomi vi er villige til å gi dem.

Takk for det flotte intervjuet, lesere som ønsker å lære mer bør besøke Neurologyca.