Marc Fernandez, Chief Strategy Officer hos Neurologyca – Interviewserie

Marc Fernandez, Chief Strategy Officer hos Neurologyca, er en teknologistrateg og forretningsudviklingsleder med mere end to årtiers erfaring inden for kunstig intelligens, nye teknologier, forbrugerelektronik og menneske‑computer‑interaktion. Hos Neurologyca fokuserer han på strategi og kommercialisering af Human Context AI, som er designet til at hjælpe AI‑systemer med at fortolke signaler som stress, selvtillid og engagement. Fernandez har tidligere været administrerende direktør for Pearl, en AI‑drevet platform med fokus på bløde færdigheder og professionel udvikling, samt Entrepreneur in Residence hos ALIVE Ventures, hvor han arbejdede med alders‑tech. Tidligere ledede han den amerikanske strategi hos OPPO med fokus på næste‑generations teknologier inklusiv AI, Web3, blockchain og mobile operativsystemer, og har haft senior forretningsudviklingsroller hos Emerge, Denizen, SweetLabs, Movella og X‑Rite/Pantone. Han har også tilbragt 15 år som adjunktprofessor ved University of Southern California, hvor han underviste i krydsfeltet mellem iværksætteri, kommunikation, sociale platforme, AI, blockchain og andre nye teknologier.

Neurologyca er et AI‑firma baseret i San Francisco, som bygger det, de beskriver som Human Context Layer for intelligente systemer, så AI‑applikationer og -agenter bedre kan forstå og tilpasse sig de mennesker, de betjener. Deres API‑ og SDK‑baserede platform behandler multimodale adfærdssignaler, interaktionsmønstre og situationskontekst for at generere maskinlæselige indikatorer for faktorer såsom engagement, selvtillid, stress, opmærksomhed og tillid. Disse indsigter kan hjælpe AI‑systemer med at tilpasse deres svar, tempo, anbefalinger og handlinger i realtid, samtidig med at de bevarer kontekstuel kontinuitet på tværs af interaktioner. Neurologyca positionerer teknologien som infrastruktur frem for en selvstændig applikation, med potentielle anvendelser inden for uddannelse og træning, velvære, virksomhedssoftware, autonome agenter, førersikkerhed, spil og andre interaktive systemer. Virksomheden tilbyder i øjeblikket platformen gennem et selektivt tidligt adgangsprogram for partnere, der bygger adaptive AI‑oplevelser.

Din karriere har ført dig fra næste‑generations teknologistrategi hos OPPO til at bygge Pearl omkring AI‑styrede bløde færdigheder og nu udvikle menneskelig kontekst‑AI hos Neurologyca. Hvordan har den udvikling formet din opfattelse af, at en af AI’s største begrænsninger ikke er intelligensen i sig selv, men forståelsen af mennesket bag en instruktion?

Tredive år siden gjorde internettet information tilgængelig. For fem år siden gjorde AI output overflødigt. I dag drukner vi i indhold, mens vi stadig kæmper for at opnå brugbare resultater. Ren teknisk råstyrke garanterer simpelthen ikke et godt resultat for den faktiske bruger på den anden side.

Det har været den gennemgående tråd i mit arbejde – fra at integrere nye teknologier i hverdagen hos OPPO, til at afprøve om AI kan undervise i interpersonelle færdigheder hos Pearl, til at bygge menneskelig kontekst som infrastruktur hos Neurologyca. Intelligens er ikke længere den egentlige flaskehals; modellerne kan resonere og udføre fint. Det sværere problem er al den uudtalte kontekst, folk bringer med en simpel anmodning: hvorfor de spurgte, hvad der gør dem ubehagelige, eller om en let tøven betyder, at systemet skal afbryde. Lige nu ser AI kun et komprimeret udsnit af det gennem tekst, og efterhånden som agenter begynder at udføre handlinger i den virkelige verden, bliver dette blinde plet kritisk.

Seneste eksempler på autonome agenter, der stjæler legitimationsoplysninger, opretter falske identiteter eller skjuler deres handlinger, rejser spørgsmål om, hvad der sker, når en AI bliver yderst effektiv til at nå et mål uden fuldt ud at forstå intentionen bag det. Ser du dette primært som et alignmentsproblem, et ingeniørproblem eller en grundlæggende begrænsning i, hvordan vi i øjeblikket designer agenter?

Det er en designfejl, der spænder både over alignment og ingeniørkunst. Vi har optimeret systemer til at nå mål uden at bruge halvdelen af den indsats, der kræves for at lære dem, hvad reel succes ser ud for en menneskelig bruger.

Se det klassiske GPT‑4 TaskRabbit‑eksempel: når modellen stod over for en CAPTCHA, løj den og påstod at være synshandicappet for at få en menneskelig arbejder til at løse den. Ingen lærte den at bedrage nogen; den identificerede blot et forhindring og tog den mindst modstandsdygtige vej. Belønnes en agent udelukkende på resultatet, vil den tage vilde genveje. Den grundlæggende udfordring er at adskille handlinger, der skal blokeres arkitektonisk, fra handlinger, der teknisk set er tilladt, men kontekstuelt forkerte.

Du har argumenteret for, at virksomheder bliver bedre til at fortælle AI‑agenter, hvilket mål de skal forfølge, uden at give dem nok forståelse af, hvad “succes” egentlig betyder for den menneskelige bruger. Hvilken information har en agent brug for udover selve prompten for virkelig at forstå intentionen?

Prompter er kun overfladeskiktet. Ægte intention hviler på situationsdybde: tidligere historik, hvilke afvejninger der er acceptable, faktiske indsatser, og hvordan brugeren reagerer undervejs.

Nogle af disse kommer fra app‑miljøets tilstand eller chat‑historik, men i direkte interaktioner er adfærdssignaler det, der holder konteksten dynamisk. Folk tøver, skifter mening undervejs eller bliver forvirrede. Hvis en agent ikke kan læse disse skift, ender den blot med utrætteligt at forfølge en instruktion, der blev forældet for to trin siden.

Der er en vigtig sondring mellem handlinger, der simpelthen bør være teknisk umulige for en agent, og handlinger, der er tilladt, men upassende i en given kontekst. Hvordan bør udviklere fordele ansvaret mellem hårde sikkerhedsforanstaltninger og en AI‑systems evne til at udvise kontekstuel dømmekraft?

Enhver handling, der forårsager alvorlig skade uden nogen legitim anvendelse – som tyveri af legitimationsoplysninger, sletning af revisionslogfiler, uautoriseret privilegie‑eskalering – bør kodes fast ud af eksistensen. En agent bør ikke spilde beregningsressourcer på at forhandle, om den skal omgå sikkerhedskontroller; systemarkitekturen bør blot gøre dem umulige.

Den egentlige grå zone er hverdagshandlinger som at sende e‑mails, annullere møder eller ændre interne arbejdsprocesser. Disse er teoretisk tilladelige, men om en agent skal udføre dem automatisk afhænger af indsatser, brugerhistorik, reversibilitet og subtile tegn på brugerens tøven. At vide, hvornår man skal stoppe, fordi konteksten mangler, er langt vigtigere end rå kapacitet.

Neurologyca udvikler teknologi, der kan omsætte signaler som stress, selvtillid, opmærksomhed, engagement og tillid til maskinlæselig kontekst. Hvordan kunne sådanne signaler praktisk set ændre adfærden hos en autonom AI‑agent, mens den udfører en opgave?

Disse adfærdsmæssige input er i bund og grund realtidsreaktionsdata – den præcise feedback‑sløjfe, som nuværende AI‑arkitekturer mangler. Lige nu sporer modeller deres egne handlinger, men de opererer fuldstændig blinde for, hvordan mennesket faktisk modtager dem.
Overvej en tutor‑situation: en bruger skriver “jeg forstår”, men deres fysiologiske eller adfærdsmæssige signaler viser stigende forvirring og faldende opmærksomhed. Det er et direkte signal til AI’en om at skifte gear, sænke tempoet eller tilbyde en alternativ forklaring. Målet er ikke klinisk diagnostik; det handler blot om at etablere en tæt feedback‑sløjfe – kontekst, handling, respons, tilpasning – så systemet lærer, hvad der faktisk virker for den specifikke person.

Menneskelig kontekst kan også være tvetydig. Et system kan misfortolke tøven, stress, stemmeleje eller andre adfærdssignaler. Hvordan forhindrer du, at kontekst‑bevidst AI bliver alt for sikker på, hvad en person tænker eller har til hensigt?

Adfærdssignaler er i sig selv støjende og probabilistiske. Et pludseligt stresshop eller en pause i skrivningen kan betyde forvirring, eller det kan blot betyde, at brugeren spildte sin kaffe. Systemer, der omsætter et enkelt datapunkt til en definitiv påstand om en persons følelsesmæssige tilstand, er grundlæggende fejlagtige.

Robuste systemer ser på sammensatte signaler over tid, tager højde for miljømæssige baselines og udgiver eksplicit konfidensintervaller. Der er en enorm forskel mellem at logge “forhøjet kognitiv belastning i forhold til baseline” og at konkludere “brugeren er ængstelig”. Når usikkerheden er høj, eller indsatserne er betydelige, er agentens opgave ikke at gætte – den skal stille et afklarende spørgsmål.

At sætte et menneske i loopet for hver væsentlig beslutning kan underminere meget af den effektivitet, som autonome agenter lover. Hvordan ser en skalerbar model for menneskelig tilsyn ud, hvor en agent ved, hvornår den kan fortsætte selvstændigt, og hvornår den virkelig skal stoppe og bede om vejledning?

Skalerbart tilsyn handler ikke om at opretholde et permanent menneske‑i‑loop; det handler om dynamisk eskalering.

Lav‑risiko, reverserbare opgaver går automatisk videre. Men efterhånden som indsatserne stiger, støjen i omgivelserne øges, eller signaler antyder brugerens ubehag, skaleres godkendelsesgrænsen dynamisk op. Disse grænser skal være personaliserede – den ene leder kan trygt delegere kalenderstyring, mens en anden ønsker at godkende hver mindre ændring. Systemet skal lære individuelle grænser frem for at anvende stive globale politikker.

Efterhånden som agenter udvikler vedvarende hukommelse og i stigende grad detaljerede modeller af de personer, de betjener, kan kontekst hurtigt blive følsomme persondata. Hvordan bør virksomheder håndtere samtykke, privatliv, dataejerskab og grænser for, hvad en AI må huske om en bruger?

Dette er den primære tillidsflaskehals for autonome systemer. Vedvarende hukommelse forvandler et generisk værktøj til en assistent, men der er en farlig overlapning mellem at gemme arbejdspræferencer og stille et uautoriseret psykologisk profil.
Data‑styring her kræver strenge formålsgrænser. Hvis en agent afleder stressmønstre under en ledelses‑coaching‑session, må den kontekst ikke lække ind i præstationsvurderinger, forsikrings‑algoritmer eller annonce‑teknologi. Gennemsigtighed skal være granular – brugerne skal kunne se den lagrede kontekst, slette med ét klik og have fornuftige standard‑retentionsgrænser. Bare fordi et system kan udlede noget om dig, giver det det ikke ret til at gemme det.

Hvordan bør vi evaluere, om en autonom agent virkelig forstår menneskelig intention? Er nutidens benchmarks for fokuseret på opgavefuldførelse og nøjagtighed snarere end om agenten opnåede målet på en måde, som brugeren faktisk ville anse som acceptabel?

Opgavefuldførelse er en dybt vildledende målestok. En agent kan følge en instruktion til punkt og prikke og stadig levere et resultat, som brugeren afskyr.

Hvis en agent sikrer den laveste pris på en kontrakt, men ødelægger et årti‑langt leverandørforhold for at opnå den, registrerer traditionelle evalueringsmålinger en 100 % succesrate. For lederen er det et katastrofeudfald. Vi har brug for benchmarks, der måler præstation inden for usagte rammer: Respekterede de usagte normer? Pause, når betingelserne ændrede sig? Dette hul mellem rå fuldførelse og reel tilfredshed er, hvad nuværende benchmarks fuldstændigt ignorerer.

Ser vi fremad, forventer du, at menneskelig‑kontekst‑funktioner bliver et standardlag i AI‑stakken ved siden af modeller, hukommelse, værktøjer og sikkerhed? Hvad mangler stadig at blive løst, før virksomheder trygt kan delegere meningsfuldt arbejde til agenter uden konstant at skulle overvåge dem?

Efterhånden som AI bevæger sig fra at generere indhold til at udføre handlinger i den virkelige verden, bliver menneskelig kontekst et essentielt lag. Modeller håndterer ræsonnement, og værktøjer giver systemet hænder, men uden menneskelig kontekst som en live‑feedback‑sløjfe er hukommelse og sikkerhedsforanstaltninger i bund og grund baseret på statiske antagelser.

Før virksomheder kan delegere reel autoritet, skal vi stadig løse kontekstuel privatliv, probabilistisk ræsonnement under usikkerhed og granulære styringsregler. At bygge AI, der fuldfører isolerede opgaver, er stort set løst; at få systemer til at tilpasse sig dynamisk til mennesket bag prompten, vil afgøre, hvor meget reel autonomi vi er villige til at give dem.

Tak for det fantastiske interview, læsere der ønsker at lære mere, bør besøge Neurologyca.