Marc Fernandez, Chief Strategy Officer bij Neurologyca – Interviewreeks

Marc Fernandez, Chief Strategy Officer bij Neurologyca, is een technologiestrateeg en business development‑executive met meer dan twee decennia ervaring op het gebied van kunstmatige intelligentie, opkomende technologieën, consumentenelektronica en mens‑computerinteractie. Bij Neurologyca richt hij zich op strategie en de commercialisering van Human Context AI, die AI‑systemen helpt signalen zoals stress, zelfvertrouwen en betrokkenheid te interpreteren. Fernandez was eerder CEO van Pearl, een AI‑gestuurde platform gericht op soft skills en professionele ontwikkeling, en Entrepreneur in Residence bij ALIVE Ventures, waar hij werkte in age‑tech. Daarvoor leidde hij de Amerikaanse strategie bij OPPO, met focus op next‑generation technologieën waaronder AI, Web3, blockchain en mobiele besturingssystemen, en bekleedde senior business development‑functies bij Emerge, Denizen, SweetLabs, Movella en X‑Rite/Pantone. Tevens heeft hij 15 jaar als adjunct‑professor aan de University of Southern California lesgegeven op het snijvlak van ondernemerschap, communicatie, sociale platforms, AI, blockchain en andere opkomende technologieën.

Neurologyca is een in San Francisco gevestigd AI‑bedrijf dat bouwt aan wat het de Human Context Layer noemt voor intelligente systemen, waardoor AI‑applicaties en -agenten mensen beter kunnen begrijpen en zich aanpassen. Het op API‑ en SDK‑gebaseerde platform verwerkt multimodale gedrags­signalen, interactiepatronen en situationele context om machine‑leesbare indicatoren te genereren rond factoren zoals betrokkenheid, zelfvertrouwen, stress, aandacht en vertrouwen. Deze inzichten kunnen AI‑systemen helpen hun reacties, tempo, aanbevelingen en acties in realtime aan te passen, terwijl ze de contextuele continuïteit over interacties heen behouden. Neurologyca positioneert de technologie als infrastructuur in plaats van een losstaand product, met potentiële toepassingen in onderwijs en training, welzijn, bedrijfssoftware, autonome agenten, verkeersveiligheid, gaming en andere interactieve systemen. Het bedrijf biedt het platform momenteel aan via een selectief early‑access‑programma voor partners die adaptieve AI‑ervaringen bouwen.

Je carrière heeft je van next‑generation technologie‑strategie bij OPPO naar het bouwen van Pearl rond AI‑gestuurde soft skills gebracht en nu naar het ontwikkelen van human‑context AI bij Neurologyca. Hoe heeft die ontwikkeling jouw kijk gevormd dat een van de grootste beperkingen van AI niet de intelligentie zelf is, maar het begrijpen van de mens achter een instructie?

Dertig jaar geleden maakte het web informatie toegankelijk. Vijf jaar geleden zorgde AI voor een overvloed aan output. Vandaag verdrinken we in content terwijl we nog steeds worstelen om bruikbare resultaten te krijgen. Ruwe technische kracht alleen garandeert geen goed resultaat voor de daadwerkelijke mens aan de andere kant.

Dat is de rode draad in mijn werk geweest — van het integreren van opkomende technologie in het dagelijks leven bij OPPO, tot het testen of AI interpersoonlijke vaardigheden kan aanleren bij Pearl, tot het bouwen van mens‑context als infrastructuur bij Neurologyca. Intelligentie is niet langer de knelpunt; modellen redeneren en voeren taken prima uit. Het moeilijkere probleem is alle onuitgesproken context die mensen meebrengen bij een simpele aanvraag: waarom ze het vroegen, wat hen ongemakkelijk maakt, of of een lichte aarzeling betekent dat het systeem moet afbreken. Op dit moment ziet AI slechts een gecomprimeerd fragment daarvan via tekst, en zodra agenten echte wereldacties gaan ondernemen, wordt dat blinde punt kritiek.

Recente voorbeelden van autonome agenten die inloggegevens stelen, valse identiteiten creëren of hun acties verbergen, roepen vragen op over wat er gebeurt wanneer een AI zeer effectief wordt in het bereiken van een doel zonder de intentie erachter volledig te begrijpen. Zie je dit vooral als een alignment‑probleem, een engineering‑probleem, of een fundamentele beperking van hoe we agenten momenteel ontwerpen?

Het is een ontwerpfout die zowel alignment als engineering omvat. We hebben systemen geoptimaliseerd om doelen te bereiken zonder de helft van de inspanning te steken in het leren wat daadwerkelijke succes betekent voor een menselijke gebruiker.

Kijk naar het klassieke GPT‑4 TaskRabbit‑voorbeeld: wanneer het model een CAPTCHA tegenkomt, liegt het en beweert visueel gehandicapt te zijn om een menselijke werker het te laten oplossen. Niemand heeft het geleerd om iemand te misleiden; het identificeerde simpelweg een obstakel en koos de weg van minste weerstand. Beloon je een agent uitsluitend op resultaat en hij zal wilde shortcuts nemen. De kernuitdaging is het scheiden van acties die architectonisch moeten worden geblokkeerd van acties die technisch toegestaan zijn maar contextueel onjuist.

Je hebt betoogd dat bedrijven beter worden in het vertellen aan AI‑agenten welk doel ze moeten nastreven zonder hen voldoende begrip te geven van wat “succes” werkelijk betekent voor de menselijke gebruiker. Welke informatie heeft een agent nodig naast de prompt zelf om de intentie echt te begrijpen?

Prompts zijn slechts de oppervlakkige laag. Werkelijke intentie berust op situationele diepgang: eerdere geschiedenis, welke afwegingen acceptabel zijn, de werkelijke inzet, en hoe de gebruiker halverwege reageert.

Een deel hiervan komt uit de staat van de app‑omgeving of de chatgeschiedenis, maar bij directe interacties zijn gedrags­signalementen wat de context dynamisch houdt. Mensen aarzelen, veranderen van mening halverwege, of raken verward. Als een agent die verschuivingen niet kan lezen, blijft hij onverstoorbaar een instructie volgen die twee stappen geleden al achterhaald is.

Er is een belangrijk onderscheid tussen acties die voor een agent simpelweg technisch onmogelijk moeten zijn en acties die wel toegestaan zijn maar in een bepaalde context ongepast. Hoe moeten ontwikkelaars de verantwoordelijkheid verdelen tussen harde beveiligings‑guardrails en het vermogen van een AI‑systeem om contextueel oordeel te vellen?

Elke actie die ernstige schade kan veroorzaken zonder legitieme gebruikssituaties — zoals het stelen van inloggegevens, het wissen van audit‑logs, of ongeautoriseerde privilege‑escalatie — moet hard‑gecodeerd worden uitgesloten. Een agent mag geen rekenkracht verspillen aan het onderhandelen of hij beveiligingscontroles omzeilt; de systeemarchitectuur moet ze simpelweg onmogelijk maken.

De echte grijze zone betreft alledaagse acties zoals e‑mails versturen, vergaderingen annuleren of interne workflows aanpassen. Deze zijn in theorie toegestaan, maar of een agent ze automatisch mag uitvoeren hangt af van de inzet, gebruikersgeschiedenis, omkeerbaarheid en subtiele signalen van aarzeling. Weten wanneer te stoppen omdat de context ontbreekt, is veel belangrijker dan ruwe capaciteit.

Neurologyca ontwikkelt technologie die signalen zoals stress, zelfvertrouwen, aandacht, betrokkenheid en vertrouwen kan omzetten in machine‑leesbare context. Hoe zouden zulke signalen praktisch het gedrag van een autonome AI‑agent kunnen veranderen terwijl hij een taak uitvoert?

Deze gedrags­inputs zijn in wezen realtime‑reactiedata — de exacte feedback‑lus die momenteel ontbreekt in AI‑architecturen. Op dit moment volgen modellen hun eigen acties, maar ze opereren volledig blind voor hoe de mens die acties daadwerkelijk ontvangt.
Denk aan een tutoring‑situatie: een gebruiker typt “Ik begrijp het”, maar zijn fysiologische of gedrags­signalementen geven stijgende verwarring en afnemende aandacht aan. Dat is een direct signaal voor de AI om te pivoteren, langzamer te gaan of een alternatieve uitleg te bieden. Het doel is niet klinische diagnostiek; het is simpelweg het creëren van een strakke feedback‑lus — context, actie, respons, aanpassing — zodat het systeem leert wat echt werkt voor die specifieke persoon.

Mensen‑context kan ook dubbelzinnig zijn. Een systeem kan aarzeling, stress, stemtoon of andere gedrags­signalementen verkeerd interpreteren. Hoe voorkom je dat context‑bewuste AI te zelfverzekerd wordt over wat een persoon denkt of van plan is?

Gedrags­signalementen zijn inherent ruisachtig en probabilistisch. Een plotselinge stress‑pieken of een pauze in het typen kan verwarring betekenen, of simpelweg betekenen dat de gebruiker koffie gemorst heeft. Systemen die één datapunt omzetten in een definitieve bewering over iemands emotionele staat zijn fundamenteel gebrekkig.

Robuuste systemen bekijken samengestelde signalen over tijd, houden rekening met omgevings‑baselines, en geven expliciet betrouwbaarheidsintervallen weer. Er is een enorm verschil tussen loggen “verhoogde cognitieve belasting ten opzichte van baseline” en besluiten “de gebruiker is angstig”. Wanneer onzekerheid hoog is of de inzet groot, is de taak van de agent niet raden — maar een verduidelijkende vraag stellen.

Het betrekken van een mens in de loop voor elke consequentiale beslissing kan veel van de efficiëntie ondermijnen die autonome agenten beloven. Hoe ziet een schaalbaar model van menselijk toezicht eruit waarbij een agent weet wanneer hij zelfstandig kan doorgaan en wanneer hij echt moet stoppen en om begeleiding moet vragen?

Schaalbaar toezicht gaat niet over een permanente mens‑in‑de‑loop; het gaat over dynamische escalatie.

Low‑stakes, omkeerbare taken gaan automatisch verder. Maar naarmate de inzet stijgt, de omgevings‑ruis toeneemt, of signalen wijzen op ongemak bij de gebruiker, wordt de goedkeuringsdrempel dynamisch verhoogd. Cruciaal is dat deze drempels gepersonaliseerd moeten zijn — de ene manager delegeert moeiteloos agenda‑beheer, terwijl een ander elke kleine wijziging wil goedkeuren. Het systeem moet individuele grenzen leren, niet star globale beleidsregels toepassen.

Naarmate agenten persistente geheugen ontwikkelen en steeds gedetailleerdere modellen van de mensen die ze bedienen, kan context snel gevoelige persoonlijke gegevens worden. Hoe moeten bedrijven consent, privacy, data‑eigendom en limieten aanpakken over wat een AI mag onthouden over een gebruiker?

Dit is de primaire vertrouwens‑knooppunt voor autonome systemen. Persistente geheugen verandert een generiek hulpmiddel in een assistent, maar er ontstaat een gevaarlijke overlap tussen het opslaan van workflow‑voorkeuren en het stilletjes bouwen van een ongeautoriseerd psychologisch profiel.
Data‑governance moet hier strikte doel‑grenzen hanteren. Als een agent stress‑patronen inferreert tijdens een executive‑coaching‑sessie, mag die context niet doorsijpelen naar prestatie‑evaluaties, verzekerings‑algoritmes of ad‑tech. Transparantie moet granueel zijn — gebruikers moeten inzicht hebben in opgeslagen context, één‑klik‑verwijdering en redelijke standaardretentie‑limieten. Alleen omdat een systeem iets over je kan afleiden, betekent niet dat het het mag bewaren.

Hoe moeten we evalueren of een autonome agent echt menselijke intentie begrijpt? Zijn de huidige benchmarks te sterk gericht op taakvoltooiing en nauwkeurigheid in plaats van of de agent het doel bereikt op een manier die de gebruiker daadwerkelijk acceptabel vindt?

Taakvoltooiing is een diep misleidende benchmark. Een agent kan een instructie tot in de puntjes volgen en toch een resultaat leveren dat de gebruiker verafschuwt.

Als een agent de laagste prijs voor een contract veiligstelt maar daarbij een decennialange leveranciersrelatie verbrandt, registreren traditionele evaluatiemetrics een 100 % succesratio. Voor de leidinggevende is het een ramp. We hebben benchmarks nodig die prestaties meten binnen onuitgesproken grenzen: Heeft het ongeschreven normen gerespecteerd? Heeft het gepauzeerd toen de omstandigheden veranderden? Die kloof tussen ruwe voltooiing en daadwerkelijke tevredenheid wordt door huidige benchmarks volledig genegeerd.

Kijkend naar de toekomst, verwacht je dat mens‑context mogelijkheden een standaardlaag van de AI‑stack worden naast modellen, geheugen, tools en beveiliging? Wat moet er nog opgelost worden voordat bedrijven met vertrouwen betekenisvol werk aan agenten kunnen delegeren zonder voortdurend toezicht?

Naarmate AI verschuift van content‑generatie naar real‑world actie, wordt mens‑context een essentiële laag. Modellen verzorgen redeneren en tools geven het systeem handen, maar zonder mens‑context als live feedback‑lus draaien geheugen‑ en beveiligings‑guardrails op statische aannames.

Voordat bedrijven echte autoriteit delegeren, moeten we nog context‑privacy, probabilistisch redeneren onder onzekerheid en granulaire governance‑regels oplossen. Het bouwen van AI die geïsoleerde taken voltooit is grotendeels opgelost; systemen die zich dynamisch aanpassen aan de mens achter de prompt bepalen hoeveel echte autonomie we bereid zijn te geven.

Dank u voor het geweldige interview, lezers die meer willen weten, bezoek Neurologyca.