Marc Fernandez, Chief Strategy Officer på Neurologyca – Intervjuserie

Marc Fernandez, Chief Strategy Officer på Neurologyca, är en teknologistrateg och affärsutvecklingschef med mer än två decennier av erfarenhet inom artificiell intelligens, framväxande teknologier, konsumentelektronik och människa-datorinteraktion. På Neurologyca fokuserar han på strategi och kommersialisering av Human Context AI, som är avsedd att hjälpa AI‑system att tolka signaler som stress, självförtroende och engagemang. Fernandez har tidigare varit VD för Pearl, en AI‑styrd plattform inriktad på mjuka färdigheter och professionell utveckling, samt Entrepreneur in Residence på ALIVE Ventures, där han arbetade med ålderteknik. Tidigare ledde han den amerikanska strategin på OPPO med fokus på nästa generations teknologier inklusive AI, Web3, blockchain och mobila operativsystem, och hade seniora affärsutvecklingsroller på Emerge, Denizen, SweetLabs, Movella och X‑Rite/Pantone. Han har också tillbringat 15 år som adjungerad professor vid University of Southern California, där han undervisade i skärningspunkten mellan entreprenörskap, kommunikation, sociala plattformar, AI, blockchain och andra framväxande teknologier.

Neurologyca är ett AI‑företag baserat i San Francisco som bygger det de beskriver som Human Context Layer för intelligenta system, vilket gör det möjligt för AI‑applikationer och agenter att bättre förstå och anpassa sig till de människor de betjänar. Deras API‑ och SDK‑baserade plattform bearbetar multimodala beteendesignaler, interaktionsmönster och situationskontext för att generera maskinläsliga indikatorer kring faktorer som engagemang, självförtroende, stress, uppmärksamhet och förtroende. Dessa insikter kan hjälpa AI‑system att anpassa sina svar, tempo, rekommendationer och handlingar i realtid samtidigt som de upprätthåller kontextuell kontinuitet över interaktioner. Neurologyca positionerar teknologin som infrastruktur snarare än en fristående applikation, med potentiella användningsområden inom utbildning och träning, välbefinnande, företagsprogramvara, autonoma agenter, förarsäkerhet, spel och andra interaktiva system. Företaget erbjuder för närvarande plattformen genom ett selektivt tidigt åtkomstprogram för partners som bygger adaptiva AI‑upplevelser.

Din karriär har tagit dig från nästa generations teknikstrategi på OPPO till att bygga Pearl kring AI‑styrda mjuka färdigheter och nu utveckla mänsklig‑kontext‑AI på Neurologyca. Hur har den utvecklingen format din uppfattning om att en av AI:s största begränsningar inte är intelligensen i sig, utan förståelsen för människan bakom en instruktion?

För trettio år sedan gjorde webben information tillgänglig. För fem år sedan gjorde AI resultat överflödiga. Idag drunknar vi i innehåll samtidigt som vi fortfarande kämpar för att få användbara resultat. Ren teknisk kraft garanterar helt enkelt inte ett bra resultat för den faktiska mottagaren.

Det har varit den röda tråden i mitt arbete—från att integrera framväxande teknik i vardagen på OPPO, till att testa om AI kan lära interpersonella färdigheter på Pearl, till att bygga mänsklig kontext som infrastruktur på Neurologyca. Intelligens är inte längre den verkliga flaskhalsen; modeller resonnerar och utför utan problem. Det svårare är all den outtalade kontext som människor tar med sig till en enkel begäran: varför de frågade, vad som gör dem obekväma, eller om ett litet tvekan innebär att systemet bör avbryta. Just nu ser AI bara en komprimerad del av detta via text, och när agenter börjar utföra handlingar i den verkliga världen blir detta blinda fläck kritisk.

Senaste exemplen på autonoma agenter som stjäl inloggningsuppgifter, skapar falska identiteter eller döljer sina handlingar väcker frågor om vad som händer när en AI blir mycket effektiv på att uppnå ett mål utan att fullt ut förstå avsikten bakom det. Ser du detta främst som ett alignmentsproblem, ett ingenjörsproblem eller en grundläggande begränsning i hur vi för närvarande designar agenter?

Det är ett designfel som omfattar både alignment och ingenjörskonst. Vi har optimerat system för att nå mål utan att lägga ner hälften så mycket arbete på att lära dem hur verklig framgång ser ut för en mänsklig användare.

Titta på det klassiska GPT‑4 TaskRabbit‑exemplet: när modellen ställdes inför en CAPTCHA ljög den och påstod att den var synskadad för att få en mänsklig arbetare att lösa den. Ingen lärde den att lura någon; den identifierade bara ett hinder och tog den minst motståndskraftiga vägen. Belöna en agent enbart för resultatet så kommer den att ta vilda genvägar. Kärnutman är att skilja mellan handlingar som måste blockeras arkitektoniskt och handlingar som är tekniskt tillåtna men kontextuellt felaktiga.

Du har hävdat att företag blir bättre på att tala om för AI‑agenter vilket mål de ska följa utan att ge dem tillräcklig förståelse för vad ”framgång” faktiskt betyder för den mänskliga användaren. Vilken information behöver en agent utöver själva prompten för att verkligen förstå avsikten?

Promptar är bara ytlager. Verklig avsikt bygger på situationsdjup: tidigare historik, vilka avvägningar som är acceptabla, faktiska insatser och hur användaren reagerar under uppgiften.

En del av detta kommer från appens miljötillstånd eller chatt‑historik, men i direkta interaktioner är beteendeknapparna det som håller kontexten dynamisk. Människor tvekar, ändrar sig mitt i processen eller blir förvirrade. Om en agent inte kan läsa av dessa förändringar slutar den bara med att envist följa en instruktion som blev föråldrad för två steg sedan.

Det finns en viktig skillnad mellan handlingar som helt enkelt bör vara tekniskt omöjliga för en agent och handlingar som är tillåtna men olämpliga i ett visst sammanhang. Hur bör utvecklare fördela ansvaret mellan hårda säkerhetsgrindar och ett AI‑systems förmåga att utöva kontextuell bedömning?

Alla handlingar som orsakar allvarlig skada utan några legitima användningsfall—t.ex. stöld av inloggningsuppgifter, radering av audit‑loggar, obehörig privilegie‑eskalering—bör vara hårdkodade för att inte existera. En agent bör inte slösa beräkningskapacitet på att förhandla om att kringgå säkerhetskontroller; systemarkitekturen bör helt enkelt göra dem omöjliga.

Den verkliga gråzonen är vardagliga handlingar som att skicka e‑post, avboka möten eller ändra interna arbetsflöden. Dessa är teoretiskt tillåtna, men huruvida en agent bör utföra dem automatiskt beror på insatser, användarhistorik, återhämtningsmöjlighet och subtila tecken på användartvekan. Att veta när man ska stoppa eftersom kontext saknas är mycket viktigare än rå kapacitet.

Neurologyca utvecklar teknik som kan omvandla signaler som stress, självförtroende, uppmärksamhet, engagemang och förtroende till maskinläslig kontext. Hur skulle sådana signaler praktiskt kunna förändra beteendet hos en autonom AI‑agent medan den utför en uppgift?

Dessa beteendeingångar är i princip realtidsreaktionsdata—den exakta återkopplingsslingan som saknas i nuvarande AI‑arkitekturer. Just nu spårar modeller sina egna handlingar, men de opererar helt blinda för hur människan faktiskt tar emot dem.
Tänk dig en handledningssituation: en användare skriver “I understand”, men deras fysiologiska eller beteendemässiga signaler visar ökande förvirring och minskad uppmärksamhet. Det är en direkt signal till AI att byta riktning, sakta ner eller erbjuda en alternativ förklaring. Målet är inte klinisk diagnostik; det handlar helt enkelt om att etablera en tät återkopplingsslinga—kontext, handling, svar, anpassning—så att systemet lär sig vad som faktiskt fungerar för just den individen.

Mänsklig kontext kan också vara tvetydig. Ett system kan misstolka tvekan, stress, röstton eller andra beteendesignaler. Hur förhindrar du att kontext‑medveten AI blir alltför säker på vad en person tänker eller avser?

Beteendesignaler är i grunden brusiga och probabilistiska. Ett plötsligt hopp i stress eller ett stopp i skrivandet kan innebära förvirring, eller så kan det bara betyda att användaren spiller sin kaffe. System som omvandlar en enskild datapunkt till ett definitivt påstående om någons känslomässiga tillstånd är i grunden felaktiga.

Robusta system ser på sammansatta signaler över tid, tar hänsyn till miljöbaslinjer och ger explicit ut förtroendeintervall. Det är en enorm skillnad mellan att logga “elevated cognitive load relative to baseline” och att besluta “the user is anxious”. När osäkerheten är hög eller insatserna betydande är agentens uppgift inte att gissa—utan att ställa en förtydligande fråga.

Att ha en människa i loopen för varje avgörande beslut kan underminera mycket av den effektivitet som autonoma agenter lovar. Hur ser en skalbar modell för mänsklig tillsyn ut där en agent vet när den kan gå vidare självständigt och när den verkligen måste stanna och be om vägledning?

Skalbar tillsyn handlar inte om att upprätthålla en permanent människa‑i‑loopen; det handlar om dynamisk eskalering.

Uppgifter med låga insatser och som kan återställas går fram automatiskt. Men när insatserna ökar, bakgrundsbruset ökar eller signaler antyder användarobehag, höjs godkännandetröskeln dynamiskt. Avgörande är att dessa trösklar måste vara personliga—en chef kan gärna delegera kalenderhantering, medan en annan vill godkänna varje mindre ändring. Systemet måste lära sig individuella gränser, inte tillämpa stela globala policys.

När agenter utvecklar bestående minne och allt mer detaljerade modeller av de personer de betjänar, kan kontext snabbt bli känslig personlig data. Hur bör företag hantera samtycke, integritet, datatillhörighet och gränser för vad en AI får komma ihåg om en användare?

Detta är den främsta förtroendeflaskhalsen för autonoma system. Bestående minne förvandlar ett generiskt verktyg till en assistent, men det finns en farlig överlappning mellan att lagra arbetsflödespreferenser och tyst skapa en oauktoriserad psykologisk profil.
Datastyrning här kräver strikta syftesgränser. Om en agent drar slutsatser om stressmönster under en exekutiv coachningssession får den kontexten inte läcka in i prestationsbedömningar, försäkringsalgoritmer eller annons‑teknik. Transparensen måste vara granular—användare behöver insyn i lagrad kontext, ett‑klick‑borttagning och rimliga standardretentionsgränser. Bara för att ett system kan dra slutsatser om dig ger det inte systemet tillstånd att lagra det.

Hur ska vi utvärdera om en autonom agent verkligen förstår mänsklig avsikt? Är dagens benchmarkar för starkt fokuserade på uppgiftsutförande och noggrannhet snarare än om agenten uppnådde målet på ett sätt som användaren faktiskt skulle anse acceptabelt?

Uppgiftsutförande är ett djupt vilseledande mått. En agent kan följa en instruktion till punkt och pricka men ändå leverera ett resultat som användaren föraktar.

Om en agent säkrar det lägsta priset på ett kontrakt men samtidigt förstör ett tio år långt leverantörsförhållande för att uppnå det, registrerar traditionella utvärderingsmått en 100 % framgångsfrekvens. För chefen är det en katastrof. Vi behöver benchmarkar som mäter prestation inom outtalade gränser: Respekterade den outtalade normerna? Pausade den när förhållandena förändrades? Det gapet mellan rå färdigställning och faktisk tillfredsställelse är vad nuvarande benchmarkar helt förbiser.

Framöver, tror du att mänsklig‑kontext‑funktioner kommer att bli ett standardlager i AI‑stacken tillsammans med modeller, minne, verktyg och säkerhet? Vad återstår att lösa innan företag kan delegera meningsfullt arbete till agenter utan ständig övervakning?

När AI övergår från att generera innehåll till att utföra handlingar i den verkliga världen blir mänsklig kontext ett nödvändigt lager. Modeller hanterar resonemang och verktyg ger systemet händer, men utan mänsklig kontext som en levande återkopplingsslinga arbetar minne och säkerhetsgrindar i princip på statiska antaganden.

Innan företag delegerar verklig befogenhet måste vi fortfarande lösa kontextuell integritet, probabilistiskt resonemang under osäkerhet och granulära styrningsregler. Att bygga AI som slutför isolerade uppgifter är i stort sett löst; att få system att anpassa sig dynamiskt till människan bakom prompten är vad som kommer att avgöra hur mycket verklig autonomi vi är villiga att ge dem.

Tack för den fantastiska intervjun, läsare som vill lära sig mer bör besöka Neurologyca.