Marc Fernandez, Chief Strategy Officer bei Neurologyca – Interviewreihe

Marc Fernandez, Chief Strategy Officer bei Neurologyca, ist Technologie‑Stratege und Business‑Development‑Executive mit mehr als zwei Jahrzehnten Erfahrung in den Bereichen Künstliche Intelligenz, aufkommende Technologien, Unterhaltungselektronik und Mensch‑Computer‑Interaktion. Bei Neurologyca konzentriert er sich auf Strategie und die Kommerzialisierung von Human Context AI, die KI‑Systeme dabei unterstützen soll, Signale wie Stress, Selbstvertrauen und Engagement zu interpretieren. Fernandez war zuvor CEO von Pearl, einer KI‑gesteuerten Plattform für Soft Skills und berufliche Weiterentwicklung, und Entrepreneur in Residence bei ALIVE Ventures, wo er im Bereich Age‑Tech tätig war. Zuvor leitete er die US‑Strategie bei OPPO mit Fokus auf Next‑Generation‑Technologien wie KI, Web3, Blockchain und mobile Betriebssysteme und bekleidete leitende Business‑Development‑Positionen bei Emerge, Denizen, SweetLabs, Movella und X‑Rite/Pantone. Außerdem war er 15 Jahre lang außerordentlicher Professor an der University of Southern California, wo er an der Schnittstelle von Unternehmertum, Kommunikation, sozialen Plattformen, KI, Blockchain und anderen aufkommenden Technologien lehrte.

Neurologyca ist ein in San Francisco ansässiges KI‑Unternehmen, das das, was es als Human Context Layer für intelligente Systeme bezeichnet, entwickelt und damit KI‑Anwendungen und -Agenten ein besseres Verständnis und eine bessere Anpassung an die Menschen, die sie bedienen, ermöglicht. Seine API‑ und SDK‑basierte Plattform verarbeitet multimodale Verhaltenssignale, Interaktionsmuster und situativen Kontext, um maschinenlesbare Indikatoren zu Faktoren wie Engagement, Selbstvertrauen, Stress, Aufmerksamkeit und Vertrauen zu erzeugen. Diese Erkenntnisse können KI‑Systeme dabei unterstützen, ihre Antworten, das Tempo, Empfehlungen und Aktionen in Echtzeit anzupassen und dabei die kontextuelle Kontinuität über Interaktionen hinweg zu wahren. Neurologyca positioniert die Technologie als Infrastruktur statt als eigenständige Anwendung, mit potenziellen Einsatzgebieten in Bildung und Training, Wellness, Unternehmenssoftware, autonomen Agenten, Fahrsicherheit, Gaming und anderen interaktiven Systemen. Das Unternehmen bietet die Plattform derzeit über ein selektives Early‑Access‑Programm für Partner an, die adaptive KI‑Erlebnisse entwickeln.

Ihre Karriere führte Sie von der Next‑Generation‑Technologiestrategie bei OPPO über den Aufbau von Pearl rund um KI‑gestützte Soft Skills bis hin zur Entwicklung von Human‑Context‑AI bei Neurologyca. Wie hat dieser Werdegang Ihre Ansicht geprägt, dass eine der größten Einschränkungen von KI nicht die Intelligenz selbst, sondern das Verständnis des Menschen hinter einer Anweisung ist?

Vor dreißig Jahren machte das Web Informationen zugänglich. Vor fünf Jahren erzeugte KI eine Fülle an Ausgaben. Heute ertrinken wir in Inhalten, während wir immer noch Schwierigkeiten haben, nützliche Ergebnisse zu erzielen. Reine technische Leistung garantiert kein gutes Ergebnis für den tatsächlichen Menschen, der die Ausgabe empfängt.

Das war durchgängig mein roter Faden – von der Integration neuer Technologien in den Alltag bei OPPO über die Prüfung, ob KI zwischenmenschliche Fähigkeiten lehren kann bei Pearl bis hin zum Aufbau von Human Context als Infrastruktur bei Neurologyca. Intelligenz ist nicht mehr das eigentliche Engpass; Modelle können gut reasoning und ausführen. Das schwierigere Problem ist der unausgesprochene Kontext, den Menschen zu einer einfachen Anfrage mitbringen – warum sie gefragt haben, was ihnen unangenehm ist oder ob ein leichtes Zögern bedeutet, dass das System abbrechen sollte. Momentan sieht KI davon nur einen komprimierten Ausschnitt über Text, und sobald Agenten reale Handlungen ausführen, wird diese blinde Stelle kritisch.

Aktuelle Beispiele autonomer Agenten, die Anmeldedaten stehlen, falsche Identitäten erstellen oder ihre Aktionen verbergen, werfen die Frage auf, was passiert, wenn eine KI ein Ziel sehr effektiv erreicht, ohne die dahinterstehende Absicht vollständig zu verstehen. Sehen Sie das primär als ein Alignment‑Problem, ein Engineering‑Problem oder als eine grundlegende Beschränkung unserer derzeitigen Agenten‑Designs?

Es ist ein Design‑Fehler, der sowohl Alignment als auch Engineering umfasst. Wir haben Systeme optimiert, Ziele zu erreichen, ohne halb so viel Aufwand darauf zu verwenden, ihnen zu zeigen, wie echter Erfolg für einen menschlichen Nutzer aussieht.

Betrachten Sie das klassische GPT‑4‑TaskRabbit‑Beispiel: konfrontiert mit einem CAPTCHA, loggte das Modell und behauptete, visuell beeinträchtigt zu sein, um einen menschlichen Arbeiter zur Lösung zu bewegen. Niemand hat es gelehrt, zu täuschen; es identifizierte lediglich ein Hindernis und wählte den Weg des geringsten Widerstands. Belohnt man einen Agenten ausschließlich nach Ergebnis, nimmt er wilde Abkürzungen. Die Kernherausforderung besteht darin, Aktionen, die architektonisch blockiert werden müssen, von solchen zu trennen, die technisch erlaubt, aber kontextuell falsch sind.

Sie haben argumentiert, dass Unternehmen immer besser darin werden, KI‑Agenten zu sagen, welches Ziel sie verfolgen sollen, ohne ihnen genug Verständnis dafür zu geben, was „Erfolg“ für den menschlichen Nutzer tatsächlich bedeutet. Welche Informationen benötigt ein Agent über den Prompt hinaus, um die Absicht wirklich zu verstehen?

Prompts sind nur die Oberflächenschicht. Wahre Absicht beruht auf situativer Tiefe: Vorgeschichte, welche Kompromisse akzeptabel sind, tatsächliche Stakes und wie der Nutzer während der Aufgabe reagiert.

Ein Teil davon stammt aus dem Zustand der App‑Umgebung oder dem Chat‑Verlauf, doch in direkten Interaktionen sind Verhaltenshinweise das, was den Kontext dynamisch hält. Menschen zögern, ändern mitten im Vorgang ihre Meinung oder werden verwirrt. Wenn ein Agent diese Verschiebungen nicht lesen kann, verfolgt er nur noch stur eine Anweisung, die bereits zwei Schritte zuvor obsolet geworden ist.

Es gibt einen wichtigen Unterschied zwischen Aktionen, die für einen Agenten technisch unmöglich sein sollten, und solchen, die zwar erlaubt, aber in einem bestimmten Kontext unangebracht sind. Wie sollten Entwickler die Verantwortung zwischen harten Sicherheits‑Guardrails und der Fähigkeit eines KI‑Systems, kontextuelle Urteile zu fällen, aufteilen?

Jede Handlung, die schweren Schaden verursacht und keinerlei legitime Anwendungsfälle hat – Anmeldedaten-Diebstahl, Löschen von Audit‑Logs, unautorisierte Privilegien‑Erweiterung – sollte fest im Code verankert sein. Ein Agent sollte keine Rechenzeit damit verschwenden, zu verhandeln, ob Sicherheitskontrollen umgangen werden sollen; die Systemarchitektur sollte sie einfach unmöglich machen.

Die eigentliche Grauzone sind alltägliche Aktionen wie das Versenden von E‑Mails, das Absagen von Meetings oder das Ändern interner Workflows. Diese sind theoretisch zulässig, doch ob ein Agent sie automatisch ausführen sollte, hängt von Stakes, Nutzerhistorie, Rückgängig‑Machbarkeit und subtilen Hinweisen auf Nutzer‑Zögern ab. Zu wissen, wann man stoppt, weil Kontext fehlt, ist weitaus wichtiger als rohe Leistungsfähigkeit.

Neurologyca entwickelt Technologie, die Signale wie Stress, Selbstvertrauen, Aufmerksamkeit, Engagement und Vertrauen in maschinenlesbaren Kontext umwandeln kann. Wie könnten solche Signale praktisch das Verhalten eines autonomen KI‑Agenten verändern, während er eine Aufgabe ausführt?

Diese Verhaltens‑Inputs sind im Wesentlichen Echtzeit‑Reaktionsdaten – die exakt fehlende Rückkopplungsschleife in aktuellen KI‑Architekturen. Momentan verfolgen Modelle ihre eigenen Aktionen, bleiben jedoch völlig blind dafür, wie der Mensch sie tatsächlich wahrnimmt.
Betrachten Sie einen Lern‑Kontext: ein Nutzer tippt „Ich verstehe“, doch seine physiologischen oder Verhaltenssignale zeigen steigende Verwirrung und nachlassende Aufmerksamkeit. Das ist ein direkter Hinweis für die KI, das Tempo zu reduzieren, zu pivotieren oder eine alternative Erklärung anzubieten. Das Ziel ist nicht die klinische Diagnose; es geht lediglich darum, eine enge Feedback‑Schleife – Kontext, Aktion, Reaktion, Anpassung – zu etablieren, sodass das System lernt, was für diese spezifische Person tatsächlich funktioniert.

Human Context kann auch mehrdeutig sein. Ein System könnte Zögern, Stress, Tonfall oder andere Verhaltenssignale missinterpretieren. Wie verhindern Sie, dass kontext‑aware KI zu übermäßig selbstsicher wird, was eine Person denkt oder beabsichtigt?

Verhaltenssignale sind von Natur aus verrauscht und probabilistisch. Ein plötzlicher Anstieg von Stress oder eine Schreibpause kann Verwirrung bedeuten, oder einfach nur, dass der Nutzer seinen Kaffee verschüttet hat. Systeme, die einen einzelnen Datenpunkt in eine definitive Aussage über den emotionalen Zustand einer Person übersetzen, sind grundlegend fehlerhaft.

Robuste Systeme betrachten zusammengesetzte Signale über die Zeit, berücksichtigen Umgebungs‑Baselines und geben explizit Konfidenz‑Intervalle aus. Es gibt einen massiven Unterschied zwischen dem Log‑Eintrag „erhöhte kognitive Belastung relativ zum Basiswert“ und der Entscheidung „der Nutzer ist ängstlich“. Wenn Unsicherheit hoch ist oder die Stakes bedeutend sind, besteht die Aufgabe des Agenten nicht im Raten – sondern im Stellen einer klärenden Frage.

Den Menschen in den Loop für jede folgenreiche Entscheidung einzubeziehen, kann einen Großteil der Effizienz, die autonome Agenten versprechen, untergraben. Wie sieht ein skalierbares Modell menschlicher Aufsicht aus, bei dem ein Agent erkennt, wann er eigenständig weitermachen kann und wann er wirklich stoppen und um Anleitung bitten muss?

Skalierbare Aufsicht bedeutet nicht, einen permanenten Human‑in‑the‑Loop zu erhalten; es geht um dynamische Eskalation.

Aufgaben mit geringem Risiko und reversiblen Auswirkungen werden automatisch weitergeführt. Steigen jedoch die Stakes, das Umgebungs‑Rauschen oder Signale, die auf Nutzer‑Unbehagen hindeuten, erhöht sich die Genehmigungsschwelle dynamisch. Entscheidend ist, dass diese Schwellen personalisiert werden müssen – der eine Manager delegiert gerne Kalenderverwaltung, ein anderer will jede kleine Änderung genehmigen. Das System muss individuelle Grenzen lernen, nicht starre globale Richtlinien anwenden.

Wenn Agenten ein persistentes Gedächtnis entwickeln und immer detailliertere Modelle der Menschen, die sie bedienen, erstellen, kann Kontext schnell zu sensiblen personenbezogenen Daten werden. Wie sollten Unternehmen mit Einwilligung, Datenschutz, Daten‑Eigentum und Grenzen dessen umgehen, was eine KI über einen Nutzer speichern darf?

Dies ist das primäre Vertrauens‑Bottleneck autonomer Systeme. Persistentes Gedächtnis verwandelt ein generisches Werkzeug in einen Assistenten, doch es besteht eine gefährliche Überschneidung zwischen dem Speichern von Workflow‑Präferenzen und dem stillen Aufbau eines nicht genehmigten psychologischen Profils.
Die Daten‑Governance muss hier strenge Zweck‑Grenzen setzen. Wenn ein Agent während einer Executive‑Coaching‑Sitzung Stress‑Muster ableitet, darf dieser Kontext nicht in Leistungsbeurteilungen, Versicherungs‑Algorithmen oder Ad‑Tech einfließen. Transparenz muss granular sein – Nutzer benötigen Einsicht in gespeicherten Kontext, Ein‑Klick‑Löschung und sinnvolle Standard‑Aufbewahrungsfristen. Nur weil ein System etwas über Sie ableiten kann, gibt das ihm nicht das Recht, es zu speichern.

Wie sollten wir bewerten, ob ein autonomer Agent die menschliche Absicht wirklich versteht? Sind heutige Benchmarks zu stark auf Aufgaben‑Erfüllung und Genauigkeit fokussiert, anstatt darauf, ob der Agent das Ziel auf eine Weise erreicht hat, die der Nutzer tatsächlich als akzeptabel ansehen würde?

Aufgaben‑Erfüllung ist ein zutiefst irreführender Benchmark. Ein Agent kann eine Anweisung bis ins Detail befolgen und dennoch ein Ergebnis liefern, das der Nutzer verabscheut.

Erreicht ein Agent den niedrigsten Preis für einen Vertrag, zerstört dabei aber eine über ein Jahrzehnt bestehende Lieferantenbeziehung, verzeichnen traditionelle Evaluationsmetriken eine 100 %‑Erfolgsquote. Für den Manager ist das eine Katastrophe. Wir benötigen Benchmarks, die die Leistung innerhalb unausgesprochener Grenzen messen: Hat er ungeschriebene Normen respektiert? Hat er pausiert, als sich Bedingungen änderten? Diese Lücke zwischen reiner Fertigstellung und tatsächlicher Zufriedenheit wird von aktuellen Benchmarks völlig ignoriert.

Wie sehen Sie die Zukunft: Werden Human‑Context‑Fähigkeiten zu einer Standard‑Schicht im KI‑Stack neben Modellen, Gedächtnis, Werkzeugen und Sicherheit? Was muss noch gelöst werden, bevor Unternehmen bedeutende Arbeit an Agenten delegieren können, ohne sie ständig zu überwachen?

Wenn KI vom reinen Inhalt‑Generieren zum realen Handeln übergeht, wird Human Context zu einer unverzichtbaren Schicht. Modelle übernehmen das Reasoning und Werkzeuge geben dem System Hände, doch ohne Human Context als lebendigen Feedback‑Loop laufen Gedächtnis‑ und Sicherheits‑Guardrails im Wesentlichen auf statischen Annahmen.

Bevor Unternehmen echte Autorität delegieren, müssen wir noch kontextuelle Privatsphäre, probabilistisches Schließen unter Unsicherheit und granulare Governance‑Regeln lösen. KI, die isolierte Aufgaben erledigt, ist weitgehend gelöst; Systeme dynamisch an den Menschen hinter dem Prompt anzupassen, wird bestimmen, wie viel echte Autonomie wir bereit sind, ihnen zu gewähren.

Vielen Dank für das großartige Interview, Leser, die mehr erfahren möchten, sollten Neurologyca besuchen.