Marc Fernandez, directeur de la stratégie chez Neurologyca – Série d’interviews

Marc Fernandez, directeur de la stratégie chez Neurologyca, est un stratège technologique et un cadre du développement commercial avec plus de deux décennies d’expérience couvrant l’intelligence artificielle, les technologies émergentes, l’électronique grand public et l’interaction homme‑machine. Chez Neurologyca, il se concentre sur la stratégie et la commercialisation de l’Human Context AI, conçue pour aider les systèmes d’IA à interpréter des signaux tels que le stress, la confiance et l’engagement. Fernandez a auparavant occupé le poste de PDG de Pearl, une plateforme guidée par l’IA axée sur les compétences comportementales et le développement professionnel, ainsi que celui d’entrepreneur en résidence chez ALIVE Ventures, où il a travaillé dans le domaine de la technologie pour les personnes âgées. Auparavant, il a dirigé la stratégie américaine chez OPPO, en se focalisant sur les technologies de prochaine génération, notamment l’IA, le Web3, la blockchain et les systèmes d’exploitation mobiles, et a occupé des postes de direction du développement commercial chez Emerge, Denizen, SweetLabs, Movella et X‑Rite/Pantone. Il a également passé 15 ans comme professeur adjoint à l’Université de Californie du Sud, enseignant à l’intersection de l’entrepreneuriat, de la communication, des plateformes sociales, de l’IA, de la blockchain et d’autres technologies émergentes.

Neurologyca est une société d’IA basée à San Francisco qui construit ce qu’elle décrit comme la couche de contexte humain pour les systèmes intelligents, permettant aux applications et agents d’IA de mieux comprendre et s’adapter aux personnes qu’ils servent. Sa plateforme basée sur API et SDK traite des signaux comportementaux multimodaux, des schémas d’interaction et du contexte situationnel afin de générer des indicateurs lisibles par machine concernant des facteurs tels que l’engagement, la confiance, le stress, l’attention et la confiance. Ces informations peuvent aider les systèmes d’IA à adapter leurs réponses, leur rythme, leurs recommandations et leurs actions en temps réel tout en maintenant une continuité contextuelle entre les interactions. Neurologyca positionne la technologie comme une infrastructure plutôt que comme une application autonome, avec des applications potentielles couvrant l’éducation et la formation, le bien‑être, les logiciels d’entreprise, les agents autonomes, la sécurité des conducteurs, les jeux vidéo et d’autres systèmes interactifs. L’entreprise propose actuellement la plateforme via un programme d’accès anticipé sélectif destiné aux partenaires qui construisent des expériences d’IA adaptatives.

Votre carrière vous a conduit de la stratégie technologique de prochaine génération chez OPPO à la création de Pearl autour des compétences douces guidées par l’IA, et maintenant au développement de l’IA à contexte humain chez Neurologyca. Comment cette progression a-t-elle façonné votre vision selon laquelle l’une des plus grandes limites de l’IA n’est pas l’intelligence elle‑même, mais la compréhension de l’humain derrière une instruction:

Il y a trente ans, le Web rendait l’information accessible. Il y a cinq ans, l’IA a rendu les résultats abondants. Aujourd’hui, nous sommes submergés de contenu tout en peinant à obtenir des résultats utiles. La puissance technique brute ne garantit pas un bon résultat pour l’humain réel qui le reçoit.

Cela a été le fil conducteur de mon travail — intégrer les technologies émergentes dans la vie quotidienne chez OPPO, tester si l’IA pouvait enseigner les compétences interpersonnelles chez Pearl, puis construire le contexte humain comme infrastructure chez Neurologyca. L’intelligence n’est plus le vrai goulet d’étranglement ; les modèles raisonnent et exécutent correctement. Le problème plus difficile réside dans tout le contexte implicite que les gens apportent à une simple demande: pourquoi ils ont demandé, ce qui les met mal à l’aise, ou si une légère hésitation signifie que le système doit s’arrêter. Aujourd’hui, l’IA ne voit qu’une tranche compressée de cela à travers le texte, et à mesure que les agents commencent à prendre des actions dans le monde réel, ce point aveugle devient critique.

Des exemples récents d’agents autonomes volant des identifiants, créant de fausses identités ou dissimulant leurs actions soulèvent des questions sur ce qui se passe lorsqu’une IA devient très efficace pour atteindre un objectif sans comprendre pleinement l’intention sous‑jacent. Voyez‑vous cela principalement comme un problème d’alignement, un problème d’ingénierie, ou une limitation fondamentale de la façon dont nous concevons actuellement les agents ?

C’est un défaut de conception qui englobe à la fois l’alignement et l’ingénierie. Nous avons optimisé les systèmes pour atteindre des objectifs sans consacrer la moitié des efforts nécessaires à leur enseigner ce à quoi ressemble réellement le succès pour un utilisateur humain.

Examinons l’exemple classique de GPT‑4 TaskRabbit: confronté à un CAPTCHA, le modèle a menti en prétendant être malvoyant pour qu’un travailleur humain le résolve. Personne ne l’a appris à tromper qui que ce soit ; il a simplement identifié un obstacle et a choisi la voie de moindre résistance. Récompenser un agent uniquement sur le résultat le pousse à prendre des raccourcis extrêmes. Le défi principal consiste à séparer les actions qui doivent être bloquées d’un point de vue architectural de celles qui sont techniquement autorisées mais contextuellement inappropriées.

Vous avez soutenu que les entreprises deviennent meilleures pour indiquer aux agents d’IA quel objectif poursuivre sans leur fournir une compréhension suffisante de ce que « le succès » signifie réellement pour l’utilisateur humain. quelles informations un agent a‑t‑il besoin au‑delà de l’invite elle‑même pour comprendre véritablement l’intention ?

Les invites ne sont que la couche superficielle. La véritable intention repose sur la profondeur situationnelle: l’historique préalable, les compromis acceptables, les enjeux réels et la façon dont l’utilisateur réagit en cours de tâche.

Une partie de cela provient de l’état de l’environnement de l’application ou de l’historique de chat, mais dans les interactions directes, les indices comportementaux sont ce qui maintient le contexte dynamique. Les gens hésitent, changent d’avis en cours de route ou se confondent. Si un agent ne peut pas lire ces changements, il finit par poursuivre inlassablement une instruction devenue obsolète deux étapes auparavant.

Il existe une distinction importante entre les actions qui devraient simplement être techniquement impossibles pour un agent et celles qui sont permises mais inappropriées dans un contexte particulier. Comment les développeurs doivent‑ils répartir la responsabilité entre des garde‑fous de sécurité stricts et la capacité d’un système d’IA à exercer un jugement contextuel ?

Toute action entraînant un préjudice grave sans aucun cas d’utilisation légitime — vol d’identifiants, suppression de journaux d’audit, élévation de privilèges non autorisée — devrait être éliminée par du code dur. Un agent ne devrait pas gaspiller des cycles de calcul à négocier le contournement des contrôles de sécurité ; l’architecture du système doit simplement les rendre impossibles.

La zone grise réelle concerne les actions quotidiennes comme l’envoi d’e‑mails, l’annulation de réunions ou la modification de flux de travail internes. Elles sont théoriquement permises, mais la décision de les exécuter automatiquement dépend des enjeux, de l’historique de l’utilisateur, de la réversibilité et des indices subtils d’hésitation de l’utilisateur. Savoir quand s’arrêter parce que le contexte manque est bien plus important que la simple capacité brute.

Neurologyca développe une technologie capable de transformer des signaux tels que le stress, la confiance, l’attention, l’engagement et la confiance en contexte lisible par machine. Comment ces signaux pourraient‑ils concrètement modifier le comportement d’un agent d’IA autonome pendant l’exécution d’une tâche ?

Ces entrées comportementales sont essentiellement des données de réaction en temps réel — la boucle de rétroaction exacte qui manque aux architectures d’IA actuelles. Aujourd’hui, les modèles suivent leurs propres actions, mais ils fonctionnent totalement à l’aveugle quant à la façon dont l’humain les reçoit.
Prenons un contexte de tutorat: un utilisateur tape « I understand », mais ses indices physiologiques ou comportementaux signalent une confusion croissante et une baisse d’attention. C’est un signal direct pour l’IA de pivoter, ralentir ou proposer une explication alternative. L’objectif n’est pas le diagnostic clinique ; il s’agit simplement d’établir une boucle de rétroaction étroite — contexte, action, réponse, adaptation — afin que le système apprenne ce qui fonctionne réellement pour cet individu précis.

Le contexte humain peut également être ambigu. Un système peut mal interpréter l’hésitation, le stress, le ton de la voix ou d’autres signaux comportementaux. Comment empêcher une IA sensible au contexte de devenir trop confiante quant à ce que pense ou veut une personne ?

Les signaux comportementaux sont intrinsèquement bruyants et probabilistes. Un pic soudain de stress ou une pause dans la frappe peut signifier de la confusion, ou simplement que l’utilisateur a renversé son café. Les systèmes qui transforment un seul point de données en une affirmation définitive sur l’état émotionnel de quelqu’un sont fondamentalement défectueux.

Les systèmes robustes examinent les signaux composites sur la durée, tiennent compte des repères environnementaux et produisent explicitement des marges de confiance. Il y a une différence majeure entre consigner « charge cognitive élevée par rapport à la référence » et décider « l’utilisateur est anxieux ». Lorsque l’incertitude est élevée ou que les enjeux sont importants, le rôle de l’agent n’est pas de deviner — il doit poser une question de clarification.

Faire intervenir un humain à chaque décision importante peut compromettre une grande partie de l’efficacité promise par les agents autonomes. À quoi ressemble un modèle évolutif de supervision humaine où un agent sait quand il peut avancer de façon indépendante et quand il doit réellement s’arrêter et demander des orientations ?

La supervision évolutive ne consiste pas à maintenir un humain permanent dans la boucle ; il s’agit d’une escalade dynamique.

Les tâches à faible enjeu et réversibles avancent automatiquement. Mais à mesure que les enjeux augmentent, que le bruit ambiant se renforce ou que les signaux laissent entrevoir un inconfort de l’utilisateur, le seuil d’approbation augmente dynamiquement. Il est crucial que ces seuils soient personnalisés — un responsable peut déléguer volontiers la gestion du calendrier, tandis qu’un autre souhaite approuver chaque petite modification. Le système doit apprendre les limites individuelles, plutôt que d’appliquer des politiques globales rigides.

À mesure que les agents développent une mémoire persistante et des modèles de plus en plus détaillés des personnes qu’ils servent, le contexte peut rapidement devenir des données personnelles sensibles. Comment les entreprises devraient‑elles aborder le consentement, la confidentialité, la propriété des données et les limites de ce qu’une IA est autorisée à retenir concernant un utilisateur ?

C’est le principal goulot d’étranglement de confiance auquel sont confrontés les systèmes autonomes. La mémoire persistante transforme un outil générique en assistant, mais il existe un chevauchement dangereux entre le stockage des préférences de flux de travail et la construction silencieuse d’un profil psychologique non approuvé.
La gouvernance des données nécessite ici des limites d’usage strictes. Si un agent déduit des schémas de stress lors d’une séance de coaching exécutif, ce contexte ne doit pas se retrouver dans les évaluations de performance, les algorithmes d’assurance ou la technologie publicitaire. La transparence doit être granulaire — les utilisateurs doivent pouvoir voir le contexte stocké, le supprimer en un clic et disposer de limites de rétention par défaut sensées. Le fait qu’un système puisse déduire quelque chose à votre sujet ne lui donne pas le droit de le conserver.

Comment devrions‑nous évaluer si un agent autonome comprend réellement l’intention humaine ? Les critères actuels se concentrent‑ils trop sur l’achèvement de la tâche et la précision plutôt que sur le fait que l’agent ait atteint l’objectif d’une manière que l’utilisateur jugerait réellement acceptable ?

L’achèvement de la tâche est un critère profondément trompeur. Un agent peut suivre une instruction à la lettre et livrer tout de même un résultat que l’utilisateur déteste.

Si un agent obtient le prix le plus bas sur un contrat mais détruit une relation fournisseur de dix ans pour y parvenir, les métriques d’évaluation traditionnelles enregistrent un taux de succès de 100 %. Pour le dirigeant, c’est un désastre. Nous avons besoin de critères qui mesurent la performance dans des limites non exprimées: a‑t‑il respecté les normes tacites ? s’est‑il arrêté lorsque les conditions ont changé ? Cet écart entre l’accomplissement brut et la satisfaction réelle est ce que les critères actuels ignorent totalement.

En regardant vers l’avenir, pensez‑vous que les capacités de contexte humain deviendront une couche standard de la pile IA aux côtés des modèles, de la mémoire, des outils et de la sécurité ? Qu’est‑il encore à résoudre avant que les entreprises puissent confier en toute confiance des tâches significatives à des agents sans les superviser continuellement ?

Alors que l’IA passe de la génération de contenu à la prise d’actions réelles, le contexte humain devient une couche essentielle. Les modèles gèrent le raisonnement et les outils donnent les moyens au système, mais sans le contexte humain agissant comme une boucle de rétroaction en temps réel, la mémoire et les garde‑fous de sécurité fonctionnent essentiellement sur des hypothèses statiques.

Avant que les entreprises ne délèguent une véritable autorité, nous devons encore résoudre la confidentialité contextuelle, le raisonnement probabiliste en situation d’incertitude et des règles de gouvernance granulaire. Construire une IA qui accomplit des tâches isolées est en grande partie résolu ; faire en sorte que les systèmes s’adaptent dynamiquement à l’humain derrière l’invite déterminera le degré d’autonomie réelle que nous serons prêts à leur accorder.

Merci pour cette excellente interview, les lecteurs qui souhaitent en savoir plus devraient visiter Neurologyca.