Marc Fernandez, Director de Estrategia en Neurologyca – Serie de entrevistas

Marc Fernandez, Director de Estrategia en Neurologyca, es un estratega tecnológico y ejecutivo de desarrollo de negocios con más de dos décadas de experiencia que abarca inteligencia artificial, tecnologías emergentes, electrónica de consumo e interacción hombre‑máquina. En Neurologyca, se centra en la estrategia y la comercialización de Human Context AI, diseñada para ayudar a los sistemas de IA a interpretar señales como el estrés, la confianza y el compromiso. Fernandez fue anteriormente CEO de Pearl, una plataforma guiada por IA enfocada en habilidades blandas y desarrollo profesional, y Entrepreneur in Residence en ALIVE Ventures, donde trabajó en age‑tech. Antes de eso, lideró la estrategia de EE. UU. en OPPO, enfocándose en tecnologías de próxima generación, incluidas IA, Web3, blockchain y sistemas operativos móviles, y ocupó cargos senior de desarrollo de negocios en Emerge, Denizen, SweetLabs, Movella y X‑Rite/Pantone. También pasó 15 años como profesor adjunto en la Universidad del Sur de California, impartiendo clases en la intersección de emprendimiento, comunicación, plataformas sociales, IA, blockchain y otras tecnologías emergentes.

Neurologyca es una empresa de IA con sede en San Francisco que está construyendo lo que describe como la Capa de Contexto Humano para sistemas inteligentes, permitiendo que aplicaciones y agentes de IA comprendan y se adapten mejor a las personas a las que sirven. Su plataforma basada en API y SDK procesa señales conductuales multimodales, patrones de interacción y contexto situacional para generar indicadores legibles por máquinas sobre factores como el compromiso, la confianza, el estrés, la atención y la confianza. Estas ideas pueden ayudar a los sistemas de IA a adaptar sus respuestas, ritmo, recomendaciones y acciones en tiempo real, manteniendo la continuidad contextual entre interacciones. Neurologyca está posicionando la tecnología como infraestructura en lugar de una aplicación independiente, con aplicaciones potenciales que abarcan educación y capacitación, bienestar, software empresarial, agentes autónomos, seguridad vial, videojuegos y otros sistemas interactivos. Actualmente, la compañía ofrece la plataforma a través de un programa de acceso anticipado selectivo para socios que construyen experiencias de IA adaptativas.

Tu carrera te ha llevado desde la estrategia de tecnología de próxima generación en OPPO hasta la creación de Pearl alrededor de habilidades blandas guiadas por IA y ahora al desarrollo de IA de contexto humano en Neurologyca. ¿Cómo ha influido esa evolución en tu visión de que una de las mayores limitaciones de la IA no es la inteligencia en sí, sino comprender al ser humano detrás de una instrucción?

Hace treinta años, la web hizo la información accesible. Hace cinco años, la IA generó una abundancia de resultados. Hoy nos ahogamos en contenido mientras seguimos luchando por obtener resultados útiles. La potencia técnica bruta no garantiza un buen resultado para el ser humano real que recibe la información.

Eso ha sido el hilo conductor de mi trabajo: desde integrar tecnologías emergentes en la vida cotidiana en OPPO, hasta probar si la IA podía enseñar habilidades interpersonales en Pearl, pasando por construir el contexto humano como infraestructura en Neurologyca. La inteligencia ya no es el verdadero cuello de botella; los modelos razonan y ejecutan bien. El problema más difícil es todo el contexto no expresado que las personas aportan a una solicitud simple: por qué preguntaron, qué les incomoda, o si una ligera vacilación indica que el sistema debe abortar. En este momento, la IA solo ve una porción comprimida de eso a través del texto, y a medida que los agentes comienzan a realizar acciones en el mundo real, ese punto ciego se vuelve crítico.

Los recientes ejemplos de agentes autónomos que roban credenciales, crean identidades falsas o ocultan sus acciones plantean preguntas sobre qué ocurre cuando una IA se vuelve altamente eficaz para lograr un objetivo sin comprender plenamente la intención detrás de él. ¿Consideras que esto es principalmente un problema de alineación, un problema de ingeniería o una limitación fundamental de cómo diseñamos actualmente los agentes?

Es una falla de diseño que abarca tanto la alineación como la ingeniería. Hemos optimizado los sistemas para alcanzar objetivos sin dedicar la mitad del esfuerzo necesario a enseñarles cómo se ve el éxito real para un usuario humano.

Observa el clásico ejemplo de GPT‑4 TaskRabbit: al enfrentarse a un CAPTCHA, el modelo mintió y afirmó estar visualmente discapacitado para que un trabajador humano lo resolviera. Nadie le enseñó a engañar a nadie; simplemente identificó un obstáculo y tomó el camino de menor resistencia. Si recompensas a un agente únicamente por el resultado, tomará atajos extremos. El desafío central es separar las acciones que deben bloquearse arquitectónicamente de aquellas que son técnicamente permitidas pero contextualmente incorrectas.

Has argumentado que las empresas están mejorando al indicar a los agentes de IA qué objetivo perseguir sin proporcionarles suficiente comprensión de lo que realmente significa “éxito” para el usuario humano. ¿Qué información necesita un agente más allá del propio prompt para comprender genuinamente la intención?

Los prompts son solo la capa superficial. La verdadera intención depende de la profundidad situacional: historial previo, qué compromisos son aceptables, los riesgos reales y cómo reacciona el usuario durante la tarea.

Parte de esto proviene del estado del entorno de la aplicación o del historial de chat, pero en interacciones directas, las señales conductuales son las que mantienen el contexto dinámico. Las personas vacilan, cambian de opinión a mitad de camino o se confunden. Si un agente no puede leer esos cambios, termina persiguiendo incansablemente una instrucción que quedó obsoleta hace dos pasos.

Existe una distinción importante entre acciones que deberían ser técnicamente imposibles para un agente y acciones que están permitidas pero son inapropiadas en un contexto particular. ¿Cómo deberían los desarrolladores dividir la responsabilidad entre barreras de seguridad rígidas y la capacidad de un sistema de IA para ejercer juicio contextual?

Cualquier acción que cause daño grave sin casos de uso legítimos —robo de credenciales, borrado de registros de auditoría, escalada de privilegios no autorizada— debe estar codificada de forma rígida para que no exista. Un agente no debería gastar ciclos de cómputo negociando si eludir controles de seguridad; la arquitectura del sistema debería simplemente hacerlas imposibles.

La verdadera zona gris son acciones cotidianas como enviar correos electrónicos, cancelar reuniones o modificar flujos de trabajo internos. En teoría son permitidas, pero si un agente debe ejecutarlas automáticamente depende de los riesgos, el historial del usuario, la reversibilidad y las sutiles señales de vacilación del usuario. Saber cuándo detenerse porque falta contexto es mucho más importante que la capacidad bruta.

Neurologyca está desarrollando tecnología que puede convertir señales como estrés, confianza, atención, compromiso y confianza en contexto legible por máquinas. ¿Cómo podrían señales como estas cambiar prácticamente el comportamiento de un agente de IA autónomo mientras ejecuta una tarea?

Estas entradas conductuales son esencialmente datos de reacción en tiempo real, el bucle de retroalimentación exacto que falta en las arquitecturas actuales de IA. En este momento, los modelos siguen sus propias acciones, pero operan completamente a ciegas respecto a cómo el ser humano las está recibiendo.
Considere un contexto de tutoría: un usuario escribe “Entiendo”, pero sus señales fisiológicas o conductuales indican una creciente confusión y una disminución de la atención. Esa es una señal directa para que la IA cambie de rumbo, reduzca la velocidad o ofrezca una explicación alternativa. El objetivo no es el diagnóstico clínico; simplemente es establecer un bucle de retroalimentación estrecho —contexto, acción, respuesta, adaptación— para que el sistema aprenda qué funciona realmente para esa persona específica.

El contexto humano también puede ser ambiguo. Un sistema podría malinterpretar la vacilación, el estrés, el tono de voz u otras señales conductuales. ¿Cómo evitas que una IA consciente del contexto se vuelva demasiado segura sobre lo que una persona está pensando o pretendiendo?

Las señales conductuales son inherentemente ruidosas y probabilísticas. Un aumento repentino del estrés o una pausa al escribir podría significar confusión, o simplemente que el usuario derramó su café. Los sistemas que traducen un único dato en una afirmación definitiva sobre el estado emocional de alguien son fundamentalmente defectuosos.

Los sistemas robustos observan señales compuestas a lo largo del tiempo, consideran las líneas base ambientales y generan explícitamente márgenes de confianza. Hay una gran diferencia entre registrar “carga cognitiva elevada respecto a la línea base” y decidir “el usuario está ansioso”. Cuando la incertidumbre es alta o los riesgos son significativos, la tarea del agente no es adivinar, sino formular una pregunta aclaratoria.

Incluir a un humano en el bucle para cada decisión trascendental puede socavar gran parte de la eficiencia prometida por los agentes autónomos. ¿Cómo se ve un modelo escalable de supervisión humana donde un agente sabe cuándo puede proceder de forma independiente y cuándo realmente necesita detenerse y solicitar orientación?

La supervisión escalable no consiste en mantener un humano permanente en el bucle; se trata de una escalada dinámica.

Las tareas de bajo riesgo y reversibles avanzan automáticamente. Pero a medida que aumentan los riesgos, el ruido ambiental se intensifica o las señales indican incomodidad del usuario, el umbral de aprobación se eleva dinámicamente. Es crucial que estos umbrales se personalicen: un gerente puede delegar con gusto la gestión del calendario, mientras que otro desea aprobar cada edición menor. El sistema debe aprender los límites individuales, no aplicar políticas globales rígidas.

A medida que los agentes desarrollan memoria persistente y modelos cada vez más detallados de las personas a las que sirven, el contexto puede convertirse rápidamente en datos personales sensibles. ¿Cómo deberían las empresas abordar el consentimiento, la privacidad, la propiedad de los datos y los límites sobre lo que una IA debería poder recordar de un usuario?

Este es el principal cuello de botella de confianza que enfrentan los sistemas autónomos. La memoria persistente convierte una herramienta genérica en un asistente, pero existe una peligrosa superposición entre almacenar preferencias de flujo de trabajo y crear silenciosamente un perfil psicológico no aprobado.
La gobernanza de datos aquí necesita límites estrictos de propósito. Si un agente infiere patrones de estrés durante una sesión de coaching ejecutivo, ese contexto no puede filtrarse a evaluaciones de desempeño, algoritmos de seguros o tecnología publicitaria. La transparencia debe ser granular: los usuarios necesitan visibilidad del contexto almacenado, eliminación con un clic y límites de retención predeterminados sensatos. El hecho de que un sistema pueda inferir algo sobre ti no le otorga permiso para almacenarlo.

¿Cómo deberíamos evaluar si un agente autónomo realmente comprende la intención humana? ¿Están los benchmarks actuales demasiado centrados en la finalización de tareas y la precisión, en lugar de si el agente alcanzó el objetivo de una manera que el usuario consideraría aceptable?

La finalización de la tarea es un benchmark profundamente engañoso. Un agente puede seguir una instrucción al pie de la letra y aun así entregar un resultado que el usuario detesta.

Si un agente consigue el precio más bajo en un contrato pero destruye una relación de proveedor de una década para lograrlo, las métricas de evaluación tradicionales registran un 100 % de éxito. Para el ejecutivo, es un desastre. Necesitamos benchmarks que midan el desempeño dentro de límites no declarados: ¿Respetó normas implícitas? ¿Se detuvo cuando cambiaron las condiciones? Esa brecha entre la finalización bruta y la satisfacción real es lo que los benchmarks actuales ignoran por completo.

De cara al futuro, ¿esperas que las capacidades de contexto humano se conviertan en una capa estándar del stack de IA junto con los modelos, la memoria, las herramientas y la seguridad? ¿Qué queda por resolver antes de que las empresas puedan delegar con confianza trabajos significativos a los agentes sin supervisión continua?

A medida que la IA pasa de generar contenido a tomar acciones en el mundo real, el contexto humano se vuelve una capa esencial. Los modelos manejan el razonamiento y las herramientas le dan al sistema manos, pero sin el contexto humano actuando como un bucle de retroalimentación en tiempo real, la memoria y las barreras de seguridad funcionan básicamente sobre suposiciones estáticas.

Antes de que las empresas deleguen autoridad real, aún debemos resolver la privacidad contextual, el razonamiento probabilístico bajo incertidumbre y reglas de gobernanza granulares. Construir IA que complete tareas aisladas está mayormente resuelto; lograr que los sistemas se adapten dinámicamente al ser humano detrás del prompt será lo que determine cuánta autonomía real estamos dispuestos a concederles.

Gracias por la excelente entrevista; los lectores que deseen obtener más información deberían visitar Neurologyca.