La IA aún necesita un entrenador y la supervisión humana necesita una guía

La IA está en todas partes, y el fútbol profesional no es una excepción.

La NFL ha presentado el Digital Athlete, que utiliza datos e IA para ayudar a los equipos a identificar escenarios en los que los jugadores pueden enfrentar un riesgo elevado de lesión. Combina video y datos de entrenamientos, prácticas y partidos con millones de simulaciones, ofreciendo a los 32 equipos acceso a información de tendencias a nivel de liga. Los entrenadores y el personal de entrenamiento usan esa información para desarrollar programas individualizados de prevención de lesiones, entrenamiento y recuperación.

Aunque la tecnología lee el campo, los entrenadores siguen siendo responsables de tomar las decisiones. A medida que las organizaciones amplían el uso de la IA en procesos empresariales, incluida la cumplimiento y las investigaciones laborales, el potencial de automatizar parece ilimitado. Pero, ¿qué tareas debe realizar la IA, bajo qué condiciones y con qué supervisión humana?

Ahí es donde un manual organizacional puede marcar la diferencia: ofrecer a los entrenadores los medios para aprovechar las herramientas de IA mientras se mantiene la supervisión humana donde realmente importa.

Dar a la IA una posición en lugar de todo el campo

Las investigaciones constan de niveles variables de riesgo. La IA puede ayudar a organizar la información de los informes iniciales y:

• Identificar detalles faltantes
• Resumir la información en un informe final
• Construir cronologías
• Mostrar patrones que los investigadores puedan querer examinar más a fondo

Estos casos de uso pueden reducir la clasificación manual y liberar tiempo para centrarse en el trabajo que requiere juicio humano.

Considere que la IA puede resumir una acusación, pero no puede decidir si es creíble. La IA puede identificar una inconsistencia, pero no puede determinar por qué existe. Aquí es donde las organizaciones pueden meterse en problemas al usar IA sin salvaguardas.

Para mantener la supervisión, la IA necesita un rol definido. Las organizaciones deben decidir:

• Las tareas que el sistema debe realizar
• La información a la que puede acceder
• Los límites de lo que se le permite hacer
• Las situaciones en las que una persona debe tomar el control

El Marco de Gestión de Riesgos de IA del Instituto Nacional de Estándares y Tecnología ofrece un referente útil. La hoja de ruta de NIST describe los Perfiles del RMF de IA como una forma de demostrar cómo el marco puede aplicarse a sectores, tecnologías, contextos u otros entornos específicos. En otras palabras, la gobernanza responsable de la IA se vuelve más accionable cuando las organizaciones traducen principios amplios a la realidad de un caso de uso concreto.

Un manual de IA puede hacer algo similar a nivel operativo. Define roles, situaciones y acciones con especificidad.

La supervisión humana es un problema de diseño del sistema

La expresión “humano en el bucle” se ha vuelto habitual en las discusiones sobre IA responsable. Pero la presencia de una persona en algún punto del flujo de trabajo no garantiza que el sistema de IA esté bien gobernado.

NIST ha identificado el trabajo conjunto humano‑IA como un área importante para la investigación y la guía de gestión de riesgos de IA. Entre los problemas que destaca están cómo las personas interpretan los resultados producidos por la IA y cómo los humanos supervisan los sistemas de IA que operan en entornos del mundo real.

La supervisión humana no debe tratarse como una solución temporal hasta que la IA sea lo suficientemente sofisticada como para operar sola. En muchos entornos de alto riesgo, forma parte de la arquitectura requerida para usar la IA de manera responsable a largo plazo.

Un examen revisado por pares de la supervisión humana en la gobernanza de IA señala que se espera que los supervisores humanos mejoren la precisión y la seguridad para mantener los valores humanos y generar confianza. Sin embargo, los humanos no siempre son supervisores fiables. Una supervisión eficaz depende de la competencia, los incentivos y el diseño del rol de supervisión.

Para un investigador, que se le pida aprobar una recomendación generada por IA no es suficiente si carece de la información o la autoridad necesarias para cuestionarla. El manual debe definir no solo que un humano está involucrado, sino cómo y cuándo esa persona puede intervenir.

La transferencia importa tanto como el modelo

Existe otro desafío: incluso cuando un humano tiene autoridad final, la forma en que la IA presenta la información puede influir en la decisión posterior.

Un estudio de preimpresión de 2025 de investigadores de la Universidad de California, Santa Barbara ilustra por qué el diseño de la interfaz es importante. En un experimento controlado con 108 participantes en un escenario de toma de decisiones en salud, los investigadores probaron seis formas de apoyo a la decisión de IA. Descubrieron que mecanismos como la información de confianza de la IA, explicaciones textuales y visualizaciones de rendimiento mejoraron la precisión de la decisión humano‑IA en su experimento.

El estudio también destaca el riesgo del sesgo de automatización: las personas pueden depender excesivamente de las sugerencias de la IA, incluidas las incorrectas.

Este experimento demuestra por qué la transferencia entre máquina y humano requiere un diseño y pruebas deliberados.

Cuando extrapolamos esto y introducimos el concepto de una investigación, surgen varias preguntas:

• ¿El investigador ve solo una conclusión generada por IA, o puede examinar la información subyacente?

• ¿Puede el sistema comunicar incertidumbre?

• ¿Es claro cuándo falta información?

• ¿Pueden los investigadores rechazar una salida y documentar por qué?

Esas son preguntas de gobernanza tanto como técnicas.

Cinco preguntas que todo manual de IA debe responder

Un manual de IA útil debe convertir principios abstractos como “IA responsable” y “supervisión humana” en reglas operativas concretas.

1. ¿Qué puede hacer la IA? Las organizaciones deben autorizar tareas específicas en lugar de conceder un permiso amplio para usar IA en todo el flujo de trabajo.
2. ¿Qué información puede usar? Para investigaciones y denuncias, las organizaciones necesitan límites claros sobre la información disponible para un sistema de IA y cómo se maneja esa información.
3. ¿Cómo evaluarán las personas sus resultados? Los revisores humanos necesitan suficiente contexto para comprender lo que el sistema produjo, sus limitaciones relevantes y la información necesaria para cuestionar el resultado.
4. ¿Cuándo debe intervenir un humano? Un manual debe establecer desencadenantes de escalada en lugar de depender de que cada empleado decida cuándo la IA ha ido demasiado lejos.
5. ¿Dónde termina la autoridad de la IA? Algunas decisiones deben requerir juicio humano, y las personas responsables de esas decisiones necesitan autoridad real para desestimar, anular o detener la tecnología.

Estas ideas se reflejan en una de las piezas regulatorias de IA más importantes del mundo. El artículo 14 del Reglamento de IA de la UE establece requisitos de supervisión humana para los sistemas de IA que se encuentran en la categoría de alto riesgo del Reglamento. Señala que las medidas de supervisión deben ser proporcionales a los riesgos del sistema, su autonomía y el contexto de uso. También exige que los supervisores puedan comprender las capacidades y limitaciones relevantes, interpretar correctamente los resultados, estar alerta al sesgo de automatización, desestimar o anular salidas y intervenir o detener un sistema.

Eso no significa que cada herramienta de IA utilizada en una investigación sea automáticamente un sistema de alto riesgo. El marco ilustra un principio importante para la gobernanza de la IA. La supervisión humana debe proporcionar a los humanos capacidades significativas, no solo un puesto en el flujo de trabajo.

La IA no reemplaza al entrenador. Cambia lo que el entrenador puede ver.

El Digital Athlete de la NFL es convincente no porque demuestre que la IA pueda reemplazar a los entrenadores, sino porque muestra cómo la tecnología sofisticada puede ampliar la información disponible para profesionales experimentados.

La IA puede ayudar a las personas a trabajar con la información, resaltar lo que merece atención y crear mayor consistencia en tareas repetibles. Sin embargo, los momentos más decisivos en una investigación a menudo requieren algo diferente: contexto, escepticismo, interpretación y responsabilidad.

Por lo tanto, las organizaciones mejor posicionadas para beneficiarse de la IA preguntarán más allá de lo que la tecnología puede automatizar. Definirán lo que debe hacer, lo que no debe hacer y cómo deben trabajar juntos los humanos y la IA.