Entrevistas
Stavros Gadinis, profesor de Berkeley Law y autor de Orden corporativo – Serie de entrevistas

Puntos claveEl pedido corporativo describe cómo las empresas escriben reglas y se monitorean a sí…
Ver más
- El pedido corporativo describe cómo las empresas escriben reglas y se monitorean a sí mismas antes de que actúen los reguladores.
- Las evaluaciones de seguridad de la IA carecen de independencia cuando la dirección contrata y puede despedir a sus propios revisores externos.
- Un marco de seguridad que nunca retrasó un lanzamiento es indistinguible de las relaciones públicas.
Stavros Gadinis es titular de la cátedra George R. Johnson de Derecho en la Facultad de Derecho de UC Berkeley. Su investigación examina la gobernanza corporativa, la regulación financiera y los sistemas internos que utilizan las empresas para tomar decisiones y supervisarlas. Antes de dedicarse a la academia, ejerció el derecho corporativo en Europa.
Su nuevo libro, Orden corporativo: cómo las corporaciones navegan los conflictos sociales, publicado por Cambridge University Press, examina cómo las empresas desarrollan sistemas de gobernanza cuando las normas públicas aún no están definidas. A través de casos relacionados con los viajes compartidos, la sostenibilidad climática y la inteligencia artificial, analiza cómo las empresas establecen normas, ejercen autoridad y supervisan su propia conducta.
Su trayectoria abarca el ejercicio del derecho corporativo en Europa y la investigación sobre gobernanza corporativa y regulación financiera en Berkeley Law. ¿Cómo influyó ese recorrido en su forma de pensar y qué lo inspiró a escribir Orden corporativo?
Comencé mi carrera ejerciendo el derecho corporativo en Europa y después pasé muchos años en Berkeley estudiando la gobernanza corporativa y la regulación financiera, incluido el modo en que las normas se extienden a través de las fronteras cuando ningún gobierno está al mando. Solemos pensar que el mundo empresarial y el regulatorio son opuestos: uno, deseoso de tomar decisiones rápidas y obtener grandes beneficios; el otro, comprometido con los procedimientos burocráticos y el bien público. Tanto la práctica como la investigación me enseñaron que la división entre ambos es mucho menos nítida.
El libro surgió de conversaciones con asesores jurídicos generales y altos directivos sobre cómo afrontan decisiones controvertidas, aquellas en las que empleados, clientes, comunidades y gobiernos quieren cosas distintas. Me llamó la atención lo mucho que sus métodos se parecen a los de un buen regulador. Recopilan información consultando a las personas afectadas, explican públicamente sus decisiones y crean mecanismos para comprobar si estas se sostienen. No se trata de hábitos propios de la regulación ni de las empresas. Son principios para tomar decisiones acertadas en cualquier institución que ejerza poder sobre otras personas. Con Orden corporativo intento describir esa maquinaria, mostrar dónde funciona y dónde falla.
¿Qué es el «orden corporativo» y cómo ayuda a explicar la manera en que las empresas de IA establecen normas para tecnologías cuyo desarrollo se ha adelantado a la regulación?
El orden corporativo es la infraestructura interna de gobernanza que las empresas construyen para tomar decisiones controvertidas antes de que la ley les indique qué hacer. Cumple tres funciones que reflejan las ramas de un Estado. La elaboración de normas es la manera en que una empresa redacta sus propios principios. La acción ejecutiva es la manera en que los aplica a decisiones concretas. La supervisión consiste en comprobar si los ha puesto en práctica y averiguar qué ocurrió cuando no lo hizo.
En las empresas de IA se observan las tres funciones. Los laboratorios de vanguardia redactan constituciones, especificaciones de modelos y marcos de seguridad: eso es elaboración de normas. Deciden si un modelo está listo para lanzarse, a qué se negará y quién tendrá acceso: eso es acción ejecutiva. Además, encargan ejercicios de equipo rojo, evaluaciones externas e informes de incidentes: eso es supervisión. En el libro describo estas funciones en los principales laboratorios. Las diferencias son reales, pero también lo es la notable convergencia, a medida que cada empresa descubre por qué necesita todos estos elementos.
Quiero dejar algo claro, porque a menudo se malinterpreta: el orden corporativo no es un argumento contra la regulación. Describe los materiales a partir de los cuales se construirá. Cuando los legisladores actúan, toman prestados conceptos que las empresas desarrollaron primero. La verdadera pregunta es si ese primer borrador se redactó con suficiente cuidado como para merecer ser adoptado.
Su libro examina los viajes compartidos, la sostenibilidad climática y la gobernanza de la IA. ¿Qué enseñanzas de las dos primeras áreas son más útiles para la IA y en qué aspectos plantea esta desafíos fundamentalmente distintos?
La enseñanza que dejan los viajes compartidos y el clima es que, muy a menudo, las empresas redactan el primer borrador de la ley. Uber y Lyft desarrollaron prácticas de información sobre seguros y seguridad antes de que los estados tuvieran normas al respecto, y gran parte de la contabilidad de carbono corporativa se basa en el GHG Protocol, una norma que contribuyeron a crear las empresas. Después, los reguladores respaldaron esas prácticas, las complementaron o las incorporaron a la ley. La regulación rara vez parte de cero. Y cuanto más reflexivas son las empresas respecto a sus decisiones y más tienen en cuenta a las partes afectadas, más probabilidades hay de que esas decisiones se mantengan en la regulación.
La IA presenta dos diferencias. La primera es la velocidad. A menudo, los reguladores van un paso por detrás de la industria, pero en la IA la brecha es mucho mayor. Los reguladores tendrán que recurrir a las empresas para que desarrollen normas y procesos internos, y concentrar sus propios esfuerzos en la supervisión, la verificación y la aplicación de las normas. Eso cambia su función, pero no la reduce. La verificación es donde más importa el poder público, porque es donde el conflicto de intereses con la dirección es más intenso. La segunda diferencia es el alcance. La IA afecta a casi todos los aspectos de la vida cotidiana y se ha convertido en una inversión importante para el país en su conjunto. Las implicaciones para el riesgo sistémico son tan evidentes como difíciles de comprender.
Cuando una empresa de IA selecciona y paga a sus propios evaluadores externos de seguridad, ¿qué salvaguardias permiten que esa supervisión sea realmente independiente?
Este conflicto de intereses es habitual en las auditorías financieras, y el derecho societario ya cuenta con herramientas para gestionarlo. La primera cuestión es quién contrata y despide. La relación con el evaluador debería depender de directores independientes que no tengan otros vínculos financieros con la empresa, del mismo modo que el comité de auditoría, y no el director ejecutivo ni el director financiero, supervisa al auditor externo. La dirección no debería poder despedir a un revisor cuyas conclusiones le resulten inconvenientes.
La segunda cuestión es el acceso y la publicación. El evaluador debe poder ver lo que solicite y tener derecho a publicar sus conclusiones o, al menos, un resumen sustancial, sin que la empresa pueda vetarlo. El riesgo reputacional es lo que da fuerza a una revisión. La tercera cuestión son los criterios de revisión comunes, para que una evaluación signifique lo mismo en todas las empresas y los evaluadores no puedan competir siendo indulgentes. La cuarta es proteger a quienes denuncian irregularidades e incluso recompensarlos cuando aportan información útil para actuar, porque quienes trabajan dentro de la empresa suelen ser los primeros en enterarse de que se ha manipulado una evaluación.
Supongamos que un evaluador externo detecta un problema grave de seguridad justo antes del lanzamiento de un modelo importante. ¿Quién debería recibir esa conclusión y quién debería tener autoridad para retrasar o detener el despliegue?
La conclusión debería llegar directamente al consejo de administración, idealmente a un comité de directores independientes responsable de la seguridad, y no únicamente a través del equipo directivo que impulsa el lanzamiento. La dirección puede y debe responder, pero no debería actuar como filtro. La autoridad para retrasar o detener el despliegue debería recaer en el consejo, porque este tipo de decisión es precisamente una de las que los consejos existen para tomar: una decisión de gran trascendencia, con intereses en conflicto y sin una respuesta claramente correcta.
Pero lo más importante es que la decisión sea explícita, quede documentada y pueda atribuirse a las personas que la tomaron. Si el consejo sigue adelante pese a la preocupación, el registro debería indicar qué sabía, qué sopesó y por qué consideró aceptable el riesgo. Ese rastro documental crea las condiciones para que haya responsabilidad jurídica o, al menos, daño reputacional, y hace que la gente se lo piense dos veces. Los tribunales están cada vez más dispuestos a reconocer que las decisiones de diseño de software tienen consecuencias para los usuarios, y una empresa que pueda demostrar un esfuerzo serio y documentado se encuentra en una posición muy distinta de otra que no pueda hacerlo.
Cuando las preocupaciones de seguridad entran en conflicto con los objetivos de ingresos o la presión competitiva, ¿cómo debería ser un proceso creíble de toma de decisiones del consejo?
Un proceso creíble es un proceso informado, y deja constancia. El consejo debería conocer información concreta sobre los costos de la demora, la naturaleza y la probabilidad del problema de seguridad, y las opciones para mitigarlo. Debería preguntar si las pruebas fueron adecuadas y, si no lo fueron, encargar más pruebas o solicitar una revisión externa. Cuando persiste una incertidumbre real, hay opciones intermedias entre lanzar el producto y dejarlo en suspenso, como un lanzamiento limitado, un despliegue gradual o un entorno aislado de pruebas, que permiten a la empresa obtener más información antes de comprometerse. Y, sea cual sea la decisión del consejo, lo que la empresa comunique después públicamente sobre la seguridad del modelo debe ser exacto; ahí reside gran parte del riesgo actual de litigio.
Después, el consejo debería dejar constancia de lo que decidió y por qué. Con el tiempo, esos registros se convierten en un conjunto de precedentes, de modo que la siguiente decisión difícil se evalúa a la luz de la anterior y cualquiera que revise la empresa puede comprobar si sus principios declarados realmente la obligan. Microsoft ha empezado a construir este tipo de registro de decisiones, y creo que es una de las herramientas menos valoradas de la gobernanza de la IA. La presión competitiva es real, y un consejo puede decidir razonablemente seguir adelante. Lo que no puede hacer es dejar que la decisión se tome por defecto.
Su trabajo propone un estándar de «juicio empresarial social» para evaluar las decisiones de los consejos. ¿Cómo se aplicaría a una empresa de IA que pospone el lanzamiento de un producto rentable por el posible daño público?
Según el derecho societario vigente, un consejo que pospone un lanzamiento rentable ya está bien protegido. Los tribunales respetan el criterio empresarial de los directores, y aceptar menores ganancias hoy para evitar daños mañana encaja perfectamente en ese criterio. La cuestión más difícil es la inversa: si el consejo tomó siquiera en serio el posible daño público.
El juicio empresarial social pide al consejo que evalúe el posible daño público como evaluaría cualquier otro riesgo empresarial, mediante métricas concretas, medibles y específicas siempre que sea posible. El énfasis está en el proceso y la diligencia debida, no en el resultado. Un consejo que obtiene la información adecuada, escucha a las personas afectadas y deja constancia de sus motivos se ha ganado la deferencia, tanto si pospone el lanzamiento como si sigue adelante. Un consejo que no hace nada de eso, no. Así que, en el caso que describe, el aplazamiento en sí no es el problema. La cuestión es si el consejo puede demostrar cómo llegó a esa decisión y si volvería a tomarla ante los mismos hechos.
Las empresas de IA publican marcos de seguridad y compromisos voluntarios, pero rara vez los lectores ven cómo influyen esas políticas en decisiones concretas. ¿Qué pruebas permitirían distinguir una gobernanza eficaz de un ejercicio de relaciones públicas?
Muy a menudo, cuando las empresas publican marcos, el público se queda preguntándose si estos se aplican alguna vez a decisiones concretas o si no son más que retórica que la empresa nunca lleva a la práctica. La respuesta es divulgar información de un tipo específico. En lugar de publicar más declaraciones de principios, las empresas deberían informar de las decisiones concretas que tomaron y de cómo influyó en ellas el marco: qué lanzamientos se retrasaron, qué capacidades se retuvieron, qué umbrales de riesgo se alcanzaron y qué ocurrió después.
La prueba más reveladora es una decisión que le haya costado algo a la empresa. Es difícil distinguir de las relaciones públicas un marco que nunca haya cambiado un resultado, retrasado un lanzamiento ni se haya invocado para ir en contra de los ingresos. Además, esta información debe ser lo bastante específica como para poder verificarse y, en las cuestiones de mayor trascendencia, debe verificarla un tercero con autoridad para hacerlo público.
¿Hasta dónde llega la autorregulación empresarial? ¿Qué decisiones sobre el riesgo aceptable de la IA requieren normas públicas o supervisión democrática?
El límite más importante tiene que ver con las fallas de supervisión. Incluso una empresa responsable y bienintencionada puede afrontar una crisis grave y, en ese momento, los conflictos de intereses se multiplican. Los empleados pueden ocultar información que perjudicaría su empleo o sus bonificaciones. Los ejecutivos pueden suprimir las malas noticias para evitar las críticas públicas. El temor a las demandas puede impedir que la empresa sea transparente. En crisis empresariales anteriores, la información crucial solía proceder de personas que la dirección no podía controlar: auditores y revisores externos, las partes afectadas o denunciantes internos que utilizaban canales independientes para informar.
Aquí es donde más importan las normas públicas. La ley puede aportar relativamente poco en la etapa de elaboración de normas, porque las leyes suelen tomar de las empresas sus conceptos fundamentales. Puede aportar más en materia de divulgación, al abarcar a las empresas que no divulgan información voluntariamente. Y su mayor aporte se da en la verificación, al exigir revisiones independientes, proteger a quienes denuncian irregularidades y otorgar verdadera autoridad a los controles externos.
El otro límite es colectivo. Lo máximo que puede hacer una sola empresa es detenerse a sí misma. No puede detener a sus competidores. Las decisiones sobre riesgos catastróficos, incluida la de frenar el avance de la frontera tecnológica, requieren coordinación entre empresas y gobiernos, tanto a escala nacional como internacional. Un modelo que considero prometedor es un organismo internacional de normalización siguiendo el ejemplo del ISSB en materia de informes de sostenibilidad: independiente de los gobiernos, pero supervisado por un consejo de administración que los incluya. El ordenamiento corporativo es necesario para esta labor, porque la contención de estos modelos ocurre dentro de las empresas que los desarrollan, pero no puede llevarla adelante por sí solo.
Si hoy asesorara a la junta directiva de una empresa de IA de rápido crecimiento, ¿qué tres cambios de gobernanza priorizaría y qué pruebas buscaría un año después para determinar si dieron resultado?
Primero, consultar a las partes interesadas durante la elaboración de normas. Antes de adoptar o revisar su marco de seguridad o sus políticas de uso, la empresa debería consultar a las personas afectadas (usuarios, sociedad civil y expertos del ámbito) y publicar qué escuchó y cómo respondió. Segundo, presentar informes periódicos de responsabilidad: un informe anual de las decisiones difíciles que tomaron la junta directiva y la gerencia en aplicación del marco, con suficientes detalles para que puedan verificarse. Tercero, designar un supervisor externo, contratado por directores independientes y bajo su responsabilidad, con acceso pleno y derecho a publicar sus conclusiones.
Un año después, buscaría pruebas de que cada medida tuvo efectos concretos. En cuanto a las consultas, al menos una norma que hubiera cambiado a raíz de lo que la empresa escuchó. En cuanto a los informes, decisiones divulgadas que la empresa habría preferido no comentar, incluidas las que le costaron ingresos o tiempo. En cuanto al supervisor, conclusiones que la empresa no quería recibir y constancia de lo que hizo la junta directiva al respecto. Si después de un año todo lo que se informa son buenas noticias, los cambios no han funcionado.
Gracias por la excelente entrevista; los lectores que deseen explorar el libro y las opciones de compra pueden visitar el sitio web oficial de Ordenamiento corporativo.












