El uso ético de la IA no es solo lo correcto, también es bueno para los negocios

A medida que la adopción de la IA aumenta y las organizaciones de todas las industrias adoptan herramientas y aplicaciones basadas en la IA, no debería sorprender que los ciberdelincuentes ya estén encontrando formas de aprovechar esas herramientas para su propio beneficio. Pero mientras es importante proteger la IA contra posibles ciberataques, el problema del riesgo de la IA se extiende mucho más allá de la seguridad. En todo el mundo, los gobiernos están comenzando a regular cómo se desarrolla y utiliza la IA, y las empresas pueden sufrir daños significativos a su reputación si se descubre que están utilizando la IA de manera inapropiada. Las empresas de hoy están descubriendo que utilizar la IA de manera ética y responsable no es solo lo correcto, sino que es fundamental para generar confianza, mantener el cumplimiento y mejorar la calidad de sus productos.

La realidad regulatoria que rodea a la IA

El paisaje regulatorio en rápida evolución debería ser una preocupación seria para los proveedores que ofrecen soluciones basadas en la IA. Por ejemplo, el Acta de IA de la UE, aprobada en 2024, adopta un enfoque basado en el riesgo para la regulación de la IA y considera que los sistemas que participan en prácticas como la puntuación social, el comportamiento manipulador y otras actividades potencialmente poco éticas son “inaceptables”. Esos sistemas están prohibidos directamente, mientras que otros sistemas de IA de “alto riesgo” están sujetos a obligaciones más estrictas en cuanto a la evaluación del riesgo, la calidad de los datos y la transparencia. Las sanciones por incumplimiento son severas: las empresas que se encuentre que utilizan la IA de manera inaceptable pueden ser multadas con hasta 35 millones de euros o el 7% de su facturación anual.

El Acta de IA de la UE es solo una pieza de legislación, pero ilustra claramente el costo elevado de no cumplir con ciertos umbrales éticos. Estados como California, Nueva York, Colorado y otros han promulgado sus propias directrices de IA, la mayoría de las cuales se centran en factores como la transparencia, la privacidad de los datos y la prevención de sesgos. Y aunque las Naciones Unidas carecen de los mecanismos de aplicación que disfrutan los gobiernos, es digno de mención que los 193 miembros de la ONU afirmaron unánimemente que “los derechos humanos y las libertades fundamentales deben ser respetados, protegidos y promovidos en todo el ciclo de vida de los sistemas de inteligencia artificial” en una resolución de 2024. En todo el mundo, los derechos humanos y las consideraciones éticas están cada vez más presentes en la mente de las personas cuando se trata de la IA.

El impacto reputacional de la mala ética de la IA

Mientras que las preocupaciones de cumplimiento son muy reales, la historia no termina allí. El hecho es que priorizar el comportamiento ético puede mejorar fundamentalmente la calidad de las soluciones de IA. Si un sistema de IA tiene un sesgo inherente, eso es malo por razones éticas, pero también significa que el producto no funciona tan bien como debería. Por ejemplo, cierta tecnología de reconocimiento facial ha sido criticada por no identificar las caras de piel oscura tan bien como las caras de piel clara. Si una solución de reconocimiento facial no identifica a una parte significativa de los sujetos, eso presenta un problema ético grave, pero también significa que la tecnología en sí no está proporcionando el beneficio esperado, y los clientes no estarán satisfechos. Abordar el sesgo mitiga las preocupaciones éticas y mejora la calidad del producto en sí.

Las preocupaciones sobre el sesgo, la discriminación y la equidad pueden llevar a los proveedores a problemas con los organismos regulatorios, pero también erosionan la confianza del cliente. Es una buena idea tener ciertas “líneas rojas” cuando se trata de cómo se utiliza la IA y con qué proveedores asociarse. Los proveedores de IA asociados con la desinformación, la vigilancia masiva, la puntuación social, los gobiernos oprimidos o incluso solo una falta general de rendición de cuentas pueden hacer que los clientes se sientan incómodos, y los proveedores que ofrecen soluciones basadas en la IA deberían tener eso en cuenta al considerar con quién asociarse. La transparencia es casi siempre mejor, aquellos que se niegan a revelar cómo se utiliza la IA o quiénes son sus socios parecen estar ocultando algo, lo que generalmente no fomenta una opinión positiva en el mercado.

Identificar y mitigar señales de alerta éticas

Los clientes están aprendiendo cada vez más a buscar señales de un comportamiento poco ético de la IA. Los proveedores que prometen demasiado pero no explican sus capacidades de IA probablemente están siendo menos que honestos sobre lo que sus soluciones pueden hacer realmente. Las malas prácticas de datos, como la extracción excesiva de datos o la incapacidad de optar por no participar en la capacitación del modelo de IA, también pueden levantar señales de alerta. Hoy en día, los proveedores que utilizan la IA en sus productos y servicios deben tener un marco de gobernanza claro y público con mecanismos para la rendición de cuentas. Aquellos que exigen la arbitraje forzado, o peor, no proporcionan ningún recurso, probablemente no serán buenos socios. Lo mismo ocurre con los proveedores que no están dispuestos o no pueden proporcionar las métricas por las que evalúan y abordan el sesgo en sus modelos de IA. Los clientes de hoy no confían en las soluciones de caja negra, quieren saber cuándo y cómo se despliega la IA en las soluciones en las que confían.

Para los proveedores que utilizan la IA en sus productos, es importante transmitir a los clientes que las consideraciones éticas están en la mente. Aquellos que entrenan sus propios modelos de IA necesitan procesos sólidos de prevención de sesgos y aquellos que confían en proveedores de IA externos deben priorizar a los socios con una reputación de comportamiento justo. También es importante ofrecer a los clientes una elección: muchos todavía se sienten incómodos confiando sus datos a soluciones de IA y proporcionar una “opt-out” para las características de IA les permite experimentar a su propio ritmo. También es fundamental ser transparente sobre dónde se obtienen los datos de capacitación. Nuevamente, esto es ético, pero también es bueno para los negocios, si un cliente descubre que la solución en la que confía se entrenó con datos con derechos de autor, lo expone a acciones regulatorias o legales. Al poner todo en abierto, los proveedores pueden generar confianza con sus clientes y ayudarlos a evitar resultados negativos.

Priorizar la ética es la decisión comercial inteligente

La confianza siempre ha sido una parte importante de cada relación comercial. La IA no ha cambiado eso, pero ha introducido nuevas consideraciones que los proveedores deben abordar. Las preocupaciones éticas no siempre están en la mente de los líderes empresariales, pero cuando se trata de la IA, el comportamiento poco ético puede tener consecuencias graves, incluido el daño a la reputación y las posibles violaciones regulatorias y de cumplimiento. Peor aún, la falta de atención a las consideraciones éticas como la mitigación del sesgo puede dañar activamente la calidad de los productos y servicios de un proveedor. A medida que la adopción de la IA continúa acelerándose, los proveedores están reconociendo cada vez más que priorizar el comportamiento ético no es solo lo correcto, sino que también es bueno para los negocios.