Cómo operacionalizar la ética de la IA!

La IA se centra en optimizar procesos, no en eliminar a los humanos de ellos. La rendición de cuentas sigue siendo crucial en la idea general de que la IA puede reemplazar a los humanos. Mientras que la tecnología y los sistemas automatizados nos han ayudado a lograr mejores resultados económicos en el siglo pasado, ¿pueden realmente reemplazar servicios, creatividad y conocimiento profundo? Todavía creo que no, pero pueden optimizar el tiempo dedicado a desarrollar estas áreas.

La rendición de cuentas depende en gran medida de los derechos de propiedad intelectual, prever el impacto de la tecnología en los derechos colectivos e individuales, y garantizar la seguridad y protección de los datos utilizados en la capacitación y el intercambio mientras se desarrollan nuevos modelos. A medida que seguimos avanzando en la tecnología, el tema de la ética de la IA se ha vuelto cada vez más relevante. Esto plantea preguntas importantes sobre cómo regulamos y integramos la IA en la sociedad mientras minimizamos los riesgos potenciales.

Trabajo en estrecha colaboración con un aspecto de la IA: la clonación de voz. La voz es una parte importante de la semejanza de un individuo y los datos biométricos utilizados para entrenar modelos de voz. La protección de la semejanza (preguntas legales y de política), la seguridad de los datos de voz (políticas de privacidad y ciberseguridad) y el establecimiento de los límites de las aplicaciones de clonación de voz (preguntas éticas que miden el impacto) son fundamentales para considerar al construir el producto.

Debemos evaluar cómo la IA se alinea con las normas y valores de la sociedad. La IA debe adaptarse para encajar dentro del marco ético existente de la sociedad, asegurando que no imponga riesgos adicionales o amenace las normas sociales establecidas. El impacto de la tecnología cubre áreas donde la IA empodera a un grupo de individuos mientras elimina a otros. Esta dilema existencial surge en cada etapa de nuestro desarrollo y crecimiento o declive social. ¿Puede la IA introducir más desinformación en los ecosistemas de información? Sí. ¿Cómo gestionamos ese riesgo a nivel de producto, y cómo educamos a los usuarios y a los responsables de las políticas sobre ello? Las respuestas no se encuentran en los peligros de la tecnología en sí, sino en cómo la empaquetamos en productos y servicios. Si no tenemos suficiente personal en los equipos de productos para mirar más allá y evaluar el impacto de la tecnología, nos quedaremos atrapados en un ciclo de arreglar el desastre.

La integración de la IA en los productos plantea preguntas sobre la seguridad del producto y la prevención de daños relacionados con la IA. El desarrollo y la implementación de la IA deben priorizar la seguridad y las consideraciones éticas, lo que requiere la asignación de recursos a los equipos relevantes.

Para facilitar el debate emergente sobre la operacionalización de la ética de la IA, sugiero este ciclo básico para hacer que la IA sea ética a nivel de producto:

1. Investigar los aspectos legales de la IA y cómo la regulamos, si existen regulaciones. Estos incluyen la Ley de IA de la UE, la Ley de Servicios Digitales, la Ley de Seguridad en Línea del Reino Unido y el RGPD sobre la privacidad de los datos. Los marcos son obras en progreso y necesitan aportes de los líderes de la industria (tecnología emergente) y los líderes. Vea el punto (4) que completa el ciclo sugerido.

2. Considerar cómo adaptamos los productos basados en IA a las normas de la sociedad sin imponer más riesgos. ¿Afeta la seguridad de la información o el sector laboral, o infringe los derechos de autor y los derechos de propiedad intelectual? Crear una matriz de escenarios de crisis. Lo extraigo de mi experiencia en seguridad internacional.

3. Determinar cómo integrar lo anterior en los productos basados en IA. A medida que la IA se vuelve más sofisticada, debemos asegurarnos de que se alinee con los valores y las normas de la sociedad. Necesitamos ser proactivos al abordar las consideraciones éticas y integrarlas en el desarrollo y la implementación de la IA. Si los productos basados en IA, como la IA generativa, amenazan con difundir más desinformación, debemos introducir características de mitigación, moderación, limitar el acceso a la tecnología central y comunicarnos con los usuarios. Es fundamental tener equipos de ética y seguridad de la IA en los productos basados en IA, lo que requiere recursos y una visión de la empresa.

Considerar cómo podemos contribuir a y dar forma a los marcos legales. Las mejores prácticas y los marcos de políticas no son simples modas; son herramientas prácticas que ayudan a la nueva tecnología a funcionar como herramientas asistentes, no como amenazas. Reunir a los responsables de las políticas, investigadores, grandes tecnologías y tecnologías emergentes en una habitación es esencial para equilibrar los intereses sociales y empresariales que rodean la IA. Los marcos legales deben adaptarse a la tecnología emergente de la IA. Necesitamos asegurarnos de que estos marcos protejan a los individuos y a la sociedad, al mismo tiempo que facilitan la innovación y el progreso.

4. Pensar en cómo contribuimos a los marcos legales y los configuramos. Las mejores prácticas y los marcos de políticas no son simples modas, sino herramientas prácticas para hacer que la nueva tecnología funcione como herramientas asistentes, no como amenazas. Tener a los responsables de las políticas, investigadores, grandes tecnologías y tecnologías emergentes en una habitación es esencial para equilibrar los intereses sociales y empresariales que rodean la IA. Los marcos legales deben adaptarse a la tecnología emergente de la IA. Necesitamos asegurarnos de que estos marcos protejan a los individuos y a la sociedad, al mismo tiempo que facilitan la innovación y el progreso.

Resumen

Este es un círculo básico para integrar tecnologías emergentes basadas en IA en nuestras sociedades. A medida que seguimos luchando con las complejidades de la ética de la IA, es fundamental seguir comprometidos con encontrar soluciones que prioricen la seguridad, la ética y el bienestar social. Y estas no son palabras vacías, sino el trabajo duro de unir todos los rompecabezas a diario.

Estas palabras se basan en mi propia experiencia y conclusiones.