Ética
Consideraciones Éticas al Desarrollar IA para Reconocimiento de Emociones
La inteligencia artificial para la regulación de las emociones es uno de los últimos avances tecnológicos en el campo del aprendizaje automático. Aunque muestra un gran potencial, los problemas éticos están a punto de afectar su tasa de adopción y longevidad. ¿Pueden los desarrolladores de IA superarlos?
¿Qué es el Reconocimiento de Emociones por IA!
El reconocimiento de emociones por IA es un tipo de modelo de aprendizaje automático. A menudo se basa en la tecnología de visión por computadora que captura y analiza expresiones faciales para descifrar estados de ánimo en imágenes y videos. Sin embargo, también puede operar en fragmentos de audio para determinar el tono de voz o texto escrito para evaluar el sentimiento del lenguaje.
Este tipo de algoritmo representa un progreso fascinante en el campo de la IA, ya que, hasta ahora, los modelos no han podido comprender los sentimientos humanos. Mientras que los grandes modelos de lenguaje como ChatGPT pueden simular estados de ánimo y personalidades de manera convincente, solo pueden combinar palabras de manera lógica, no pueden sentir nada y no muestran inteligencia emocional.Aunque un modelo de reconocimiento de emociones no es capaz de tener sentimientos, aún puede detectar y catalogarlos. Este desarrollo es significativo porque indica que la IA pronto podrá comprender y demostrar genuinamente felicidad, tristeza o ira. Los avances tecnológicos como este indican un progreso acelerado.
Casos de Uso para el Reconocimiento de Emociones por IA
Empresas, educadores, consultores y profesionales de la salud mental son algunos de los grupos que pueden utilizar la IA para el reconocimiento de emociones.
Evaluación de Riesgos en la Oficina
Los equipos de recursos humanos pueden utilizar algoritmos para realizar un análisis de sentimiento en la correspondencia por correo electrónico o en chats entre miembros del equipo. Alternativamente, pueden integrar su algoritmo en su sistema de vigilancia o visión por computadora. Los usuarios pueden rastrear el estado de ánimo para calcular métricas como el riesgo de rotación, la tasa de agotamiento y la satisfacción del empleado.
Asistir a los Agentes de Servicio al Cliente
Los minoristas pueden utilizar agentes de servicio al cliente de IA internos para usuarios finales o asistentes virtuales para resolver situaciones de alto estrés. Dado que su modelo puede reconocer el estado de ánimo, puede sugerir técnicas de desescalada o cambiar su tono cuando se dé cuenta de que un consumidor se está enfadando. Medidas como estas pueden mejorar la satisfacción y la retención del cliente.
Ayudar a los Estudiantes en el Aula
Los educadores pueden utilizar esta IA para evitar que los estudiantes a distancia se queden atrás. Una startup ya ha utilizado su herramienta para medir los puntos musculares en las caras de los estudiantes mientras cataloga su velocidad y calificaciones. Este método determina su estado de ánimo, motivación, fortalezas y debilidades. El fundador de la startup afirma que obtienen un 10% más en las pruebas cuando utilizan el software.
Realizar Investigación de Mercado Interna
Las empresas pueden realizar investigaciones de mercado internas utilizando un modelo de reconocimiento de emociones. Puede ayudarles a comprender exactamente cómo reacciona su público objetivo a su producto, servicio o material de marketing, brindándoles valiosas ideas basadas en datos. Como resultado, pueden acelerar el tiempo de comercialización y aumentar sus ingresos.
El Problema de Utilizar la IA para Detectar Emociones
La investigación sugiere que la precisión depende en gran medida de la información de entrenamiento. Un grupo de investigación — que intentaba descifrar sentimientos a partir de imágenes — demostró anecdóticamente este concepto cuando su modelo logró una precisión del 92,05% en el conjunto de datos de expresiones faciales femeninas japonesas y una precisión del 98,13% en el conjunto de datos de Cohn-Kanade extendido.
Aunque la diferencia entre el 92% y el 98% puede parecer insignificante, es importante — esta pequeña discrepancia podría tener ramificaciones sustanciales. Por ejemplo, una tasa de envenenamiento de datos tan baja como el 0,001% ha demostrado ser efectiva para establecer puertas traseras de modelo o causar intencionalmente malclasificaciones. Incluso una fracción de un porcentaje es significativa.
Además, aunque los estudios parecen prometedores — tasas de precisión superiores al 90% muestran potencial — los investigadores los llevan a cabo en entornos controlados. En el mundo real, las imágenes borrosas, las expresiones faciales fingidas, los malos ángulos y los sentimientos sutiles son mucho más comunes. En otras palabras, la IA puede no ser capaz de realizar un desempeño consistente.
El Estado Actual de la IA de Reconocimiento de Emociones
El análisis de sentimiento algorítmico es el proceso de utilizar un algoritmo para determinar si el tono del texto es positivo, neutral o negativo. Esta tecnología es, en cierto modo, la base de los modelos modernos de detección de emociones, ya que allanó el camino para las evaluaciones algorítmicas del estado de ánimo. Tecnologías similares, como el software de reconocimiento facial, también han contribuido al progreso.
Los algoritmos actuales pueden detectar principalmente solo estados de ánimo simples como felicidad, tristeza, ira, miedo y sorpresa con diferentes grados de precisión. Estas expresiones faciales son innatas y universales, lo que significa que son naturales y globalmente entendidas, por lo que entrenar a una IA para identificarlas es relativamente sencillo.
Además, las expresiones faciales básicas a menudo están exageradas. Las personas fruncen el ceño cuando están enojadas, hacen una mueca cuando están tristes, sonríen cuando están felices y abren los ojos cuando están sorprendidas. Estos looks simples y dramáticos son fáciles de diferenciar. Las emociones más complejas son más difíciles de identificar porque son sutiles o combinan expresiones básicas.
Dado que este subconjunto de IA sigue en gran medida en investigación y desarrollo, no ha progresado para cubrir sentimientos complejos como la nostalgia, la vergüenza, el duelo, los celos, el alivio o la confusión. Aunque es probable que cubra más en el futuro, no hay garantía de que pueda interpretarlos todos.
En realidad, los algoritmos pueden nunca ser capaces de competir con los humanos. Por ejemplo, mientras que el conjunto de datos de GPT-4 de OpenAI es aproximadamente 1 petabyte, un solo milímetro cúbico del cerebro humano contiene alrededor de 1,4 petabytes de datos. Los neurocientíficos no pueden comprender completamente cómo el cerebro percibe las emociones a pesar de décadas de investigación, por lo que construir una IA altamente precisa puede ser imposible.
Aunque utilizar esta tecnología para el reconocimiento de emociones tiene precedentes, este campo sigue siendo técnicamente en su infancia. Hay una abundancia de investigaciones sobre el concepto, pero pocos ejemplos reales de despliegue a gran escala existen. Algunos signos indican que la adopción lenta puede deberse a preocupaciones sobre la precisión inconsistente y los problemas éticos.
Consideraciones Éticas para los Desarrolladores de IA
Según una encuesta, el 67% de los encuestados están de acuerdo en que la IA debería estar más regulada. Para tranquilizar a la gente, los desarrolladores deberían minimizar los sesgos, asegurarse de que sus modelos se comporten como se espera y mejorar los resultados. Estas soluciones son posibles si priorizan las consideraciones éticas durante el desarrollo.
1. Recopilación y Utilización de Datos con Consentimiento
El consentimiento es todo en una era en la que la regulación de la IA está aumentando. ¿Qué sucede si los empleados descubren que sus expresiones faciales están siendo catalogadas sin su conocimiento? ¿Los padres necesitan dar su consentimiento para el análisis de sentimiento basado en la educación o los estudiantes pueden decidir por sí mismos?
Los desarrolladores deberían revelar explícitamente qué información recopilará el modelo, cuándo estará en funcionamiento, para qué se utilizará el análisis y quién podrá acceder a esos detalles. Además, deberían incluir funciones de rechazo para que las personas puedan personalizar los permisos.
2. Salida de Análisis de Sentimiento Anonimizada
La anonimización de los datos es tanto un problema de privacidad como de seguridad. Los desarrolladores deberían anonimizar la información de las emociones que recopilan para proteger a las personas involucradas. Al menos, deberían considerar seriamente utilizar el cifrado en reposo.
3. Toma de Decisiones con Intervención Humana
La única razón para utilizar la IA para determinar el estado emocional de alguien es para informar la toma de decisiones. Ya sea que se utilice en una capacidad de salud mental o en un entorno minorista, afectará a las personas. Los desarrolladores deberían aprovechar las salvaguardas de intervención humana para minimizar el comportamiento inesperado.
4. Retroalimentación Centrada en el Ser Humano para la Salida de la IA
Incluso si un algoritmo tiene casi un 100% de precisión, aún producirá falsos positivos. Considerando que no es inusual que los modelos logren un 50% o un 70% — y eso sin tocar los problemas de sesgo o alucinación — los desarrolladores deberían considerar la implementación de un sistema de retroalimentación.
Las personas deberían poder revisar lo que la IA dice sobre su estado emocional y apelar si creen que es falso. Aunque tal sistema requeriría guardias y medidas de responsabilidad, minimizaría los impactos adversos que surgen de la salida inexacta.
Las Consecuencias de Ignorar la Ética
Las consideraciones éticas deberían ser una prioridad para los ingenieros de IA, los desarrolladores de aprendizaje automático y los propietarios de negocios porque les afecta. Considerando que la opinión pública cada vez más insegura y las regulaciones más estrictas están en juego, las consecuencias de ignorar la ética pueden ser significativas.
