El creciente número de empresas tecnológicas que cancelan contratos por lavado de activos con inteligencia artificial

En 2024, 15 Las empresas de tecnología de IA fueron criticadas por los reguladores por exagerar las capacidades de sus productos, y esa cifra se ha más que duplicado desde 2023. Las presentaciones relacionadas con IA están en aumento y las empresas tecnológicas podrían quedar atrapadas en el fuego cruzado si no comprenden las regulaciones emergentes y cómo evitarlas.

¿Qué está mal con el marketing de IA hoy en día?

Si bien muchos están familiarizados con la frase "lavado verde", recién en el último año surgió una nueva forma del revuelo en torno a la inteligencia artificial, y se llama "lavado de IA". Según BBC El fenómeno del lavado de imagen de IA se define como afirmar que se utiliza IA cuando, en realidad, se utiliza un método informático menos sofisticado. Explican que el lavado de imagen de IA también puede ocurrir cuando las empresas exageran el nivel de operatividad de su IA o cuando combinan productos o capacidades. Por ejemplo, cuando «las empresas simplemente integran un chatbot de IA en su software operativo existente sin IA».

Las afirmaciones exageradas sobre la IA son peligrosas para los usuarios y otras partes interesadas. Tres preocupaciones obvias sobre el lavado de identidad de la IA me vienen a la mente:

• El usuario que paga por algo que no recibe
• Usuarios que esperan un resultado que no se puede lograr
• Las partes interesadas de la empresa no saben si están invirtiendo en un negocio que realmente está innovando con IA

El lavado de IA es un problema creciente a medida que las empresas tecnológicas compiten por una mayor participación en el mercado. 40% De las empresas que se describieron como startups de IA en 2019, no contaban con tecnología de inteligencia artificial. La presión para ofrecer tecnología avanzada es aún mayor ahora que hace cinco años.

¿Qué impulsa el lavado con inteligencia artificial?

Los expertos tienen varias teorías sobre qué hay detrás de este creciente fenómeno. Douglas Dick, director de riesgo de tecnologías emergentes de KPMG en el Reino Unido, dijo a la BBC que es la falta de definición de la IA y la ambigüedad lo que hace posible el lavado de cara con IA.

Expertos en Berkely Creemos que el discurso de la cultura organizacional es responsable del lavado de imagen de la IA, y las razones principales de este fenómeno incluyen:

• Falta de conocimientos técnicos sobre IA en la alta dirección
• Presión por la innovación continua
• Cortoplacismo y exageración
• Miedo a perderse (FOMO)

El lavado de activos con IA también puede estar impulsado por la financiación. Los inversores buscan innovación constante y superar a la competencia. Incluso si las marcas no han desarrollado plenamente su capacidad de IA, pueden atraer la atención de los inversores con herramientas de automatización precarias para obtener capital adicional.

Con el mercado global de IA previsto para alcanzar aproximadamente 250 2025 millones de dólares a finales de XNUMX, es fácil entender por qué la tendencia está en pleno auge y las startups ávidas de financiación se apresuran a etiquetar cualquier producto con la etiqueta de IA. Desafortunadamente, los reguladores han tomado nota.

Empresas de tecnología de IA acusadas de lavado de imagen con IA

Las empresas que afirman usar inteligencia artificial a menudo solo emplean técnicas avanzadas de computación y automatización. A menos que se implemente una verdadera infraestructura de ciencia de datos de IA con algoritmos de aprendizaje automático, redes neuronales, procesamiento del lenguaje natural, reconocimiento de imágenes o alguna forma de IA general, la empresa podría estar simplemente ocultando sus afirmaciones sobre IA.

La SEC cerró una empresa de tecnología de inteligencia artificial y recursos humanos llamada Joonko por prácticas fraudulentas.

Aprendiendo de Joonko

Joonko afirmó que podría ayudar a los empleadores a identificar candidatos próximos a ser contratados para que pudieran aprovechar estas oportunidades. La idea era que esto generaría candidatos más diversos que se presentarían a los reclutadores y tendrían mayores posibilidades de ser contratados. Joonko tuvo tanto éxito promocionando su IA que Eubanks escribió sobre Joonko en su primer libro, y la empresa recaudó 27 millones de dólares en financiación de capital riesgo entre 2021 y 2022.

Cuando la SEC acusó al exdirector ejecutivo de Joonko de fraude de lavado de valores con inteligencia artificial, fue porque había falseado el número y los nombres de sus clientes. Afirmó que Joonka vendió a marcas globales de tarjetas de crédito, viajes y lujo, y falsificó extractos bancarios y órdenes de compra para inversores. El director ejecutivo recibió cargos criminales Además de los cargos de la SEC contra la empresa.

Aprendiendo de Codeway

En 2023, la  Codeway La aplicación fue acusada por un anuncio engañoso en Instagram que afirmaba que su IA podía corregir fotos borrosas. El anuncio decía "Mejora tu imagen con IA" y, al ser cuestionada por un demandante, la empresa no demostró cómo su aplicación podía corregir una imagen borrosa por sí sola sin la ayuda de otros procesos de mejora digital de fotos. La Autoridad de Normas Publicitarias (ASA) confirmó la denuncia y prohibió a la empresa publicar ese anuncio o cualquier otro similar.

Otros ejemplos

En los EE. UU., la FTC y la SEC llevaron a cabo recientemente la siguientes medidas de cumplimiento:

• Se detuvieron varios planes comerciales después de afirmar que las personas podrían usar IA para ganar dinero con tiendas en línea.
• Se presentó una reclamación por más de 190 dólares por servicios ineficaces de abogados robot.
• Una empresa llamada Rytr LLC afirmó falsamente que podía crear contenido generado por IA
• Una demanda de conciliación contra IntelliVision Technologies por afirmaciones engañosas sobre su sistema de reconocimiento facial con inteligencia artificial
• Delphia Inc. y Global Predictions Inc. fueron acusadas de hacer afirmaciones falsas sobre IA en su sitio web y cuentas de redes sociales.

Regulaciones emergentes

El auge de la tecnología de IA y el lavado de identidad (IA) han captado la atención de reguladores de todo el mundo. En el Reino Unido, la ASA ya está sentando precedente al litigar contra anuncios sin fundamento relacionados con la IA.

En Canadá, los reguladores también están atacando las afirmaciones infundadas sobre la IA, así como el material de marketing engañoso o que promueve excesivamente la tecnología de la IA. La Administración de Valores de Canadá publicó un... Aviso al personal el 7 de noviembre de 2024, que compartió algunos ejemplos de lo que considera lavado de IA:

• Una empresa de inteligencia artificial afirma que su emisor está revolucionando su industria con la tecnología de inteligencia artificial más avanzada y moderna disponible.
• Una empresa de IA que afirma ser líder mundial en su categoría de IA.
• Una empresa de IA que exagera su uso o importancia para la industria.

En los EE. UU., existen regulaciones específicas para cada estado, como la de la ciudad de Nueva York. auditorías obligatorias de sesgo de IA que toda empresa de tecnología de IA que opere allí debe tener. Sin embargo, No existen regulaciones federales integrales que restringen el desarrollo o el uso de la IA. En diciembre de 2024, el Congreso de EE. UU. estaba considerando más de 120 proyectos de ley sobre IA. Estas regulaciones abarcarían todo, desde el acceso de la IA a las armas nucleares hasta los derechos de autor, pero se basarían en medidas voluntarias en lugar de protocolos estrictos que podrían frenar el progreso tecnológico. Mientras se debaten estos proyectos de ley, existe un conjunto heterogéneo de leyes federales estadounidenses en departamentos específicos, como la Administración Federal de Aviación, que establecen la necesidad de revisar la IA en la aviación.

No seas un impostor de IA

A medida que los reguladores continúan implementando diversas medidas contra los responsables del lavado de imagen con IA, las empresas tecnológicas deberían tomar nota. Cualquier empresa que afirme fabricar tecnología de IA real debería poder respaldar sus afirmaciones. Sus equipos de marketing deberían evitar exagerar la capacidad de sus productos de IA, así como los resultados, los clientes y los ingresos. Cualquier empresa que tenga dudas sobre su propia tecnología o marketing debería revisar la legislación emergente a nivel local y en los mercados donde vende. Los consumidores o empresas que estén considerando adquirir tecnología de IA deberían analizar detenidamente el producto antes de comprarlo. Con los casos de lavado de imagen con IA de 2024 aún en las primeras etapas del litigio, la historia aún está en desarrollo, pero una cosa es segura: no querrá que su empresa forme parte de ella.