El creciente número de empresas tecnológicas canceladas por lavado de IA

En 2024, 15 empresas de tecnología de IA fueron golpeadas por los reguladores por exagerar las capacidades de sus productos, y ese número ha aumentado más del doble desde 2023. Las presentaciones relacionadas con la IA están en aumento y las empresas tecnológicas podrían ser atrapadas en el fuego cruzado si no entienden las regulaciones emergentes y cómo evitarlas.

¿Qué está mal con el marketing de IA hoy en día?

Mientras que muchos están familiarizados con la frase “lavado verde”, solo en el último año ha surgido una nueva forma a partir de la histeria alrededor de la inteligencia artificial, y se llama “lavado de IA”. Según BBC el fenómeno del lavado de IA se puede definir como afirmar que se utiliza la IA cuando en realidad se está utilizando un método de computación menos sofisticado. Explican que el lavado de IA también puede ocurrir cuando las empresas exageran cómo opera su IA o cuando una empresa combina productos o capacidades juntos. Por ejemplo, cuando “las empresas simplemente agregan un chatbot de IA a su software operativo existente no IA”.

Las afirmaciones exageradas sobre la IA son peligrosas para los usuarios y otras partes interesadas. Tres preocupaciones obvias sobre el lavado de IA vienen a la mente:

• El usuario paga por algo que no está recibiendo
• Los usuarios esperan un resultado que no es alcanzable
• Los accionistas de la empresa no saben si están invirtiendo en un negocio que realmente está innovando con la IA

El lavado de IA es un problema creciente a medida que las empresas tecnológicas compiten por una mayor participación de mercado. Hasta 40% de las empresas que se describían como una startup de IA en 2019 no tenían tecnología de inteligencia artificial. La presión para ofrecer tecnología avanzada es aún mayor ahora que lo era hace cinco años.

¿Qué impulsa el lavado de IA?

Los expertos tienen algunas teorías sobre lo que está detrás de este fenómeno en crecimiento. Douglas Dick, el jefe de riesgo de tecnología emergente en KPMG en el Reino Unido, le dijo a la BBC que es la falta de definición de IA y la ambigüedad lo que hace que el lavado de IA sea posible.

Los expertos en Berkely creen que el discurso de la cultura organizacional es responsable del lavado de IA, y las razones principales para este fenómeno incluyen:

• Falta de conocimiento técnico de IA en el liderazgo senior
• Presión para la innovación continua
• Cortoplacismo y histeria
• Miedo a perderse (FOMO)

El lavado de IA también puede estar impulsado por la financiación. Los inversores quieren ver innovación constante y superación de los competidores. Incluso si las marcas no han desarrollado completamente una capacidad de IA, pueden atraer la atención de los inversores con herramientas de automatización a medio hacer para ganar capital adicional.

Con el mercado global de IA listo para alcanzar aproximadamente $250 mil millones para finales de 2025, es fácil entender por qué la banda está en pleno efecto, y las startups ansiosas por financiación están rápidas para etiquetar cualquier cosa con la etiqueta de IA. Desafortunadamente, los reguladores han tomado nota.

Empresas de tecnología de IA acusadas de lavado de IA

Las empresas que afirman utilizar inteligencia artificial a menudo solo están utilizando técnicas de computación y automatización avanzadas. A menos que esté en lugar una infraestructura de ciencia de datos de IA real con algoritmos de aprendizaje automático, redes neuronales, procesamiento de lenguaje natural, reconocimiento de imágenes o alguna forma de Gen IA, la empresa puede estar poniendo humo y espejos con sus afirmaciones de IA.

Una empresa de tecnología de recursos humanos de IA llamada Joonko fue cerrada por la SEC por prácticas fraudulentas.

Aprendiendo de Joonko

Joonko afirmaba que podía ayudar a los empleadores a identificar a los candidatos casi contratados para que los empleadores pudieran aprovechar estos grupos. La idea era que esto crearía candidatos más diversos para presentarles a los reclutadores y tener una mayor oportunidad de ser contratados. Joonko fue tan exitosa en la comercialización de su IA que Eubanks escribió sobre Joonko en su primer libro, y la empresa recaudó $27 millones en financiación de capital de riesgo entre 2021 y 2022.

Cuando la SEC acusó al ex CEO de Joonko de fraude de valores de lavado de IA, fue porque había representado falsamente el número y los nombres de sus clientes. Afirmó que Joonka vendió a tarjetas de crédito globales, viajes y marcas de lujo, y forjó estados de cuenta y órdenes de compra para los inversores. El CEO recibió cargos penales además de los cargos de la SEC contra la empresa.

Aprendiendo de Codeway

En 2023, la aplicación Codeway fue acusada de una publicidad engañosa en Instagram que afirmaba que su IA podía reparar fotos borrosas. El anuncio decía “Mejora tu imagen con IA” y cuando fue desafiado por un reclamante, la empresa no pudo demostrar cómo su aplicación podía reparar una imagen borrosa por sí sola sin la ayuda de otros procesos de mejora de fotos digitales. La Autoridad de Estándares Publicitarios (ASA) sostuvo la queja y prohibió a la empresa que ejecutara ese anuncio o cualquier otro similar.

Otros ejemplos

En los EE. UU., La FTC y la SEC llevaron a cabo recientemente las siguientes acciones de aplicación:

• Se detuvieron varios esquemas comerciales después de afirmar que la gente podía usar la IA para ganar dinero con tiendas en línea
• Se presentó una demanda por más de 190k por servicios de abogado robot ineficaces
• Una empresa llamada Rytr LLC afirmó falsamente que podía crear contenido generado por IA
• Se llevó a cabo una acción de liquidación contra IntelliVision Technologies por afirmaciones engañosas sobre su reconocimiento facial de IA
• Delphia Inc. y Global Predictions Inc. fueron acusadas de hacer afirmaciones falsas sobre la IA en su sitio web y cuentas de redes sociales

Regulaciones emergentes

El crecimiento de la tecnología de IA y el lavado de IA han llamado la atención de los reguladores en todo el mundo. En el Reino Unido, la ASA ya está estableciendo un precedente al litigar contra anuncios de IA no fundamentados.

En Canadá, los reguladores están apuntando a afirmaciones no fundamentadas sobre la IA, así como a material de marketing que es engañoso o que promueve demasiado la tecnología de IA. Los Administradores de Valores Canadienses publicaron un aviso del personal el 7 de noviembre de 2024 que compartió algunos ejemplos de lo que consideran lavado de IA:

• Una empresa de IA que afirma que su emisor está revolucionando su industria con la tecnología de IA más avanzada y moderna disponible
• Una empresa de IA que afirma que es el líder global en su categoría de IA
• Una empresa de IA que exagera su uso o importancia para la industria

En los EE. UU., hay regulaciones específicas de estado, como las auditorías obligatorias de sesgo de IA de la ciudad de Nueva York que todas las empresas de tecnología de IA que operan allí deben tener. Sin embargo, no hay regulaciones federales comprehensivas que restrinjan el desarrollo o el uso de la IA. En diciembre de 2024, el Congreso de los EE. UU. estaba considerando más de 120 proyectos de ley de IA diferentes. Estas regulaciones cubrirían todo, desde el acceso de la IA a armas nucleares hasta los derechos de autor, pero dependerían de medidas voluntarias en lugar de protocolos estrictos que podrían frenar el progreso tecnológico. Mientras se debaten estos proyectos de ley, hay un parche de leyes federales de los EE. UU. dentro de departamentos específicos, como la Administración Federal de Aviación que dice que la IA en la aviación debe ser revisada.

No seas un farsante de IA

A medida que los reguladores continúan aplicando diversas acciones contra los culpables de lavado de IA, las empresas tecnológicas deben tomar nota. Cualquier empresa que afirme hacer tecnología de IA real debe poder respaldar sus afirmaciones. Sus equipos de marketing deben evitar exagerar la capacidad de los productos de IA de su empresa, así como los resultados, los clientes y los ingresos. Cualquier empresa que no esté segura de su propia tecnología o marketing debe revisar la legislación emergente local y dentro de los mercados a los que venden. Los consumidores o las empresas que piensan en comprar tecnología de IA deben mirar muy de cerca el producto antes de comprarlo. Con los casos de lavado de IA de 2024 todavía en las primeras etapas del litigio, la historia todavía se está desarrollando, pero una cosa es segura, no quieres que tu empresa sea parte de ella.