Cómo los humanos pueden navegar la carrera armamentista de la IA

Las herramientas de IA son vistas por muchos como una bendición para la investigación, desde proyectos de trabajo hasta tareas escolares y ciencia. Por ejemplo, en lugar de pasar horas examinando sitios web de manera tediosa, puedes hacer una pregunta a ChatGPT y te dará una respuesta aparentemente coherente. La pregunta, sin embargo, es: ¿puedes confiar en esos resultados? La experiencia muestra que la respuesta es a menudo “no”. La IA solo funciona bien cuando los humanos están más involucrados, dirigiendo y supervisando, y luego verificando los resultados que produce contra el mundo real. Pero con el crecimiento rápido del sector de la IA generativa y las nuevas herramientas que se lanzan constantemente, puede ser un desafío para los consumidores entender y aceptar el papel que deben desempeñar al trabajar con herramientas de IA.

El sector de la IA es enorme y solo está creciendo, con expertos que afirman que valdrá más de un billón de dólares para 2030. No debería sorprender, entonces, que casi todas las grandes empresas de tecnología – desde Apple (AAPL ) hasta Amazon (AMZN ), IBM y Microsoft, y muchas otras – estén lanzando su propia versión de tecnología de IA, y especialmente productos de IA generativa avanzados.

Dado el tamaño de las apuestas, también no debería sorprender que las empresas estén trabajando lo más rápido posible para lanzar nuevas características que les den ventaja sobre la competencia. De hecho, es una carrera armamentista, con empresas que buscan bloquear a tantos usuarios como sea posible en su ecosistema. Las empresas esperan que las características que permiten a los usuarios utilizar sistemas de IA de la manera más fácil posible – como poder obtener toda la información necesaria para un proyecto de investigación solo haciendo una pregunta a un chatbot de IA generativa – les ganarán más clientes, que permanecerán con el producto o la marca a medida que se agregan nuevas características de manera regular.

Pero a veces, en su carrera por ser los primeros, las empresas lanzan características que pueden no haber sido verificadas adecuadamente, o cuyos límites no son bien entendidos o definidos. Mientras que las empresas han competido en el pasado por la participación de mercado en muchas tecnologías y aplicaciones, parece que la actual carrera armamentista está llevando a más empresas a lanzar más productos “medianamente cocidos” que nunca – con los resultados “medianamente cocidos” resultantes. Confiar en esos resultados para fines de investigación – ya sea para negocios, personales, médicos, académicos u otros – podría llevar a resultados no deseados, incluyendo daños a la reputación, pérdidas comerciales o incluso riesgos para la vida.

Los errores de la IA han causado pérdidas significativas para varias empresas. Una empresa llamada iTutor fue multada con $365,000 en 2023, después de que su algoritmo de IA rechazó a decenas de solicitantes de empleo debido a su edad. Zillow, el mercado de bienes raíces, perdió cientos de millones de dólares en 2021 debido a predicciones de precios incorrectas por su sistema de IA. Los usuarios que confiaron en la IA para obtener consejos médicos también han estado en riesgo. Chat GPT, por ejemplo, proporcionó información incorrecta a los usuarios sobre la interacción entre la medicación para reducir la presión arterial verapamilo y Paxlovid, la píldora antiviral de Pfizer (PFE ) para el Covid-19 – y si un paciente podía tomar esos medicamentos al mismo tiempo. Aquellos que confían en el consejo incorrecto del sistema de que no hay interacción entre los dos podrían encontrarse en riesgo.

Mientras que esos incidentes hicieron titulares, muchos otros errores de la IA no lo hacen – pero pueden ser igualmente letales para las carreras y las reputaciones. Por ejemplo, un gerente de marketing apresurado que busca un atajo para preparar informes podría sentirse tentado a usar una herramienta de IA para generarlos – y si esa herramienta presenta información que no es correcta, puede encontrarse buscando otro trabajo. Un estudiante que usa ChatGPT para escribir un informe – y cuyo profesor es lo suficientemente astuto como para darse cuenta de la fuente de ese informe – puede enfrentar una calificación de F, posiblemente para el semestre. Y un abogado cuyo asistente utiliza herramientas de IA para trabajo legal podría encontrarse multado o incluso descalificado si el caso que presenta está sesgado debido a datos incorrectos.

Casi todas estas situaciones pueden prevenirse – si los humanos están dirigiendo la IA y tienen más transparencia en el bucle de investigación. La IA tiene que ser vista como una asociación entre humanos y máquinas. Es una verdadera colaboración – y ese es su valor destacado.

Mientras que las características de búsqueda, formato y análisis más potentes son bienvenidas, los fabricantes de productos de IA también necesitan incluir mecanismos que permitan esta cooperación. Los sistemas necesitan incluir herramientas de verificación de hechos que permitan a los usuarios verificar los resultados de los informes de herramientas como ChatGPT, y dejar que los usuarios vean las fuentes originales de puntos de datos o piezas de información específicas. Esto producirá una investigación superior, y restaurará la confianza en nosotros mismos; podemos presentar un informe, o recomendar una política con confianza basada en hechos que confiamos y entendemos.

Los usuarios también necesitan reconocer y sopesar lo que está en juego cuando confían en la IA para producir investigación. Deben sopesar el nivel de tediosidad con la importancia del resultado. Por ejemplo, los humanos probablemente puedan permitirse estar menos involucrados cuando usan la IA para comparar restaurantes locales. Pero cuando realizan investigaciones que informarán decisiones comerciales de alto valor o el diseño de aeronaves o equipo médico, por ejemplo, los usuarios necesitan estar más involucrados en cada etapa del proceso de investigación impulsado por la IA. Cuanto más importante sea la decisión, más importante es que los humanos sean parte de ella. La investigación para decisiones relativamente pequeñas probablemente pueda ser confiada por completo a la IA.

La IA está mejorando todo el tiempo – incluso sin ayuda humana. Es posible, si no probable, que surjan herramientas de IA que puedan verificarse a sí mismas, verificando sus resultados contra el mundo real de la misma manera que un humano – ya sea haciendo que el mundo sea un lugar mucho mejor, o destruyéndolo. Pero las herramientas de IA pueden no alcanzar ese nivel tan pronto como muchos creen, o tal vez nunca. Esto significa que el factor humano seguirá siendo esencial en cualquier proyecto de investigación. Tan buena como son las herramientas de IA para descubrir datos y organizar información, no pueden confiarse para evaluar el contexto y utilizar esa información de la manera en que los seres humanos necesitan que se utilice. Para el futuro predecible, es importante que los investigadores vean las herramientas de IA por lo que son; herramientas para ayudar a realizar el trabajo, en lugar de algo que reemplace a los humanos y a los cerebros humanos en el trabajo. La IA no puede ser confiada para evaluar el contexto y utilizar esa información de la manera en que los seres humanos necesitan que se utilice. Para el futuro predecible, es importante que los investigadores vean las herramientas de IA por lo que son; herramientas para ayudar a realizar el trabajo, en lugar de algo que reemplace a los humanos y a los cerebros humanos en el trabajo. hey no pueden ser confiados para evaluar el contexto y utilizar esa información en la manera en que los seres humanos, como seres humanos, necesitan que se utilice. Para el futuro predecible, es importante que los investigadores vean las herramientas de IA para lo que son; herramientas para ayudar a realizar el trabajo, en lugar de algo que reemplace a los humanos y a los cerebros humanos en el trabajo.