La Inteligencia Artificial y el Arco de la Confianza

Hace un año, cuando nuestro equipo estaba haciendo predicciones sobre lo que sucedería, el consenso era que las envolturas se quitarían de la inteligencia artificial (IA). Finalmente, veríamos lo que podría hacer y, con suerte, obtendríamos claridad sobre su impacto en los negocios y la sociedad, y cómo proceder. No era una predicción novedosa, pero su núcleo era preciso, aunque todavía luchamos con las implicaciones de la IA y cómo (o si) debería ser controlada de alguna manera.

Veríamos a Apple, Microsoft y Google integrar la IA en dispositivos y llevar su poder a una audiencia más amplia y grande. Luego, un chatbot en una herramienta de búsqueda impulsada por IA amenazó a los usuarios y afirmó que espiaba a los empleados, mientras que otro sugirió usar pegamento Elmer en pizzas caseras para que el queso no se resbalara. Sin embargo, los casos de uso de adopción de negocios de IA crecieron dramáticamente y también lo hizo el mercado. Según los datos de Crunchbase, casi un tercio de toda la financiación de riesgo global el año pasado se destinó a empresas en campos relacionados con la IA solamente.

Pero incluso cuando OpenAI entregó una razón verdaderamente notable mejorada, el investigador de IA renombrado, Yoshua Bengio, instó a la adopción de medidas de seguridad para los “modelos fronterizos” con el potencial de causar daño catastrófico. Y aunque la tecnología se llevó a casa dos Premios Nobel por aplicaciones en ciencia, uno de sus receptores expresó preocupación por tener sistemas “más inteligentes que nosotros que eventualmente toman el control”.

En un espacio que se mueve tan rápido, es difícil para los tecnólogos expertos mantenerse al día, y mucho menos para aquellos en la corriente principal.

Y esos tropiezos de la IA – y las preocupaciones sobre la privacidad y el uso sin control – solo han aumentado la desconfianza del público.

Confía en mí

Nos encontramos a mitad de camino en un arco de confianza, que requiere avanzar en la aceptación pública de la IA, mientras se asegura que las comunidades empresariales y tecnológicas actúen de manera responsable. La primera parte es donde se juega el juego en este momento, a nivel corporativo, ganando impulso con cada despliegue seguro y sólido. Estamos construyendo sobre nuestros puntos de prueba, que eventualmente conducirán a una mayor confianza del público. La segunda parte, sin embargo, es mucho más complicada.

¿Quién define y hace cumplir el uso responsable de la IA? ¿Puede una industria crear pautas cuando son ellos quienes necesitan regulación? Si los tecnólogos están teniendo problemas para seguir a la IA, ¿estarán informados los responsables de las políticas y mantendrán sus agendas políticas fuera de la discusión? Y cuando un multimillonario de la IA de repente quiere hablar sobre control, ¿tuvo una epifanía o solo está tratando de frenar para ponerse al día?

“Confía en mí” no va a funcionar con la IA, no importa quién seas.

Confía pero verifica

La gente mira la IA generativa como ChatGPT y se pregunta si será su próximo Google. Bueno, el resultado superior de una búsqueda de Google ahora es creado por su modelo de IA, Gemini. El problema es que no puedes confiar en él para los negocios a gran escala cuando una pregunta simple como “¿Es seguro consumir carne cruda?” devuelve la respuesta “Sí, congelada”. Necesitas inspeccionar los datos.

El arco de la confianza del público se reflejará en lo que hizo con la búsqueda convencional, ganada con el tiempo y con la prueba de confiabilidad. Irónicamente, en nuestra búsqueda de simplificar y mejorar la búsqueda, hemos dado un paso hacia atrás. Ahora, después de obtener esa respuesta generada por IA en la parte superior, debes desplazarte hacia abajo en una larga lista de enlaces patrocinados, hacer clic en los siguientes cinco y aún calificar la información.

Eso es mucho trabajo cuando estás buscando una respuesta rápida, y no puedes tener a toda una empresa haciendo lo mismo. Sin embargo, enriquece los datos que has estado minando con decenas de miles de tus propios tickets de servicio y traes conocimiento real sobre tu entorno. Algoritmicamente, puedes configurar las alucinaciones hacia abajo, pero todavía remains una situación de “confía pero verifica”.

Mantén la política fuera de esto

Cuando se trata de regular la IA, algunos adoptan la postura de que el caballo ya ha salido del establo y probablemente no se atrapará. Por ejemplo, hay una falta de herramientas verdaderamente efectivas para comprobar si un estudiante redactó un papel o usó GenAI. La tecnología está demasiado adelantada.

Regular esto sería muy complejo, y para ser honesto, estaríamos deslizándonos sobre hielo delgado. Sabemos que las empresas de tecnología están décadas por delante de los reguladores propuestos. Pero somos buenos para abrir un camino, no para ser retenidos. Sin embargo, al final del día, puede que caiga en los innovadores tratar de aplicar la gobernanza. ¿Quién más podría hacerlo de manera responsable?

Hay muchos políticos que les encantaría intentarlo. El riesgo, además de la falta de comprensión, es que tengan una agenda personal y política para avanzar. Su enfoque, potencialmente, sería menos en cultivar la IA y más en hacer lo que está en sus mejores intereses políticos. Podrían trabajar a partir de los temores del público, utilizando una mano pesada para frenar su progreso.

La Ley de CHIPS y Ciencia fue un buen ejemplo de acción gubernamental saludable, produciendo un aumento dramático de 15 veces en la construcción de instalaciones de fabricación para computadoras y dispositivos electrónicos. Pero esto se hizo posible a través del bipartidismo – cada vez más un relicto de una era pasada.

¿Somos dignos?

Hay mucho dinero fluyendo hacia la IA y, en las próximas dos décadas, se ganará mucho por parte de las empresas de tecnología. Cuánto, cuán rápido y cuán seguro queda por verse. En cualquier día dado, un deep fake podría ser circulado, mostrando a alguien en el centro de atención manipulando los huevos de un ave en peligro de extinción. El público reaccionaría con horror, y aunque podría ser revelado que es generado por IA, ese huevo no vuelve a entrar en la cáscara – el daño está hecho.

Necesitamos que se regulen este tipo de cosas por tecnólogos informados. ¿Qué forma toma – un consejo, un organismo de estándares, un marco internacional – queda por verse. Lo que se sabe es que la IA está en un arco de confianza, y como industria, necesitamos demostrar que somos dignos de ella.