Por qué Silicon Valley no puede “moverse rápido y romper cosas” cuando se trata de IA

La gente dice que Silicon Valley ha madurado más allá de la mentalidad impulsiva de “moverse rápido, romper cosas, y arreglarlas más tarde”, y que las empresas han adoptado un enfoque más lento y responsable para construir el futuro de nuestra industria.

Desafortunadamente, las tendencias actuales cuentan una historia diferente.

A pesar de los discursos, la forma en que las empresas construyen cosas aún no ha cambiado en realidad. Las startups de tecnología aún funcionan con el mismo código de atajos y promesas falsas, y la calidad declinante de los productos lo muestra. “Moverse rápido y romper cosas” es muy mucho aún el credo de Silicon Valley – y, incluso si realmente hubiera muerto, el auge de la IA lo ha reanimado con toda su fuerza.

Los avances recientes en IA ya están transformando radicalmente la forma en que trabajamos y vivimos. En solo los últimos couple de años, la IA ha pasado de ser el dominio de profesionales de la ciencia de la computación a una herramienta hogareña gracias a la rápida proliferación de herramientas de IA generativa como ChatGPT. Si las empresas de tecnología “se mueven rápido y rompen cosas” con la IA, puede que no haya opción para “arreglarlas más tarde”, especialmente cuando los modelos se entrenan con datos personales sensibles. No se puede deshacer el daño, y el eco resonará en toda la sociedad, causando daños potencialmente irreparables. Desde deepfakes maliciosos hasta esquemas de fraude hasta campañas de desinformación, ya estamos viendo el lado negativo de la IA.

Al mismo tiempo, sin embargo, esta tecnología tiene el poder de cambiar nuestra sociedad para mejor. La adopción de IA por parte de las empresas será tan revolucionaria como el paso a la nube; las empresas se reconstruirán completamente con IA, y se volverán infinitamente más productivas y eficientes gracias a ello. En el nivel individual, la IA generativa se convertirá en nuestra asistente de confianza, ayudándonos a completar actividades cotidianas, experimentar creativamente y desbloquear nuevo conocimiento y oportunidades.

El futuro de la IA puede ser brillante, pero requiere un gran cambio cultural en el lugar donde se está construyendo ese futuro.

Por qué “Moverse rápido y romper cosas” es incompatible con la IA

“Moverse rápido y romper cosas” opera con dos suposiciones principales: una, que cualquier cosa que no funcione en el lanzamiento se puede parchar en una actualización posterior; y dos, que si “rompes cosas”, puede llevar a avances con suficiente codificación creativa y pensamiento fuera de la caja. Y aunque muchas grandes innovaciones han surgido de errores, esto no es penicilina o Coca-Cola. La inteligencia artificial es una tecnología extraordinariamente poderosa que debe manejarse con la máxima precaución. Los riesgos de violaciones de datos y uso criminal son simplemente demasiado altos para ignorarlos.

Desafortunadamente, Silicon Valley tiene el mal hábito de glorificar la confusión del proceso de desarrollo. Las empresas aún promueven un ritmo incesante, en el que las largas horas y la falta de equilibrio entre el trabajo y la vida se vuelven necesarias para hacer una carrera. Las startups y sus accionistas establecen metas poco realistas que aumentan el riesgo de errores y cortes de esquina. Los límites se empujan cuando, quizás, no deberían empujarse. Estos comportamientos se combinan en una cultura industrial tóxica que fomenta la persecución de la hiper en detrimento de la ética.

El ritmo actual de desarrollo de IA no puede continuar dentro de esta cultura. Si la IA va a resolver algunos de los problemas más apremiantes del mundo, tendrá que entrenarse con información altamente sensible, y las empresas tienen una responsabilidad crítica para proteger esa información.

Las salvaguardas llevan tiempo implementarse, y el tiempo es algo que Silicon Valley está completamente convencido de que no tiene. Ya estamos viendo que las empresas de IA están prescindiendo de las barreras necesarias para lanzar nuevos productos. Esto puede satisfacer a los accionistas a corto plazo, pero los riesgos a largo plazo establecen a estas organizaciones para un daño financiero masivo en el futuro – sin mencionar un colapso total de cualquier buena voluntad que hayan fomentado.

También hay un riesgo grave asociado con la infracción de propiedad intelectual y derechos de autor, como se evidencia en los varios demandas federales en juego que involucran a la IA y los derechos de autor. Sin protecciones adecuadas contra la infracción de derechos de autor y las violaciones de propiedad intelectual, las personas corren el riesgo de perder sus medios de vida.

Para la startup de IA que quiere pasar por el desarrollo y llegar al mercado, esto parece mucho que considerar – y lo es. Proteger a las personas y la información es un trabajo difícil. Pero es un trabajo no negociable, incluso si obliga a los desarrolladores de IA a ser más reflexivos. De hecho, argumentaría que eso es el beneficio. Construir soluciones a problemas antes de que surjan, y no tendrá que arreglar lo que se rompa en el camino.

Un nuevo credo: “Moverse estratégicamente para ser inquebrantable”

Este mayo pasado, la UE aprobó la primera ley integral de IA del mundo, la Ley de Inteligencia Artificial, para gestionar el riesgo a través de requisitos de transparencia extensiva y la prohibición total de tecnologías de IA consideradas un riesgo inaceptable. La ley refleja el enfoque históricamente cauteloso de la UE hacia la nueva tecnología, que ha gobernado sus estrategias de desarrollo de IA desde los primeros brotes del auge actual. En lugar de actuar por impulso, dirigir todos sus dólares de venture y capacidades de ingeniería hacia la última tendencia sin planificación adecuada, estas empresas invierten sus esfuerzos en crear algo que durará.

Este no es el enfoque prevaleciente en EE. UU., a pesar de numerosos intentos de regulación. En el frente legislativo, los estados individuales están proponiendo en gran medida sus propias leyes, que van desde woefully inadecuadas hasta masivamente excesivas, como la propuesta SB-1047 de California. Mientras tanto, la carrera de armas de IA se intensifica, y Silicon Valley persiste en sus viejos caminos.

Los capitalistas de riesgo están inflamando el problema. Cuando invierten en nuevas startups, no preguntan sobre barreras y controles de seguridad. Quieren lanzar un producto mínimo viable lo más rápido posible para poder cobrar sus cheques. Silicon Valley se ha convertido en un caldo de cultivo para esquemas de enriquecimiento rápido, donde la gente quiere ganar tanto dinero como sea posible, en el menor tiempo posible, mientras hace el menor trabajo posible – y no les importa las consecuencias.

Para la era de la IA, me gustaría proponer un reemplazo para “moverse rápido y romper cosas”: moverse estratégicamente para ser inquebrantable. Puede que no tenga el mismo ritmo poético que el anterior, pero refleja la mentalidad que SV necesita en el paisaje tecnológico actual.

Soy optimista de que la industria de la tecnología puede ser mejor, y comienza con la adopción de una mentalidad centrada en el cliente y orientada al futuro, enfocada en crear productos que duren y mantener esos productos de una manera que fomente la confianza con los usuarios. Un enfoque más reflexivo hará que las personas y las organizaciones se sientan seguras al introducir la IA en sus vidas – y eso suena bastante rentable para mí.

Hacia un futuro sostenible

El mundo de la tecnología sufre una presión abrumadora para ser el primero. Los fundadores sienten que si no saltan a la próxima gran cosa de inmediato, se perderán el barco. Por supuesto, ser un primer movimiento puede aumentar sus posibilidades de éxito, pero ser “el primero” no debe hacerse a expensas de la seguridad y la ética.

Cuando su objetivo es construir algo que dure, terminará buscando más a fondo los riesgos y debilidades. Esto también es cómo encuentra nuevas oportunidades para avances e innovación. Las empresas que pueden transformar fortalezas en debilidades son las que pueden resolver los desafíos de mañana, hoy.

La hiper es real, y la nueva era de la IA es digna de ella. Pero en nuestra emoción por desbloquear el poder de esta tecnología, no podemos prescindir de las salvaguardas necesarias que harán que estos productos sean confiables y dignos de confianza. La IA promete mejorar nuestras vidas para mejor, pero también puede causar daños imponderables si la seguridad y la seguridad no son fundamentales en el proceso de desarrollo.

Para Silicon Valley, esto debería ser un llamado de atención: es hora de dejar atrás la mentalidad de “moverse rápido, romper cosas, y arreglarlas más tarde”. Porque no hay “más tarde” cuando el futuro es ahora.