Por qué Silicon Valley no puede “moverse rápido y romper cosas” cuando se trata de IA

La gente dice que Silicon Valley ha madurado más allá de la mentalidad impulsiva de “moverse rápido, romper cosas y arreglarlas más tarde”, y que las empresas han adoptado un enfoque más lento y responsable para construir el futuro de nuestra industria.

Desafortunadamente, las tendencias actuales cuentan una historia diferente.

A pesar de las palabras de apoyo, la forma en que las empresas construyen cosas aún no ha cambiado. Las startups de tecnología aún funcionan con el mismo código de atajos y promesas falsas, y la calidad en declive de los productos lo demuestra. “Moverse rápido y romper cosas” sigue siendo el credo de Silicon Valley, y aunque realmente hubiera muerto, el auge de la IA lo ha revivido con toda su fuerza.

Los avances recientes en IA ya están transformando radicalmente la forma en que trabajamos y vivimos. En solo los últimos dos años, la IA ha pasado de ser el dominio de los profesionales de la informática a una herramienta hogareña gracias a la rápida proliferación de herramientas de IA generativa como ChatGPT. Si las empresas de tecnología “se mueven rápido y rompen cosas” con la IA, es posible que no haya opción para “arreglarlas más tarde”, especialmente cuando los modelos se entrenan con datos personales sensibles. No se puede deshacer lo que ya se ha hecho, y el eco resonará en la sociedad, causando daños potencialmente irreparables. Desde deepfakes maliciosos hasta esquemas de fraude hasta campañas de desinformación, ya estamos viendo el lado negativo de la IA.

Al mismo tiempo, sin embargo, esta tecnología tiene el poder de cambiar nuestra sociedad para mejor. La adopción de la IA por parte de las empresas será tan revolucionaria como el paso a la nube; las empresas se reconstruirán completamente con la IA y se volverán infinitamente más productivas y eficientes gracias a ella. A nivel individual, la IA generativa se convertirá en nuestra asistente de confianza, ayudándonos a completar actividades cotidianas, experimentar creativamente y desbloquear nuevos conocimientos y oportunidades.

El futuro de la IA puede ser brillante, pero requiere un cambio cultural importante en el lugar donde se está construyendo ese futuro.

Por qué “moverse rápido y romper cosas” es incompatible con la IA

“Moverse rápido y romper cosas” opera con dos suposiciones principales: una, que cualquier cosa que no funcione al lanzamiento se puede parchear en una actualización posterior; y dos, que si “rompes cosas”, puede llevar a avances con suficiente codificación creativa y pensamiento fuera de la caja. Y aunque muchos grandes avances han surgido de errores, esto no es penicilina o Coca-Cola. La inteligencia artificial es una tecnología extraordinariamente poderosa que debe manejarse con la máxima precaución. Los riesgos de violaciones de datos y uso criminal son simplemente demasiado altos para ignorarlos.

Desafortunadamente, Silicon Valley tiene el mal hábito de glorificar la desorganización del proceso de desarrollo. Las empresas aún promueven un ritmo incansable, en el que las largas horas y la falta de equilibrio entre la vida laboral y personal se vuelven necesarios para tener una carrera. Las startups y sus accionistas establecen metas poco realistas que aumentan el riesgo de errores y cortes de esquinas. Los límites se empujan cuando, quizás, no deberían empujarse. Estos comportamientos se combinan en una cultura industrial tóxica que fomenta la búsqueda de la histeria a expensas de la ética.

El ritmo actual de desarrollo de la IA no puede continuar dentro de esta cultura. Si la IA va a resolver algunos de los problemas más apremiantes del mundo, tendrá que entrenarse con información altamente sensible, y las empresas tienen la responsabilidad crítica de proteger esa información.

Las salvaguardias llevan tiempo implementarse, y el tiempo es algo de lo que Silicon Valley está completamente convencido de que no dispone. Ya estamos viendo a las empresas de IA que prescinden de las barreras de seguridad necesarias para lanzar nuevos productos. Esto puede satisfacer a los accionistas a corto plazo, pero los riesgos a largo plazo ponen a estas organizaciones en peligro de sufrir daños financieros masivos en el futuro, por no mencionar un colapso total de cualquier buena voluntad que hayan cultivado.

También hay un riesgo grave asociado con la infracción de la propiedad intelectual y los derechos de autor, como se evidencia en los diversos demandas federales en juego que involucran a la IA y los derechos de autor. Sin las protecciones adecuadas contra la infracción de los derechos de autor y las violaciones de la propiedad intelectual, las personas corren el riesgo de perder sus medios de vida.

Para la startup de IA que quiere pasar por el desarrollo y llegar al mercado, esto parece mucho que considerar, y lo es. Proteger a las personas y la información requiere un trabajo arduo. Pero es un trabajo no negociable, incluso si obliga a los desarrolladores de IA a ser más reflexivos. De hecho, argumentaría que es el beneficio. Construir soluciones a los problemas antes de que surjan, y no tendrá que arreglar lo que se rompe en el camino.

Un nuevo credo: “moverse estratégicamente para ser inquebrantable”

El pasado mayo, la UE aprobó la primera ley integral de IA del mundo, la Ley de Inteligencia Artificial, para gestionar el riesgo a través de requisitos de transparencia extensivos y la prohibición total de tecnologías de IA consideradas un riesgo inaceptable. La ley refleja el enfoque históricamente cauteloso de la UE hacia la nueva tecnología, que ha gobernado sus estrategias de desarrollo de IA desde los primeros brotes del auge actual. En lugar de actuar por impulso, dirigir todos sus dólares de riesgo y capacidades de ingeniería hacia la última tendencia sin una planificación adecuada, estas empresas invierten sus esfuerzos en crear algo que durará.

Este no es el enfoque predominante en los EE. UU., a pesar de los numerosos intentos de regulación. En el frente legislativo, los estados individuales están proponiendo en gran medida sus propias leyes, que van desde woefully inadecuadas hasta masivamente excesivas, como la propuesta SB-1047 de California. Mientras tanto, la carrera armamentista de la IA se intensifica, y Silicon Valley persiste en sus viejos caminos.

Los capitalistas de riesgo solo están inflamando el problema. Cuando invierten en nuevas startups, no preguntan sobre las barreras de seguridad y los controles. Quieren lanzar un producto mínimo viable lo más rápido posible para que puedan cobrar sus cheques. Silicon Valley se ha convertido en un caldo de cultivo para esquemas de enriquecimiento rápido, donde la gente quiere ganar tanto dinero como sea posible, en el menor tiempo posible, mientras hace el menor trabajo posible, y no se preocupan por las consecuencias.

Para la era de la IA, me gustaría proponer un reemplazo para “moverse rápido y romper cosas”: moverse estratégicamente para ser inquebrantable. Puede que no tenga el mismo verve poético que el anterior, pero refleja la mentalidad que SV necesita en el panorama tecnológico actual.

Soy optimista de que la industria de la tecnología puede ser mejor, y comienza con la adopción de una mentalidad centrada en el cliente y orientada al futuro, centrada en la creación de productos que durarán y en mantener esos productos de una manera que fomente la confianza con los usuarios. Un enfoque más reflexivo hará que las personas y las organizaciones se sientan seguras al traer la IA a sus vidas, y eso suena bastante rentable para mí.

Hacia un futuro sostenible

El mundo de la tecnología sufre de una presión abrumadora para ser el primero. Los fundadores sienten que si no saltan a la próxima gran cosa de inmediato, se perderán el barco. Por supuesto, ser un pionero podría aumentar sus posibilidades de éxito, pero ser “el primero” no debe hacerse a expensas de la seguridad y la ética.

Cuando su objetivo es construir algo que dure, buscarán más a fondo los riesgos y debilidades. Esta es también la forma de encontrar nuevas oportunidades para avances e innovación. Las empresas que pueden transformar las fortalezas en debilidades son las que pueden resolver los desafíos de mañana, hoy.

La histeria es real, y la nueva era de la IA es digna de ella. Pero en nuestro entusiasmo por desbloquear el poder de esta tecnología, no podemos prescindir de las salvaguardias necesarias que harán que estos productos sean confiables y de confianza. La IA promete mejorar nuestras vidas para mejor, pero también puede causar daños imposibles de medir si la seguridad y la seguridad no son fundamentales para el proceso de desarrollo.

Para Silicon Valley, esto debería ser un llamado de atención: es hora de dejar atrás la mentalidad de “moverse rápido, romper cosas y arreglarlas más tarde”. Porque no hay “más tarde” cuando el futuro es ahora.