Por que o Vale do Silício não pode “mover-se rapidamente e quebrar coisas” quando se trata de IA

As pessoas dizem que o Vale do Silício amadureceu além da mentalidade impulsiva de “mover-se rapidamente, quebrar coisas, e consertá-las mais tarde”, e que as empresas adotaram uma abordagem mais lenta e responsável para construir o futuro da nossa indústria.

Infelizmente, as tendências atuais contam uma história diferente.

Apesar da retórica, a forma como as empresas constroem coisas ainda não mudou. As startups de tecnologia ainda estão operando com o mesmo código de atalhos e promessas falsas, e a qualidade declinante dos produtos mostra isso. “Mover-se rapidamente e quebrar coisas” ainda é o credo do Vale do Silício – e, mesmo se tivesse realmente morrido, o boom de IA o reanimou em força total.

Os avanços recentes em IA já estão transformando radicalmente a forma como trabalhamos e vivemos. Em apenas os últimos dois anos, a IA passou do domínio de profissionais de ciência da computação para uma ferramenta caseira graças à proliferação rápida de ferramentas de IA gerativas como o ChatGPT. Se as empresas de tecnologia “moverem-se rapidamente e quebrarem coisas” com a IA, pode não haver opção para “consertá-las mais tarde”, especialmente quando os modelos são treinados em dados pessoais sensíveis. Você não pode desfazer o que foi feito, e o eco reverberará pela sociedade, potencialmente causando danos irreparáveis. Desde deepfakes maliciosos até esquemas de fraude até campanhas de desinformação, já estamos vendo o lado negativo da IA se manifestar.

No entanto, ao mesmo tempo, essa tecnologia tem o poder de mudar nossa sociedade para melhor. A adoção de IA pelas empresas será tão revolucionária quanto a mudança para a nuvem; as empresas reconstruirão completamente com base na IA e se tornarão infinitamente mais produtivas e eficientes por causa disso. Em nível individual, a IA gerativa se tornará nossa assistente confiável, ajudando-nos a completar atividades do dia a dia, experimentar criativamente e desbloquear novos conhecimentos e oportunidades.

A futura IA pode ser brilhante, mas requer uma grande mudança cultural no local onde esse futuro está sendo construído.

Por que “Mover-se rapidamente e quebrar coisas” é Incompatível com a IA

“Mover-se rapidamente e quebrar coisas” opera com duas principais suposições: uma, que qualquer coisa que não funcione no lançamento pode ser corrigida em uma atualização posterior; e duas, que se você “quebrar coisas”, pode levar a avanços com codificação criativa e pensamento fora da caixa o suficiente. E embora muitas grandes inovações tenham surgido de erros, isso não é penicilina ou Coca-Cola. A inteligência artificial é uma tecnologia extraordinariamente poderosa que deve ser manuseada com a máxima cautela. Os riscos de violações de dados e uso criminoso são simplesmente muito altos para serem ignorados.

Infelizmente, o Vale do Silício tem um mau hábito de glorificar a bagunça do processo de desenvolvimento. As empresas ainda promovem um esforço incessante, no qual longas horas e uma falta de equilíbrio entre vida e trabalho se tornam necessários para fazer uma carreira. As startups e seus acionistas estabelecem metas irreais que aumentam o risco de erros e atalhos. Limites são ultrapassados quando, talvez, não deveriam ser. Esses comportamentos se unem em uma cultura tóxica da indústria que incentiva a perseguição de hype em detrimento da ética.

O ritmo atual de desenvolvimento de IA não pode continuar dentro dessa cultura. Se a IA vai resolver alguns dos problemas mais prementes do mundo, ela terá que ser treinada em informações altamente sensíveis, e as empresas têm a responsabilidade crítica de proteger essas informações.

Medidas de segurança levam tempo para serem implementadas, e tempo é algo que o Vale do Silício está convencido de que não tem. Já estamos vendo empresas de IA dispensando guardas necessários para o benefício de lançar novos produtos. Isso pode satisfazer os acionistas no curto prazo, mas os riscos de longo prazo colocam essas organizações em risco de grandes danos financeiros – para não mencionar um colapso total de qualquer boa vontade que tenham cultivado.

Existe também um risco sério associado à violação de direitos autorais e propriedade intelectual, como evidenciado pelas várias ações judiciais federais em andamento envolvendo IA e direitos autorais. Sem proteções adequadas contra violações de direitos autorais e propriedade intelectual, os meios de subsistência das pessoas estão em risco.

Para a startup de IA que deseja passar rapidamente pelo desenvolvimento e ir para o mercado, isso parece muito para considerar – e é. Proteger pessoas e informações é um trabalho difícil. Mas é um trabalho inegociável, mesmo que force os desenvolvedores de IA a serem mais reflexivos. Na verdade, eu argumentaria que é o benefício. Construir soluções para problemas antes que surjam, e você não terá que consertar o que quebra no caminho.

Um Novo Credo: “Mover-se Estrategicamente para Ser Inquebrável”

No passado mês de maio, a UE aprovou a primeira lei abrangente de IA do mundo, a Lei de Inteligência Artificial, para gerenciar riscos por meio de requisitos de transparência extensivos e a proibição total de tecnologias de IA consideradas um risco inaceitável. A lei reflete a abordagem historicamente cautelosa da UE em relação a novas tecnologias, que governou suas estratégias de desenvolvimento de IA desde os primeiros sinais do atual boom. Em vez de agir por impulso, direcionando todos os seus dólares de venture e capacidades de engenharia para a última tendência sem planejamento adequado, essas empresas investem seus esforços em criar algo que durará.

Essa não é a abordagem prevalecente nos EUA, apesar de numerosas tentativas de regulamentação. No front legislativo, estados individuais estão basicamente propondo suas próprias leis, variando de inadequadas a excessivamente abrangentes, como a proposta SB-1047 da Califórnia. Enquanto isso, a corrida armamentista de IA se intensifica, e o Vale do Silício persiste em seus velhos caminhos.

Os capitalistas de risco estão apenas inflamando o problema. Quando investem em novas startups, eles não perguntam sobre guardas e verificações de segurança. Eles querem lançar um produto mínimo viável o mais rápido possível para que possam coletar seus cheques. O Vale do Silício se tornou um terreno fértil para esquemas de enriquecimento rápido, onde as pessoas querem fazer tanto dinheiro quanto possível, em tão pouco tempo quanto possível, enquanto fazem o mínimo de trabalho possível – e não se importam com as consequências.

Para a era de IA, gostaria de propor um substituto para “mover-se rapidamente e quebrar coisas”: mover-se estrategicamente para ser inquebrável. Pode não ter o mesmo verve poético que o anterior, mas reflete a mentalidade que o Vale do Silício precisa no atual cenário tecnológico.

Estou otimista de que a indústria de tecnologia pode ser melhor, e começa com a adoção de uma mentalidade centrada no cliente e orientada para o futuro, focada em criar produtos que durem e manter esses produtos de uma maneira que fomente a confiança dos usuários. Uma abordagem mais reflexiva fará com que as pessoas e as organizações se sintam confiantes em trazer a IA para suas vidas – e isso soa bastante lucrativo para mim.

Rumo a um Futuro Sustentável

O mundo da tecnologia sofre com uma pressão esmagadora para ser o primeiro. Os fundadores sentem que, se não saltarem na próxima grande coisa logo, vão perder o barco. Claro, ser um precursor pode aumentar as chances de sucesso, mas ser “o primeiro” não deve vir à custa da segurança e da ética.

Quando o objetivo é construir algo que dure, você acabará procurando mais profundamente por riscos e fraquezas. É assim que você encontra novas oportunidades para avanços e inovação. As empresas que podem transformar pontos fortes em pontos fracos são as que podem resolver os desafios de amanhã, hoje.

O hype é real, e a nova era de IA é digna dele. Mas, em nossa excitação para desbloquear o poder dessa tecnologia, não podemos abrir mão das salvaguardas necessárias que tornarão esses produtos confiáveis e dignos de confiança. A IA promete melhorar nossas vidas para melhor, mas também pode causar danos imensuráveis se a segurança e a ética não forem centrais no processo de desenvolvimento.

Para o Vale do Silício, isso deve ser um chamado de alerta: é hora de deixar a mentalidade de “mover-se rapidamente, quebrar coisas, e consertá-las mais tarde” para trás. Porque não há “mais tarde” quando o futuro é agora.