Por que o Vale do Silício não pode “Mover-se Rápido e Quebrar Coisas” quando se trata de IA

As pessoas dizem que o Vale do Silício amadureceu além da mentalidade impulsiva de “mover-se rápido, quebrar coisas, e consertá-las mais tarde”, e que as empresas adotaram uma abordagem mais lenta e responsável para construir o futuro de nossa indústria.

Infelizmente, as tendências atuais contam uma história diferente.

Apesar da retórica, a forma como as empresas constroem coisas ainda não mudou. As startups de tecnologia ainda operam com o mesmo código de atalhos e promessas falsas, e a qualidade declinante dos produtos mostra isso. “Mover-se rápido e quebrar coisas” ainda é o credo do Vale do Silício – e, mesmo se tivesse realmente morrido, o boom de IA o reanimou com toda a força.

Os recentes avanços em IA já estão transformando radicalmente a forma como trabalhamos e vivemos. Em apenas os últimos dois anos, a IA passou do domínio de profissionais de ciência da computação para uma ferramenta caseira, graças à proliferação rápida de ferramentas de IA gerativas como o ChatGPT. Se as empresas de tecnologia “moverem-se rápido e quebrarem coisas” com a IA, pode não haver opção para “consertá-las mais tarde”, especialmente quando os modelos são treinados com dados pessoais sensíveis. Você não pode desfazer o que já foi feito, e o eco reverberará por toda a sociedade, potencialmente causando danos irreparáveis. Desde deepfakes maliciosos a esquemas de fraude a campanhas de desinformação, já estamos vendo o lado negativo da IA se manifestar.

Ao mesmo tempo, no entanto, essa tecnologia tem o poder de mudar nossa sociedade para melhor. A adoção de IA pelas empresas será tão revolucionária quanto a mudança para a nuvem foi; as empresas reconstruirão completamente com base na IA, e se tornarão infinitamente mais produtivas e eficientes por causa disso. Em nível individual, a IA gerativa se tornará nossa assistente confiável, ajudando-nos a realizar atividades do dia a dia, experimentar criativamente e desbloquear novos conhecimentos e oportunidades.

O futuro da IA pode ser brilhante, mas requer uma mudança cultural significativa no local onde esse futuro está sendo construído.

Por que “Mover-se Rápido e Quebrar Coisas” é Incompatível com a IA

“Mover-se rápido e quebrar coisas” opera com duas suposições principais: uma, que qualquer coisa que não funcione no lançamento pode ser corrigida em uma atualização posterior; e duas, que se você “quebrar coisas”, pode levar a avanços com codificação criativa e pensamento fora da caixa suficientes. E, embora muitas grandes inovações tenham surgido de erros, isso não é penicilina ou Coca-Cola. A inteligência artificial é uma tecnologia extraordinariamente poderosa que deve ser manuseada com a máxima cautela. Os riscos de violações de dados e uso criminoso são simplesmente muito altos para serem ignorados.

Infelizmente, o Vale do Silício tem um mau hábito de glorificar a confusão do processo de desenvolvimento. As empresas ainda promovem um esforço incessante, no qual longas horas e uma falta de equilíbrio entre vida e trabalho se tornam necessárias para fazer carreira. As startups e seus acionistas estabelecem metas irreais que aumentam o risco de erros e atalhos. Limites são ultrapassados quando, talvez, não deveriam ser. Esses comportamentos se unem em uma cultura tóxica da indústria que incentiva a perseguição de hype em detrimento da ética.

O ritmo atual de desenvolvimento de IA não pode continuar dentro dessa cultura. Se a IA vai resolver alguns dos problemas mais prementes do mundo, ela terá que ser treinada com informações altamente sensíveis, e as empresas têm uma responsabilidade crítica de proteger essas informações.

Medidas de segurança levam tempo para serem implementadas, e o tempo é algo que o Vale do Silício está profundamente convencido de que não tem. Já estamos vendo empresas de IA dispensando guardiões necessários para o benefício de lançar novos produtos. Isso pode satisfazer os acionistas no curto prazo, mas os riscos de longo prazo configuram essas organizações para um dano financeiro maciço mais adiante – para não mencionar uma completa perda de qualquer boa vontade que tenham cultivado.

Há também um risco sério associado à violação de direitos autorais e propriedade intelectual, como evidenciado pelos vários processos federais em andamento envolvendo IA e direitos autorais. Sem proteções adequadas contra violações de direitos autorais e propriedade intelectual, os meios de subsistência das pessoas estão em risco.

Para a startup de IA que deseja passar por cima do desenvolvimento e ir para o mercado, isso parece muito para considerar – e é. Proteger pessoas e informações é um trabalho árduo. Mas é um trabalho inegociável, mesmo que force os desenvolvedores de IA a serem mais reflexivos. Na verdade, eu argumentaria que é o benefício. Construir soluções para problemas antes que eles surjam, e você não terá que consertar o que quebra na estrada.

Um Novo Credo: “Mover-se Estrategicamente para ser Inquebrável”

No passado mês de maio, a UE aprovou a primeira lei abrangente de IA do mundo, a Lei de Inteligência Artificial, para gerenciar riscos por meio de requisitos de transparência extensivos e a proibição de tecnologias de IA consideradas um risco inaceitável. A lei reflete a abordagem historicamente cautelosa da UE em relação à nova tecnologia, que tem governado suas estratégias de desenvolvimento de IA desde os primeiros sinais do atual boom. Em vez de agir por impulso, direcionando todos os seus dólares de venture e capacidades de engenharia para a última tendência sem planejamento adequado, essas empresas canalizam seus esforços para criar algo que durará.

Isso não é a abordagem prevalecente nos EUA, apesar de numerosas tentativas de regulamentação. No front legislativo, estados individuais estão basicamente propondo suas próprias leis, variando de inadequadas a excessivamente abrangentes, como a proposta SB-1047 da Califórnia. Enquanto isso, a corrida armamentista de IA intensifica, e o Vale do Silício persiste em seus velhos caminhos.

Os capitalistas de risco estão apenas inflamando o problema. Quando investem em novas startups, eles não perguntam sobre guardiões e verificações de segurança. Eles querem lançar um produto mínimo viável o mais rápido possível para que possam coletar seus cheques. O Vale do Silício se tornou um berçário de esquemas de enriquecimento rápido, onde as pessoas querem fazer o máximo de dinheiro possível, em o mínimo tempo possível, enquanto fazem o mínimo de trabalho possível – e não se importam com as consequências.

Para a era de IA, eu gostaria de propor um substituto para “mover-se rápido e quebrar coisas”: mover-se estrategicamente para ser inquebrável. Pode não ter o mesmo ritmo poético que o anterior, mas reflete a mentalidade que o Vale do Silício precisa no atual cenário tecnológico.

Estou otimista de que a indústria de tecnologia pode ser melhor, e começa com a adoção de uma mentalidade centrada no cliente e orientada para o futuro, focada em criar produtos que durem e manter esses produtos de uma maneira que fomente confiança com os usuários. Uma abordagem mais reflexiva fará com que as pessoas e as organizações se sintam confiantes em trazer a IA para suas vidas – e isso soa bastante lucrativo para mim.

Rumo a um Futuro Sustentável

O mundo da tecnologia sofre com uma pressão esmagadora para ser o primeiro. Os fundadores sentem que, se não pularem na próxima grande coisa imediatamente, vão perder o barco. Claro, ser um precursor pode aumentar suas chances de sucesso, mas ser “o primeiro” não deve vir à custa da segurança e da ética.

Quando seu objetivo é construir algo que dure, você acabará procurando mais cuidadosamente por riscos e fraquezas. É assim que você encontra novas oportunidades para avanços e inovação. As empresas que podem transformar pontos fortes em pontos fracos são as que podem resolver os desafios de amanhã, hoje.

O hype é real, e a nova era de IA é digna disso. Mas, em nossa empolgação para desbloquear o poder dessa tecnologia, não podemos abrir mão das salvaguardas necessárias que tornarão esses produtos confiáveis e dignos de confiança. A IA promete melhorar nossas vidas para melhor, mas também pode causar danos imensuráveis se a segurança e a proteção não forem centrais no processo de desenvolvimento.

Para o Vale do Silício, isso deve ser um chamado à ação: é hora de deixar a mentalidade de “mover-se rápido, quebrar coisas, e consertá-las mais tarde” para trás. Porque, quando o futuro é agora, não há “mais tarde”.