Enfrentando a Dominância da Nvidia: Estratégias de Desenvolvimento de ML Ágil para Jogadores Não-Big Tech (Em Meio a Desafios de Suprimento e Custo)

Construir um negócio no jogo entre os grandes jogadores nunca foi uma tarefa fácil. Em 2023, a competição no setor de IA atingiu alturas sem precedentes, impulsionada por avanços reais e impressionantes. O lançamento do GPT-4 da OpenAI, a integração do ChatGPT com o Bing, o lançamento do Bard do Google e o lançamento controverso da “open-source” Llama 2 da Meta. Soa como uma longa lista de grandes nomes, não é? Embora possa parecer emocionante, a maioria da inovação está onde o dinheiro flui, e a competição que os jogadores menores têm que superar está se tornando cada vez mais intensa a cada dia.

No cenário em constante evolução da indústria de tecnologia, a Nvidia (NVDA ) continua a solidificar sua posição como o principal jogador na infraestrutura de IA. Durante uma teleconferência de relatório financeiro de agosto, Jensen Huang, presidente da NVIDIA, destacou a crescente demanda por processadores Nvidia. Essa afirmação é respaldada pela confirmação dos dados de receita da apresentação do investidor da Nvidia, que revela um impressionante desempenho ano a ano, evidente já em novembro YTD. Enquanto isso, as projeções da Gartner indicam um aumento significativo nos gastos com chips nos próximos quatro anos. Atualmente, o software stack e os processadores da Nvidia são inigualáveis, deixando a indústria incerta sobre quando um competidor credível pode surgir.

Relatórios recentes da Bloomberg e do Financial Times destacam as negociações de Sam Altman, CEO da OpenAI, com investidores do Oriente Médio para iniciar a produção de chips, visando reduzir a dependência do setor de IA dos chips da Nvidia. Desafiar a Nvidia, com seu quase 1,5 trilhão de dólares em capitalização de mercado, provavelmente custará a Altman entre 5 trilhões e 7 trilhões de dólares e levará vários anos.

No entanto, abordar a eficiência de custo dos modelos de ML para os negócios é algo que as empresas têm que fazer agora. Para as empresas além dos limites da grande tecnologia, desenvolver modelos de ML eficientes em termos de custo é mais do que apenas um processo de negócios — é uma estratégia de sobrevivência vital. Este artigo explora quatro estratégias pragmáticas que permitem que as empresas de todos os tamanhos desenvolvam seus modelos sem investimentos extensivos em P&D e permaneçam flexíveis para evitar a dependência do fornecedor.

Por Que a Nvidia Dominou o Mercado de IA

Em resumo, a Nvidia criou o fluxo de trabalho ideal de treinamento de modelos, alcançando sinergia entre GPUs de alto desempenho e seu software de treinamento de modelos proprietário, a amplamente aclamada ferramenta CUDA.

A CUDA (introduzida em 2007) é uma ferramenta de computação paralela abrangente e API para utilizar os processadores GPU da Nvidia de forma otimizada. O principal motivo pelo qual é tão popular é sua capacidade inigualável de acelerar cálculos matemáticos complexos, cruciais para o aprendizado profundo. Além disso, oferece um ecossistema rico, como o cuDNN para redes neurais profundas, melhorando o desempenho e a facilidade de uso. É essencial para os desenvolvedores devido à sua integração perfeita com os principais frameworks de aprendizado profundo, permitindo o desenvolvimento e iteração rápidos de modelos.

A combinação de um software stack robusto com hardware altamente eficiente provou ser a chave para capturar o mercado. Embora alguns argumentem que a dominância da Nvidia possa ser um fenômeno temporário, é difícil fazer tais previsões no cenário atual.

O Peso Pesado da Dominância da Nvidia

A Nvidia ter a vantagem no campo do desenvolvimento de ML levantou numerousas preocupações, não apenas no âmbito ético, mas também em relação às disparidades crescentes nos orçamentos de pesquisa e desenvolvimento, que são uma das razões pelas quais entrar no mercado se tornou exponencialmente mais difícil para os jogadores menores, quanto mais para as startups. Adicione a isso a diminuição do interesse dos investidores devido aos riscos mais altos, e a tarefa de adquirir investimentos em P&D (como os da Nvidia) se torna impossível, criando um campo de jogo muito desigual.

No entanto, essa dependência pesada do hardware da Nvidia coloca ainda mais pressão na consistência da cadeia de suprimentos e abre o risco de interrupções e dependência do fornecedor, reduzindo a flexibilidade do mercado e escalando as barreiras de entrada no mercado.

“Alguns estão reunindo dinheiro para garantir que não deixarão os usuários em apuros. Em todos os lugares, termos de engenharia como ‘otimização’ e ‘tamanho de modelo menor’ estão em voga, pois as empresas tentam cortar suas necessidades de GPU, e os investidores este ano apostaram centenas de milhões de dólares em startups cujo software ajuda as empresas a se virar com as GPUs que têm.”

Falta de Chips da Nvidia Deixa Startups de IA em Dificuldades para Obter Potência de Computação Por Paresh Dave

Agora é a hora de adotar abordagens estratégicas, pois isso pode ser exatamente o que dará à sua empresa a chance de prosperar em meio à influência abrangente da Nvidia no desenvolvimento de ML.

Estratégias que os Jogadores Não-Big Tech Podem Adaptar à Dominância da Nvidia:

1. Comece a Explorar o RocM da AMD

A AMD tem sido ativamente reduzindo a lacuna de desenvolvimento de IA com a NVIDIA, uma façanha alcançada por meio de seu apoio contínuo ao Rocm nas bibliotecas principais do PyTorch ao longo do último ano. Esse esforço contínuo resultou em melhor compatibilidade e desempenho, destacado proeminentemente pelo chipset MI300, a última liberação da AMD. O MI300 demonstrou desempenho robusto em tarefas de inferência de Large Language Model (LLM), particularmente se destacando com modelos como o LLama-70b. Esse sucesso destaca avanços significativos no poder de processamento e eficiência alcançados pela AMD.

2. Encontre Outras Alternativas de Hardware

Além dos esforços da AMD, o Google introduziu Unidades de Processamento de Tensor (TPUs), hardware especializado projetado explicitamente para acelerar cargas de trabalho de ML, oferecendo uma alternativa robusta para o treinamento de grandes modelos de IA.

Além desses gigantes da indústria, jogadores menores, mas impactantes, como Graphcore e Cerebras (CBRS ), estão fazendo contribuições notáveis para o espaço de hardware de IA. A Unidade de Processamento de Inteligência (IPU) da Graphcore, personalizada para eficiência em cálculos de IA, ganhou atenção por seu potencial em tarefas de alto desempenho, como demonstrado pela experimentação do Twitter. A Cerebras, por outro lado, está impulsionando os limites com seus chips avançados, enfatizando escalabilidade e poder computacional bruto para aplicações de IA.

Os esforços coletivos dessas empresas significam uma mudança em direção a um ecossistema de hardware de IA mais diversificado. Essa diversificação apresenta estratégias viáveis para reduzir a dependência da Nvidia, fornecendo aos desenvolvedores e pesquisadores uma gama mais ampla de plataformas para o desenvolvimento de IA.

3. Comece a Investir na Otimização de Desempenho

Além de explorar alternativas de hardware, a otimização do software se prova um fator crucial na redução do impacto da dominância da Nvidia. Ao utilizar algoritmos eficientes, reduzir cálculos desnecessários e implementar técnicas de processamento paralelo, os jogadores não-Big Tech podem maximizar o desempenho de seus modelos de ML no hardware existente, oferecendo uma abordagem pragmática para reduzir a lacuna sem depender apenas de atualizações de hardware caras.

Um exemplo dessa abordagem é a tecnologia AutoNAC da Deci Ai. Essa inovação demonstrou a capacidade de acelerar a inferência do modelo por um fator impressionante de 3 a 10 vezes, como comprovado pelo benchmark MLPerf amplamente reconhecido. Ao mostrar tais avanços, torna-se evidente que a otimização do software pode melhorar significativamente a eficiência do desenvolvimento de ML, apresentando uma alternativa viável para mitigar a influência da dominância da Nvidia no campo.

4. Comece a Colaborar com Outras Organizações para Criar Clusters Descentralizados

Essa abordagem colaborativa pode envolver compartilhar descobertas de pesquisa, investir conjuntamente em opções de hardware alternativas e fomentar o desenvolvimento de novas tecnologias de ML por meio de projetos de código aberto. Ao descentralizar a inferência e utilizar recursos de computação distribuída, os jogadores não-Big Tech podem nivelar o campo de jogo e criar um cenário mais competitivo na indústria de desenvolvimento de ML.

Hoje, a estratégia de compartilhar recursos de computação está ganhando momentum em toda a indústria de tecnologia. O Google Kubernetes Engine (GKE) exemplifica isso, apoiando a multi-locatário de clusters, permitindo a utilização eficiente de recursos e integração com serviços de terceiros. Essa tendência é ainda mais evidenciada por iniciativas lideradas pela comunidade, como Petals, que oferece uma rede distribuída para executar modelos de IA, tornando a computação de alto desempenho acessível sem investimento significativo. Além disso, plataformas como Together.ai fornecem acesso sem servidor a uma ampla gama de modelos de código aberto, simplificando o desenvolvimento e fomentando a colaboração. Considerar essas plataformas pode permitir que você acesse recursos computacionais e oportunidades de desenvolvimento colaborativo, ajudando a otimizar seu processo de desenvolvimento e reduzir custos, independentemente do tamanho da organização.

Conclusão

Em escala global, a necessidade das estratégias mencionadas se torna aparente. Quando uma entidade domina o mercado, isso sufoca o desenvolvimento e impede o estabelecimento de preços razoáveis.

Os jogadores não-Big Tech podem contrariar a dominância da Nvidia explorando alternativas como o RocM da AMD, investindo na otimização de desempenho por meio de algoritmos eficientes e processamento paralelo, e fomentando a colaboração com outras organizações para criar clusters descentralizados. Isso promove um cenário mais diversificado e competitivo na indústria de hardware e desenvolvimento de IA, permitindo que os jogadores menores tenham uma voz no futuro do desenvolvimento de IA.

Essas estratégias visam diminuir a dependência dos preços e suprimentos da Nvidia, melhorando o apelo de investimento, minimizando o risco de desaceleração do desenvolvimento de negócios em meio à competição de hardware e fomentando o crescimento orgânico em toda a indústria, permitindo que os jogadores menores tenham uma voz no futuro do desenvolvimento de IA.