O Caso para Descentralizar sua Pilha de Tecnologia de IA

Tanta conversa sobre o desenvolvimento de IA se tornou dominada por um debate filosófico e futurista – devemos nos aproximar da inteligência artificial geral, onde a IA se tornará avançada o suficiente para realizar qualquer tarefa da maneira como um humano poderia? Isso é possível?

Enquanto a discussão sobre aceleração versus desaceleração é importante e oportuna com avanços como o modelo Q-star, outros aspectos também importam. Principalmente, a importância de descentralizar sua pilha de tecnologia e como fazer isso sem torná-lo um fardo de custo. Esses dois desafios podem parecer contraditórios: construir e implantar modelos é incrivelmente caro, mas confiar demais em um modelo pode ser prejudicial a longo prazo. Eu sei desse desafio pessoalmente como fundador de IA.

Para construir inteligência, você precisa de talento, dados e computação escalável. Para acelerar o tempo de mercado e fazer mais com menos, muitas empresas escolherão construir sobre modelos existentes, em vez de construir do zero. E a abordagem faz sentido quando o que você está construindo é tão intensivo em recursos. Agravando esse desafio é que, ao contrário do software, a maioria dos ganhos até agora em IA foram feitos adicionando mais escala, o que requer mais poder de computação e, portanto, custo.

Mas o que acontece quando a empresa na qual você construiu sua solução experimenta uma falha de governança ou uma interrupção de produto? Do ponto de vista prático, confiar em um único modelo para construir seu produto significa que você agora faz parte de um efeito de onda negativa para qualquer coisa que aconteça.

Também devemos lembrar dos riscos de trabalhar com sistemas que são probabilísticos. Não estamos acostumados com isso e o mundo em que vivemos até agora foi projetado e construído para funcionar com uma resposta definitiva. Os modelos são fluidos em termos de saída, e as empresas constantemente ajustam os modelos, o que significa que o código que você escreveu para apoiá-los e os resultados que seus clientes estão contando podem mudar sem seu conhecimento ou controle.

A centralização também cria preocupações de segurança porque introduz um único ponto de falha. Todas as empresas estão trabalhando no melhor interesse delas mesmas. Se houver uma preocupação de segurança ou risco com um modelo, você tem muito menos controle sobre a correção desse problema ou menos acesso a alternativas.

Onde isso nos deixa?

A IA, sem dúvida, vai melhorar como vivemos. Há tanto que ela é capaz de alcançar e corrigir, desde como coletamos informações até como entendemos vastas quantidades de dados. Mas com essa oportunidade também vem risco. Se confiarmos demais em um único modelo, todas as empresas estão se abrindo para desafios de segurança e produto.

Para corrigir isso, precisamos reduzir os custos de inferência e tornar mais fácil para as empresas terem uma abordagem de múltiplos modelos. E, claro, tudo se resume aos dados. A propriedade e a qualidade dos dados importam. Quanto mais únicos, de alta qualidade e disponíveis os dados forem, mais úteis eles serão.

Para muitos problemas, você pode otimizar modelos para uma aplicação específica. A última milha da IA é as empresas construírem lógica de roteamento, avaliações e camadas de orquestração sobre esses diferentes modelos, especializando-os para diferentes verticais.

Houve vários investimentos substanciais nesse espaço que estão nos aproximando desse objetivo. A recente (e impressionante) rodada de financiamento da Mistal é um desenvolvimento promissor em direção a uma alternativa ao OpenAI. Há também empresas ajudando outros fornecedores de IA a tornar a multiplexação de modelos cruzados uma realidade e reduzir os custos de inferência por meio de hardware, software e destilação de modelos especializados, como alguns exemplos.

Também vamos ver o código aberto decolar, e os órgãos governamentais devem permitir que o código aberto permaneça aberto. Com modelos de código aberto, é mais fácil ter mais controle. No entanto, as lacunas de desempenho ainda existem.

Eu suponho que vamos acabar em um mundo onde você terá modelos júnior otimizados para realizar tarefas menos complexas em escala, enquanto modelos superinteligentes maiores atuarão como oráculos para atualizações e gastarão cada vez mais computação para resolver problemas mais complexos. Você não precisará de um modelo de um trilhão de parâmetros para responder a uma solicitação de serviço ao cliente. Eu o comparo a não ter um executivo sênior gerenciar uma tarefa que um estagiário pode lidar. Assim como temos vários papéis para contrapartes humanas, a maioria das empresas também confiará em uma coleção de modelos com vários níveis de sofisticação.

Para alcançar esse equilíbrio, você precisa de uma quebra de tarefa clara e benchmarking, considerando o tempo, complexidade computacional, custo e escala necessários. Dependendo do caso de uso, você pode priorizar de acordo. Determine uma verdade fundamental, um resultado ideal para comparação e um exemplo de dados de entrada e saída, para que você possa executar várias prompts para otimizar e obter o resultado mais próximo da verdade fundamental.

Se as empresas de IA puderem descentralizar com sucesso sua pilha de tecnologia e construir sobre múltiplos modelos, podemos melhorar a segurança e confiabilidade dessas ferramentas e, portanto, maximizar o impacto positivo da IA. Não estamos mais em um lugar para debates teóricos – é hora de nos concentrarmos em como colocar a IA para trabalhar para tornar essas tecnologias mais eficazes e resilientes.