Navegando o Caminho para a Inteligência Artificial Geral (AGI) Juntos: Uma Abordagem Equilibrada

À medida que a inteligência artificial geral (AGI) avança rapidamente, a conversa está mudando de debate filosófico para uma de relevância prática, com uma oportunidade imensa de transformar negócios globais e o potencial humano.

A série de eventos AGI Icons da Turing reúne inovadores de IA para discutir avanços práticos e responsáveis de soluções de AGI. Em 24 de julho, a Turing sediou nosso segundo evento AGI Icons no SHACK15, em San Francisco, um hub exclusivo para empreendedores e inovadores de tecnologia. Moderado por Anita Ramaswamy, colunista financeira do The Information, eu me sentei com o CEO da Quora, Adam D’Angelo, para discutir o caminho para a AGI e compartilhar insights sobre cronogramas de desenvolvimento, aplicações no mundo real e princípios para um desenvolvimento responsável.

O Caminho da IA para a AGI

A “estrela norte” que impulsiona a pesquisa de IA é a busca por “inteligência” de nível humano. O que separa a AGI da IA padrão é sua progressão além da funcionalidade estreita em direção a uma maior generalidade (amplitude) e desempenho (profundidade), mesmo excedendo as capacidades humanas.

Isso é “o caminho para a AGI”, onde a IA avança para sistemas mais autônomos, raciocínio superior, capacidades aprimoradas e funcionalidade melhorada. Essas progressões são divididas em cinco níveis taxonômicos:

• Nível 0: Sem IA – Ferramentas simples como calculadoras
• Nível 1: AGI Emergente – LLMs atuais como o ChatGPT
• Nível 2: AGI Competente – Sistemas de IA que igualam adultos habilidosos em tarefas específicas
• Nível 3: AGI Especializada – Sistemas de IA no percentil 90 de adultos habilidosos
• Nível 4: AGI Virtuosa – Sistemas de IA no percentil 99
• Nível 5: AGI Super-Humana – Sistemas de IA que superam todos os humanos

Fonte

Durante nossa discussão, Adam definiu o conceito de AGI como “software que pode fazer tudo o que um humano pode fazer”. Ele imagina um futuro onde a IA melhora a si mesma, eventualmente assumindo tarefas complexas humanas manipuladas por pesquisadores de aprendizado de máquina.

Levando isso um passo adiante, eu comparei minhas visões sobre a AGI com as de um “cérebro artificial” capaz de realizar tarefas diversas como “tradução de máquina, consultas complexas e codificação”. Essa é a distinção entre a AGI e a IA mais previsível e formas estreitas de ML que vieram antes dela. Parece um comportamento emergente.

Cronogramas de Desenvolvimento Realistas no Caminho para a AGI

Assim como em uma viagem de carro, a pergunta mais importante sobre a AGI é “Já chegamos?” A resposta curta é não, mas à medida que a pesquisa de IA acelera, a pergunta certa a fazer é “Como podemos equilibrar a ambição da AGI com expectativas realistas?”

Adam destacou que a automação aumentada da AGI mudará os papéis humanos, em vez de eliminá-los, levando a um crescimento econômico mais rápido e uma produtividade mais eficiente. “À medida que essa tecnologia se torna mais poderosa, chegaremos a um ponto em que 90% do que as pessoas estão fazendo hoje será automatizado, mas todos terão mudado para outras coisas.”

Atualmente, grande parte da economia mundial é limitada pelo número de pessoas disponíveis para trabalhar. Uma vez que alcancemos a AGI, podemos crescer a economia a uma taxa muito mais rápida do que é possível hoje.

Não podemos dar um cronograma definitivo para quando a AGI verdadeira será realizada, mas Adam e eu citamos vários exemplos de avanços de IA que abrem caminho para progressos futuros da AGI. Por exemplo, os experimentos da Turing com ferramentas de desenvolvedor de IA mostraram um aumento de 33% na produtividade do desenvolvedor, sugerindo um potencial ainda maior.

Aplicações e Efeitos no Mundo Real

Uma das aplicações mais promissoras da AGI está no campo do desenvolvimento de software. Modelos de linguagem grandes (LLMs), um precursor da AGI, já estão sendo usados para melhorar o desenvolvimento de software e a qualidade do código. Vejo essa era de IA como mais próxima da biologia do que da física, onde todos os tipos de trabalho de conhecimento serão melhorados. Haverá muito mais produtividade desbloqueada para e da humanidade.

Minha perspectiva vem da experiência, onde eu testemunhei um aumento de 10 vezes na produtividade pessoal ao usar LLMs e ferramentas de desenvolvedor de IA. Também estamos usando IA na Turing para avaliar talentos técnicos e combinar os engenheiros de software certos e especialistas em domínio de nível de doutorado com os trabalhos certos.

O que estou vendo no espaço de treinamento de LLM, por exemplo, é que os treinadores aproveitam esses modelos para melhorar a produtividade do desenvolvedor e acelerar os cronogramas de projeto. Ao automatizar tarefas de codificação rotineiras e fornecer sugestões de código inteligentes, os LLMs liberam os desenvolvedores para se concentrar em aspectos mais estratégicos e criativos de seu trabalho.

Adam concluiu: “Os LLMs não escreverão todo o código, mas entender os fundamentos do software ainda é crucial. Calculadoras não eliminaram a necessidade de aprender aritmética.” Ele adicionou: “Os desenvolvedores se tornam mais valiosos ao usar esses modelos. A presença de LLMs é positiva para os trabalhos de desenvolvedor e haverá muitos ganhos para os desenvolvedores.”

Estamos entrando em uma era de ouro do desenvolvimento de software, onde um engenheiro de software pode ser 10 vezes mais produtivo, criar mais e beneficiar o mundo.

Desafios Técnicos e de Governança

Apesar do potencial promissor da AGI, desafios devem ser abordados. Processos de avaliação robustos e quadros regulatórios são necessários para equilibrar a inovação da AGI com a segurança pública.

Adam enfatizou a necessidade de testes rigorosos e sandboxing para limitar cenários de pior caso. “Você quer ter algum tipo de processo de avaliação robusto… e obter essa distribuição que você está testando contra para ser o mais próximo possível do uso real.”

E eu concordo. O gargalo para o progresso da AGI agora é a inteligência humana, e não o poder de processamento ou os dados. A expertise humana é crucial para ajustar e personalizar os modelos de IA, o que é por que a Turing se concentra em encontrar e combinar profissionais de tecnologia de alto nível para equilibrar os modelos com a inteligência humana.

Devemos abordar os desafios da AGI diretamente, focando em capacidades em vez de processos, generalidade e desempenho, e potencial.

Perspectivas sobre Desafios: Melhorando as Interações Humanas-AGI

Algumas das melhores práticas para abordar os desafios da AGI incluem:

• Focar em capacidades ou “o que a AGI pode fazer” em vez de processos ou “como ela faz”.
• Equilibrar generalidade e desempenho como componentes essenciais da AGI.
• Focar em tarefas cognitivas/metacognitivas e habilidades de aprendizado sobre tarefas físicas/saídas.
• Medir a AGI por seu potencial e capacidades.
• Focar na validade ecológica, alinhando benchmarks com tarefas do mundo real que as pessoas valorizam.
• Lembre-se de que o caminho para a AGI não é um único ponto de chegada, é um processo iterativo.

Adicionando a essas práticas, Adam e eu enfatizamos a importância de melhorar as interações humanas-AGI. Adam destacou o valor de aprender como e quando usar esses modelos, vendo-os como ferramentas de aprendizado poderosas que podem ensinar rapidamente qualquer subdomínio de programação, enfatizando a importância de entender os fundamentos.

Da mesma forma, eu sugiro que tornar todos os humanos usuários avançados de LLMs pode melhorar significativamente a produtividade e a compreensão em vários campos. Os LLMs podem tornar informações complexas acessíveis a todos, melhorando a produtividade em vários campos. Mas isso requer uma abordagem faseada e iterativa: começando com copilotos de IA que assistem os humanos, então movendo-se para agentes com supervisão humana e, eventualmente, alcançando agentes totalmente autônomos em tarefas bem avaliadas.

Com isso, a diferenciação pós-treinamento é crítica, envolvendo ajuste fino supervisionado (SFT) e aproveitando a inteligência humana para construir modelos personalizados. As empresas que podem encontrar e combinar treinadores, engenheiros e outros serão capazes de acelerar suas capacidades de ajuste fino e engenharia personalizada. Colaborar com empresas líderes como OpenAI e Anthropic também é fundamental para aplicar esses modelos em diversas indústrias.

Princípios do Desenvolvimento Responsável da AGI

“O desenvolvimento da AGI deve ser responsável e ético, garantindo segurança e transparência, enquanto fomenta a inovação.” – Adam D’Angelo

O desenvolvimento responsável da AGI exige a adesão a vários princípios fundamentais:

• Segurança e Segurança: Garantir que os sistemas de AGI sejam confiáveis e resistentes a uso indevido, especialmente à medida que os modelos escalam para acomodar novas entradas de dados ou algoritmos.
• Transparência: Ser realista sobre as capacidades, limitações e “como funciona” da AGI.
• Considerações Éticas: Abordar questões de justiça, viés e como a AGI afetará o emprego e outros fatores socioeconômicos.
• Regulação: Trabalhar com governos e outras organizações para desenvolver quadros que equilibrem o progresso com a segurança pública.
• Benchmarking: Futuros benchmarks devem quantificar o comportamento e as capacidades da AGI em relação a considerações éticas e níveis taxonômicos.

Conclusão: Foque no Caminho para a AGI, não em um Ponto de Chegada Único

O caminho para a AGI é complexo, mas cada parada ao longo do caminho é importante para a jornada. Ao entender as melhorias iterativas da AGI – juntamente com suas implicações – as pessoas e as empresas serão capazes de adotar essa tecnologia em evolução de forma responsável. Essa é a essência do desenvolvimento responsável da AGI, onde a interatividade do mundo real informa como navegamos essa nova fronteira.