Navegando o Caminho para a Inteligência Artificial Geral (AGI) Juntos: Uma Abordagem Equilibrada

À medida que a inteligência artificial geral (AGI) avança rapidamente, a conversa está mudando de debate filosófico para uma de relevância prática, com imensa oportunidade de transformar negócios globais e potencial humano.

A série de eventos AGI Icons da Turing reúne inovadores de IA para discutir avanços práticos e responsáveis de soluções de AGI. Em 24 de julho, a Turing sediou nosso segundo evento AGI Icons no SHACK15, o hub exclusivo de San Francisco para empreendedores e inovadores de tecnologia. Moderado por Anita Ramaswamy, colunista financeira do The Information, eu me sentei com o CEO da Quora, Adam D’Angelo, para discutir o caminho para a AGI e compartilhar insights sobre cronogramas de desenvolvimento, aplicações no mundo real e princípios para implantação responsável.

O Caminho de IA para AGI

A “estrela norte” que impulsiona a pesquisa de IA é a busca por “inteligência” de nível humano. O que separa a AGI da IA padrão é sua progressão além da funcionalidade estreita em direção a uma maior generalidade (amplitude) e desempenho (profundidade), até exceder as capacidades humanas.

Isso é “o caminho para a AGI”, onde a IA avança para sistemas mais autônomos, raciocínio superior, capacidades aprimoradas e funcionalidade melhorada. Essas progressões são divididas em cinco níveis taxonômicos:

• Nível 0: Sem IA – Ferramentas simples como calculadoras
• Nível 1: AGI Emergente – LLMs atuais como ChatGPT
• Nível 2: AGI Competente – Sistemas de IA que igualam adultos habilidosos em tarefas específicas
• Nível 3: AGI Especializado – Sistemas de IA no percentil 90 de adultos habilidosos
• Nível 4: AGI Virtuoso – Sistemas de IA no percentil 99
• Nível 5: AGI Superhumana – Sistemas de IA que superam todos os humanos

Fonte

Durante nossa discussão, Adam definiu o conceito de AGI como “software que pode fazer tudo o que um humano pode fazer”. Ele vislumbra um futuro onde a IA melhora a si mesma, eventualmente assumindo tarefas complexas humanas manipuladas por pesquisadores de aprendizado de máquina.

Levando isso um passo adiante, eu comparei minhas visões sobre AGI com as de um “cérebro artificial” capaz de tarefas diversas como “tradução de máquina, consultas complexas e codificação”. Essa é a distinção entre AGI e IA mais previsível e formas estreitas de ML que vieram antes. Parece um comportamento emergente.

Cronogramas de Desenvolvimento Realistas no Caminho para AGI

Assim como em uma viagem de carro, a pergunta mais importante sobre AGI é “Já chegamos?” A resposta curta é não, mas à medida que a pesquisa de IA acelera, a pergunta certa a fazer é “Como podemos equilibrar a ambição de AGI com expectativas realistas?”

Adam destacou que a automação aumentada da AGI mudará os papéis humanos, em vez de eliminá-los, levando a um crescimento econômico mais rápido e uma produtividade mais eficiente. “À medida que essa tecnologia se torna mais poderosa, chegaremos a um ponto em que 90% do que as pessoas estão fazendo hoje será automatizado, mas todos terão mudado para outras coisas.”

Atualmente, grande parte da economia mundial é limitada pelo número de pessoas disponíveis para trabalhar. Uma vez que alcancemos a AGI, podemos crescer a economia a uma taxa muito mais rápida do que é possível hoje.

Não podemos dar um cronograma definitivo para quando a AGI verdadeira será realizada, mas Adam e eu citamos vários exemplos de avanços de IA abrindo caminho para progressões futuras de AGI. Por exemplo, os experimentos da Turing com ferramentas de desenvolvedor de IA mostraram um aumento de 33% na produtividade do desenvolvedor, sugerindo um potencial ainda maior.

Aplicações e Efeitos no Mundo Real

Uma das aplicações mais promissoras de AGI está no campo do desenvolvimento de software. Modelos de linguagem grande (LLMs), um precursor da AGI, já estão sendo usados para melhorar o desenvolvimento de software e melhorar a qualidade do código. Eu vejo essa era de IA como mais próxima da biologia do que da física, onde todos os tipos de trabalho de conhecimento serão melhorados. Haverá muito mais produtividade desbloqueada para e da humanidade.

Minha perspectiva vem da experiência, onde eu testemunhei um aumento de produtividade pessoal de 10 vezes quando usei LLMs e ferramentas de desenvolvedor de IA. Também estamos usando IA na Turing para avaliar talento técnico e combinar os engenheiros de software certos e especialistas em domínio de nível de doutorado com os trabalhos certos.

O que estou vendo no espaço de treinamento de LLM, por exemplo, é que os treinadores aproveitam esses modelos para melhorar a produtividade do desenvolvedor e acelerar os cronogramas de projeto. Ao automatizar tarefas de codificação rotineiras e fornecer sugestões de código inteligentes, os LLMs liberam os desenvolvedores para se concentrar em aspectos mais estratégicos e criativos de seu trabalho.

Adam concluiu: “Os LLMs não escreverão todo o código, mas entender os fundamentos do software ainda é crucial. As calculadoras não eliminaram a necessidade de aprender aritmética.” Ele acrescentou: “Os desenvolvedores se tornam mais valiosos ao usar esses modelos. A presença de LLMs é positiva para os trabalhos de desenvolvedor e haverá muitos ganhos para os desenvolvedores.”

Estamos entrando em uma era de ouro do desenvolvimento de software, onde um engenheiro de software pode ser 10 vezes mais produtivo, criar mais e beneficiar o mundo.

Desafios Técnicos e de Governança

Apesar do potencial promissor da AGI, desafios devem ser abordados. Processos de avaliação robustos e quadros regulamentares são necessários para equilibrar a inovação de AGI com a segurança pública.

Adam enfatizou a necessidade de testes e sandboxing abrangentes para limitar os piores cenários. “Você quer ter algum tipo de processo de avaliação robusto… e obter essa distribuição que você está testando para ser o mais próximo possível do uso real.”

E eu concordo. O gargalo para o progresso da AGI agora é a inteligência humana, e não o poder de computação ou dados. A expertise humana é crucial para ajustar e personalizar modelos de IA, o que é por que a Turing se concentra em encontrar e combinar profissionais de tecnologia de nível superior para equilibrar os modelos com inteligência humana.

Devemos abordar os desafios da AGI de frente, concentrando-nos em capacidades em vez de processos, generalidade e desempenho, e potencial.

Perspectivas sobre Desafios: Melhorando Interações Humanas-AGI

Algumas das melhores práticas para abordar os desafios da AGI incluem:

• Concentrar-se em capacidades ou “o que a AGI pode fazer” em vez de processos ou “como ela faz isso”.
• Equilibrar generalidade e desempenho como componentes essenciais da AGI.
• Concentrar-se em tarefas cognitivas/metacognitivas e habilidades de aprendizado em vez de tarefas físicas/saídas.
• Medir a AGI por seu potencial e capacidades.
• Concentrar-se na validade ecológica, alinhando benchmarks com tarefas do mundo real que as pessoas valorizam.
• Lembre-se de que o caminho para a AGI não é um único ponto final, é um processo iterativo.

Adicionando a essas melhores práticas, Adam e eu enfatizamos a importância de melhorar as interações humanas-AGI. Adam destacou o valor de aprender como e quando usar esses modelos, vendo-os como ferramentas de aprendizado poderosas que podem ensinar rapidamente qualquer subdomínio de programação, enfatizando a importância de entender os fundamentos.

Da mesma forma, eu sugiro que tornar todos os humanos usuários avançados de LLMs pode melhorar significativamente a produtividade e compreensão em vários campos. Os LLMs podem tornar informações complexas acessíveis a todos, melhorando a produtividade em vários campos. Mas requer uma abordagem faseada e iterativa: começando com copilotos de IA assistindo humanos, então movendo-se para agentes com supervisão humana e eventualmente alcançando agentes totalmente autônomos em tarefas bem avaliadas.

Com isso, a diferenciação pós-treinamento é crítica, envolvendo ajuste fino supervisionado (SFT) e aproveitando a inteligência humana para construir modelos personalizados. As empresas que podem encontrar e combinar treinadores, engenheiros e outros serão capazes de acelerar suas capacidades de ajuste fino e engenharia personalizada. Colaborar com empresas líderes como OpenAI e Anthropic também é fundamental para aplicar esses modelos em diversas indústrias.

Princípios de Desenvolvimento Responsável de AGI

“O desenvolvimento de AGI deve ser responsável e ético, garantindo segurança e transparência, ao mesmo tempo em que fomenta a inovação.” – Adam D’Angelo

O desenvolvimento responsável de AGI exige aderir a vários princípios fundamentais:

• Segurança e Segurança: Garantir que os sistemas de AGI sejam confiáveis e resistentes a uso indevido, especialmente à medida que os modelos escalonam para acomodar novos dados de entrada ou algoritmos.
• Transparência: Ser realista sobre as capacidades, limitações e “como funciona” da AGI.
• Considerações Éticas: Abordar questões de justiça, viés e como a AGI afetará o emprego e outros fatores socioeconômicos.
• Regulação: Trabalhar com governos e outras organizações para desenvolver quadros que equilibrem o progresso com a segurança pública.
• Benchmarking: Os benchmarks futuros devem quantificar o comportamento e as capacidades da AGI em relação a considerações éticas e níveis taxonômicos.

Conclusão: Foque no Caminho para AGI, não em um Ponto Final Único

O caminho para a AGI é complexo, mas cada parada ao longo do caminho é importante para a jornada. Ao entender as melhorias iterativas da AGI – juntamente com suas implicações – as pessoas e as empresas serão capazes de adotar essa tecnologia em evolução de forma responsável. Essa é a essência do desenvolvimento responsável de AGI, onde a interatividade do mundo real informa como navegamos nessa nova fronteira.