Navegando juntos no caminho para a inteligência artificial geral (AGI): uma abordagem equilibrada

As inteligência geral artificial (AGI) avança rapidamente, a conversa está a mudar do debate filosófico para um debate de relevância prática, com imensa oportunidade de transformar os negócios globais e o potencial humano.

A série de eventos AGI Icons da Turing reúne inovadores de IA para discutir avanços práticos e responsáveis ​​de soluções AGI. Em 24 de julho, Turing sediou nosso segundo evento AGI Icons no SHACK15, centro exclusivo de São Francisco para empreendedores e inovadores tecnológicos. Moderado por Anita Ramaswamy, colunista financeira da The Information, conversei com o CEO do Quora, Adam D'Angelo, para discutir o caminho para AGI e compartilhar insights sobre cronogramas de desenvolvimento, aplicativos do mundo real e princípios para implantação responsável.

O caminho da IA ​​para a AGI

A “estrela norte” que impulsiona a pesquisa em IA é a busca pela “inteligência” em nível humano. O que separa a AGI da IA ​​padrão é a sua progressão, passando da funcionalidade restrita em direção a uma maior generalidade (amplitude) e desempenho (profundidade), excedendo até mesmo as capacidades humanas.

Este é “o caminho para a AGI”, onde a IA progride para sistemas mais autónomos, raciocínio superior, capacidades melhoradas e funcionalidades melhoradas. Essas progressões são divididas em cinco níveis taxonômicos:

• Nível 0: Sem IA – ferramentas simples como calculadoras
• Nível 1: AGI emergente – LLMs atuais como ChatGPT
• Nível 2: AGI competente – sistemas de IA que combinam adultos qualificados em tarefas específicas
• Nível 3: Expert AGI – Sistemas de IA no percentil 90 de adultos qualificados
• Nível 4: Virtuoso AGI – sistemas de IA no percentil 99
• Nível 5: Superhuman AGI – sistemas de IA que superam todos os humanos

fonte

Durante nossa discussão, Adam definiu o conceito de AGI como “software que pode fazer tudo que um ser humano pode fazer”. Ele prevê um futuro onde a IA se aprimorará, eventualmente assumindo tarefas humanas complexas realizadas por pesquisadores de aprendizado de máquina.

Indo um passo além, comparei minha visão sobre a IA com a de um "cérebro artificial" capaz de realizar diversas tarefas, como "tradução automática, consultas complexas e codificação". Essa é a distinção entre a IA e a IA mais preditiva e as formas mais restritas de ML que a antecederam. Parece um comportamento emergente.

Cronogramas de desenvolvimento realistas no caminho para a AGI

Assim como em uma viagem, a pergunta mais importante sobre AGI é: “Já chegamos?” A resposta curta é não, mas à medida que a pesquisa em IA acelera, a pergunta certa a fazer é: “Como podemos equilibrar AGI ambição com expectativas realistas? "

Adam destacou que o aumento da automação da IA ​​mudará os papéis humanos em vez de eliminá-los, levando a um crescimento econômico mais rápido e a uma produtividade mais eficiente. "À medida que essa tecnologia se tornar mais poderosa, chegaremos a um ponto em que 90% do que as pessoas fazem hoje será automatizado, mas todos terão migrado para outras atividades."

Atualmente, grande parte da economia mundial está limitada pelo número de pessoas disponíveis para trabalhar. Assim que alcançarmos a AGI, poderemos fazer a economia crescer a um ritmo muito mais rápido do que é possível hoje.

Não podemos dar um cronograma definitivo para quando a verdadeira IA será concretizada, mas Adam e eu citamos vários exemplos de avanços em IA abrindo caminho para futuras progressões da IA. Por exemplo, os experimentos de Turing com ferramentas de IA para desenvolvedores mostraram um aumento de 33% na produtividade dos desenvolvedores, sugerindo um potencial ainda maior.

Aplicações e efeitos do mundo real

Uma das aplicações mais promissoras da AGI está na área de desenvolvimento de software. Modelos de grande linguagem (LLMs), precursores da IA, já estão sendo usados ​​para aprimorar o desenvolvimento de software e melhorar a qualidade do código. Vejo esta era da IA ​​mais próxima da biologia do que da física, onde todos os tipos de trabalho intelectual serão aprimorados. Haverá muito mais produtividade liberada da e para a humanidade.

Minha perspectiva vem da experiência, onde testemunhei um aumento de 10 vezes na produtividade pessoal ao usar LLMs e ferramentas de desenvolvedor de IA. Também estamos usando IA na Turing para avaliar talentos técnicos e combinar os engenheiros de software e especialistas de domínio com nível de doutorado certos para os empregos certos.

O que estou vendo no espaço de treinamento LLM, por exemplo, é que os instrutores aproveitam esses modelos para aumentar a produtividade do desenvolvedor e acelerar os cronogramas dos projetos. Ao automatizar tarefas rotineiras de codificação e fornecer sugestões de código inteligentes, os LLMs liberam os desenvolvedores para se concentrarem em aspectos mais estratégicos e criativos de seu trabalho.

Adam concluiu: “Os LLMs não escreverão todo o código, mas entender os fundamentos do software continua sendo crucial. Calculadoras não eliminaram a necessidade de aprender aritmética.” Ele acrescentou: “Desenvolvedores se tornam mais valiosos ao usar esses modelos. A presença dos LLMs é positiva para os empregos de desenvolvedores e haverá muitos ganhos para eles.”

Estamos entrando em uma era de ouro do desenvolvimento de software, onde um engenheiro de software pode ser 10 vezes mais produtivo, criar mais e beneficiar o mundo.

Desafios Técnicos e de Governança

Apesar do potencial promissor da AGI, os desafios devem ser enfrentados. São necessários processos de avaliação e quadros regulamentares robustos para equilibrar a inovação da AGI com a segurança pública.

Adam enfatizou a necessidade de testes e sandboxes completos para limitar os piores cenários. "Você precisa ter algum tipo de processo de avaliação robusto... e fazer com que a distribuição que você está testando seja o mais próxima possível do uso no mundo real."

E eu concordo. O gargalo para o progresso da AGI é agora a inteligência humana, em vez do poder computacional ou dos dados. A experiência humana é crucial para o ajuste fino e a personalização de modelos de IA, e é por isso que a Turing se concentra em contratar e combinar profissionais de tecnologia de primeira linha para equilibrar modelos com inteligência humana.

Devemos enfrentar os desafios da AGI de frente, concentrando-nos nas capacidades em detrimento dos processos, na generalidade, no desempenho e no potencial.

Perspectivas sobre Desafios: Melhorando as Interações Humano-AGI

Algumas das melhores práticas para enfrentar os desafios da AGI incluem:

• Concentre-se nas capacidades ou “no que a AGI pode fazer” em vez de nos processos ou “como ela faz isso”.
• Equilibre generalidade e desempenho como componentes essenciais da AGI.
• Concentre-se em tarefas cognitivas/metacognitivas e habilidades de aprendizagem em vez de tarefas/resultados físicos.
• Meça a AGI pelo seu potencial e capacidades.
• Concentre-se na validade ecológica, alinhando os benchmarks com as tarefas do mundo real que as pessoas valorizam.
• Lembre-se de que o caminho para AGI não é um endpoint único, é um processo iterativo.

Somando-se a essas práticas recomendadas, Adam e eu enfatizamos a importância de melhorar as interações humano-AGI. Adam enfatizou o valor de aprender como e quando usar esses modelos, vendo-os como ferramentas de aprendizagem poderosas que podem ensinar rapidamente qualquer subdomínio da programação, ao mesmo tempo em que enfatiza a importância de compreender os fundamentos.

Da mesma forma, sugiro que tornar cada ser humano um usuário avançado de LLMs poderia aumentar significativamente a produtividade e a compreensão em vários campos. Os LLMs podem tornar informações complexas acessíveis a todos, aumentando a produtividade em vários campos. Mas requer uma abordagem faseada e iterativa: começando com copilotos de IA a ajudar humanos, passando depois para agentes com supervisão humana e, eventualmente, conseguindo agentes totalmente autónomos em tarefas bem avaliadas.

Com isso, a diferenciação pós-treinamento é fundamental, envolvendo ajuste fino supervisionado (SFT) e aproveitando a inteligência humana para construir modelos personalizados. As empresas que puderem contratar instrutores, engenheiros e outros acelerarão seus recursos de ajuste fino e engenharia personalizada. Colaborar com empresas líderes como OpenAI e Anthropic também é fundamental para aplicar esses modelos em diversos setores.

Princípios de Desenvolvimento AGI Responsável

“O desenvolvimento da IAG deve ser responsável e ético, garantindo segurança e transparência, ao mesmo tempo que promove a inovação.” – Adam D'Angelo

O desenvolvimento responsável da AGI requer a adesão a vários princípios fundamentais:

• Segurança e proteção: Garantir que os sistemas AGI sejam confiáveis ​​e resistentes ao uso indevido, especialmente à medida que os modelos são dimensionados para acomodar novas entradas de dados ou algoritmos.
• Transparência: Ser realista sobre as capacidades, limitações e “como funciona” da AGI.
• Considerações Éticas: Combater a justiça, o preconceito e como a AGI terá impacto no emprego e noutros factores socioeconómicos .
• Regulamentação: Trabalhar com governos e outras organizações para desenvolver estruturas que equilibrem o progresso com a segurança pública.
• Benchmarking: Os futuros benchmarks devem quantificar o comportamento e as capacidades da AGI em relação a considerações éticas e níveis de taxonomia.

Conclusão: concentre-se no caminho para AGI, não em um único endpoint

O caminho para a AGI é complexo, mas cada parada ao longo do caminho é importante para a jornada. Ao compreender as melhorias iterativas da AGI – juntamente com as suas implicações – as pessoas e as empresas serão capazes de adotar de forma responsável esta tecnologia em evolução. Este é o ponto crucial do desenvolvimento responsável da AGI, onde a interatividade do mundo real informa como navegamos nesta nova fronteira.