Naviguer sur la route de l’intelligence artificielle générale (AGI) ensemble : une approche équilibrée

Alors que l’intelligence artificielle générale (AGI) progresse rapidement, la conversation passe d’un débat philosophique à une question de pertinence pratique, avec une opportunité immense de transformer les entreprises mondiales et le potentiel humain.

La série d’événements AGI Icons de Turing réunit des innovateurs en intelligence artificielle pour discuter des progrès pratiques et responsables des solutions AGI. Le 24 juillet, Turing a organisé notre deuxième événement AGI Icons au SHACK15, le hub exclusif de San Francisco pour les entrepreneurs et les innovateurs technologiques. Modérée par Anita Ramaswamy, chroniqueuse financière au sein de The Information, j’ai discuté avec le PDG de Quora, Adam D’Angelo, de la route vers l’AGI et partagé des idées sur les délais de développement, les applications du monde réel et les principes de déploiement responsable.

La route de l’IA à l’AGI

L’étoile polaire qui guide la recherche en intelligence artificielle est la poursuite de l’intelligence humaine. Ce qui sépare l’AGI de l’IA standard, c’est sa progression au-delà de la fonctionnalité étroite vers une plus grande généralité (largeur) et des performances (profondeur), même en dépassant les capacités humaines.

C’est « la route de l’AGI », où l’IA progresse vers des systèmes plus autonomes, une raison supérieure, des capacités améliorées et une fonctionnalité améliorée. Ces progrès sont divisés en cinq niveaux taxonomiques :

• Niveau 0 : Pas d’IA – Outils simples comme les calculateurs
• Niveau 1 : AGI émergente – Les LLM actuels comme ChatGPT
• Niveau 2 : AGI compétente – Les systèmes d’IA qui égalent les adultes qualifiés pour des tâches spécifiques
• Niveau 3 : AGI expert – Les systèmes d’IA au 90e percentile des adultes qualifiés
• Niveau 4 : AGI virtuose – Les systèmes d’IA au 99e percentile
• Niveau 5 : AGI surhumaine – Les systèmes d’IA qui surpassent tous les humains

Source

Pendant notre discussion, Adam a défini le concept d’AGI comme « un logiciel capable de faire tout ce qu’un humain peut faire ». Il imagine un avenir où l’IA améliore elle-même, éventuellement prenant en charge des tâches humaines complexes gérées par des chercheurs en apprentissage automatique.

En allant plus loin, j’ai comparé mes points de vue sur l’AGI à ceux d’un « cerveau artificiel » capable de diverses tâches comme « la traduction automatique, les requêtes complexes et la programmation ». C’est la distinction entre l’AGI et l’IA plus prédictive et les formes étroites de l’apprentissage automatique qui l’ont précédée. Cela ressemble à un comportement émergent.

Calendriers de développement réalistes sur la route de l’AGI

Comme sur un voyage en voiture, la question la plus importante sur l’AGI est : « Sommes-nous arrivés ? » La réponse courte est non, mais à mesure que la recherche en intelligence artificielle accélère, la bonne question à poser est : « Comment pouvons-nous équilibrer l’ambition de l’AGI avec des attentes réalistes ? »

Adam a souligné que l’automatisation accrue de l’AGI déplacera les rôles humains plutôt que de les éliminer, conduisant à une croissance économique plus rapide et à une productivité plus efficace. « Lorsque cette technologie deviendra plus puissante, nous arriverons à un point où 90 % de ce que les gens font aujourd’hui sera automatisé, mais tout le monde aura changé pour faire autre chose. »

Actuellement, une grande partie de l’économie mondiale est limitée par le nombre de personnes disponibles pour travailler. Une fois que nous atteindrons l’AGI, nous pourrons faire croître l’économie à un rythme beaucoup plus rapide que ce qui est possible aujourd’hui.

Nous ne pouvons pas donner un calendrier précis pour la réalisation de l’AGI, mais Adam et moi avons cité plusieurs exemples de progrès de l’IA qui ouvrent la voie à des progrès futurs de l’AGI. Par exemple, les expériences de Turing avec les outils de développement d’IA ont montré une augmentation de 33 % de la productivité des développeurs, laissant entrevoir un potentiel encore plus grand.

Applications et effets du monde réel

L’une des applications les plus prometteuses de l’AGI se trouve dans le domaine du développement de logiciels. Les modèles de langage à grande échelle (LLM), un prédécesseur de l’AGI, sont déjà utilisés pour améliorer le développement de logiciels et la qualité du code. Je vois cette ère de l’IA comme plus proche de la biologie que de la physique, où tous les types de travail de connaissance seront améliorés. Il y aura tellement plus de productivité débloquée pour et de l’humanité.

Mon point de vue vient de l’expérience, où j’ai été témoin d’une augmentation de 10 fois de la productivité personnelle lors de l’utilisation de LLM et d’outils de développement d’IA. Nous utilisons également l’IA à Turing pour évaluer le talent technique et faire correspondre les bons ingénieurs en logiciel et les experts de domaine de niveau doctorat aux bons emplois.

Ce que je vois dans l’espace de formation de LLM, par exemple, c’est que les formateurs utilisent ces modèles pour améliorer la productivité des développeurs et accélérer les délais de projet. En automatisant les tâches de codage routinières et en fournissant des suggestions de code intelligentes, les LLM libèrent les développeurs pour se concentrer sur les aspects stratégiques et créatifs de leur travail.

Adam a conclu : « Les LLM ne rédigeront pas tout le code, mais la compréhension des fondements du logiciel reste cruciale. Les calculateurs n’ont pas éliminé la nécessité d’apprendre l’arithmétique. » Il a ajouté : « Les développeurs deviennent plus précieux lorsqu’ils utilisent ces modèles. La présence de LLM est un facteur positif pour les emplois de développeurs et il y aura de nombreux gains pour les développeurs. »

Nous entrons dans une ère dorée du développement de logiciels où un ingénieur en logiciel peut être 10 fois plus productif, créer plus et bénéficier au monde.

Defis techniques et de gouvernance

Malgré le potentiel prometteur de l’AGI, des défis doivent être abordés. Des processus d’évaluation robustes et des cadres réglementaires sont nécessaires pour équilibrer l’innovation de l’AGI avec la sécurité publique.

Adam a souligné la nécessité d’un processus d’évaluation approfondi et de mise en sandbox pour limiter les scénarios les plus graves. « Vous voulez avoir un processus d’évaluation robuste… et obtenir une distribution que vous testez contre la plus proche possible de l’utilisation réelle. »

Et je suis d’accord. Le goulet d’étranglement pour les progrès de l’AGI est maintenant l’intelligence humaine, et non la puissance de calcul ou les données. L’expertise humaine est cruciale pour affiner et personnaliser les modèles d’IA, c’est pourquoi Turing se concentre sur la recherche et la mise en correspondance de professionnels de haute technologie pour équilibrer les modèles avec l’intelligence humaine.

Nous devons aborder les défis de l’AGI de front en nous concentrant sur les capacités plutôt que sur les processus, la généralité et les performances, et le potentiel.

Perspectives sur les défis : améliorer les interactions humaines-AGI

Certaines des meilleures pratiques pour aborder les défis de l’AGI incluent :

• Se concentrer sur les capacités ou « ce que l’AGI peut faire » plutôt que sur les processus ou « comment elle le fait ».
• Équilibrer la généralité et les performances comme composants essentiels de l’AGI.
• Se concentrer sur les tâches cognitives/métacognitives et les capacités d’apprentissage plutôt que sur les tâches physiques/sorties.
• Mesurer l’AGI par son potentiel et ses capacités.
• Se concentrer sur la validité écologique en alignant les références sur les tâches du monde réel que les gens valorisent.
• Rappeler que la route de l’AGI n’est pas un point de terminaison unique, c’est un processus itératif.

En ajoutant à ces meilleures pratiques, Adam et moi avons souligné l’importance d’améliorer les interactions humaines-AGI. Adam a souligné la valeur de l’apprentissage de l’utilisation de ces modèles, les considérant comme des outils d’apprentissage puissants qui peuvent enseigner rapidement n’importe quel sous-domaine de la programmation tout en soulignant l’importance de comprendre les fondements.

De même, je suggère que rendre chaque humain un utilisateur avancé de LLM pourrait considérablement améliorer la productivité et la compréhension dans divers domaines. Les LLM peuvent rendre des informations complexes accessibles à tous, améliorant ainsi la productivité dans divers domaines. Mais cela nécessite une approche progressive et itérative : en commençant par des copilotes d’IA qui assistent les humains, puis en passant à des agents sous surveillance humaine, et enfin en atteignant des agents entièrement autonomes dans des tâches bien évaluées.

Avec cela, la différenciation post-formation est critique, impliquant une formation supervisée (SFT) et en exploitant l’intelligence humaine pour construire des modèles personnalisés. Les entreprises qui peuvent rechercher et mettre en correspondance des formateurs, des ingénieurs et d’autres personnes accéléreront leurs capacités de formation et d’ingénierie personnalisées. La collaboration avec des entreprises de premier plan comme OpenAI et Anthropic est également clé pour appliquer ces modèles dans diverses industries.

Principes de développement responsable de l’AGI

« Le développement de l’AGI doit être responsable et éthique, en garantissant la sécurité et la transparence tout en favorisant l’innovation. » – Adam D’Angelo

Le développement responsable de l’AGI nécessite d’adhérer à plusieurs principes fondamentaux :

• Sécurité et sécurité : Garantir que les systèmes d’AGI sont fiables et résistants aux abus, en particulier à mesure que les modèles s’étendent pour accommoder de nouvelles entrées de données ou algorithmes.
• Transparence : Être réaliste sur les capacités, les limites et le « fonctionnement » de l’AGI.
• Considérations éthiques : Aborder l’équité, les préjugés et l’impact de l’AGI sur l’emploi et d’autres facteurs socio-économiques.
• Réglementation : Travailler avec les gouvernements et d’autres organisations pour développer des cadres qui équilibrent le progrès avec la sécurité publique.
• Benchmarking : Les références futures doivent quantifier le comportement et les capacités de l’AGI par rapport à des considérations éthiques et à des niveaux taxonomiques.

Conclusion : Se concentrer sur la route de l’AGI, et non sur un point de terminaison unique

La route de l’AGI est complexe, mais chaque arrêt sur la route est important pour le voyage. En comprenant les améliorations itératives de l’AGI – ainsi que ses implications – les personnes et les entreprises seront en mesure d’adopter de manière responsable cette technologie en évolution. C’est le cœur du développement responsable de l’AGI, où l’interactivité du monde réel informe la façon dont nous naviguons dans ce nouveau domaine.