Naviguer ensemble sur la voie de l’intelligence générale artificielle (IAG) : une approche équilibrée

As intelligence générale artificielle (AGI) progresse rapidement, la conversation passe d’un débat philosophique à un débat d’importance pratique, avec d’immenses opportunités de transformer les entreprises mondiales et le potentiel humain.

La série d'événements AGI Icons de Turing rassemble des innovateurs en IA pour discuter des avancées pratiques et responsables des solutions AGI. Le 24 juillet, Turing a organisé notre deuxième événement AGI Icons au SHACK15, le centre exclusif de San Francisco pour les entrepreneurs et les innovateurs technologiques. Modéré par Anita Ramaswamy, chroniqueuse financière chez The Information, j'ai rencontré Adam D'Angelo, PDG de Quora, pour discuter du chemin vers l'AGI et partager des informations sur les délais de développement, les applications réelles et les principes d'un déploiement responsable.

La route de l’IA à l’AGI

L’« étoile polaire » qui anime la recherche sur l’IA est la recherche d’une « intelligence » au niveau humain. Ce qui distingue l’AGI de l’IA standard, c’est sa progression au-delà de fonctionnalités étroites vers une plus grande généralité (étendue) et des performances (profondeur), dépassant même les capacités humaines.

C’est « la voie vers l’AGI », où l’IA progresse vers des systèmes plus autonomes, un raisonnement supérieur, des capacités améliorées et des fonctionnalités améliorées. Ces progressions se décomposent en cinq niveaux taxonomiques :

• Niveau 0: Pas d'IA – Des outils simples comme des calculatrices
• Niveau 1: AGI émergents – LLM actuels comme ChatGPT
• Niveau 2: AGI compétente – Des systèmes d’IA qui associent des adultes qualifiés à des tâches spécifiques
• Niveau 3: Expert AGI – Systèmes d’IA au 90e percentile des adultes qualifiés
• Niveau 4: Virtuoso AGI – Systèmes d’IA au 99e percentile
• Niveau 5: Superhuman AGI – Des systèmes d’IA qui surpassent tous les humains

Source

Au cours de notre discussion, Adam a défini le concept d'AGI comme « un logiciel qui peut faire tout ce qu'un humain peut faire ». Il envisage un avenir dans lequel l’IA s’améliorera, pour finalement prendre en charge des tâches humaines complexes gérées par des chercheurs en apprentissage automatique.

Pour aller plus loin, j'ai comparé ma vision de l'IAG à celle d'un « cerveau artificiel » capable d'effectuer diverses tâches comme la traduction automatique, les requêtes complexes et le codage. C'est là la distinction entre l'IAG et l'IA plus prédictive, ainsi que les formes plus restreintes de Machine Learning qui l'ont précédée. Cela ressemble à un comportement émergent.

Des délais de développement réalistes sur la voie de l’AGI

Tout comme lors d'un road trip, la question qui vient en tête à propos de l'AGI est : « Est-ce qu'on y est déjà ? » La réponse courte est non, mais à mesure que la recherche sur l’IA s’accélère, la bonne question à se poser est : « Comment pouvons-nous équilibrer l’AGI ? ambition avec des attentes réalistes ? "

Adam a souligné que l'automatisation accrue induite par l'IAG modifiera les rôles humains plutôt que de les éliminer, ce qui favorisera une croissance économique plus rapide et une productivité accrue. « Avec la montée en puissance de cette technologie, nous atteindrons un point où 90 % des tâches actuelles seront automatisées, mais tout le monde se sera tourné vers d'autres activités. »

Actuellement, une grande partie de l’économie mondiale est limitée par le nombre de personnes disponibles pour travailler. Une fois que nous aurons atteint l’AGI, nous pourrons faire croître l’économie à un rythme beaucoup plus rapide qu’aujourd’hui.

Nous ne pouvons pas donner de calendrier précis quant à la réalisation d'une véritable AGI, mais Adam et moi avons cité plusieurs exemples de progrès en IA ouvrant la voie à de futures avancées en la matière. Par exemple, les expériences de Turing avec des outils de développement d'IA ont montré une augmentation de 33 % de la productivité des développeurs, laissant entrevoir un potentiel encore plus grand.

Applications et effets du monde réel

L'une des applications les plus prometteuses de l'AGI réside dans le domaine du développement logiciel. Grands modèles de langage Les LLM, précurseurs de l'AGI, sont déjà utilisés pour optimiser le développement logiciel et améliorer la qualité du code. Je vois cette ère de l'IA plus proche de la biologie que de la physique, où tous les types de travaux intellectuels s'amélioreront. L'humanité va générer une productivité bien plus importante.

Mon point de vue vient de l'expérience, où j'ai été témoin d'une productivité personnelle multipliée par 10 lors de l'utilisation des LLM et des outils de développement d'IA. Nous utilisons également l'IA chez Turing pour évaluer les talents techniques et associer les bons ingénieurs logiciels et experts du domaine de niveau doctorat aux bons emplois.

Ce que je constate dans le domaine de la formation LLM, par exemple, c'est que les formateurs exploitent ces modèles pour améliorer la productivité des développeurs et accélérer les délais des projets. En automatisant les tâches de codage de routine et en fournissant des suggestions de code intelligentes, les LLM permettent aux développeurs de se concentrer sur des aspects plus stratégiques et créatifs de leur travail.

Adam a conclu : « Les LLM ne rédigent pas tout le code, mais la compréhension des fondamentaux du logiciel reste cruciale. Les calculatrices n'ont pas éliminé la nécessité d'apprendre l'arithmétique. » Il a ajouté : « Les développeurs gagnent en valeur lorsqu'ils utilisent ces modèles. L'existence des LLM est un atout pour les emplois de développeur et les développeurs en tireront de nombreux bénéfices. »

Nous entrons dans une ère d’or du développement logiciel où un ingénieur logiciel peut être 10 fois plus productif, créer davantage et profiter au monde.

Défis techniques et de gouvernance

Malgré le potentiel prometteur de l’AGI, des défis doivent être relevés. Des processus d’évaluation et des cadres réglementaires robustes sont nécessaires pour équilibrer l’innovation AGI avec la sécurité publique.

Adam a souligné la nécessité de tests approfondis et d'un environnement sandbox pour limiter les scénarios catastrophes. « Il est essentiel de disposer d'un processus d'évaluation robuste… et de faire en sorte que la distribution testée soit aussi proche que possible de l'utilisation réelle. »

Et je suis d'accord. Le goulot d’étranglement pour les progrès de l’AGI est désormais l’intelligence humaine, plutôt que la puissance de calcul ou les données. L'expertise humaine est cruciale pour affiner et personnaliser les modèles d'IA, c'est pourquoi Turing se concentre sur la recherche et la mise en relation de professionnels technologiques de haut niveau pour équilibrer les modèles avec l'intelligence humaine.

Nous devons relever de front les défis de l'AGI en nous concentrant sur les capacités plutôt que sur les processus, la généralité, les performances et le potentiel.

Perspectives sur les défis : améliorer les interactions homme-AGI

Certaines des meilleures pratiques pour relever les défis de l'AGI comprennent :

• Concentrez-vous sur les capacités ou « ce qu’AGI peut faire » plutôt que sur les processus ou « comment il le fait ».
• Équilibrer la généralité et les performances en tant que composants essentiels de l’AGI.
• Concentrez-vous sur les tâches cognitives/métacognitives et les capacités d’apprentissage plutôt que sur les tâches/résultats physiques.
• Mesurez l’AGI par son potentiel et ses capacités.
• Concentrez-vous sur la validité écologique en alignant les références sur les tâches du monde réel que les gens apprécient.
• N'oubliez pas que le chemin vers l'AGI n'est pas un point final unique, c'est un processus itératif.

En plus de ces meilleures pratiques, Adam et moi avons souligné l'importance d'améliorer les interactions homme-AGI. Adam a souligné l'importance d'apprendre comment et quand utiliser ces modèles, les considérant comme de puissants outils d'apprentissage capables d'enseigner rapidement n'importe quel sous-domaine de la programmation tout en soulignant l'importance de comprendre les principes fondamentaux.

De même, je suggère que faire de chaque humain un utilisateur expérimenté des LLM pourrait améliorer considérablement la productivité et la compréhension dans divers domaines. Les LLM peuvent rendre des informations complexes accessibles à tous, améliorant ainsi la productivité dans divers domaines. Mais cela nécessite une approche itérative et progressive : en commençant par des copilotes d’IA assistant les humains, puis en passant à des agents supervisés par des humains, pour finalement parvenir à des agents totalement autonomes dans des tâches bien évaluées.

Dans ce contexte, la différenciation post-formation est essentielle, impliquant un réglage fin supervisé (SFT) et l'exploitation de l'intelligence humaine pour créer des modèles personnalisés. Les entreprises capables de recruter et de mettre en relation des formateurs, des ingénieurs et autres accéléreront leurs capacités de mise au point et d’ingénierie personnalisée. La collaboration avec des entreprises leaders comme OpenAI et Anthropic est également essentielle pour appliquer ces modèles dans divers secteurs.

Principes de développement responsable d’AGI

« Le développement de l'IAG doit être responsable et éthique, garantissant sécurité et transparence tout en favorisant l'innovation. » – Adam D'Angelo

Le développement responsable d’AGI nécessite le respect de plusieurs principes fondamentaux :

• Sûreté et sécurité : garantir que les systèmes AGI sont fiables et résistants aux utilisations abusives, en particulier lorsque les modèles évoluent pour s'adapter à de nouvelles entrées de données ou à de nouveaux algorithmes.
• Transparence : Être réaliste quant aux capacités, aux limites et à « la manière dont cela fonctionne » d'AGI.
• Considérations éthiques : lutter contre l'équité, les préjugés et l'impact de l'AGI sur l'emploi et d'autres facteurs socio-économiques.
• Réglementation : Travailler avec les gouvernements et d’autres organisations pour élaborer des cadres équilibrant les progrès et la sécurité publique.
• Analyse comparative : les futurs critères de référence doivent quantifier le comportement et les capacités de l'AGI par rapport à des considérations éthiques et aux niveaux de taxonomie.

Conclusion : Concentrez-vous sur le chemin vers l'AGI, pas sur un seul point final

Le chemin vers l’AGI est complexe, mais chaque étape du chemin est importante pour le voyage. En comprenant les améliorations itératives d'AGI, ainsi que leurs implications, les particuliers et les entreprises seront en mesure d'adopter de manière responsable cette technologie en évolution. C’est là l’essence du développement responsable d’AGI, où l’interactivité du monde réel éclaire la façon dont nous naviguons dans cette nouvelle frontière.