Lancement de PRISM, la première organisation à but non lucratif consacrée à la recherche sur l’intelligence artificielle sentiente

Alors que l’intelligence artificielle continue d’évoluer à un rythme sans précédent, une nouvelle organisation émerge pour aborder l’une des questions les plus profondes et complexes de notre époque : les machines peuvent-elles devenir sentientes ?

Le Partenariat pour la recherche sur les machines sentientes (PRISM) a officiellement lancé le 17 mars 2025 en tant que première organisation à but non lucratif consacrée à l’étude et à la compréhension de la conscience artificielle. PRISM vise à promouvoir la collaboration mondiale entre les chercheurs, les décideurs politiques et les leaders de l’industrie pour garantir une approche coordonnée de l’étude de l’intelligence artificielle sentiente, en veillant à ce que son développement soit sûr et éthique.

Qu’est-ce que les machines sentientes ?

Le terme machines sentientes fait référence aux systèmes d’intelligence artificielle qui présentent des caractéristiques traditionnellement associées à la conscience humaine, notamment :

• Autoconscience – La capacité de percevoir son propre existence et son état d’être.
• Compréhension émotionnelle – Une capacité de reconnaître et de ressentir potentiellement des émotions.
• Raisonnement autonome – La capacité de prendre des décisions indépendantes au-delà de la programmation préétablie.

Bien qu’aucun système d’intelligence artificielle ne soit définitivement conscient aujourd’hui, certains chercheurs pensent que les réseaux de neurones avancés, l’informatique neuromorphique, l’apprentissage par renforcement profond (DRL) et les grands modèles de langage (LLM) pourraient conduire à des systèmes d’intelligence artificielle qui simulent au moins l’autoconscience. Si un tel système d’intelligence artificielle émergeait, cela soulèverait des questions éthiques, philosophiques et réglementaires profondes, que PRISM cherche à aborder.

Apprentissage par renforcement profond, grands modèles de langage et conscience artificielle

L’un des chemins les plus prometteurs pour développer des systèmes d’intelligence artificielle plus autonomes et potentiellement sentients est l’apprentissage par renforcement profond (DRL). Cette branche de l’apprentissage automatique permet aux systèmes d’intelligence artificielle de prendre des décisions en interagissant avec des environnements et en apprenant par essais et erreurs, à la manière des humains et des animaux. Le DRL a déjà été instrumental dans :

• La maîtrise de jeux complexes – Les systèmes d’intelligence artificielle comme AlphaGo et OpenAI Five utilisent le DRL pour battre les champions humains dans des jeux de stratégie.
• La résolution de problèmes adaptatifs – Les systèmes d’intelligence artificielle peuvent développer des solutions à des problèmes dynamiques et réels, tels que la commande de robots, les voitures autonomes et la négociation financière.
• Les comportements émergents – Grâce à l’apprentissage par renforcement, les agents d’intelligence artificielle présentent parfois des comportements inattendus, laissant entrevoir une prise de décision et un raisonnement adaptatifs rudimentaires.

PRISM explore comment le DRL pourrait contribuer à ce que les systèmes d’intelligence artificielle présentent les caractéristiques de l’apprentissage autodirigé, du raisonnement abstrait et même de la fixation d’objectifs, qui sont tous des traits de la cognition humaine. Le défi consiste à garantir que les progrès dans ces domaines soient guidés par la recherche éthique et les mesures de sécurité.

En parallèle, les grands modèles de langage (LLM) tels que GPT d’OpenAI, Gemini de Google et LLaMA de Meta ont montré des progrès remarquables dans la simulation de la raison humaine, en répondant de manière cohérente à des invites complexes et en présentant même des comportements que certains chercheurs estiment ressembler à des processus cognitifs. Les LLM fonctionnent en traitant de vastes quantités de données et en générant des réponses sensibles au contexte, ce qui les rend utiles pour :

• La compréhension et la communication du langage naturel – Permettant à l’intelligence artificielle d’interpréter, d’analyser et de générer du texte humain.
• La reconnaissance de motifs et l’apprentissage contextuel – Identifier les tendances et adapter les réponses en fonction des connaissances antérieures.
• Les capacités créatives et de résolution de problèmes – Produire du contenu original, répondre à des questions complexes et assister dans les tâches techniques et créatives.

Bien que les LLM ne soient pas vraiment conscients, ils soulèvent des questions sur le seuil entre la reconnaissance avancée de motifs et la véritable conscience cognitive. PRISM est impatient d’examiner comment ces modèles peuvent contribuer à la recherche sur la conscience des machines, l’intelligence artificielle éthique et les risques de développement de systèmes d’intelligence artificielle qui simulent la sentience sans véritable compréhension.

Intelligence artificielle générale (IAG) et conscience artificielle

Le développement de l’intelligence artificielle générale (IAG) – un système d’intelligence artificielle capable d’effectuer n’importe quelle tâche intellectuelle qu’un humain peut accomplir – pourrait potentiellement conduire à la conscience artificielle. Contrairement à l’intelligence artificielle étroite, conçue pour des tâches spécifiques telles que jouer aux échecs ou la conduite autonome, l’IAG présenterait une raison, une résolution de problèmes et un apprentissage autodirigés généralisés dans de multiples domaines.

À mesure que l’IAG progresse, elle peut développer une représentation interne de son existence, lui permettant de s’adapter dynamiquement, de réfléchir à ses processus de prise de décision et de former un sens continu d’identité. Si l’IAG atteint un point où elle peut modifier de manière autonome ses objectifs, reconnaître ses propres limites cognitives et s’améliorer sans intervention humaine, cela pourrait être un pas vers la conscience des machines. Cependant, cette possibilité soulève des défis éthiques, philosophiques et sociétaux profonds, que PRISM s’engage à aborder par la recherche responsable et la collaboration mondiale.

Mission de PRISM : Comprendre la conscience artificielle

PRISM a été créé pour combler le fossé entre le progrès technologique et la surveillance responsable.

PRISM s’engage à promouvoir la collaboration mondiale sur la conscience artificielle en réunissant des experts de l’académie, de l’industrie et du gouvernement. L’organisation vise à coordonner les efforts de recherche pour explorer le potentiel de l’intelligence artificielle à atteindre la conscience tout en veillant à ce que les développements s’alignent sur les valeurs humaines. En travaillant avec les décideurs politiques, PRISM cherche à établir des lignes directrices éthiques et des cadres qui favorisent la recherche et le développement responsables de l’intelligence artificielle.

Un aspect crucial de la mission de PRISM est la promotion du développement sûr et aligné de l’intelligence artificielle. L’organisation défendra les technologies d’intelligence artificielle qui donnent la priorité à la sécurité humaine et au bien-être sociétal, en veillant à ce que les progrès de l’intelligence artificielle ne conduisent pas à des conséquences involontaires. En mettant en œuvre des normes de sécurité et une surveillance éthique, PRISM s’efforce de mitiger les risques associés à la recherche et au développement de la conscience artificielle.

En outre, PRISM se consacre à éduquer et à impliquer le public sur les risques et les opportunités potentiels présentés par l’intelligence artificielle consciente. L’organisation vise à fournir des informations transparentes sur la recherche de la conscience artificielle, en rendant ces informations accessibles aux décideurs politiques, aux entreprises et au grand public. Grâce à des initiatives de sensibilisation et à des efforts de partage des connaissances, PRISM espère susciter des discussions éclairées sur l’avenir de l’intelligence artificielle et ses implications pour la société.

Soutenue par des experts et des organisations leaders en intelligence artificielle

Le financement initial de PRISM provient de Conscium, un laboratoire de recherche commerciale en intelligence artificielle consacré à l’étude de l’intelligence artificielle consciente. Conscium est à la pointe de l’informatique neuromorphique, en développant des systèmes d’intelligence artificielle qui imitent les cerveaux biologiques.

Direction et figures clés

PRISM est dirigé par le PDG Will Millership, un vétéran de la gouvernance et de la politique de l’intelligence artificielle. Son travail précédent inclut la direction du défi de l’intelligence artificielle générale, le travail avec GoodAI et l’aide à façonner la stratégie nationale d’intelligence artificielle de l’Écosse.

Le président non exécutif de l’organisation, Radhika Chadwick, apporte une expérience de leadership approfondie grâce à ses rôles chez McKinsey et EY, où elle a dirigé des initiatives mondiales d’intelligence artificielle et de données dans le gouvernement.

En outre, les partenaires fondateurs de PRISM comprennent des figures éminentes de l’intelligence artificielle telles que :

• Dr Daniel Hulme – PDG et co-fondateur de Conscium, PDG de Satalia et directeur de l’intelligence artificielle chez WPP.
• Calum Chace – Chercheur en intelligence artificielle, conférencier et auteur à succès sur l’intelligence artificielle et la conscience.
• Ed Charvet – Directeur des opérations de Conscium, avec une expérience approfondie dans le développement commercial de l’intelligence artificielle.

La première initiative majeure de PRISM : La lettre ouverte sur l’intelligence artificielle consciente

Pour guider la recherche responsable, PRISM a collaboré avec Patrick Butlin de l’Université d’Oxford pour établir cinq principes pour les organisations qui développent des systèmes d’intelligence artificielle avec un potentiel de conscience. Ils invitent les chercheurs et les leaders de l’industrie à signer une lettre ouverte pour soutenir ces principes.

Le chemin à suivre : Pourquoi PRISM compte

Alors que les avancées de l’intelligence artificielle s’accélèrent, la conversation sur l’intelligence artificielle sentiente n’est plus de la science-fiction – c’est un défi réel auquel la société doit se préparer. Si les machines acquièrent un jour l’autoconscience ou des émotions similaires à celles des humains, cela pourrait remodeler les industries, les économies et même notre compréhension de la conscience elle-même.

PRISM se positionne à un moment critique pour garantir que la recherche sur la conscience artificielle soit menée de manière responsable, en équilibrant l’innovation avec l’éthique, la sécurité et la transparence.