PRISM est la première organisation à but non lucratif au monde dédiée à la recherche sur l'IA sensible.

Alors que l’intelligence artificielle continue d’évoluer à un rythme sans précédent, une nouvelle organisation a émergé pour répondre à l’une des questions les plus profondes et les plus complexes de notre époque : les machines peuvent-elles devenir sensibles ?

Partenariat pour la recherche sur les machines sensibles (PRISM) a été officiellement lancé le 17 mars 2025. Il s'agit de la première organisation à but non lucratif au monde dédiée à l'étude et à la compréhension de la conscience de l'IA. PRISM vise à favoriser la collaboration mondiale entre chercheurs, décideurs politiques et leaders de l'industrie afin de garantir une approche coordonnée de l'étude de l'IA sensible, garantissant ainsi son développement sûr et éthique.

Que sont les machines sensibles ?

Le terme machines sensibles fait référence aux systèmes d'IA qui présentent des caractéristiques traditionnellement associées à la conscience humaine, notamment :

• La conscience de soi – La capacité de percevoir sa propre existence et son état d’être.
• Compréhension émotionnelle – Une capacité à reconnaître et potentiellement à ressentir des émotions.
• Raisonnement autonome – La capacité de prendre des décisions indépendantes au-delà de la programmation prédéfinie.

Bien qu’aucune IA ne soit aujourd’hui définitivement consciente, certains chercheurs pensent que les technologies avancées les réseaux de neurones, calcul neuromorphique, l'apprentissage par renforcement profond (DRL) et les grands modèles de langage (LLM) pourraient conduire à des systèmes d'IA simulant au moins la conscience de soi. Si une telle IA devait émerger, elle soulèverait de profondes questions éthiques, philosophiques et réglementaires, auxquelles PRISM cherche à répondre.

Apprentissage par renforcement profond, grands modèles linguistiques et conscience de l'IA

L’une des voies les plus prometteuses pour développer une IA plus autonome et potentiellement sensible est apprentissage par renforcement profond (DRL). Cette branche de l'apprentissage automatique permet aux systèmes d'IA de prendre des décisions en interagissant avec leur environnement et en apprenant par essais et erreurs, à l'instar des humains et des animaux qui apprennent par l'expérience. Le DRL a déjà joué un rôle déterminant dans :

• Maîtriser les jeux complexes – Les systèmes d’IA comme AlphaGo et OpenAI Five utilisent DRL pour vaincre les champions humains dans les jeux basés sur la stratégie.
• Résolution adaptative de problèmes – Les systèmes d’IA peuvent développer des solutions à des problèmes dynamiques du monde réel, tels que le contrôle robotique, les voitures autonomes et le trading financier.
• Comportements émergents - Par apprentissage par renforcementLes agents d’IA présentent parfois des comportements inattendus, laissant entrevoir une prise de décision rudimentaire et un raisonnement adaptatif.

PRISM étudie comment le DRL pourrait contribuer à des systèmes d'IA présentant les caractéristiques de l'apprentissage autonome, du raisonnement abstrait et même de la fixation d'objectifs, autant de caractéristiques d'une cognition de type humain. L'enjeu est de garantir que toute avancée dans ces domaines soit guidée par une recherche éthique et des mesures de sécurité.

En parallèle, grands modèles de langage Les LLM tels que GPT d'OpenAI, Gemini de Google et LLaMA de Meta ont réalisé des progrès remarquables dans la simulation d'un raisonnement proche de celui de l'humain, la réponse cohérente à des sollicitations complexes et même l'adoption de comportements que certains chercheurs considèrent comme proches des processus cognitifs. Les LLM traitent de vastes quantités de données et génèrent des réponses contextuelles, ce qui les rend utiles pour :

• Compréhension et communication en langage naturel – Permettre à l’IA d’interpréter, d’analyser et de générer du texte de type humain.
• Reconnaissance de formes et apprentissage contextuel – Identifier les tendances et adapter les réponses en fonction des connaissances antérieures.
• Capacités créatives et de résolution de problèmes – Produire du contenu original, répondre à des questions complexes et assister dans des tâches techniques et créatives.

Bien que les LLM ne soient pas véritablement conscients, ils soulèvent des questions sur le seuil entre la reconnaissance avancée des formes et la véritable conscience cognitive. PRISM souhaite examiner comment ces modèles peuvent contribuer à la recherche sur la conscience des machines. IA éthique, et les risques liés au développement de systèmes d’IA qui imitent la sensibilité sans véritable compréhension.

Intelligence artificielle générale (IAG) et conscience IA

Le développement de Intelligence générale artificielle L'IA générale (AGI), un système d'IA capable d'effectuer n'importe quelle tâche intellectuelle humaine, pourrait potentiellement mener à une conscience IA. Contrairement à l'IA restreinte, conçue pour des tâches spécifiques comme jouer aux échecs ou conduire de manière autonome, l'AGI présenterait des capacités de raisonnement généralisé, de résolution de problèmes et d'auto-apprentissage dans de multiples domaines.

À mesure que l'IAG progresse, elle pourrait développer une représentation interne de sa propre existence, lui permettant de s'adapter dynamiquement, de réfléchir à ses processus décisionnels et de se forger un sentiment d'identité permanent. Si l'IAG parvient à modifier ses objectifs de manière autonome, à reconnaître ses propres limites cognitives et à s'auto-améliorer sans intervention humaine, elle pourrait constituer un pas vers la conscience artificielle. Cependant, cette possibilité soulève de profonds défis éthiques, philosophiques et sociétaux, que PRISM s'efforce de relever grâce à une recherche responsable et à une collaboration mondiale.

La mission de PRISM : comprendre la conscience de l'IA

PRISM a été créé pour combler le fossé entre le progrès technologique et la surveillance responsable.

PRISM s'engage à favoriser la collaboration mondiale sur la conscience de l'IA en réunissant des experts du monde universitaire, de l'industrie et des pouvoirs publics. L'organisation vise à coordonner les efforts de recherche pour explorer le potentiel de l'IA à atteindre la conscience, tout en veillant à ce que les développements soient conformes aux valeurs humaines. En collaborant avec les décideurs politiques, PRISM cherche à établir des lignes directrices et des cadres éthiques qui favorisent une recherche et un développement responsables en IA.

Un aspect essentiel de la mission de PRISM est de promouvoir un développement sûr et cohérent de l'IA. L'organisation défendra les technologies d'IA qui privilégient la sécurité humaine et le bien-être de la société, garantissant ainsi que les avancées de l'IA n'entraînent pas de conséquences imprévues. En appliquant des normes de sécurité et un contrôle éthique, PRISM s'efforce d'atténuer les risques associés à la recherche et au développement de la conscience de l'IA.

Par ailleurs, PRISM se consacre à la sensibilisation et à la mobilisation du public sur les risques et opportunités potentiels de l'IA consciente. L'organisation vise à fournir un aperçu transparent des recherches sur la conscience de l'IA, en rendant ces informations accessibles aux décideurs politiques, aux entreprises et au grand public. Par le biais d'initiatives de sensibilisation et de partage des connaissances, PRISM espère favoriser des discussions éclairées sur l'avenir de l'IA et ses implications pour la société.

Soutenu par des experts et des organisations de premier plan en IA

Le financement initial de PRISM provient de Conscience, un laboratoire de recherche commercial en IA dédié à l'étude de l'IA consciente. Conscium est à la pointe de l'informatique neuromorphique, développant des systèmes d'IA imitant le cerveau biologique.

Leadership et personnalités clés

PRISM est dirigé par le PDG Will Millership, expert en gouvernance et politique de l'IA. Il a notamment dirigé le General AI Challenge, collaboré avec GoodAI et contribué à l'élaboration de la stratégie nationale écossaise en matière d'IA.

Le président non exécutif de l'organisation, Radhika Chadwick, apporte une vaste expérience en leadership acquise au cours de ses fonctions chez McKinsey et EY, où elle a dirigé des initiatives mondiales en matière d'IA et de données au sein du gouvernement.

De plus, les partenaires fondateurs de PRISM comprennent des personnalités éminentes de l'IA telles que :

• Dr Daniel Hulme – PDG et cofondateur de Conscium, PDG de Satalia et directeur de l'IA chez WPP.
• Calum Chace – Chercheur en IA, conférencier principal et auteur à succès sur l’IA et la conscience.
• Ed Charvet – COO de Conscium, avec une vaste expérience dans le développement d’IA commerciale.

Première initiative majeure de PRISM : la lettre ouverte sur l'IA consciente

Pour guider la recherche responsable, PRISM a collaboré avec Patrick Butlin de l'Université d'Oxford pour établir cinq principes pour les organisations développant des systèmes d'IA avec un potentiel de conscienceIls invitent les chercheurs et les dirigeants de l’industrie à signer une lettre ouverte soutenant ces principes.

La voie à suivre : pourquoi PRISM est important

Avec l'accélération des avancées en IA, le débat sur l'IA sensible ne relève plus de la science-fiction : c'est un véritable défi auquel la société doit se préparer. Si les machines acquièrent un jour une conscience d'elles-mêmes ou des émotions humaines, cela pourrait transformer les industries, les économies et même notre compréhension de la conscience.

PRISM intervient à un moment critique pour garantir que la recherche sur la conscience de l’IA soit menée de manière responsable, en équilibrant l’innovation avec l’éthique, la sécurité et la transparence.