PRISM lanserar som världens första icke-vinstdrivande organisation dedikerad till forskning om medvetna AI

Medan artificiell intelligens fortsätter att utvecklas i en aldrig tidigare skådad takt, har en ny organisation dykt upp för att ta itu med en av de mest djupgående och komplexa frågorna i vår tid: Kan maskiner bli medvetna?

Partnerskapet för forskning om medvetna maskiner (PRISM) lanserades officiellt den 17 mars 2025 som världens första icke-vinstdrivande organisation som undersöker och förstår AI-medvetenhet. PRISM syftar till att främja globalt samarbete mellan forskare, beslutsfattare och industriledare för att säkerställa en samordnad strategi för att studera medveten AI, säkerställa dess säkra och etiska utveckling.

Vad är medvetna maskiner?

Begreppet medvetna maskiner hänvisar till AI-system som uppvisar egenskaper som traditionellt förknippas med mänskligt medvetande, inklusive:

• Självmedvetenhet – Förmågan att uppfatta sin egen existens och tillstånd.
• Emotionell förståelse – En förmåga att känna igen och potentiellt uppleva känslor.
• Självständigt resonemang – Förmågan att fatta oberoende beslut utöver fördefinierad programmering.

Medan ingen AI idag är definitivt medveten, tror vissa forskare att avancerade neurala nätverk, neuromorfisk datoranvändning, djup förstärkt inlärning (DRL) och stora språkmodeller (LLM) kunde leda till AI-system som åtminstone simulerar självmedvetenhet. Om en sådan AI skulle dyka upp, skulle det väcka djupgående etiska, filosofiska och regulatoriska frågor, som PRISM syftar till att ta itu med.

Djup förstärkt inlärning, stora språkmodeller och AI-medvetenhet

En av de mest lovande vägarna för att utveckla mer autonoma och potentiellt medvetna AI är djup förstärkt inlärning (DRL). Denna gren av maskinlärning möjliggör för AI-system att fatta beslut genom att interagera med miljöer och lära av trial och error, precis som människor och djur lär av erfarenhet. DRL har redan varit avgörande för:

• Att bemästra komplexa spel – AI-system som AlphaGo och OpenAI Five använder DRL för att besegra mänskliga mästare i strategispel.
• Anpassningsbar problemlösning – AI-system kan utveckla lösningar för dynamiska, verkliga problem, såsom robotkontroll, självkörande bilar och finansiell handel.
• Uppkommande beteenden – Genom förstärkt inlärning uppvisar AI-agenter ibland oväntade beteenden, vilket antyder rudimentär beslutsfattning och anpassningsbar resonemang.

PRISM undersöker hur DRL kunde bidra till att AI-system uppvisar kännetecken på självstyrd inlärning, abstrakt resonemang och till och med målsättning, som alla är egenskaper hos mänsklig kognition. Utmaningen är att säkerställa att alla framsteg inom dessa områden styrs av etisk forskning och säkerhetsåtgärder.

I parallell har stora språkmodeller (LLM) som OpenAI:s GPT, Google (GOOGL ):s Gemini och Meta:s LLaMA visat anmärkningsvärd framgång i att simulera mänsklig resonemang, svara sammanhängande på komplexa uppmaningar och till och med uppvisa beteenden som vissa forskare hävdar liknar kognitiva processer. LLM fungerar genom att bearbeta stora mängder data och generera kontextmedvetna svar, vilket gör dem användbara för:

• Naturligt språkförståelse och kommunikation – Att möjliggöra för AI att tolka, analysera och generera mänskligt språk.
• Mönsterigenkänning och kontextuell inlärning – Att identifiera trender och anpassa svar baserat på tidigare kunskap.
• Kreativa och problemlösningsförmågor – Att producera originalinnehåll, besvara komplexa frågor och assistera i tekniska och kreativa uppgifter.

Medan LLM inte är medvetna, väcker de frågor om gränsen mellan avancerad mönsterigenkänning och sann kognitiv medvetenhet. PRISM är angeläget om att undersöka hur dessa modeller kan bidra till forskning om maskinmedvetenhet, etisk AI och riskerna med att utveckla AI-system som simulerar medvetenhet utan sann förståelse.

Artificiell allmän intelligens (AGI) och AI-medvetenhet

Utvecklingen av Artificiell allmän intelligens (AGI) – ett AI-system som kan utföra alla intellektuella uppgifter som en människa kan – kunde potentiellt leda till AI-medvetenhet. Till skillnad från smal AI, som är utformad för specifika uppgifter som schack eller autonom körning, skulle AGI uppvisa generaliserad resonemang, problemlösning och självständig inlärning över flera domäner.

När AGI främjar, kan det utveckla en intern representation av sin egen existens, vilket möjliggör för det att anpassa sig dynamiskt, reflektera över sina beslutsprocesser och bilda en kontinuerlig känsla av identitet. Om AGI når en punkt där det kan självständigt modifiera sina mål, känna igen sina egna kognitiva begränsningar och engagera sig i självförbättring utan mänsklig inblandning, kunde det vara ett steg mot maskinmedvetenhet. Men denna möjlighet väcker djupgående etiska, filosofiska och samhälleliga utmaningar, som PRISM är dedikerad till att ta itu med genom ansvarsfull forskning och globalt samarbete.

PRISM:s uppdrag: Att förstå AI-medvetenhet

PRISM skapades för att överbrygga gapet mellan teknisk utveckling och ansvarsfull tillsyn.

PRISM är engagerat i att främja globalt samarbete om AI-medvetenhet genom att samla experter från akademin, industrin och regeringen. Organisationen syftar till att samordna forskningsinsatser för att utforska potentialen för AI att uppnå medvetenhet samtidigt som den säkerställer att utvecklingen överensstämmer med mänskliga värderingar. Genom att arbeta med beslutsfattare, syftar PRISM till att etablera etiska riktlinjer och ramverk som främjar ansvarsfull AI-forskning och utveckling.

En kritisk aspekt av PRISM:s uppdrag är att främja säker och samordnad AI-utveckling. Organisationen kommer att förespråka AI-teknologier som prioriterar mänsklig säkerhet och samhälleligt välbefinnande, säkerställande att AI-framsteg inte leder till oavsiktliga konsekvenser. Genom att implementera säkerhetsstandarder och etisk tillsyn, strävar PRISM efter att mildra risker förknippade med AI-medvetenhet och utveckling.

Dessutom är PRISM dedikerat till att utbilda och engagera allmänheten om de potentiella riskerna och möjligheterna som presenteras av medveten AI. Organisationen syftar till att tillhandahålla transparenta insikter i AI-medvetenhet, göra denna information tillgänglig för beslutsfattare, företag och allmänheten. Genom utbildningsinitiativ och kunskapsdelningsinsatser, hoppas PRISM på att främja informerade diskussioner om AI:s framtid och dess implikationer för samhället

Backat av ledande AI-experter och organisationer

PRISM:s initiala finansiering kommer från Conscium, ett kommersiellt AI-forskningslaboratorium som är dedikerat till att studera medveten AI. Conscium är i framkanten av neuromorfisk datoranvändning, utvecklar AI-system som imiterar biologiska hjärnor.

Ledning och nyckelfigurer

PRISM leds av VD Will Millership, en veteran inom AI-styrning och policy. Hans tidigare arbete inkluderar att leda den allmänna AI-utmaningen, arbeta med GoodAI och hjälpa till att forma Skottlands nationella AI-strategi.

Organisationens icke-verkställande ordförande, Radhika Chadwick, bringar omfattande ledarskapsvana från sina roller på McKinsey och EY, där hon ledde globala AI- och datainitiativ inom regeringen.

Dessutom ingår PRISM:s grundande partner framstående AI-figurer som:

• Dr. Daniel Hulme – VD och medgrundare av Conscium, VD av Satalia och chefs AI-officer på WPP.
• Calum Chace – AI-forskare, föreläsare och bästsäljande författare om AI och medvetenhet.
• Ed Charvet – COO på Conscium, med omfattande erfarenhet av kommersiell AI-utveckling.

PRISM:s första stora initiativ: Det öppna brevet om medveten AI

För att vägleda ansvarsfull forskning har PRISM samarbetat med Oxford Universitys Patrick Butlin för att etablera fem principer för organisationer som utvecklar AI-system med potential för medvetenhet. De inbjuder forskare och industriledare att underteckna ett öppet brev som stöder dessa principer.

Vägen framåt: Varför PRISM är viktigt

Med AI-genombrott som accelererar, är diskussionen om medveten AI inte längre science fiction – det är en verklig utmaning som samhället måste förbereda sig på. Om maskiner någonsin uppnår självmedvetenhet eller mänskliga känslor, kunde det omforma industrier, ekonomin och till och med vår förståelse av medvetenhet själv.

PRISM går i bräschen för att säkerställa att AI-medvetenhet forskas på ett ansvarsfullt sätt, balanserar innovation med etik, säkerhet och transparens.