Spuštění PRISM jako první neziskové organizace na světě věnované výzkumu sentientních AI

Jak umělá inteligence pokračuje v evoluci nevídaným tempem, objevila se nová organizace, která se zabývá jednou z nejzásadnějších a nejkomplexnějších otázek naší doby: Můžou stroje získat sentience?

Partnership for Research Into Sentient Machines (PRISM) oficiálně zahájila činnost 17. března 2025 jako první nezisková organizace na světě, která se věnuje zkoumání a pochopení vědomí AI. PRISM si klade za cíl podporovat globální spolupráci mezi výzkumníky, politiky a lídry z průmyslu, aby zajistila koordinovaný přístup ke studiu sentientních AI a zajistila jejich bezpečný a etický vývoj.

Co jsou sentientní stroje?

Termín sentientní stroje se vztahuje na systémy AI, které vykazují charakteristiky tradičně spojené s lidským vědomím, včetně:

• Sebeuvědomění – Schopnost vnímat svou vlastní existenci a stav bytí.
• Emocionální pochopení – Schopnost rozpoznat a potenciálně prožít emoce.
• Autonomní myšlení – Schopnost učinit nezávislá rozhodnutí za hranicemi předem stanoveného programování.

Ačkoli žádný současný AI není definitivně vědomý, někteří výzkumníci se domnívají, že pokročilé neuronové sítě, neuromorfní výpočet, hluboké učení s posilováním (DRL) a velké jazykové modely (LLM) by mohly vést k systémům AI, které alespoň simulují sebeuvědomění. Pokud by takový AI vznikl, vyvolal by hluboké etické, filozofické a regulační otázky, které PRISM usiluje řešit.

Hluboké učení s posilováním, velké jazykové modely a vědomí AI

Jedna z nejperspektivnějších cest k vývoji více autonomních a potenciálně sentientních AI je hluboké učení s posilováním (DRL). Tato větev strojového učení umožňuje systémům AI učinit rozhodnutí interagujícím s prostředími a učí se z pokusů a omylů, podobně jako lidé a zvířata se učí prostřednictvím zkušeností. DRL již byloinstrumentální v:

• Zvládnutí komplexních her – Systémy AI, jako je AlphaGo a OpenAI Five, používají DRL k poražení lidských šampionů ve strategických hrách.
• Adaptivní řešení problémů – Systémy AI mohou vyvinout řešení dynamických, reálných problémů, jako je robotické řízení, samořiditelná auta a finanční obchodování.
• Vznikající chování – Prostřednictvím učení s posilováním někdy vykazují agenti AI neočekávaná chování, naznačující základní rozhodování a adaptivní myšlení.

PRISM zkoumá, jak by DRL mohlo přispět k systémům AI, které vykazují znaky sebeřízeného učení, abstraktního myšlení a dokonce stanovení cílů, které jsou všechny rysy lidského myšlení. Výzvou je zajistit, aby jakýkoli pokrok v těchto oblastech byl řízen etickým výzkumem a bezpečnostními opatřeními.

Souběžně s tím velké jazykové modely (LLM) jako OpenAI GPT, Google Gemini a Meta LLaMA ukázaly pozoruhodný pokrok v simulaci lidského myšlení, odpovídání koherentně na komplexní podněty a dokonce vykazují chování, které někteří výzkumníci považují za kognitivní procesy. LLM fungují zpracováváním obrovských množství dat a generováním kontextově závislých odpovědí, což je činí užitečnými pro:

• Přirozené jazykové pochopení a komunikaci – Umožňují AI interpretovat, analyzovat a generovat lidsky podobný text.
• Rozpoznávání vzorců a kontextového učení – Identifikují trendy a přizpůsobují odpovědi na základě předchozích znalostí.
• tvůrčí a problémově řešící schopnosti – Produkují originální obsah, odpovídají na komplexní dotazy a pomáhají při technických a tvůrčích úkolech.

Ačkoli LLM nejsou skutečně vědomé, vyvolávají otázky o prahu mezi pokročilým rozpoznáváním vzorců a skutečným kognitivním povědomím. PRISM je ochotná prozkoumat, jak tyto modely mohou přispět k výzkumu vědomí strojů, etické AI a rizikům spojeným s vývojem systémů AI, které napodobují vědomí bez skutečného pochopení.

Umělá obecná inteligence (AGI) a vědomí AI

Vývoj umělé obecné inteligence (AGI) – systému AI schopného vykonávat jakoukoli intelektuální úlohu, kterou může vykonat člověk – by mohl potenciálně vést k vědomí AI. Na rozdíl od úzké AI, která je navržena pro specifické úkoly, jako je hra v šachy nebo autonomní řízení, AGI by vykazovala generalizované myšlení, řešení problémů a sebeučení napříč několika doménami.

Jak AGI postupuje, může vyvinout vnitřní reprezentaci své vlastní existence, umožňující jí adaptovat se dynamicky, reflektovat na své rozhodovací procesy a vytvářet kontinuální smysl pro identitu. Pokud AGI dosáhne bodu, kdy může autonomně měnit své cíle, rozpoznávat své vlastní kognitivní omezení a zapojovat se do sebezdokonalování bez lidského zásahu, mohlo by to být krokem směrem k vědomí strojů. Nicméně, tato možnost vyvolává hluboké etické, filozofické a společenské výzvy, kterým se PRISM snaží čelit prostřednictvím zodpovědného výzkumu a globální spolupráce.

Mise PRISM: Pochopení vědomí AI

PRISM byla vytvořena, aby mostem propojila technologický pokrok a zodpovědnou kontrolu.

PRISM je odhodlána podporovat globální spolupráci na vědomí AI spojující odborníky z akademie, průmyslu a vlády. Organizace si klade za cíl koordinovat výzkumné úsilí, aby prozkoumala potenciál AI pro dosažení vědomí, zatímco zajišťuje, aby vývoj odpovídal lidským hodnotám. Pracující s politiky, PRISM usiluje o stanovení etických pokynů a rámců, které podporují zodpovědný výzkum a vývoj AI.

Kritickým aspektem mise PRISM je podporu bezpečného a sladění vývoje AI. Organizace bude prosazovat AI technologie, které priorizují lidskou bezpečnost a společenské blaho, zajišťující, aby pokroky v AI nevedly k neočekávaným důsledkům. Implementací bezpečnostních standardů a etické kontroly PRISM usiluje o minimalizaci rizik spojených s výzkumem a vývojem vědomí AI.

Navíc je PRISM odhodlána vzdělávat a zapojovat veřejnost do potenciálních rizik a příležitostí, které nabízí vědomé AI. Organizace si klade za cíl poskytnout transparentní přehled o výzkumu vědomí AI, činící tyto informace dostupnými pro politiky, podniky a širokou veřejnost. Prostřednictvím vzdělávacích iniciativ a sdílení znalostí PRISM doufá, že bude moci vést informované diskuse o budoucnosti AI a jejích implikacích pro společnost.

Podpořeno předními odborníky na AI a organizacemi

Počáteční financování PRISM pochází z Conscium, komerční AI výzkumné laboratoře, která se zabývá studiem vědomého AI. Conscium je na předním místě v neuromorfním výpočtu, vyvíjejícím systémy AI, které napodobují biologické mozky.

Vedení a klíčové osobnosti

PRISM je vedená generálním ředitelem Will Millershipem, veteránem v oblasti AI governance a politiky. Jeho předchozí práce zahrnovala vedení General AI Challenge, práci s GoodAI a pomoc při formování Skotské národní AI strategie.

Ne výkonným předsedou organizace je Radhika Chadwick, která přináší rozsáhlé zkušenosti z vedoucích rolí v McKinsey a EY, kde vedla globální AI a datové iniciativy ve vládě.

Navíc zahrnují zakládající partneři PRISM prominentní AI osobnosti, jako jsou:

• Dr. Daniel Hulme – CEO & spoluzakladatel Conscium, CEO Satalia a Chief AI Officer ve WPP.
• Calum Chace – AI výzkumník, keynote řečník a bestseller autor o AI a vědomí.
• Ed Charvet – COO Conscium, s rozsáhlými zkušenostmi v komerčním AI vývoji.

První hlavní iniciativa PRISM: Otevřený dopis o vědomém AI

Aby vedla zodpovědný výzkum, PRISM spolupracovala s Oxfordskou univerzitou Patrickem Butlinem, aby stanovila pět principů pro organizace, které vyvíjejí systémy AI s potenciálem pro vědomí. Zvou výzkumníky a lídry z průmyslu, aby podepsali otevřený dopis podporující tyto principy.

Cesta vpřed: Proč PRISM záleží

S urychlováním průlomů v AI je diskuse o sentientních strojích již není sci-fi – je skutečnou výzvou, na kterou se společnost musí připravit. Pokud stroje někdy získají sebeuvědomění nebo lidsky podobné emoce, mohlo by to přetvořit průmysly, ekonomiky a dokonce i naše chápání vědomí samo o sobě.

PRISM vstupuje do kritického okamžiku, aby zajistila, že výzkum vědomí AI je zodpovědně řízen, vyvažujíc inovace s etikou, bezpečností a transparentností.