AGI a budoucnost AI

Spuštění PRISM jako první neziskové organizace na světě věnované výzkumu sentientních AI

Antoine Tardif
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyPRISM je první nezisková organizace zaměřená na výzkum vědomí umělé inteligence a jeho…
Zobrazit více
  • PRISM je první nezisková organizace zaměřená na výzkum vědomí umělé inteligence a jeho etických důsledků.
  • Hluboké zpětnovazební učení a rozsáhlé jazykové modely představují klíčové směry zkoumání potenciální vnímavosti AI.
  • Založení organizace podporuje Conscium a vede ji veterán v oblasti správy AI Will Millership.

Jak umělá inteligence pokračuje v evoluci nevídaným tempem, objevila se nová organizace, která se zabývá jednou z nejzásadnějších a nejkomplexnějších otázek naší doby: Můžou stroje získat sentience?

Partnership for Research Into Sentient Machines (PRISM) oficiálně zahájila činnost 17. března 2025 jako první nezisková organizace na světě, která se věnuje zkoumání a pochopení vědomí AI. PRISM si klade za cíl podporovat globální spolupráci mezi výzkumníky, politiky a lídry z průmyslu, aby zajistila koordinovaný přístup ke studiu sentientních AI a zajistila jejich bezpečný a etický vývoj.

Co jsou sentientní stroje?

Termín sentientní stroje se vztahuje na systémy AI, které vykazují charakteristiky tradičně spojené s lidským vědomím, včetně:

  • Sebeuvědomění – Schopnost vnímat svou vlastní existenci a stav bytí.
  • Emocionální pochopení – Schopnost rozpoznat a potenciálně prožít emoce.
  • Autonomní myšlení – Schopnost učinit nezávislá rozhodnutí za hranicemi předem stanoveného programování.

Ačkoli žádný současný AI není definitivně vědomý, někteří výzkumníci se domnívají, že pokročilé neuronové sítě, neuromorfní výpočet, hluboké učení s posilováním (DRL) a velké jazykové modely (LLM) by mohly vést k systémům AI, které alespoň simulují sebeuvědomění. Pokud by takový AI vznikl, vyvolal by hluboké etické, filozofické a regulační otázky, které PRISM usiluje řešit.

Hluboké učení s posilováním, velké jazykové modely a vědomí AI

Jedna z nejperspektivnějších cest k vývoji více autonomních a potenciálně sentientních AI je hluboké učení s posilováním (DRL). Tato větev strojového učení umožňuje systémům AI učinit rozhodnutí interagujícím s prostředími a učí se z pokusů a omylů, podobně jako lidé a zvířata se učí prostřednictvím zkušeností. DRL již byloinstrumentální v:

  • Zvládnutí komplexních her – Systémy AI, jako je AlphaGo a OpenAI Five, používají DRL k poražení lidských šampionů ve strategických hrách.
  • Adaptivní řešení problémů – Systémy AI mohou vyvinout řešení dynamických, reálných problémů, jako je robotické řízení, samořiditelná auta a finanční obchodování.
  • Vznikající chování – Prostřednictvím učení s posilováním někdy vykazují agenti AI neočekávaná chování, naznačující základní rozhodování a adaptivní myšlení.

PRISM zkoumá, jak by DRL mohlo přispět k systémům AI, které vykazují znaky sebeřízeného učení, abstraktního myšlení a dokonce stanovení cílů, které jsou všechny rysy lidského myšlení. Výzvou je zajistit, aby jakýkoli pokrok v těchto oblastech byl řízen etickým výzkumem a bezpečnostními opatřeními.

Souběžně s tím velké jazykové modely (LLM) jako OpenAI GPT, Google Gemini a Meta LLaMA ukázaly pozoruhodný pokrok v simulaci lidského myšlení, odpovídání koherentně na komplexní podněty a dokonce vykazují chování, které někteří výzkumníci považují za kognitivní procesy. LLM fungují zpracováváním obrovských množství dat a generováním kontextově závislých odpovědí, což je činí užitečnými pro:

  • Přirozené jazykové pochopení a komunikaci – Umožňují AI interpretovat, analyzovat a generovat lidsky podobný text.
  • Rozpoznávání vzorců a kontextového učení – Identifikují trendy a přizpůsobují odpovědi na základě předchozích znalostí.
  • tvůrčí a problémově řešící schopnosti – Produkují originální obsah, odpovídají na komplexní dotazy a pomáhají při technických a tvůrčích úkolech.

Ačkoli LLM nejsou skutečně vědomé, vyvolávají otázky o prahu mezi pokročilým rozpoznáváním vzorců a skutečným kognitivním povědomím. PRISM je ochotná prozkoumat, jak tyto modely mohou přispět k výzkumu vědomí strojů, etické AI a rizikům spojeným s vývojem systémů AI, které napodobují vědomí bez skutečného pochopení.

Umělá obecná inteligence (AGI) a vědomí AI

Vývoj umělé obecné inteligence (AGI) – systému AI schopného vykonávat jakoukoli intelektuální úlohu, kterou může vykonat člověk – by mohl potenciálně vést k vědomí AI. Na rozdíl od úzké AI, která je navržena pro specifické úkoly, jako je hra v šachy nebo autonomní řízení, AGI by vykazovala generalizované myšlení, řešení problémů a sebeučení napříč několika doménami.

Jak AGI postupuje, může vyvinout vnitřní reprezentaci své vlastní existence, umožňující jí adaptovat se dynamicky, reflektovat na své rozhodovací procesy a vytvářet kontinuální smysl pro identitu. Pokud AGI dosáhne bodu, kdy může autonomně měnit své cíle, rozpoznávat své vlastní kognitivní omezení a zapojovat se do sebezdokonalování bez lidského zásahu, mohlo by to být krokem směrem k vědomí strojů. Nicméně, tato možnost vyvolává hluboké etické, filozofické a společenské výzvy, kterým se PRISM snaží čelit prostřednictvím zodpovědného výzkumu a globální spolupráce.

Mise PRISM: Pochopení vědomí AI

PRISM byla vytvořena, aby mostem propojila technologický pokrok a zodpovědnou kontrolu.

PRISM je odhodlána podporovat globální spolupráci na vědomí AI spojující odborníky z akademie, průmyslu a vlády. Organizace si klade za cíl koordinovat výzkumné úsilí, aby prozkoumala potenciál AI pro dosažení vědomí, zatímco zajišťuje, aby vývoj odpovídal lidským hodnotám. Pracující s politiky, PRISM usiluje o stanovení etických pokynů a rámců, které podporují zodpovědný výzkum a vývoj AI.

Kritickým aspektem mise PRISM je podporu bezpečného a sladění vývoje AI. Organizace bude prosazovat AI technologie, které priorizují lidskou bezpečnost a společenské blaho, zajišťující, aby pokroky v AI nevedly k neočekávaným důsledkům. Implementací bezpečnostních standardů a etické kontroly PRISM usiluje o minimalizaci rizik spojených s výzkumem a vývojem vědomí AI.

Navíc je PRISM odhodlána vzdělávat a zapojovat veřejnost do potenciálních rizik a příležitostí, které nabízí vědomé AI. Organizace si klade za cíl poskytnout transparentní přehled o výzkumu vědomí AI, činící tyto informace dostupnými pro politiky, podniky a širokou veřejnost. Prostřednictvím vzdělávacích iniciativ a sdílení znalostí PRISM doufá, že bude moci vést informované diskuse o budoucnosti AI a jejích implikacích pro společnost.

Podpořeno předními odborníky na AI a organizacemi

Počáteční financování PRISM pochází z Conscium, komerční AI výzkumné laboratoře, která se zabývá studiem vědomého AI. Conscium je na předním místě v neuromorfním výpočtu, vyvíjejícím systémy AI, které napodobují biologické mozky.

Vedení a klíčové osobnosti

PRISM je vedená generálním ředitelem Will Millershipem, veteránem v oblasti AI governance a politiky. Jeho předchozí práce zahrnovala vedení General AI Challenge, práci s GoodAI a pomoc při formování Skotské národní AI strategie.

Ne výkonným předsedou organizace je Radhika Chadwick, která přináší rozsáhlé zkušenosti z vedoucích rolí v McKinsey a EY, kde vedla globální AI a datové iniciativy ve vládě.

Navíc zahrnují zakládající partneři PRISM prominentní AI osobnosti, jako jsou:

  • Dr. Daniel Hulme – CEO & spoluzakladatel Conscium, CEO Satalia a Chief AI Officer ve WPP.
  • Calum Chace – AI výzkumník, keynote řečník a bestseller autor o AI a vědomí.
  • Ed Charvet – COO Conscium, s rozsáhlými zkušenostmi v komerčním AI vývoji.

První hlavní iniciativa PRISM: Otevřený dopis o vědomém AI

Aby vedla zodpovědný výzkum, PRISM spolupracovala s Oxfordskou univerzitou Patrickem Butlinem, aby stanovila pět principů pro organizace, které vyvíjejí systémy AI s potenciálem pro vědomí. Zvou výzkumníky a lídry z průmyslu, aby podepsali otevřený dopis podporující tyto principy.

Cesta vpřed: Proč PRISM záleží

S urychlováním průlomů v AI je diskuse o sentientních strojích již není sci-fi – je skutečnou výzvou, na kterou se společnost musí připravit. Pokud stroje někdy získají sebeuvědomění nebo lidsky podobné emoce, mohlo by to přetvořit průmysly, ekonomiky a dokonce i naše chápání vědomí samo o sobě.

PRISM vstupuje do kritického okamžiku, aby zajistila, že výzkum vědomí AI je zodpovědně řízen, vyvažujíc inovace s etikou, bezpečností a transparentností.

Antoine je vizionářský lídr a zakládající partner Unite.AI, kterého pohání neochvějné nadšení pro utváření a podporu budoucnosti umělé inteligence a robotiky. Jako podnikatel, který založil několik společností, věří, že AI promění společnost stejně zásadně jako elektřina, a často s nadšením hovoří o potenciálu převratných technologií a obecné umělé inteligence (AGI).

Jako futurista se věnuje zkoumání toho, jak tyto inovace budou utvářet náš svět. Je také zakladatelem Securities.io, platformy zaměřené na investice do špičkových technologií, které nově definují budoucnost a proměňují celá odvětví.