Umělá inteligence a boj proti technofobii

Když se jedná o Generativní umělou inteligenci a Velké jazykové modely, jako je ChatGPT, je nadšení pro umělou inteligenci smíšeno s technofobií. To je přirozené pro širokou veřejnost: lidé se líbí nové zajímavé věci, ale bojí se neznámého. Novinkou je, že několik prominentních vědců se stalo samo technickými skeptiky, pokud ne technofoby. Případ vědců a průmyslníků, kteří požadují šestiměsíční zákaz výzkumu umělé inteligence, nebo skepticismus nejlepšího vědce umělé inteligence Prof. A. Hintona, jsou takovými příklady. Jedinou související historickou obdobou, kterou si mohu vybavit, je kritika atomových a jaderných bomb části vědecké komunity během studené války. Naštěstí se lidstvu podařilo tyto obavy vyřešit poměrně uspokojivým způsobem.

Samozřejmě, každý má právo zpochybnit současný stav věcí s umělou inteligencí:

• Nikdo neví, proč Velké jazykové modely fungují tak dobře a zda mají hranice.
• Mnohé nebezpečí, které vytvářejí „bombičky umělé inteligence“, se skrývá, zejména pokud státy zůstanou pasivními diváky v oblasti regulací.

To jsou oprávněné obavy, které pohánějí strach z neznámého, dokonce i u prominentních vědců. Vždyť jsou to sami lidé.

Ale může být výzkum umělé inteligence zastaven, i když jen dočasně? Podle mého názoru ne, protože umělá inteligence je odpovědí lidstva na globální společnost a fyzický svět neustále rostoucí složitosti. Jak se fyzická a sociální složitost zvyšují, procesy jsou velmi hluboké a zdají se být neúprosné, umělá inteligence a proměna občanů jsou naší jedinou nadějí na hladký přechod ze současné Informační společnosti ke Společnosti znalostí. Jinak můžeme čelit katastrofické sociální implozi.

Řešením je prohloubit naše porozumění pokrokům v oblasti umělé inteligence, urychlit její vývoj, regulovat její použití směrem k maximálnímu pozitivnímu dopadu, zatímco minimalizovat již zjevné a jiné skryté negativní účinky. Výzkum umělé inteligence může a měl by se stát jiným: otevřenějším, demokratičtějším, vědeckým a etickým. Zde je navrhovaný seznam bodů k tomuto účelu:

• První slovo o důležitých otázkách výzkumu umělé inteligence, které mají velký sociální dopad, by mělo být svěřeno zvoleným parlamentům a vládám, spíše než korporacím nebo jednotlivým vědcům.
• Každý úsilí by mělo být učiněno, aby se usnadnilo prozkoumání pozitivních aspektů umělé inteligence ve společenském a finančním pokroku a minimalizovaly se její negativní aspekty.
• Pozitivní dopad systémů umělé inteligence může výrazně převýšit jejich negativní aspekty, pokud se přijmou vhodná regulační opatření. Technofobie není oprávněná, ani není řešením.
• Podle mého názoru největší současná hrozba pochází z faktu, že takové systémy umělé inteligence mohou vzdáleně oklamat příliš mnoho běžných lidí, kteří mají málo (nebo průměrné) vzdělání a/nebo malou vyšetřovací kapacitu. To může být extrémně nebezpečné pro demokracii a jakoukoli formu socio-ekonomického pokroku.
• V blízké budoucnosti bychom měli čelit velké hrozbě, která pochází z používání LLM a/nebo CAN v nezákonných aktivitách (podvody ve univerzitních zkouškách jsou poměrně neškodným použitím v prostoru souvisejících možností).

<li Jejich dopad na práci a trhy bude velmi pozitivní, ve středně až dlouhodobém horizontu.

• Systémy umělé inteligence by měly: a) být povinny mezinárodním právem registrovat se v „registru systémů umělé inteligence“ a b) informovat své uživatele, že komunikují nebo používají výsledky systému umělé inteligence.
• Pokud mají systémy umělé inteligence obrovský sociální dopad, a směrem k maximálnímu prospěchu a socio-ekonomickému pokroku, pokročilé klíčové technologie systémů umělé inteligence by se měly stát otevřenými.
• Údaje související s umělou inteligencí by měly být (alespoň částečně) demokratizovány, opět směrem k maximálnímu prospěchu a socio-ekonomickému pokroku.
• Řádné silné finanční kompenzační schéma musí být předvídáno pro šampiony technologie umělé inteligence, aby se kompenzovaly případné ztráty zisku, kvůli výše uvedené otevřenosti a zajištění silných budoucích investic do výzkumu a vývoje (například prostřednictvím patentování technologií, povinných licenčních schémat).
• Rovnováha výzkumu umělé inteligence mezi akademickou sférou a průmyslem by se měla přehodnotit, aby se maximalizoval výstup výzkumu, zatímco se udržovala konkurenceschopnost a odměňovaly se rizika spojená s výzkumem a vývojem.
• Praktiky vzdělávání by se měly revidovat na všech úrovních vzdělávání, aby se maximalizoval prospěch z technologií umělé inteligence, zatímco se vytvářela nová generace kreativních a adaptabilních občanů a (vědců umělé inteligence).
• Řádné regulační, dozorové a financující mechanismy umělé inteligence by se měly vytvořit a posílit, aby se zajistilo výše uvedené.

Několik takových bodů je podrobně popsáno v mé nedávné čtyřsvazkové knize o „Vědě a společnosti umělé inteligence“, zejména ve svazcích A (přepsané v květnu 2023, aby pokryly LLM a umělou obecnou inteligenci) a C.

Knihovní odkazy:

Umělá inteligence Věda a společnost Část A: Úvod do vědy umělé inteligence a informačních technologií

Umělá inteligence Věda a společnost Část C: Věda a společnost umělé inteligence