Umělá inteligence a boj proti technofobii

U generativní AI a velkých jazykových modelů, jako je ChatGPT, se nadšení z AI mísí s technofobií. U široké veřejnosti je to přirozené: lidé mají rádi nové a zajímavé věci, ale bojí se neznámého. Nové je, že i někteří významní vědci se stali skeptiky vůči technologiím, ne-li přímo technofoby. Příkladem jsou vědci a průmyslníci žádající šestiměsíční zákaz výzkumu AI nebo skeptický postoj předního vědce v oblasti AI, profesora A. Hintona. Jedinou podobnou historickou paralelou, na kterou si vzpomínám, je kritika atomových a jaderných bomb částí vědecké komunity za studené války. Lidstvu se naštěstí podařilo tyto obavy řešit poměrně uspokojivě.

Každý má samozřejmě právo zpochybňovat současný stav AI:

• Nikdo neví, proč velké jazykové modely fungují tak dobře a zda mají nějaké hranice.
• Hrozí řada nebezpečí spojených s tím, že lidé se zlými úmysly vytvoří „AI bomby“, zejména pokud státy zůstanou v oblasti regulace pasivními přihlížejícími.

Jde o oprávněné obavy, které vyvolávají strach z neznámého i u významných vědců. Koneckonců i oni jsou lidé.

Lze však výzkum AI byť jen dočasně zastavit? Podle mého názoru ne, protože AI je odpovědí lidstva na stále složitější globální společnost a fyzický svět. Procesy růstu fyzické a společenské složitosti jsou hluboké a zdánlivě nezadržitelné. AI a vzdělávání občanů jsou proto naší jedinou nadějí na plynulý přechod od současné informační společnosti ke společnosti znalostní. Jinak nám může hrozit katastrofická společenská imploze.

Řešením je prohlubovat porozumění pokroku AI, urychlit její rozvoj a regulovat její využití tak, aby se maximalizovaly pozitivní dopady a současně minimalizovaly již zjevné i dosud skryté negativní účinky. Výzkum AI může a měl by být jiný: otevřenější, demokratičtější, vědečtější a etičtější. K tomu navrhuji následující body:

• Hlavní slovo v důležitých otázkách výzkumu AI s dalekosáhlými společenskými dopady by měly mít volené parlamenty a vlády, nikoli korporace nebo jednotliví vědci.
• Je třeba vynaložit veškeré úsilí na podporu zkoumání pozitivního přínosu AI pro společenský a hospodářský pokrok a na minimalizaci jejích negativních stránek.
• Při přijetí vhodných regulačních opatření mohou pozitivní dopady systémů AI výrazně převážit nad negativními. Technofobie není oprávněná ani nepředstavuje řešení.
• Podle mého názoru je dnes největší hrozbou to, že takové systémy AI mohou na dálku oklamat příliš mnoho běžných lidí s nízkým či průměrným vzděláním a/nebo omezenou schopností věci prověřovat. To může být mimořádně nebezpečné pro demokracii a jakoukoli podobu socioekonomického pokroku.
• V blízké budoucnosti bychom měli čelit závažné hrozbě využívání LLM a/nebo CAN při nezákonných činnostech. Podvádění u vysokoškolských zkoušek je ve srovnání s dalšími možnými trestnými způsoby využití poměrně neškodným příkladem.
• Ve střednědobém až dlouhodobém horizontu bude jejich dopad na práci a trhy velmi pozitivní.
• Vzhledem k výše uvedenému by systémy AI měly: a) podle mezinárodního práva podléhat povinnému zápisu do „registru systémů AI“ a b) upozorňovat uživatele, že komunikují se systémem AI nebo používají jeho výsledky.
• Vzhledem k obrovskému společenskému dopadu systémů AI by jejich klíčové pokročilé technologie měly být otevřené, aby se maximalizoval přínos a socioekonomický pokrok.
• Ze stejného důvodu by měla být alespoň částečně demokratizována také data související s AI.
• Pro přední tvůrce technologií AI je třeba připravit vhodné a dostatečně silné mechanismy finančního odškodnění. Ty mají kompenzovat případné ztráty zisku způsobené uvedenou otevřeností a zajistit výrazné budoucí investice do výzkumu a vývoje AI, například prostřednictvím technologických patentů a povinných licenčních schémat.
• Je třeba přehodnotit rovnováhu výzkumu AI mezi akademickou sférou a průmyslem tak, aby se maximalizovaly výsledky výzkumu, zachovala konkurenceschopnost a odměňovala podstoupená rizika výzkumu a vývoje.
• Vzdělávací postupy na všech úrovních by měly být přehodnoceny tak, aby se maximalizoval přínos technologií AI a zároveň vyrůstala nová generace tvořivých a přizpůsobivých občanů a vědců, včetně vědců v oblasti AI.
• K zajištění těchto cílů je třeba vytvořit a posílit vhodné mechanismy regulace, dohledu a financování AI.

Některé z těchto bodů podrobně rozebírám ve své nedávné čtyřsvazkové knize „AI Science and Society“, zejména ve svazcích A, přepracovaném v květnu 2023 tak, aby zahrnoval LLM a obecnou umělou inteligenci, a C.

Knižní odkazy:

Věda o umělé inteligenci a společnost, část A: Úvod do vědy o AI a informačních technologií

Věda o umělé inteligenci a společnost, část C: Věda o AI a společnost