Umělá inteligence a boj proti technofobii

Když se jedná o Generativní AI a Large Language Modely, jako je ChatGPT, je nadšení pro AI smíšeno s technofobií. To je přirozené pro veřejnost: lidé se líbí nové zajímavé věci, ale bojí se neznámého. Novinka je, že několik prominentních vědců se stalo samo technickými skeptiky, pokud ne technofoby. Případ vědců a průmyslníků, kteří žádají šestiměsíční zákaz výzkumu AI, nebo skepticismus nejlepšího AI vědce Prof. A. Hintona, jsou takové příklady. Jediná související historická ekvivalence, kterou si vzpomínám, je kritika atomových a jaderných bomb části vědecké komunity během studené války. Naštěstí se lidstvu podařilo tyto obavy vyřešit poměrně uspokojivým způsobem.

Samozřejmě, každý má právo zpochybnit současný stav AI záležitostí:

• Nikdo neví, proč Large Language Modely fungují tak dobře a zda mají limit.
• Mnohé nebezpečí, které vytvářejí špatní lidé ‘AI bomby’, se skrývá, zejména pokud státy zůstávají pasivními diváky, pokud jde o regulace.

Tyto jsou legitimní obavy, které pohání strach z neznámého, dokonce i u prominentních vědců. Však, mohou být AI výzkumy zastaveny, i dočasně? Podle mého názoru, ne, protože AI je odpovědí lidstva na globální společnost a fyzický svět neustále se zvyšující složitosti. Jak fyzické a sociální procesy zvyšující složitosti jsou velmi hluboké a zdají se být neúprosné, AI a občan morfóza jsou naší jedinou nadějí na hladký přechod z aktuální Informační společnosti do Společnosti znalostí. Jinak, můžeme čelit katastrofické sociální implozi.

Řešením je prohloubit naše chápání AI pokroků, urychlit jeho vývoj, regulovat jeho použití směrem k maximalizaci jeho pozitivního dopadu, zatímco minimalizovat již zřejmé a jiné skryté negativní účinky. AI výzkumy mohou a měly by se stát jinými: více otevřenými, demokratickými, vědeckými a etickými. Zde je navrhovaný seznam bodů k tomuto účelu:

• První slovo o důležitých AI výzkumných otázkách, které mají daleko sahající sociální dopad, by mělo být delegováno na zvolené parlamenty a vlády, spíše než na korporace nebo jednotlivé vědce.
• Každý úsilí by mělo být učiněno, aby usnadnilo prozkoumání pozitivních aspektů AI v sociálním a finančním pokroku a minimalizovat jeho negativní aspekty.
• Pozitivní dopad AI systémů může výrazně převážit jejich negativní aspekty, pokud jsou přijata vhodná regulační opatření. Technofobie není ani ospravedlnitelná, ani řešení.
• Podle mého názoru, největší současná hrozba pochází z faktu, že takové AI systémy mohou vzdáleně oklamat příliš mnoho běžných lidí, kteří mají málo (nebo průměrné) vzdělání a/nebo málo vyšetřovací kapacity. To může být extrémně nebezpečné pro demokracii a jakýkoli druh socio-ekonomického pokroku.
• V blízké budoucnosti bychom měli čelit velké hrozbě, která pochází z LLM a/nebo CAN použití v nelegálních aktivitách (podvody ve univerzitních zkouškách jsou rather benigní použití v prostoru souvisejících trestných možností).

<li Jejich dopad na práci a trhy bude velmi pozitivní, ve středně-dlouhém období.

• Z pohledu výše, AI systémy by měly: a) být vyžadovány mezinárodním právem, aby byly zaregistrovány v ‘AI systémovém registru’, a b) oznámit svým uživatelům, že hovoří s nebo používají výsledky AI systému.
• Jelikož AI systémy mají obrovský sociální dopad, a směrem k maximalizaci výhod a socio-ekonomického pokroku, pokročilé klíčové AI systémové technologie by měly být otevřené.
• AI související data by měla být (alespoň částečně) demokratizována, opět směrem k maximalizaci výhod a socio-ekonomického pokroku.
• Proper silné finanční kompenzační schéma musí být předvídáno pro AI technologické šampiony, aby kompenzovaly jakékoli ztráty zisku, kvůli výše uvedené otevřenosti a zajistily silné budoucí investice do AI výzkumu a vývoje (například prostřednictvím technologického patentování, povinných licenčních schémat).
• Rovnováha AI výzkumu mezi Akademií a Průmyslem by měla být přehodnocena, aby maximalizovala výstup výzkumu, zatímco udržovala konkurenceschopnost a poskytla odměny za podstoupené R&D rizika.
• Vzdělávací postupy by měly být revidovány na všech vzdělávacích úrovních, aby maximalizovaly výhody z AI technologií, zatímco vytvářely novou generaci tvořivých a adaptabilních občanů a (AI) vědců.
• Proper AI regulační/dohledové/finanční mechanismy by měly být vytvořeny a posíleny, aby zajistily výše uvedené.

Několik takových bodů je řešeno v detailu v mé recentní 4 svazkové knize o ‘AI Vědě a Společnosti’, zejména ve svazcích A (přepracované v květnu 2023, aby pokryly LLM a Umělou Obecnou Inteligenci) a C.

Knižní Reference:

Umělá Inteligence Věda a Společnost Část A: Úvod do AI Vědy a Informační Technologie

Umělá Inteligence Věda a Společnost Část C: AI Věda a Společnost