Etika a technologie: Potřebuje umělá inteligence pilota na palubě?

Shrnutí: Pokroky v technologii konverzační umělé inteligence vyžadují pečlivé vyvažování zájmů, které podporují inovace a současně minimalizují potenciální škodlivé dopady.

Přitažlivost konverzační umělé inteligence

Spuštění ChatGPT-3 vyvolalo bezprecedentní zájem s více než 100 miliony aktivních uživatelů měsíčně.

Spotřebitelé i organizace si uvědomují, jak pokroky v konverzační umělé inteligenci mohou potenciálně transformovat téměř každý aspekt našeho osobního a profesního života. ChatGPT-3 nabízí pokročilé aplikace hlubokého učení, které generují přesvědčivé lidské konverzace s působivými výsledky. V nedávných testech ChatGPT-3 prošel U.S. Medical Licensing Exam a MBA exam z jedné z nejprestižnějších obchodních škol.

Obchodní přínosy konverzační umělé inteligence jsou obrovské, a proto Microsoft investoval 10 miliard dolarů do Open AI, aby urychlil komerční aplikace ChatGPT-3. Microsoft má v úmyslu „supercharge“ své produkty s konverzačními schopnostmi ChatGPT-3.

Iracionalní euforie

Ale pojďme si udělat hluboký nádech, než dovolíme, aby taková transformační technologie převzala kontrolu. Její potenciální užitnost je nezpochybnitelná, ale ChatGPT-3 je stále v raném stádiu s mnoha nedokonalostmi. Naše euforie se může ukázat jako předčasná. V absence smysluplné analýzy může neomezené přijetí konverzační umělé inteligence bez regulačních zábran a lidského dohledu vést k dystopickému světu, který naznačil anglický romanopisec Aldous Huxley. Přílišná závislost na technologiích bez pochopení jejich socio-ekonomických dopadů může mít závažné, byť neúmyslné důsledky, jako je zaměstnanost, vzdělávání, inkluze a spravedlnost.

Vždyť ChatGPT-3 je krokem vpřed, ale jeho „kognitivní“ schopnosti jsou založeny na předchozích datových sadách, s vestavěnými předpojatostmi, které mohou být zesíleny a vést k mnoha potenciálním škodám. ChatGPT-3 má „temnou stránku“, která by měla být důvodem k obavám a stisknout tlačítko pauzy, než bude tato technologie dále rozšířena.

Riziko nebo příležitost?

Je třeba vyvážit rizika spojená s aplikací konverzační umělé inteligence a její potenciální příležitosti. Pokud bude nasazena uvážlivě, s významnou regulací umělé inteligence, která zohledňuje rizika a robustní dohled, pak mohou být realizovány potenciální přínosy konverzační umělé inteligence. Měla by být nasazena jako lidsky orientované partnerství s konverzačními aplikacemi umělé inteligence, které obohacují pracovní zkušenost. Jako všechny inovace, které předcházely, umělá inteligence má potenciál vytvořit potřebu nových dovedností a učinit některé práce více uspokojivými.

Jaká je role zákonodárce?

Demokratizace technologií umělé inteligence znamená, že veřejná orgány musí sehrát aktivní roli při regulaci jejich použití. Strachy spojené s disruptivními inovacemi jsou reálné. Navzdory své síle zůstává umělá inteligence závislá na lidech, ať už je to pro použití nebo regulaci. Musí být skutečně pilot na palubě, ale zatím nevíme, kam přesně směřuje. Zvyšuje se tlak na komplexní regulaci umělé inteligence, zejména návrh EU o umělé inteligenci. S potenciálními všudypřítomnými aplikacemi konverzační umělé inteligence, jako je ChatGPT-3, roste tlak na přísnější regulaci a správu s cílem zajistit, aby byly zavedeny opatření, která by zakázala konkrétní aplikaci konverzační umělé inteligence, která porušuje základní lidská práva.