Etika & Technologie: Potřebuje AI Pilota u Řízení?

Shrnutí: Pokroky v technologii konverzační AI vyžadují pečlivé vyvažování zájmů, které podporují inovace a současně zmírňují potenciální škodlivé dopady.

Příliv Konverzační AI

Spuštění ChatGPT-3 vyvolalo bezprecedentní zájem s více než 100 miliony aktivních uživatelů měsíčně.

Spotřebitelé i organizace si uvědomují, jak pokroky v konverzační AI mohou potenciálně transformovat téměř každý аспект našeho osobního života a profesních interakcí. Pokročilá aplikace hlubokého učení ChatGPT-3 generuje přesvědčivé lidské konverzace s působivými výsledky. V nedávných testech ChatGPT-3 prošel U.S. Medical Licensing Exam a MBA exam z jedné z nejprestižnějších obchodních škol.

Obchodní výhody konverzační AI jsou obrovské, takže Microsoft investoval 10 miliard dolarů do Open AI, aby urychlil komerční aplikace ChatGPT-3. Microsoft má v úmyslu “supercharge” své produkty s konverzačními schopnostmi ChatGPT-3.

Iracionalní Nadšení

Ale pojďme si udělat hluboký nádech, než dovolíme, aby taková transformační technologie předčila nás. Navzdory své potenciální užitečnosti je ChatGPT-3 stále v raném stádiu s mnoha nedokonalostmi. Naše nadšení se může ukázat jako předčasné. V nepřítomnosti smysluplné analýzy může neomezené přijetí konverzační AI bez regulačních zábran a lidského dohledu vést nás do dystopického světa, naznačeného anglickým romanopiscem Aldousem Huxleym. Přílišná závislost na technologiích bez pochopení jejich socio-ekonomických dopadů může mít závažné, byť neúmyslné důsledky, jako je zaměstnanost, vzdělávání, inkluze a spravedlnost.

Vždyť zatímco Chat-GPT-3 je krokem vpřed, jeho “kognitivní” schopnosti jsou založeny na předchozích datových sadách, s vestavěnými předsudky, které mohou být zesíleny, což vede k mnoha potenciálním škodám. ChatGPT-3 má “temnou stránku”, která by měla být důvodem k obavám a stisknout tlačítko pauzy, než bude tato tak významná technologie dále rozšířena.

Riziko nebo příležitost?

Je třeba vyvážit rizika spojená s aplikací konverzační AI a její potenciální příležitosti. Pokud je nasazena uvážlivým způsobem, s významnou regulací AI, která zohledňuje riziko-založený přístup s robustním dohledem, pak mohou být realizovány potenciální výhody konverzační AI. Měla by být nasazena jako lidsky zaměřené partnerství s konverzačními AI aplikacemi, které obohacují pracovní zkušenosti. Jako všechny inovace, které předcházely, má AI potenciál vytvořit potřebu nových dovedností a učinit某些 práce více uspokojivými.

Jaká je role legislativců?

Demokratizace AI technologií znamená, že veřejné orgány musí sehrát proaktivní roli v regulaci jejich použití. Strachy spojené s disruptivními inovacemi jsou skutečné. Navzdory své síle zůstává umělá inteligence závislá na lidech, ať už k jejímu použití nebo regulaci. Musí být skutečně pilot u řízení, jsme si jen nejsou jistí, kam přesně směřuje. Existuje zvýšený tlak na komplexní regulaci AI, nejvíce pozoruhodně, návrh EU umělé inteligence zákona. S potenciální všudypřítomnou adopcí konverzační AI, jako je ChatGPT-3, roste tlak na přísnější regulaci a správu, aby se zajistilo, že budou zavedena opatření, která zakážou konkrétní použití konverzační AI, které se považuje za porušování základních lidských práv.