Modely a platformy AI

Technologičtí lídři upozorňují na rizika umělé inteligence a naléhavost robustní regulace AI

Haziqa Sajid
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyTechnologičtí lídři varují, že překonání lidské inteligence umělou inteligencí…
Zobrazit více
  • Technologičtí lídři varují, že překonání lidské inteligence umělou inteligencí představuje existenční rizika vyžadující urgentní investice do bezpečnosti.
  • Více než 300 milionů pracovních míst čelí automatizaci generativní umělou inteligencí, což vyžaduje masivní programy rekvalifikace pracovní síly.
  • Zkreslené systémy umělé inteligence mohou bez důkladného auditu udržovat diskriminaci v náboru zaměstnanců a v činnosti orgánů činných v trestním řízení.

Růst a pokroky v oblasti umělé inteligence byly v posledních letech exponenciální. Podle zprávy Statista bude globální trh s umělou inteligencí do roku 2024 generovat ohromující příjmy ve výši kolem 3000 miliard dolarů, ve srovnání s 126 miliardami dolarů v roce 2015. Nicméně, technologičtí lídři nás nyní varují před různými riziky umělé inteligence.

Zejména nedávná vlna generativních modelů umělé inteligence jako ChatGPT přinesla nové schopnosti v různých odvětvích pracujících s citlivými daty, jako je zdravotnictví, vzdělávání, finanční sektor atd. Tyto systémy umělé inteligence jsou zranitelné kvůli mnoha nedostatkům umělé inteligence, které mohou být zneužity škodlivými aktéry.

Diskutujme, co říkají odborníci na umělou inteligenci o nedávném vývoji a upozorněme na potenciální rizika umělé inteligence. Také se budeme krátce zabývat tím, jak lze tato rizika řídit.

Technologičtí lídři a jejich obavy související s riziky umělé inteligence

Geoffrey Hinton

Geoffrey Hinton – slavný technologický lídr v oblasti umělé inteligence (a „kmotr“ tohoto oboru), který nedávno opustil Google (GOOGL ), vyjádřil své obavy z rychlého rozvoje umělé inteligence a jejích potenciálních nebezpečích. Hinton věří, že chatboty umělé inteligence mohou být „docela děsivé“, pokud překročí lidskou inteligenci.

Hinton říká:

„Právě teď vidíme, že systémy jako GPT-4 výrazně překonávají člověka v množství obecných znalostí. V uvažování nejsou tak dobré, ale jednoduchého uvažování už schopné jsou. A vzhledem k tempu pokroku očekáváme poměrně rychlé zlepšování. Proto nás to musí znepokojovat.“

Navíc věří, že „špatní aktéři“ mohou použít umělou inteligenci pro „špatné věci“, jako je umožnění robotům mít své podcíle. Navzdory svým obavám Hinton věří, že umělá inteligence může přinést krátkodobé výhody, ale měli bychom také silně investovat do bezpečnosti a kontroly umělé inteligence.

Elon Musk

Muskova účast v umělé inteligenci začala s jeho ranou investicí do DeepMind v roce 2010, následovanou spoluzaložením OpenAI a začleněním umělé inteligence do autonomních vozidel Tesla.

Přestože je umělou inteligencí nadšený, často vyjadřuje obavy z jejích rizik. Musk říká, že silné systémy umělé inteligence mohou být nebezpečnější pro civilizaci než jaderné zbraně. V rozhovoru pro Fox News v dubnu 2023 řekl:

„Umělá inteligence je nebezpečnější než například špatně řízený návrh letadel, jejich výroba či údržba nebo špatná výroba aut. Má totiž potenciál zničit civilizaci – ať už tuto pravděpodobnost považujeme za jakkoli malou, není zanedbatelná.“

Navíc Musk podporuje vládní regulace umělé inteligence, aby zajistily bezpečnost před potenciálními riziky, i když „to není tak zábavné“.

Pozastavení velkých experimentů s umělou inteligencí: Otevřený dopis podporovaný tisíci odborníky na umělou inteligenci

Future of Life Institute zveřejnil otevřený dopis 22. března 2023. Dopis vyzývá k dočasnému šestiměsíčnímu pozastavení vývoje systémů umělé inteligence pokročilejších než GPT-4. Autoři vyjádřili své obavy z tempa, jakým se systémy umělé inteligence vyvíjejí, a o vážných socioekonomických výzvách, které to představuje.

Navíc dopis uvádí, že vývojáři umělé inteligence by měli spolupracovat s politiky, aby dokumentovali systémy řízení umělé inteligence. K červnu 2023 byl dopis podepsán více než 31 000 vývojáři, odborníky a technologickými lídry. Mezi významnými signatáři jsou Elon Musk, Steve Wozniak (spoluzakladatel Apple (AAPL )), Emad Mostaque (CEO, Stability AI), Yoshua Bengio (držitel Turingovy ceny) a mnoho dalších.

Argumenty proti pozastavení vývoje umělé inteligence

Dva prominentní lídři umělé inteligence, Andrew Ng a Yann LeCun, se vyslovili proti šestiměsíčnímu zákazu vývoje pokročilých systémů umělé inteligence a považují pozastavení za špatný nápad.

Ng říká, že přestože má umělá inteligence určitá rizika, například předsudky či koncentraci moci, hodnota, kterou vytváří ve vzdělávání, zdravotnictví a koučování reagujícím na potřeby uživatele, je obrovská.

Yann LeCun říká, že výzkum a vývoj by neměly být zastaveny, i když produkty umělé inteligence určené koncovému uživateli, mohou být regulovány.

Jaká jsou potenciální nebezpečí a bezprostřední rizika umělé inteligence?

Potenciální nebezpečí a bezprostřední rizika umělé inteligence

1. Nahrazení pracovních míst

Odborníci na umělou inteligenci věří, že inteligentní systémy umělé inteligence mohou nahradit kognitivní a tvořivé úkoly. Investiční banka Goldman Sachs (GS ) odhaduje, že kolem 300 milionů pracovních míst bude automatizováno generativní umělou inteligencí.

Proto by měl být vývoj umělé inteligence regulován, aby se zabránilo vážnému ekonomickému poklesu. Měly by být vzdělávací programy pro přeškolení a další vzdělávání zaměstnanců, aby se vyrovnali s touto výzvou.

2. Zkreslené systémy umělé inteligence

Předsudky lidí týkající se pohlaví, rasy či barvy pleti může neúmyslně proniknout do dat používaných pro trénování systémů umělé inteligence, což následně dělá systémy umělé inteligence zkreslenými.

Například v kontextu náboru zaměstnanců může zkreslený systém umělé inteligence odmítnout životopisy jednotlivců z konkrétních etnických prostředí, což vytváří diskriminaci na trhu práce. V policii může předpojatý systém prediktivního policejního dohledu nepřiměřeně zasahovat konkrétní čtvrti nebo demografické skupiny.

Proto je důležité mít komplexní strategii dat, která řeší rizika umělé inteligence, zejména zkreslení. Systémy umělé inteligence by měly být pravidelně vyhodnocovány a auditovány, aby zůstaly férové.

3. Bezpečnostně kritické aplikace umělé inteligence

Autonomní vozidla, lékařské diagnózy a léčba, letecké systémy, řízení jaderných elektráren atd. jsou všechny příklady bezpečnostně kritických aplikací umělé inteligence. Tyto systémy umělé inteligence by měly být vyvíjeny opatrně, protože i malé chyby mohou mít vážné důsledky pro lidský život nebo životní prostředí.

Například selhání softwaru umělé inteligence nazvaného Maneuvering Characteristics Augmentation System (MCAS) je považováno za jednu z příčin havárií dvou letadel Boeing 737 MAX, první v říjnu 2018 a druhé v březnu 2019. Bohužel, tyto dvě nehody si vyžádaly 346 životů.

Jak můžeme překonat rizika systémů umělé inteligence? – Zodpovědný vývoj umělé inteligence a regulace

Zodpovědný vývoj umělé inteligence a regulace

Zodpovědná umělá inteligence (RAI) znamená vývoj a nasazení férových, odpovědných, transparentních a bezpečných systémů umělé inteligence, které zajišťují soukromí a dodržují právní regulace a společenské normy. Implementace RAI může být složitá vzhledem k širokému a rychlému rozvoji systémů umělé inteligence.

Nicméně, velké technologické společnosti vyvinuly rámce RAI, jako:

  1. Microsoftův zodpovědný vývoj umělé inteligence
  2. Googleovy principy umělé inteligence
  3. IBMův důvěryhodný vývoj umělé inteligence

Laboratoře umělé inteligence po celém světě mohou čerpat inspiraci z těchto principů nebo vyvinout své vlastní rámce zodpovědné umělé inteligence, aby vytvořily důvěryhodné systémy umělé inteligence.

Regulace umělé inteligence

Jelikož data jsou nedílnou součástí systémů umělé inteligence, organizace a laboratoře umělé inteligence musí dodržovat následující regulace, aby zajistily bezpečnost dat, soukromí a bezpečnost.

  1. GDPR (Obecné nařízení o ochraně osobních údajů) – rámec ochrany osobních údajů Evropské unie.
  2. CCPA (Kalifornský zákon o ochraně soukromí spotřebitelů) – kalifornský zákon o právech spotřebitelů a ochraně soukromí.
  3. HIPAA (Zákon o přenositelnosti a odpovědnosti zdravotního pojištění) – americká legislativa, která chrání lékařská data pacientů.
  4. Nařízení EU o umělé inteligenci, a Etické směrnice pro důvěryhodnou umělou inteligenci – regulace umělé inteligence Evropské komise.

Existují různé regionální a místní zákony, které jednotlivé země přijaly, aby chránily své občany. Organizace, které selhávají v zajištění souladu s regulacemi týkajícími se dat, mohou čelit vážným pokutám. Například GDPR stanoví pokutu ve výši 20 milionů eur nebo 4% ročního zisku za závažné porušení, jako je nezákonné zpracování dat, nedoložený souhlas se zpracováním dat, porušení práv subjektů údajů nebo nechráněný přenos dat do mezinárodní entity.

Vývoj a regulace umělé inteligence – současnost a budoucnost

S každým uplynulým měsícem dosahují pokroky v oblasti umělé inteligence nebývalých výšin. Ale doprovodné regulace a rámce řízení jsou pozadu. Potřebují být robustnější a specifičtější.

Technologičtí lídři a vývojáři umělé inteligence varují před riziky umělé inteligence v případě její nedostatečné regulace. Výzkum a vývoj v oblasti umělé inteligence mohou dále přinést hodnotu v mnoha sektorech, ale je jasné, že pečlivá regulace je nyní nezbytná.

Pro více obsahu souvisejícího s umělou inteligencí navštivte unite.ai.

Haziqa pracuje v oblasti datové vědy s rozsáhlými zkušenostmi v psaní technického obsahu pro AI a SaaS společnosti.