Technologičtí lídři upozorňují na rizika umělé inteligence a naléhavost robustní regulace AI

Růst a pokroky v oblasti umělé inteligence byly v posledních letech exponenciální. Podle zprávy Statista bude globální trh s umělou inteligencí do roku 2024 generovat ohromující příjmy ve výši kolem 3000 miliard dolarů, ve srovnání s 126 miliardami dolarů v roce 2015. Nicméně, technologičtí lídři nás nyní varují před různými riziky umělé inteligence.

Zejména recentní vlna generativních modelů umělé inteligence jako ChatGPT přinesla nové schopnosti v různých datech citlivých sektorech, jako je zdravotnictví, vzdělávání, finanční sektor atd. Tyto systémy umělé inteligence jsou zranitelné kvůli mnoha nedostatkům umělé inteligence, které mohou být zneužity škodlivými aktéry.

Diskutujme, co říkají odborníci na umělou inteligenci o recentních vývojích a upozorňujme na potenciální rizika umělé inteligence. Také se budeme krátce zabývat tím, jak lze tato rizika řídit.

Technologičtí lídři a jejich obavy související s riziky umělé inteligence

Geoffrey Hinton

Geoffrey Hinton – slavný technologický lídr v oblasti umělé inteligence (a „kmotr“ tohoto oboru), který nedávno opustil Google (GOOGL ), vyjádřil své obavy o rychlém rozvoji umělé inteligence a jejích potenciálních nebezpečích. Hinton věří, že chatboty umělé inteligence mohou být „docela děsivé“, pokud překročí lidskou inteligenci.

Hinton říká:

„Právě teď vidíme, že věci jako GPT-4 překračují člověka v množství obecných znalostí, které má, a překračují jej o velký kus. Co se týče rozumu, není tak dobrý, ale už dělá jednoduchý rozum. A s ohledem na rychlost pokroku očekáváme, že se věci budou zlepšovat quite rychle. Takže se musíme starat o to.“

Navíc věří, že „špatní aktéři“ mohou použít umělou inteligenci pro „špatné věci“, jako je umožnění robotům mít své podcíle. Navzdory svým obavám Hinton věří, že umělá inteligence může přinést krátkodobé výhody, ale měli bychom také silně investovat do bezpečnosti a kontroly umělé inteligence.

Elon Musk

Muskova účast v umělé inteligenci začala s jeho ranou investicí do DeepMind v roce 2010, následovanou spoluzaložením OpenAI a začleněním umělé inteligence do autonomních vozidel Tesla.

Although je nadšený z umělé inteligence, často vyjadřuje obavy o rizicích umělé inteligence. Musk říká, že silné systémy umělé inteligence mohou být nebezpečnější pro civilizaci než jaderné zbraně. V rozhovoru pro Fox News v dubnu 2023 řekl:

„Umělá inteligence je nebezpečnější než, řekněme, špatně navržená letadla nebo výroba nebo špatná výroba aut. V tom smyslu, že má potenciál – byť malý – ale není zanedbatelný a má potenciál zničení civilizace.“

Navíc Musk podporuje vládní regulace umělé inteligence, aby zajistily bezpečnost před potenciálními riziky, i když „to není tak zábavné“.

Pozastavení velkých experimentů s umělou inteligencí: Otevřený dopis podporovaný tisíci odborníky na umělou inteligenci

Future of Life Institute zveřejnil otevřený dopis 22. března 2023. Dopis vyzývá k dočasnému šestiměsíčnímu pozastavení vývoje systémů umělé inteligence pokročilejších než GPT-4. Autoři vyjádřili své obavy o tempu, jakým se systémy umělé inteligence vyvíjejí, a o vážných socioekonomických výzvách, které to představuje.

Navíc dopis uvádí, že vývojáři umělé inteligence by měli spolupracovat s politiky, aby dokumentovali systémy řízení umělé inteligence. K červnu 2023 byl dopis podepsán více než 31 000 vývojáři, odborníky a technologickými lídry. Mezi významnými signatáři jsou Elon Musk, Steve Wozniak (spoluzakladatel Apple (AAPL )), Emad Mostaque (CEO, Stability AI), Yoshua Bengio (držitel Turingovy ceny) a mnoho dalších.

Argumenty proti pozastavení vývoje umělé inteligence

Dva prominentní lídři umělé inteligence, Andrew Ng a Yann LeCun, se vyslovili proti šestiměsíčnímu zákazu vývoje pokročilých systémů umělé inteligence a považují pozastavení za špatný nápad.

Ng říká, že ačkoli umělá inteligence má一些 rizika, jako je zkreslení, hodnota vytvořená umělou inteligencí v oblastech, jako je vzdělávání, zdravotnictví a koučování, je obrovská.

Yann LeCun říká, že výzkum a vývoj by neměly být zastaveny, i když produkty umělé inteligence, které dosáhnou konečného uživatele, mohou být regulovány.

Jaká jsou potenciální nebezpečí a okamžité rizika umělé inteligence?

1. Nahrazení pracovních míst

Odborníci na umělou inteligenci věří, že inteligentní systémy umělé inteligence mohou nahradit kognitivní a tvořivé úkoly. Investiční banka Goldman Sachs odhaduje, že kolem 300 milionů pracovních míst bude automatizováno generativní umělou inteligencí.

Proto by měly být regulace na vývoj umělé inteligence, aby se zabránilo vážnému ekonomickému poklesu. Měly by být vzdělávací programy pro přeškolení a další vzdělávání zaměstnanců, aby se vyrovnali s touto výzvou.

2. Zkreslené systémy umělé inteligence

Zkreslení mezi lidmi o pohlaví, rase nebo barvě může neúmyslně proniknout do dat používaných pro školení systémů umělé inteligence, což následně dělá systémy umělé inteligence zkreslenými.

Například v kontextu náboru zaměstnanců může zkreslený systém umělé inteligence odmítnout životopisy jednotlivců z konkrétních etnických prostředí, což vytváří diskriminaci na trhu práce. V policii může zkreslené předpovídání zločinu nesmírně zasáhnout konkrétní čtvrti nebo demografické skupiny.

Proto je důležité mít komplexní strategii dat, která řeší rizika umělé inteligence, zejména zkreslení. Systémy umělé inteligence by měly být pravidelně vyhodnocovány a auditovány, aby zůstaly férové.

3. Bezpečnostně kritické aplikace umělé inteligence

Autonomní vozidla, lékařské diagnózy a léčba, letecké systémy, řízení jaderných elektráren atd. jsou všechny příklady bezpečnostně kritických aplikací umělé inteligence. Tyto systémy umělé inteligence by měly být vyvíjeny opatrně, protože i malé chyby mohou mít vážné důsledky pro lidský život nebo životní prostředí.

Například selhání softwaru umělé inteligence nazvaného Maneuvering Characteristics Augmentation System (MCAS) je částečně připsáno ke krachu dvou letadel Boeing 737 MAX, poprvé v říjnu 2018 a poté v březnu 2019. Bohužel, tyto dvě nehody si vyžádaly 346 životů.

Jak můžeme překonat rizika systémů umělé inteligence? – Zodpovědný vývoj umělé inteligence a regulace

Zodpovědná umělá inteligence (RAI) znamená vývoj a nasazení férových, odpovědných, transparentních a bezpečných systémů umělé inteligence, které zajišťují soukromí a dodržují právní regulace a společenské normy. Implementace RAI může být složitá vzhledem k širokému a rychlému rozvoji systémů umělé inteligence.

Nicméně, velké technologické společnosti vyvinuly rámce RAI, jako:

1. Microsoftův zodpovědný vývoj umělé inteligence
2. Googleovy principy umělé inteligence
3. IBMův důvěryhodný vývoj umělé inteligence

Laboratoře umělé inteligence po celém světě mohou čerpat inspiraci z těchto principů nebo vyvinout své vlastní rámce zodpovědné umělé inteligence, aby vytvořily důvěryhodné systémy umělé inteligence.

Regulace umělé inteligence

Jelikož data jsou integrovanou součástí systémů umělé inteligence, organizace a laboratoře umělé inteligence musí dodržovat následující regulace, aby zajistily bezpečnost dat, soukromí a bezpečnost.

1. GDPR (Obecné nařízení o ochraně osobních údajů) – rámec ochrany osobních údajů Evropské unie.
2. CCPA (Kalifornský zákon o ochraně spotřebitelů) – kalifornský zákon o právech spotřebitelů a ochraně soukromí.
3. HIPAA (Zákon o přenositelnosti a odpovědnosti zdravotního pojištění) – americká legislativa, která chrání lékařská data pacientů.
4. Nařízení EU o umělé inteligenci, a Etické směrnice pro důvěryhodnou umělou inteligenci – evropská komise o regulaci umělé inteligence.

Existují různé regionální a místní zákony, které jednotlivé země přijaly, aby chránily své občany. Organizace, které selhávají v zajištění souladu s regulacemi týkajícími se dat, mohou čelit vážným pokutám. Například GDPR stanovila pokutu ve výši 20 milionů eur nebo 4% ročního zisku za závažné porušení, jako je nezákonné zpracování dat, nedoložené souhlas se zpracováním dat, porušení práv subjektů údajů nebo nechráněný přenos dat do mezinárodní entity.

Vývoj a regulace umělé inteligence – současnost a budoucnost

S každým uplynulým měsícem dosahují pokroky v oblasti umělé inteligence nebývalých výšin. Ale doprovodné regulace a rámce řízení jsou pozadu. Potřebují být robustnější a specifičtější.

Technologičtí lídři a vývojáři umělé inteligence zvoní na poplach o rizicích umělé inteligence, pokud nejsou dostatečně regulovány. Výzkum a vývoj v oblasti umělé inteligence mohou dále přinést hodnotu v mnoha sektorech, ale je jasné, že pečlivá regulace je nyní nezbytná.

Pro více obsahu souvisejícího s umělou inteligencí navštivte unite.ai.