Umělé inteligence a oblouk důvěry

Včasně minulý rok, když náš tým dělal předpovědi o tom, co bude dál, byla shoda v tom, že se odhalí umělá inteligence (AI). Konečně uvidíme, co může udělat, a doufáme, že získáme jasnost o jejím dopadu na podnikání a společnost a jak postupovat. Nebyla to nová předpověď, ale její jádro bylo přesné, i když stále zápasíme s důsledky AI a jak (nebo zda) by měla být nějak omezena.

Konečně jsme viděli, jak Apple, Microsoft a Google začlenili AI do zařízení a přinesli její sílu širší a větší veřejnosti. Pak ale jeden chatbot v AI poháněném vyhledávači ohrozil uživatele a tvrdil, že špehuje zaměstnance, zatímco jiný navrhl použít lepidlo Elmer’s pro domácí pizzu, aby se sýr neztratil. Přesto se dramaticky zvýšily případy použití AI v podnikání a také trh. Podle údajů z Crunchbase šla téměř třetína všech globálních rizikových investic minulý rok do společností v oblasti AI.

Ale i když OpenAI dodala skutečně pozoruhodné vylepšené rozumění, slavný AI výzkumník Yoshua Bengio naléhal na přijetí bezpečnostních opatření pro „hraniční modely“ s potenciálem způsobit katastrofální škody. A přestože technologie získala dvě Nobelovy ceny za aplikace ve vědě, jeden z jejích příjemců vyjádřil obavy o systémech „chytřejších než my, které nakonec převezmou kontrolu“.

V tak rychle se měnícím prostoru je obtížné pro odborné techniky držet krok, natož pro ty, kteří nejsou v oboru.

A ty AI selhání – a obavy z ochrany soukromí a nekontrolovaného použití – pouze zvýšily veřejnou nedůvěru.

Prostě mi věřte

Nacházíme se uprostřed oblouku důvěry, který vyžaduje postupné získání veřejného přijetí AI, zatímco zajišťujeme, aby podnikatelské a technologické komunity jednaly zodpovědně. První část je tam, kde se hraje hra právě teď, na firemní úrovni, získáváva páru s každým bezpečným a správným nasazením. Budujeme na našich důkazech, které nakonec povedou ke zvýšení veřejné důvěry. Druhá část je však mnohem složitější.

Kdo definuje a vynucuje zodpovědné použití AI? Může průmysl vytvořit směrnice, když jsou to oni, kdo potřebuje regulaci? Pokud technici mají problém držet krok s AI, budou politici informováni a budou držet své politické agendy mimo diskusi? A když AI miliardář náhle chce mluvit o kontrole, měl epifánii nebo se jen snaží zpomalit, aby dohnal?

„Prostě mi věřte“ nebude stačit u AI, bez ohledu na to, kdo jste.

Důvěřujte, ale ověřte

Lidé se dívají na generativní AI jako ChatGPT a diví se, zda to bude jejich další Google? No, nejlepší výsledek vyhledávání Google je nyní vytvořen jeho AI modelem Gemini. Problém je, že nemůžete se na něj spolehnout pro podnikání ve velkém, když jednoduchá otázka jako „Je syrové maso bezpečné ke konzumaci?“ vrátí odpověď „Ano, zmrazené“. Musíte zkontrolovat data.

Oblouk veřejné důvěry bude zrcadlit, co se stalo s konvenčním vyhledáváním, získané postupně a s důkazem spolehlivosti. Ironicky, v našem úsilí o zjednodušení a zlepšení vyhledávání, jsme udělali krok zpět. Nyní, po získání té AI vygenerované odpovědi nahoře, musíte procházet dlouhou seznam sponzorovaných odkazů, kliknout na dalších pět a stále kvalifikovat informace.

To je spousta práce, když hledáte rychlou odpověď – a nemůžete mít celou společnost, která dělá totéž. Nicméně, obohatíte data, která jste těžili z desítek tisíc svých vlastních servisních lístků, a přinesete skutečné znalosti o vašem prostředí. Algoritmicky můžete pak nakonfigurovat halucinace dolů, ale stále to zůstává „důvěřujte, ale ověřte“ situace.

Nechte politiku stranou

Když jde o regulaci AI, někteří tvrdí, že kůň už utekl ze stáje a pravděpodobně nebude chycen. Například existuje nedostatek skutečně účinných nástrojů pro kontrolu, zda student napsal práci nebo použil GenAI. Technologie je prostě příliš daleko předem.

Regulace by byla velmi složitá, a upřímně, bychom se dostali na tenký led. Věděli jsme, že technologické společnosti jsou desetiletí před navrhovanými vnějšími regulátory. Ale jsme dobří v tom, aby jsme si vyřezali cestu, ne abychom byli drženi zpět. Přesto, na konci dne, může to nakonec spadnout na inovátory, aby se pokusili aplikovat správu. Kdo jiný by to mohl udělat – zodpovědně?

Existuje mnoho politiků, kteří by rádi zkusili. Riziko, kromě nedostatku porozumění, spočívá v tom, že mají osobní a politickou agendu, kterou chtějí prosadit. Jejich zaměření by mohlo být méně na pěstování AI a více na prosazování toho, co je v jejich nejlepším politickém zájmu. Mohli by pracovat s veřejnými obavami, používat těžkou ruku, aby zastavili její pokrok.

Zákon CHIPS a Science Act byl dobrým příkladem zdravého vládního jednání, který vedl k dramatickému 15násobnému nárůstu výstavby výrobních zařízení pro výpočetní a elektronická zařízení. Ale to bylo možné díky bipartijnímu jednání – což je stále více relikt minulé éry.

Jsi hodný?

Je spousta peněz tekoucích do AI a v průběhu následujících dvou desetiletí bude mnoho peněz vytvořeno technologickými společnostmi. Kolik, jak rychle a jak bezpečně zůstává být vidět. V kterýkoli den může být šířen deep fake, zobrazující někoho ve světle jimiž jsou házeny vejce ohroženého ptáka. Veřejnost by reagovala s hrůzou, a přestože by to mohlo být odhaleno jako AI vygenerované, to vejce se již nevrátí do skořápky – škoda je již způsobena.

Potřebujeme, aby takové věci byly regulovány informovanými techniky. Jakou formu to bude mít – radu, standardní orgán, mezinárodní rámec – zůstává být vidět. Co je známo, je to, že AI je na oblouku důvěry, a jako průmysl, potřebujeme prokázat, že jsme hodni jí.