Obavy z potenciálních rizik ChatGPT nabírají na síle, ale je pauza v AI dobrým krokem?

Zatímco Elon Musk a další globální technologičtí lídři vyzývají k pauze v AI po vydání ChatGPT, někteří kritici věří, že zastavení vývoje není řešením. Odborník na AI Andrew Pery z inteligentní automatizační společnosti ABBYY se domnívá, že pauza je jako snažení se vrátit zubní pastu zpět do tuby. Zde vysvětluje, proč…

Aplikace AI jsou všudypřítomné, ovlivňují téměř každý аспект našeho života. Zatímco je chvályhodné, že se nyní snažíme brzdit, může to být nereálné.

Existují určitě znepokojivé skutečnosti, které vyžadují zvýšenou regulaci, aby se zabránilo potenciálně škodlivým dopadům.

Právě nedávno italský úřad pro ochranu osobních údajů dočasně zablokoval použití ChatGPT na celostátní úrovni kvůli obavám z ochrany osobních údajů souvisejících se způsobem shromažďování a zpracování osobních údajů použitých pro výcvik modelu, jakož i zjevného nedostatku bezpečnostních opatření, které vystavují děti odpovědím „absolutně nevhodným pro jejich věk a povědomí“.

Evropská spotřebitelská organizace (BEUC) vyzývá EU, aby prošetřila potenciální škodlivé dopady velkých jazykových modelů, a to s ohledem na „rostoucí obavy o to, jak ChatGPT a podobné chatboty mohou oklamat a manipulovat lidi“. Tyto systémy AI potřebují větší veřejnou kontrolu a veřejné orgány musí znovu získat kontrolu nad nimi.

V USA podal Center for AI and Digital Policy stížnost u Federální obchodní komise, že ChatGPT porušuje sekci 5 zákona o Federální obchodní komisi (FTC Act) (15 USC 45). Důvodem stížnosti je, že ChatGPT údajně nesplňuje pokyny stanovené FTC pro transparentnost a vysvětlitelnost systémů AI. Odkazuje se na uznání ChatGPT několika známých rizik, včetně ohrožení práv na soukromí, generování škodlivého obsahu a šíření dezinformací.

Užitečnost velkých jazykových modelů, jako je ChatGPT, přestože výzkum poukazuje na jeho potenciální temnou stránku. Bylo prokázáno, že produkuje nesprávné odpovědi, protože základní model ChatGPT je založen na algoritmech hlubokého učení, které využívají velké trénovací datové sady z internetu. Na rozdíl od jiných chatbotů ChatGPT používá jazykové modely založené na technikách hlubokého učení, které generují text podobný lidským konverzacím, a platforma „dochází k odpovědi tak, že dělá řadu odhadů, což je část důvodu, proč může argumentovat nesprávné odpovědi, jako by byly úplně pravdivé“.

Dále bylo prokázáno, že ChatGPT zdůrazňuje a zesiluje předpojatost, což vede k „odpovědím, které diskriminují proti pohlaví, rase a menšinovým skupinám, což je něco, co společnost snaží zmírnit“. ChatGPT může být také bonanzou pro nekalé aktéry, aby využili nevědomé uživatele, ohrozili jejich soukromí a vystavili je podvodným útokům.

Tyto obavy vedly Evropský parlament k vydání komentáře, který zdůrazňuje potřebu dále posílit současné ustanovení návrhu nařízení EU o umělé inteligenci (AIA), které je stále čekající na ratifikaci. Komentář poukazuje na to, že současný návrh nařízení se zaměřuje na takzvané úzké aplikace AI, skládající se z konkrétních kategorií systémů AI s vysokým rizikem, jako je nábor, úvěrová hodnota, zaměstnání, vymáhání práva a způsobilost pro sociální služby. Návrh nařízení EU o AI však nezahrnuje obecné účely AI, jako jsou velké jazykové modely, které poskytují pokročilé kognitivní schopnosti a které mohou „provádět širokou škálu inteligentních úkolů“. Existují výzvy k rozšíření rozsahu návrhu nařízení, aby zahrnoval samostatnou kategorii systémů AI s vysokým rizikem, vyžadující od vývojářů, aby provedli přísné testy před uvedením těchto systémů na trh a průběžně monitorovaly jejich výkon pro potenciální neočekávané škodlivé výstupy.

Zvláště užitečná výzkum upozorňuje na tuto mezeru, že nařízení EU o AI je „primárně zaměřeno na konvenční modely AI, a ne na novou generaci, jejíž zrození jsme svědky dnes“.

Doporučuje čtyři strategie, které by měli regulátoři zvážit.

1. Vyžadovat od vývojářů těchto systémů, aby pravidelně hlásili o účinnosti svých procesů řízení rizik, aby zmírnili škodlivé výstupy.
2. Podniky, které používají velké jazykové modely, by měly být povinny informovat své zákazníky, že obsah byl vygenerován pomocí AI.
3. Vývojáři by měli přihlásit k formalizovanému procesu fázovaných uvolnění, jako součást rámce řízení rizik, navrženého tak, aby chránil proti potenciálně neočekávaným škodlivým výsledkům.
4. Umístěte důraz na vývojáře, aby „zmírnili riziko u jeho kořenů“ tím, že by museli „proaktivně audity trénovací datové sady pro nesprávné údaje“.

Faktorem, který prodlužuje rizika spojená s disruptivními technologiemi, je tlak inovátorů na dosažení prvního pohybu výhodou přijetím obchodního modelu „odstoupit a opravit později“. Zatímco OpenAI je somewhat transparentní o potenciálních rizicích ChatGPT, uvolnili ho pro široké komerční použití s „kupujícími, pozor“ na zákazníky, aby sami zhodnotili a převzali rizika. To může být neudržitelný přístup vzhledem k všudypřítomnému dopadu konverzačních systémů AI. Proaktivní regulace spojená s robustními opatřeními musí být prioritou při manipulaci s tak disruptivní technologií.

Umělé inteligence již prostupuje téměř každou část našeho života, což znamená, že pauza v AI by mohla znamenat řadu neočekávaných překážek a důsledků. Místo náhlého brzdění by se hráči v průmyslu a legislativě měli spolupracovat v dobré víře, aby vytvořili proveditelnou regulaci, která je založena na lidsky orientovaných hodnotách, jako je transparentnost, odpovědnost a spravedlnost. Odkazem na stávající legislativu, jako je AIA, lídři v soukromém a veřejném sektoru mohou navrhnout komplexní, globálně standardizované politiky, které zabrání zlověstným použitím a zmírní nepříznivé výsledky, a tak udrží umělou inteligenci v rámci zlepšování lidských zkušeností.