Přehled transparentnosti AI a potřeby otevřených modelů

Aby chránili lidi před potenciálními škodami způsobenými umělou inteligencí, někteří regulátoři ve Spojených státech a Evropském společenství stále více podporují kontrolu a vyvážení moci otevřených modelů AI. To je částečně motivováno snahou velkých korporací ovládnout vývoj AI a formovat vývoj AI způsobem, který jim prospívá. Regulátoři se také obávají tempa vývoje AI, protože se obávají, že AI se vyvíjí příliš rychle a že není dostatek času na to, aby se vytvořily záruky proti jeho použití pro škodlivé účely.

Zákon o právech AI a Rámcový plán pro řízení rizik AI NIST ve Spojených státech, spolu s evropským zákonem o AI, podporují různé zásady, jako je přesnost, bezpečnost, nediskriminace, bezpečnost, transparentnost, odpovědnost, vysvětlitelnost, interpretovatelnost a ochrana osobních údajů. Kromě toho se obě EU i USA domnívají, že organizace pro stanovení norem, ať už vládní nebo mezinárodní subjekty, budou hrát zásadní roli při stanovování směrnic pro AI.

Vzhledem k této situaci je nezbytné usilovat o budoucnost, která zahrnuje transparentnost a schopnost kontrolovat a monitorovat systémy AI. To by umožnilo vývojářům po celém světě důkladně prozkoumat, analyzovat a zlepšit AI, zejména se zaměřením na trénovací data a procesy.

Abychom úspěšně přinesli transparentnost do AI, musíme pochopit algoritmy pro rozhodování, které ji podporují, a tím odhalit “černou skříňku” AI. Otevřené a kontrolovatelné modely hrají integrovanou roli při dosažení tohoto cíle, protože poskytují přístup k základnímu kódu, architektuře systému a trénovacím datům pro kontrolu a audit. Tato otevřenost podporuje spolupráci, stimuluje inovace a chrání před monopolizací.

Abychom mohli být svědky uskutečnění této vize, je nezbytné usnadnit změny politik, iniciativy na úrovni komunity a podporovat aktivní účast všech zúčastněných stran, včetně vývojářů, korporací, vlád a veřejnosti.

Aktuální stav AI: Koncentrace a kontrola

V současné době je vývoj AI, zejména pokud jde o velké jazykové modely (LLM), primárně centralizován a ovládán velkými korporacemi. Tato koncentrace moci vyvolává obavy z možného zneužití a klade otázky o spravedlivém přístupu a férové distribuci výhod z pokroků v AI.

Zejména populární modely, jako jsou LLM, postrádají otevřené alternativy během trénovacího procesu kvůli rozsáhlým výpočetním zdrojům, které jsou obvykle k dispozici pouze velkým společnostem. Přestože tato situace zůstává nezměněna, je zajištění transparentnosti ohledně trénovacích dat a procesů zásadní pro usnadnění kontroly a odpovědnosti.

Nedávné zavedení licenčního systému pro určitý typ AI společností OpenAI vyvolalo obavy a obavy z regulatorního zajetí, protože by to mohlo ovlivnit nejen trajektorii AI, ale i širší sociální, ekonomické a politické aspekty.

Potřebujeme transparentní AI

Představte si, že spoléháte na technologii, která činí závažná rozhodnutí o lidském životě, ale nezanechává žádné stopy, žádné pochopení důvodu těchto závěrů. To je místo, kde se transparentnost stává nepostradatelnou.

Nejprve a především je transparentnost zásadní a buduje důvěru. Když se modely AI stanou pozorovatelnými, inspirují důvěru ve svou spolehlivost a přesnost. Kromě toho by taková transparentnost desarrollářům a organizacím umožnila být daleko více odpovědnými za výsledky svých algoritmů.

Dalším kritickým aspektem transparentnosti je identifikace a zmírnění algoritmických předsudků. Předsudky lze vložit do modelů AI několika způsoby.

• Lidský prvek: Datoví vědci jsou náchylní k tomu, aby do modelů vkládali své vlastní předsudky.
• Strojové učení: I když by vědci vytvořili čistě objektivní AI, modely jsou stále velmi náchylné k předsudkům. Strojové učení začíná definovaným datovým souborem, ale poté je uvolněno, aby absorbovalo nová data a vytvořilo nové učební cesty a nové závěry. Tyto výsledky mohou být neúmyslné, zkreslené nebo nepřesné, protože model se snaží vyvinout sám v tom, co se nazývá “datový posun”.

Je důležité být si vědomi těchto potenciálních zdrojů předsudků, aby je bylo možné identifikovat a zmírnit. Jedním ze způsobů, jak identifikovat předsudky, je auditovat data, která se používají k trénování modelu. To zahrnuje hledání vzorců, které by mohly naznačovat diskriminaci nebo nespravedlnost. Další způsob, jak zmírnit předsudky, je použít techniky odstranění předsudků. Tyto techniky mohou pomoci odstranit nebo snížit předsudky z modelu. Transparentností o potenciálu předsudků a přijetím opatření k jejich zmírnění můžeme zajistit, aby se AI používaly způsobem, který je spravedlivý a zodpovědný.

Transparentní modely AI umožňují výzkumníkům a uživatelům prozkoumat trénovací data, identifikovat předsudky a přijmout nápravná opatření. Transparentností se snažíme o spravedlnost a zabráníme šíření diskriminačních praktik. Kromě toho je transparentnost potřebná po celou dobu životnosti modelu, jak je vysvětleno výše, aby se zabránilo datovému posunu, předsudkům a AI halucinacím, které produkují falešné informace. Tyto halucinace jsou zvláště časté u velkých jazykových modelů, ale existují také ve všech formách produktů AI. Kontrolovatelnost AI hraje také důležitou roli při zajišťování výkonu a přesnosti modelů, vytváří bezpečnější a spolehlivější AI, která je méně náchylná k chybám nebo neúmyslným důsledkům.

Achieving transparentnosti v AI však není bez svých výzev. Je nezbytné najít pečlivou rovnováhu, aby se řešily obavy, jako je ochrana osobních údajů, bezpečnost a duševní vlastnictví. To zahrnuje implementaci technik, které chrání soukromí, anonymizaci citlivých dat a stanovení průmyslových standardů a předpisů, které podporují odpovědné postupy transparentnosti.

Vytvoření transparentní AI

Vývoj nástrojů a technologií, které mohou umožnit kontrolovatelnost v AI, je zásadní pro podporu transparentnosti a odpovědnosti v modelech AI.

Kromě vývoje nástrojů a technologií, které umožňují kontrolovatelnost v AI, může technický vývoj také podporovat transparentnost vytvořením kultury transparentnosti kolem AI. Podporou podniků a organizací, aby byly transparentní ve svém použití AI, lze také budovat důvěru a jistotu. Usnadněním kontroly modelů AI a vytvořením kultury transparentnosti kolem AI může technický vývoj zajistit, aby se AI používaly způsobem, který je spravedlivý a zodpovědný.

Technický vývoj však může mít také opačný účinek. Například pokud technologické společnosti vyvinou proprietární algoritmy, které nejsou přístupné veřejnému přezkumu, může to učinit obtížnějším pochopit, jak tyto algoritmy fungují, a identifikovat potenciální předsudky nebo rizika. Zajištění, aby AI prospívala společnosti jako celku, a ne pouze několika málo, vyžaduje vysokou úroveň spolupráce.

Výzkumníci, tvůrci politik a datoví vědci mohou stanovit předpisy a standardy, které najdou správnou rovnováhu mezi otevřeností, ochranou soukromí a bezpečností, aniž by brzdili inovace. Tyto předpisy mohou vytvořit rámce, které podporují sdílení znalostí, zatímco se řeší potenciální rizika a definují očekávání transparentnosti a vysvětlitelnosti v kritických systémech.

Všechny strany spojené s vývojem a nasazením AI by měly priorizovat transparentnost dokumentováním svých rozhodovacích procesů, zpřístupněním zdrojového kódu a přijetím transparentnosti jako základního principu při vývoji systémů AI. To umožňuje každému hrát důležitou roli při prozkoumání metod, jak učinit algoritmy AI více interpretovatelnými, a při vývoji technik, které usnadňují pochopení a vysvětlení složitých modelů.

Nakonec je veřejná účast zásadní v tomto procesu. Zvyšováním povědomí a podporou veřejných diskusí o transparentnosti AI můžeme zajistit, aby se hodnoty společnosti odrážely ve vývoji a nasazení systémů AI.

Závěr

Jak se AI stále více integruje do různých aspektů našeho života, transparentnost AI a používání otevřených modelů se stávají kritickými úvahami. Přijetí kontrolovatelné AI nejen zajišťuje spravedlnost a odpovědnost, ale také stimuluje inovace, zabrání koncentraci moci a podporuje spravedlivý přístup k pokrokům v AI.

Prioritizací transparentnosti, umožněním kontroly modelů AI a podporou spolupráce můžeme společně formovat budoucnost AI, která prospívá všem, zatímco řeší etické, sociální a technické výzvy spojené s touto transformační technologií.