Etické použití AI není jen správnou věcí, kterou je třeba udělat – je to také dobré pro podnikání

Jak se používání AI rozšiřuje a organizace ve všech odvětvích přijímají nástroje a aplikace založené na AI, není žádným překvapením, že kyberzločinci již nacházejí způsoby, jak tyto nástroje cílit a využívat ve svůj prospěch. Ale zatímco je důležité chránit AI před potenciálními kybernetickými útoky, problém AI rizik sahá daleko za bezpečnost. V celé globální společnosti začínají vlády regulovat, jak se AI vyvíjí a používá – a podniky mohou utrpět významné reputační škody, pokud jsou nalezeny používající AI nevhodným způsobem. Dnešní podniky objevují, že používání AI etickým a odpovědným způsobem není jen správnou věcí, kterou je třeba udělat – je to kritické pro budování důvěry, udržování souladu a dokonce i zlepšování kvality jejich produktů.

Regulační realita okolo AI

Rychle se vyvíjející regulační krajina by měla být váženou starostí pro dodavatele, kteří nabízejí AI-založená řešení. Například EU AI Act, přijatý v roce 2024, přijímá přístup založený na riziku k regulaci AI a považuje systémy, které se podílejí na praktikách, jako je sociální hodnocení, manipulativní chování a další potenciálně neetické činnosti, za “nepřijatelné”. Tyto systémy jsou zakázány přímo, zatímco jiné “vysoce rizikové” AI systémy jsou podrobeny přísnějším povinnostem týkajícím se hodnocení rizik, kvality dat a transparentnosti. Pokuty za nesoulad jsou přísné: společnosti, které byly nalezeny používající AI nevhodným způsobem, mohou být pokutovány až do výše 35 milionů eur nebo 7 % jejich ročního obratu.

EU AI Act je pouze jedním z legislativních předpisů, ale jasně ilustruje vysoké náklady na nesplnění určitých etických práhů. Státy, jako je Kalifornie, New York, Colorado a další, přijaly své vlastní směrnice pro AI, většina z nich se zaměřuje na faktory, jako je transparentnost, ochrana dat a prevence předpojatosti. A ačkoli Organizace spojených národů postrádá vymáhací mechanismy, které mají vlády, je třeba poznamenat, že všechny 193 členů OSN jednomyslně potvrdily, že “lidská práva a základní svobody musí být respektovány, chráněny a propagovány po celou dobu životního cyklu umělých inteligencí” v rezoluci z roku 2024. V celé globální společnosti jsou lidská práva a etické úvahy stále více na prvním místě, pokud jde o AI.

Reputační dopad špatné AI etiky

Zatímco problémy se souladem jsou velmi reálné, příběh nekončí tam. Skutečností je, že priorita etického chování může fundamentálně zlepšit kvalitu AI řešení. Pokud má AI systém vrozenou předpojatost, je to špatné z etických důvodů – ale také to znamená, že produkt nefunguje tak, jak by měl. Například certain facial recognition technology byl kritizován za neschopnost identifikovat tmavé tváře tak dobře jako světlé tváře. Pokud je řešení rozpoznávání obličeje selhává identifikovat významnou část subjektů, představuje to vážný etický problém – ale také to znamená, že technologie sama o sobě neposkytuje očekávaný benefit a zákazníci nebudou spokojeni. Řešení předpojatosti nejen zmírňuje etické obavy, ale také zlepšuje kvalitu produktu samotného.

Obavy z předpojatosti, diskriminace a spravedlnosti mohou dostat dodavatele do problémů s regulačními orgány, ale také erodují důvěru zákazníků. Je dobré mít určitá “červená linie”, pokud jde o to, jak se AI používá a s jakými poskytovateli spolupracovat. Poskytovatelé AI spojení s dezinformacemi, hromadným dohledem, sociálním hodnocením, útlakem vlád nebo dokonce jen obecným nedostatkem odpovědnosti mohou učinit zákazníky nervózními a dodavatelé by měli mít na paměti, když zvažují, s kým spolupracovat. Transparentnost je téměř vždy lepší – ti, kteří odmítají zveřejnit, jak se AI používá nebo kdo jsou jejich partneři, vypadají, jako by skrývali něco, co obvykle nefosteruje pozitivní sentiment na trhu.

Identifikace a zmírnění etických červených vlajek

Zákazníci se stále více učí hledat známky neetického chování AI. Dodavatelé, kteří slibují více, než mohou dodat, a špatně vysvětluje své AI schopnosti, jsou pravděpodobně méně než pravdiví o tom, co jejich řešení mohou skutečně udělat. Špatné datové postupy, jako je nadměrné skenování dat nebo neschopnost opt-out z AI modelového školení, mohou také vyvolat červené vlajky. Dnes by dodavatelé, kteří používají AI ve svých produktech a službách, měli mít jasnou, veřejně dostupnou řídící strukturu s mechanismy pro odpovědnost. Ti, kteří vyžadují nucenou arbitráž – nebo horší, neposkytují žádnou nápravu – pravděpodobně nebudou dobrými partnery. Totéž platí pro dodavatele, kteří nejsou ochotni nebo nemohou poskytnout metriky, podle kterých hodnotí a řeší předpojatost ve svých AI modelech. Dnešní zákazníci nedůvěřují černým krabicím – chtějí vědět, kdy a jak se AI nasazuje v řešeních, na kterých se spoléhají.

Pro dodavatele, kteří používají AI ve svých produktech, je důležité dát zákazníkům najevo, že etické úvahy jsou na prvním místě. Ti, kteří školicí své vlastní AI modely, potřebují silné procesy prevence předpojatosti a ti, kteří se spoléhají na externí AI dodavatele, musí priorizovat partnery s pověstí férového chování. Je také důležité nabízet zákazníkům volbu: mnozí jsou stále nepohodlní důvěřovat svá data AI řešení a poskytnout “opt-out” pro AI funkce jim umožňuje experimentovat ve vlastním tempu. Je také kritické být transparentní o tom, odkud pocházejí školicí data. Opět, je to etické, ale je to také dobré pro podnikání – pokud zákazník zjistí, že řešení, na kterém se spoléhají, bylo školeno na autorská data, otevírá se jim možnost regulační nebo právní akce. Předložením všeho do otevřeného prostoru mohou dodavatelé budovat důvěru se svými zákazníky a pomoci jim vyhnout se negativním výsledkům.

Priorita etiky je chytré obchodní rozhodnutí

Důvěra byla vždy důležitou součástí každé obchodní vztahu. AI nezměnila to – ale přinesla nové úvahy, které dodavatelé potřebují řešit. Etické obavy nejsou vždy na prvním místě pro obchodní lídry, ale pokud jde o AI, neetické chování může mít vážné důsledky – včetně reputačních škod a potenciálních regulačních a souladných porušení. Horší ještě, nedostatek pozornosti etickým úvahám, jako je zmírnění předpojatosti, může aktivně poškodit kvalitu produktů a služeb dodavatele. Jak používání AI pokračuje v urychlování, dodavatelé stále více uznávají, že priorita etického chování není jen správnou věcí, kterou je třeba udělat – je to také dobré pro podnikání.