Etické využití umělé inteligence není pouze správné, ale také dobré pro podnikání

Jak se používání umělé inteligence rozšiřuje a organizace ve všech odvětvích přijímají nástroje a aplikace založené na umělé inteligenci, není žádným překvapením, že kyberzločinci již našli způsoby, jak tyto nástroje cílit a zneužívat ve prospěch. Ale zatímco je důležité chránit umělou inteligenci před potenciálními kybernetickými útoky, problém rizik umělé inteligence sahá daleko za bezpečnost. V celém světě vlády začínají regulovat, jak je umělá inteligence vyvíjena a používána – a podniky mohou utrpět značné reputační škody, pokud budou používány způsobem, který je považován za nevhodný. Dnešní podniky zjistily, že používání umělé inteligence etickým a zodpovědným způsobem není pouze správné, ale také kritické pro budování důvěry, dodržování předpisů a dokonce i zlepšování kvality svých produktů.

Regulační realita okolo umělé inteligence

Rychle se vyvíjející regulační prostředí by mělo být váženou starostí pro dodavatele, kteří nabízejí řešení založená na umělé inteligenci. Například EU AI Act, který byl přijat v roce 2024, přijímá přístup založený na riziku pro regulaci umělé inteligence a považuje systémy, které se podílejí na praktikách, jako je sociální hodnocení, manipulativní chování a další potenciálně neetické činnosti, za “nepřijatelné”. Tyto systémy jsou zakázány, zatímco jiné “vysoce rizikové” systémy umělé inteligence jsou povinny dodržovat přísnější povinnosti týkající se hodnocení rizik, kvality dat a transparentnosti. Pokuty za nesplnění předpisů jsou přísné: společnosti, které používají umělou inteligenci způsobem, který je považován za nepřijatelný, mohou být pokutovány až do výše 35 milionů eur nebo 7 % svého ročního obratu.

EU AI Act je pouze jedním z předpisů, ale jasně ilustruje vysoké náklady na nesplnění určitých etických práhů. Státy jako Kalifornie, New York, Colorado a další již přijaly své vlastní směrnice pro umělou inteligenci, většina z nich se zaměřuje na faktory, jako je transparentnost, ochrana dat a prevence předpojatosti. A přestože Organizace spojených národů postrádá mechanismy vynucování, které mají vlády, je třeba poznamenat, že všechny 193 členů OSN jednomyslně potvrdily, že “lidská práva a základní svobody musí být respektovány, chráněny a podporovány po celou dobu životního cyklu systémů umělé inteligence” v rezoluci z roku 2024. V celém světě jsou lidská práva a etické úvahy stále více na prvním místě, pokud jde o umělou inteligenci.

Dopad špatné etiky umělé inteligence na reputaci

Zatímco problémy se dodržováním předpisů jsou velmi reálné, příběh nekončí tam. Skutečnost je taková, že priorita etického chování může fundamentálně zlepšit kvalitu řešení umělé inteligence. Pokud systém umělé inteligence má vrozenou předpojatost, je to špatné z etických důvodů, ale také to znamená, že produkt nefunguje tak, jak by měl. Například certain technologie rozpoznávání obličeje byla kritizována za neschopnost identifikovat tmavé tváře tak dobře jako světlé tváře. Pokud technologie rozpoznávání obličeje selhává při identifikaci významné části subjektů, představuje to vážný etický problém, ale také to znamená, že technologie sama o sobě neposkytuje očekávaný benefit a zákazníci nebudou spokojeni. Řešení předpojatosti nejen zmírňuje etické obavy, ale také zlepšuje kvalitu produktu samotného.

Obavy z předpojatosti, diskriminace a spravedlnosti mohou dodavatele dostat do problémů s regulačními orgány, ale také erodují důvěru zákazníků. Je dobré mít certain “červené linie”, pokud jde o to, jak je umělá inteligence používána a s jakými poskytovateli spolupracovat. Poskytovatelé umělé inteligence spojení s dezinformacemi, hromadným dohledem, sociálním hodnocením, represivními vládami nebo dokonce pouze s obecným nedostatkem odpovědnosti mohou zákazníky znepokojit a dodavatelé by měli mít na paměti, s kým spolupracují. Transparentnost je téměř vždy lepší – ti, kteří odmítají zveřejnit, jak je umělá inteligence používána nebo s kým spolupracují, vypadají, jako by skrývali něco, co obvykle nefosteruje pozitivní sentiment na trhu.

Identifikace a zmírnění etických červených vlajek

Zákazníci se stále více učí hledat známky neetického chování umělé inteligence. Dodavatelé, kteří slibují více, než mohou dodat, a kteří nedokáží vysvětlit své schopnosti umělé inteligence, pravděpodobně nejsou upřímní ohledně toho, co jejich řešení skutečně mohou udělat. Špatné postupy při zpracování dat, jako je nadměrné skenování dat nebo neschopnost odhlásit se z výcviku modelů umělé inteligence, mohou také vyvolat červené vlajky. Dnes by dodavatelé, kteří používají umělou inteligenci ve svých produktech a službách, měli mít jasnou, veřejně dostupnou rámcovou smlouvu s mechanismy pro odpovědnost. Ti, kteří vyžadují vynucenou arbitráž – nebo ještě hůře, neposkytují žádnou možnost odvolání – pravděpodobně nebudou dobrými partnery. Totéž platí pro dodavatele, kteří nejsou ochotni nebo nemohou poskytnout metriky, podle kterých hodnotí a řeší předpojatost ve svých modelech umělé inteligence. Dnešní zákazníci nedůvěřují černým skříňkám – chtějí vědět, kdy a jak je umělá inteligence nasazena v řešeních, na kterých závisí.

Pro dodavatele, kteří používají umělou inteligenci ve svých produktech, je důležité dát zákazníkům najevo, že etické úvahy jsou na prvním místě. Ti, kteří školí své vlastní modely umělé inteligence, potřebují silné procesy prevence předpojatosti a ti, kteří se spoléhají na externí dodavatele umělé inteligence, by měli priorizovat partnery s dobrou pověstí. Je také důležité nabízet zákazníkům volbu: mnozí jsou stále nekomfortní s důvěrou ve své údaje řešeníům umělé inteligence a poskytování “odhlášení” z funkcí umělé inteligence jim umožňuje experimentovat ve vlastním tempu. Je také kritické být transparentní ohledně původu trénovacích dat. Opět, je to etické, ale je to také dobré pro podnikání – pokud zákazník zjistí, že řešení, na kterém závisí, bylo vyškoleno na autorských datech, otevírá se jim možnost regulačních nebo právních opatření. Přesto, že vše je otevřené, dodavatelé mohou budovat důvěru se svými zákazníky a pomoci jim vyhnout se negativním důsledkům.

Priorita etiky je chytré podnikatelské rozhodnutí

Důvěra vždy byla důležitou součástí každé obchodní relace. Umělá inteligence nezměnila to – ale přidala nové úvahy, které dodavatelé potřebují řešit. Etické obavy nejsou vždy na prvním místě pro obchodní lídry, ale pokud jde o umělou inteligenci, neetické chování může mít vážné důsledky – včetně reputační újmy a potenciálních regulačních a dodržovacích porušení. Horší je, že nedostatek pozornosti k etickým úvahám, jako je zmírnění předpojatosti, může aktivně poškodit kvalitu produktů a služeb dodavatele. Jak používání umělé inteligence dále zrychluje, dodavatelé stále více uznávají, že priorita etického chování není pouze správná, ale také dobré pro podnikání.