Kimberly Nevala, ředitelka obchodních strategií ve společnosti SAS – Interview Series

SAS je globální analytická a umělá inteligence společnost, která nabízí řešení v oblasti správy dat, pokročilé analytiky a umělé inteligence. Její vlajková loď, SAS Viya, zdůrazňuje rychlost, škálovatelnost a důvěryhodné rozhodování pro organizace napříč odvětvími. Společnost předvádí použití případů v detekci podvodů, optimalizaci marketingu, IoT a řízení rizik, zatímco také poskytuje bezplatné zkušební verze, školení a akademické programy na podporu širokého přijetí analytiky.

Vybudujete svou kariéru vedoucí organizacemi prostřednictvím komplexních kulturních, strategických a technických transformací – od manažerského poradenství až po vedení obchodních strategií ve společnosti SAS. Jak tato cesta formovala váš názor na to, co organizace skutečně potřebují k přijetí umělé inteligence smysluplným a inkluzivním způsobem?

Přestože je rozsah nových schopností umělé inteligence rozsáhlý a jejich důsledky jsou stejně seizmické, základní stavební kameny pro řízení technické transformace se nezměnily. Ačkoli důsledky nesprávného rozhodnutí jsou nyní větší.

Nejprve je třeba mít jasnou formulaci hodnot a priorit organizace. Společně s jasným pochopením toho, jak tyto faktory ovlivňují, jak zaměstnanci nebo zákazníci interagují s touto značkou. Dále je třeba mít široké pochopení nových technologií, včetně jejich vrozených omezení a omezení. Nakonec je třeba mít přehled o předvídatelných mezích a bariérách pro přijetí založených na prvním a druhém bodě. To není omezeno pouze na technické odbornosti, ale také na obchodní zdatnost.

Všechny tyto faktory musí být poté podporovány robustní, ale adaptivní správou. Podpořenou cílenými, úmyslnými investicemi do lidí a technologií.

Mluvila jste o tom, že znalost umělé inteligence se stává tak základní jako strategické myšlení a finanční odbornost. Jak vypadá znalost umělé inteligence v praxi pro dnešní lídry?

Test praktické znalosti je jednoduchý. Mají vaši lídři znalosti potřebné k inteligentnímu dotazu na navrhované řešení umělé inteligence?

To neznamená, že lídři potřebují mít hluboké znalosti kódu. Spíše by lídři na všech úrovních měli prokázat kontextovou kompetenci. To znamená, že jsou vzdělaní v faktorech, které by mohly ovlivnit nebo ovlivnit jejich úsudek o systému umělé inteligence. Tyto faktory se budou lišit v závislosti na roli lídra. Konkrétně v závislosti na rozsahu rozhodnutí, které jsou pověřeni učinit.

Jednoduše řečeno, test je tento: znají, jaké otázky položit? Například může výkonný ředitel identifikovat lidské a technické faktory s největšími dopady na životaschopnost a riziko profilu daného řešení umělé inteligence? Obecně i v aplikovaném kontextu.

Lépe: znají omezení technologie? Public relations a marketing se zaměřují na pozitivní stránku, zatímco školení založené na zkušenostech odhaluje omezení. Tato omezení mohou určit procedurální a technické zábrany potřebné pro efektivní nasazení daného řešení umělé inteligence. V tomto ohledu je rozsah, v jakém lídři rozumí a identifikují tato omezení, často rozdíl mezi smysluplným přijetím a selháním.

Proč je genderová rovnost ve vedení umělé inteligence tak zásadní otázka právě teď – a jaká rizika budeme čelit, pokud ženy zůstanou pasivními přijímateli spíše než aktivními tvůrci vývoje a správy umělé inteligence?

Jsem privilegovaná pracovat, mluvit a učit se od žen, které pracují napříč všemi aspekty umělé inteligence každý den. Proto pro mě označení žen jako pasivních přijímatelů evokuje dětinské a zavádějící obrazy. Ženy jsou aktivně zapojeny do vedení úsilí v oblasti umělé inteligence, i když v menším počtu, než by naznačoval vzdělaný populací.

Genderová nerovnost v technologiích je multifacetední otázka, která předchází umělé inteligenci. Neexistuje žádný jediný řešení, protože existuje mnoho faktorů. Některé z nich vedou k menšímu financování nebo uznání žen v oboru. Je ironické, že ženy, které získají široké uznání, často pracují v oblasti zodpovědné nebo etické umělé inteligence. Zpočátku byly označeny jako anti-umělé inteligence, jejich práce je nyní přehodnocována, jak se postoje vyvíjejí.

Bez ohledu na to, bez úmyslného zásahu, riskujeme systémy umělé inteligence, které zesilují stávající nerovnosti v měřítku. Vidíme to v používání automatizovaných systémů pro screening a nábor, které preferují mužské kandidáty kvůli historickým_biasům zachyceným v datech.

Chybějící rozmanitost na všech úrovních znamená, že rozhodnutí o typech systémů umělé inteligence, které se budují, jak jsou nasazeny, jejichž perspektivy a potřeby se řeší a jejichž ne, jsou diktovány stále více izolovanou skupinou. To je špatné pro každého. Rozmanité manažerské týmy vedou k lepšímu obchodnímu výsledku. Rozmanité týmy produktů dodávají řešení umělé inteligence, která jsou více robustní, odolná a fungují lépe.

Na konci, pokud systémy umělé inteligence neřeší perspektivy a potřeby žen (nebo jiných znevýhodněných demografických skupin) nebo jsou prokázány jako aktivně škodlivé, co je pobídkou pro přijetí? Kromě toho, že tyto systémy budou nasazeny s nebo bez naší účasti. Zahrnutím rozmanitých hlasů a vynucením správy umělé inteligence je možné dodržet slib umělé inteligence.

Vzhledem k nejnovějším inovacím SAS – jako jsou agenty umělé inteligence v SAS Viya, inteligentní rozhodovací rámce, syntetické datové nástroje jako Data Maker a vlastní modely umělé inteligence – jak organizace přehodnocují své řídící struktury, aby zvýšily znalost umělé inteligence a rovnost?

Organizace si uvědomují, že rozsah a dopad těchto aplikací přesahují kapacitu jediného rozhodce nebo činitele. Úspěšné nasazení pokročilé umělé inteligence závisí na důvěře a zapojení “vesnice”. Potenciální problémy a pasti jsou příliš široké, než aby je mohl účinně řešit jediný lídr.

V uznání této reality se lídři v oblasti umělé inteligence naklánějí k participativnímu designu a správnímu modelu. V tomto modelu se znalost a rovnost nezvyšují formálními programy literární a školicími programy, ani pouze iniciativami HR. Ale znalostním sdílením a kolektivním rozhodováním, ke kterému dochází, když se rozmanité perspektivy z celého podnikového ekosystému spojí. Tyto spolupráce nejsou omezeny striktně na rozhodce, ale aktivně zahrnují lidi, jejichž práce bude ovlivněna systémem umělé inteligence, který se zvažuje. Zatímco primárně je to doména veřejných a vládních agentur dnes, některé organizace se aktivně zapojily do externích zúčastněných stran, včetně zákaznických skupin a veřejných zájmů.

Jaké praktické kroky mohou ambiciózní lídři – zejména ženy – učinit dnes, aby vybudovali důvěryhodnost a agenturu v trhu, který je stále více ovlivňován umělou inteligencí?

První je uznat, že máme agenturu. Každý jedinec má příležitost ovlivnit vývoj umělé inteligence mnoha způsoby: prostřednictvím úmyslného konzumování a používání konkrétních nástrojů umělé inteligence; prostřednictvím advokacie a kolektivního zapojení do komunitních fór a místních politik; připojením se k zájmovým skupinám zaměstnanců nebo komunitním sítím (a pokud tyto skupiny neexistují, založením jedné); a zvednutím ruky, aby se zúčastnili programů umělé inteligence nebo vedli iniciativy na pracovišti.

Druhý je investovat do vlastní znalosti na úrovni, která má smysl pro vás. Existuje mnoho online zdrojů, které pokrývají kurzy o správě a etice umělé inteligence, až po online univerzitní úvodní třídy, které pokrývají celý spektrum schopností umělé inteligence. Mnoho z těchto možností je poskytováno zdarma nebo za nominální poplatky.

Nakonec se připojte a aktivně přispívejte do skupin pro sítě a speciální zájem o umělou inteligenci. Tyto skupiny poskytují příležitost nejen sdílet znalosti, ale také kultivovat vztahy, které mohou poskytnout mentorství, aliance a důvěryhodnost, zatímco budujete svou odbornost a síť.

Mluvila jste dlouho o kulturní transformaci, správě dat a zodpovědném přijetí technologií. Jak tyto základní prvky podporují rozvoj lídrů, kteří jsou připraveni na umělou inteligenci?

Tradiční odpověď je, že tyto základy vybavují lídry nástroji, aby řešili složitost, spravovali riziko, snižovali náklady a zvyšovali produktivitu. Všechny tyto výsledky jsou pravdivé, nicméně nejvíce podceňovaný benefit těchto praktik je důvěra.

Pokud jsou tyto prvky provedeny správně, vytvářejí prostředí, ve kterém mohou zaměstnanci experimentovat a inovovat důvěrně v rámci etického, právního a obchodního étosu společnosti.

To je zvláště důležité, protože dostupná řešení sahají od osobních produktivních nástrojů po inženýrské, zabudované pracovní postupy. Rozhodnutí o používání umělé inteligence se neodehrávají pouze v zasedací místnosti nebo v kontextu formálního projektu umělé inteligence. Od vývoje až po nasazení a dále, mnoho faktorů ovlivňuje, jak systém funguje a je vnímán.

Reaktivní vedení umožňuje jednotlivcům a týmům na všech úrovních aktivně experimentovat, činit včas rozhodnutí o tom, zda a jak pokročit s řešeními, a budovat lépe v rámci systému regulací.

Ze svých rozhovorů na podcastu Pondering AI, jaké poznatky o zodpovědném a inkluzivním vedení jsou nejdůležitější pro organizace, které procházejí transformací umělé inteligence?

Jazyk umělé inteligence je složitý. Mluvíme o systémech umělé inteligence, které myslí, halucinují a dokonce i chybně jednají. Konceptualizujeme systémy umělé inteligence jako kolegy nebo týmové členy. Jako takový je to lákavé přenést předpoklady a očekávání z lidí na umělou inteligenci. Tím ztrácíme焦 na lidskou zodpovědnost, účast a zodpovědné použití. Také zakrýváme přísnost vyžadovanou pro dodání robustních, odolných systémů umělé inteligence, které, když jsou provedeny dobře, vypadají jednoduše.

To činí kritickým, aby jsme centrovali naše chápání umělé inteligence jako lidského úsilí. Navzdory převládajícím antropomorfním narativům systémy umělé inteligence vždy odrážejí hodnoty a záměry svých tvůrců: problémy, které se snažíme vyřešit, techniky nebo modely, které používáme, data, která používáme pro školení, a jak uživatelé interagují se systémem. Každý systém umělé inteligence je produktem těchto lidských rozhodnutí.

Důvěra a důvěra v systémy umělé inteligence nepřicházejí z umělé inteligence. Lidé nakonec rozhodují o automatizaci nebo augmentaci práce. Není to systém, který určuje, jaký level přesnosti nebo vysvětlitelnosti je dostatečný. Není to umělá inteligence, která určuje nejvhodnější model interakce uživatele. Když chatbot chybně jednají, neznamená to, že systém je postižen; degraduje značku a bottom line společnosti, která používá umělou inteligenci.

To je proč je lidsky orientovaná umělá inteligence klíčová.

Mnohé organizace mají pokročilé nástroje umělé inteligence – ale stále bojují s kulturou, správou a inkluzí. Ze své zkušenosti, jaké zásahy nebo postoje pomáhají organizacím mostem tuto propast?

Umělá inteligence, jako mnoho nových technologií, je podrobena stejnému hype cyklu jako její předchůdci. Během éry velkých dat se stalo módou být datově řízený. Málo organizací splnilo svou vizi. Ty, které ano, byly disciplinované při řešení identifikovatelných problémů, jako je snížení doby plnění nebo umožnění samoobsluhy. Není náhodou, že mnoho z těchto společností je nyní lídry v oblasti umělé inteligence.

Při identifikaci iniciativ umělé inteligence začínejte s jasnými obchodními cíli a měřitelnými výsledky, poté identifikujte, které dostupné techniky umělé inteligence jsou vhodné pro účel. Odolte pokušení být módní. Inovativní řešení nudných problémů nakonec přinášejí dividendy. Řešte nudné, opakující se procesy a úkoly, které se vyskytují v měřítku.

Nebudete to vždycky dělat správně. Ale zaměřením své pozornosti a investic s obchodním výsledkem na mysli umožňuje nejvyšší pravděpodobnost úspěchu.

Jak systémy umělé inteligence budou stále více autonomní a zabudované do rozhodování – prostřednictvím nástrojů, jako jsou agenty umělé inteligence a kopiloti – jaké etické zábrany nebo správní struktury jsou podle vás nezbytné pro udržení důvěry, transparentnosti a rovnosti ve vedení?

Ve společnosti SAS definujeme správu umělé inteligence prostřednictvím hlediska dohledu, dodržování předpisů, provozu a kultury. Bez ohledu na to, jaký rámec přijmete, jsou dva faktory, které bych zdůraznil.

První je, že každá aplikace umělé inteligence, i když je postavena na stejném základním modelu nebo datech, musí být hodnocena samostatně a průběžně. Co funguje pro marketing, nemusí fungovat pro finance. Přijatelná “halucinace”, tj. chybová rychlost, pro zaměstnance nebude účinná v interakcích se zákazníky. Kromě toho mohou změny v chování uživatelů, toku dat a mnoha dalších faktorech rychle změnit chování a výstupy systému umělé inteligence.

Druhý je, že etika a správa umělé inteligence neexistují v vakuum. Povahou těchto řešení je nutná spolupráce s podnikovou správou, právním a regulačním dodržováním, podnikovým řízením rizik a kybernetickou bezpečností. Využívání a rozšiřování těchto praktik, spíše než jejich přetvoření, může poskytnout rychlý start.

Wenn se díváte dopředu, jak se podle vás budou měnit kompetence vedení v světě ovlivněném umělou inteligencí – a jaké jsou důsledky pro organizace, které nebudou pěstovat tuto novou znalost?

Věřím, že předvídavost a odolnost se stanou stále důležitějšími. Rychlá rychlost změn vede lídry, aby průběžně hodnotili a přizpůsobovali obchodní strategie a taktiky, jak se technologie vyvíjí. Lídři musí hodnotit hodnotu, životaschopnost a riziko napříč různými časovými horizonty a perspektivami. Vzhledem k sociotechnické povaze umělé inteligence musí tyto perspektivy zahrnovat nejen akcionáře, ale také zákazníky, zaměstnance a někdy i společnost jako celek. Předvídavost je nutná k navigaci v tomto krajině.

Odolnost je také faktorem v umělé inteligenci. Jak Jordan Loewen-Colón eloquently notes v souvislosti s přijetím a správou umělé inteligence: umělá inteligence je proces, ne přepínač. Schopnost úmyslně se učit, přizpůsobovat a průběžně zlepšovat, zatímco zůstáváte na obecném kurzu, bude lišit lídry od ostatních.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit SAS.