Proč Silicon Valley nemůže “rychle postupovat a věci lámat” v případě AI

Lidé říkají, že Silicon Valley již dospělo beyond hotheaded mentality “rychle postupovat, věci lámat, a později je opravit,” a že společnosti přijaly pomalejší a zodpovědnější přístup ke stavbě budoucnosti našeho odvětví.

Bohužel, současné trendy vyprávějí jiný příběh.

Přes všechny řeči, způsob, jakým společnosti staví věci, se dosud nezměnil. Technologické startupy stále běží na stejném kódu zkratků a falešných slibů, a klesající kvalita produktů to ukazuje. “Rychle postupovat a věci lámat” je stále ještě krédem Silicon Valley – a i kdyby skutečně zemřelo, boom AI jej opět oživil v plné síle.

Poslední pokroky v AI již radikálně mění způsob, jakým pracujeme a žijeme. Pouze za posledních pár let se AI stalo od domény počítačových vědců až po domácí nástroj díky rychlému rozšíření generativních nástrojů AI, jako je ChatGPT. Pokud technologické společnosti “rychle postupují a věci lámají” s AI, nemusí existovat možnost “je později opravit”, zejména když jsou modely trénovány na citlivých osobních datech. Nemůžete vrátit zvon, a ozvěna bude znít celou společností, potenciálně způsobující nezhojitelné škody. Od zlomyslných deepfake až po podvody a kampaně dezinformací již vidíme negativní stránku AI.

Současně však tato technologie má sílu změnit naši společnost k lepšímu. Přijetí AI podniky bude tak revoluční, jako byl přechod do cloudu; společnosti budou zcela přestavět na AI, a stanou se nekonečně produktivnějšími a efektivnějšími díky tomu. Na individuální úrovni se generativní AI stane našim důvěrným asistentem, který nám pomůže dokončit každodenní činnosti, experimentovat tvořivě a odemknout nové znalosti a příležitosti.

Budoucnost AI může být jasná, ale vyžaduje velkou kulturní změnu v místě, kde se tato budoucnost buduje.

Proč “Rychle postupovat a věci lámat” je neslučitelné s AI

“Rychle postupovat a věci lámat” funguje na dvou hlavních předpokladech: prvním, že cokoliv, co nefunguje při spuštění, lze opravit v pozdější aktualizaci; a druhým, že pokud “zlomíte věci”, může to vést k průlomům s dostatečným kreativním kódováním a myšlením mimo krabici. A zatímco mnoho skvělých inovací vyšlo z chyb, toto není penicilin nebo Coca-Cola. Umělé inteligence je mimořádně silná technologie, která musí být zacházena s nejvyšší opatrností. Rizika úniků dat a zneužití jsou prostě příliš vysoká, aby se je dalo ignorovat.

Bohužel, Silicon Valley má špatný zvyk glorifikovat nepořádek vývoje. Společnosti stále propagují nekonečný grind, při kterém dlouhé hodiny a nedostatek rovnováhy mezi pracovním a osobním životem se stávají nezbytnými pro kariéru. Startupy a jejich akcionáři nastavují nerealistické cíle, které zvyšují riziko chyb a úniků. Hranice se tlačí, když možná neměly být. Tyto chování se spojují do toxické průmyslové kultury, která podporuje honbu za hype na úkor etiky.

Stávající tempo vývoje AI nemůže pokračovat v této kultuře. Pokud AI má řešit některé z nejnaléhavějších problémů světa, bude muset být trénováno na vysoce citlivých informacích, a společnosti mají kritickou odpovědnost tyto informace chránit.

Bezpečnostní opatření vyžadují čas na implementaci, a čas je něco, čeho je Silicon Valley přesvědčeno, že nemá. Už nyní vidíme, jak AI společnosti opouštějí nezbytná bezpečnostní opatření pro sake rychlého uvedení nových produktů. To může uspokojit akcionáře v krátkém období, ale dlouhodobá rizika tyto organizace připravují o massive finanční újmu v budoucnu – neřkuli o úplném kolapsu veškeré důvěry, kterou si vytvořily.

Existuje také vážné riziko spojené s porušením autorských práv a duševního vlastnictví, jak je patrné z různých federálních žalob v rámci AI a autorských práv. Bez řádných ochranných opatření proti porušování autorských práv a porušování duševního vlastnictví jsou ohrožena živobití lidí.

Nové krédo: “Rychle postupovat strategicky, aby být nezničitelný”

Minulý květen, Evropská unie schválila první komplexní zákon o AI, Zákon o umělých inteligencích, aby spravovala rizika prostřednictvím rozsáhlých požadavků na transparentnost a úplného zákazu AI technologií, které jsou považovány za nepřijatelné riziko. Zákon odráží historicky opatrný přístup EU k nové technologii, který řídil její strategie AI od prvních jisker současného boomu. Místo toho, aby jednaly na základě náhlého rozhodnutí, směřují všechny své úsilí do vytváření něčeho, co vydrží.

To není převažující přístup ve Spojených státech, navzdory mnoha pokusům o regulaci. Na legislativní frontě jednotlivé státy navrhují své vlastní zákony, sahající od zoufale nedostatečných po masivně přehnané, jako je návrh kalifornského SB-1047. Mezitím se AI závod zintenzivňuje, a Silicon Valley setrvává ve svých starých způsobech.

Venture capitalists pouze zapalují problém. Když investují do nových startupů, neptají se na bezpečnostní opatření a kontrolní mechanismy. Chtějí získat minimálně životaschopný produkt co nejdříve, aby mohli inkasovat své šeky. Silicon Valley se stal líhní rychlých zbohatlíků, kde lidé chtějí vydělat co nejvíce peněz, za co nejkratší dobu, s co nejmenším úsilím – a nezáleží jim na důsledcích.

Pro éru AI bych rád navrhl náhradu za “rychle postupovat a věci lámat”: rychle postupovat strategicky, aby být nezničitelný. Může to nemít stejnou poetickou sílu jako dříve, ale odráží myšlení, které SV potřebuje v dnešním technologickém prostředí.

Jsem optimistický, že technologický průmysl může být lepší, a začíná to přijetím zákaznicky orientovaného, budoucnostně orientovaného myšlení zaměřeného na vytváření produktů, které vydrží, a udržování těchto produktů způsobem, který buduje důvěru u uživatelů. Více uvědomělého přístupu udělá lidi a organizace sebevědomými o tom, že přinesou AI do svých životů – a to zní bastante ziskově.

Směrem k udržitelné budoucnosti

Technologický svět trpí přemožujícím tlakem být první. Zakladatelé cítí, že pokud nebudou okamžitě skočit na příští velkou věc, zmeškávají loď. Samozřejmě, být raným hráčem může zvýšit šance na úspěch, ale být “první” by nemělo přijít na úkor bezpečnosti a etiky.

Když je váš cíl postavit něco, co vydrží, budete se více dívat na rizika a slabá místa. Tímto způsobem také najdete nové příležitosti pro průlomy a inovace. Společnosti, které mohou proměnit slabosti v sílu, jsou ty, které mohou vyřešit zítřejší výzvy, dnes.

Hype je skutečný, a nová éra AI si to zaslouží. Ale v naší touze odemknout sílu této technologie nemůžeme zapomenout na nezbytná bezpečnostní opatření, která učiní tyto produkty spolehlivými a důvěryhodnými. AI slibuje zlepšit naše životy k lepšímu, ale může také způsobit nepředstavitelné škody, pokud bezpečnost a etika nejsou jádrem procesu vývoje.

Pro Silicon Valley by to mělo být probuzením: je čas opustit mentalitu “rychle postupovat, věci lámat, a později je opravit”. Protože když je budoucnost teď, není žádný “později”.