Hvorfor Silicon Valley ikke kan “Beveg deg raskt og bryt ting” når det gjelder AI

Folk sier at Silicon Valley har modnet ut over den hetsige holdningen til “beveg deg raskt, bryt ting, og fikse dem senere”, og at selskapene har adoptert en langsommere og mer ansvarlig tilnærming til å bygge fremtiden for vår bransje.

Uheldigvis forteller nåværende trender en annen historie.

Til tross for alle ordene, har måten selskapene bygger ting på, ennå ikke endret seg i praksis. Teknologistartups kjører fortsatt på samme kode av kortveier og falske løfter, og fallende kvalitet på produkter viser det. “Beveg deg raskt og bryt ting” er fremdeles Silicon Valleys credo – og selv om det virkelig hadde dødd, har AI-boomet gjenopplivet det i full kraft.

Nylige fremgang i AI har allerede radikalt endret måten vi arbeider og lever på. Bare i løpet av de siste par årene, har AI gått fra å være et domene for datavitenskapsprofesjonelle til et husholdningsverktøy takket være den raske spredningen av generative AI-verktøy som ChatGPT. Hvis teknologiselskaper “beveger seg raskt og bryter ting” med AI, kan det kanskje ikke finnes noen mulighet til å “fikse dem senere”, særlig når modellene er trent på sensitive personlige data. Du kan ikke gjøre ugjort det du allerede har gjort, og ekkoet vil fortsette å gjøre seg gjeldende i samfunnet, potensielt og forårsake uopprettelige skader. Fra skadelige deepfakes til svindelplaner til desinformasjonskampanjer, ser vi allerede den negative siden av AI.

Samtidig har denne teknologien imidlertid kraften til å endre vårt samfunn til det bedre. Bedriftsadoptsjon av AI vil være like revolusjonerende som flyttingen til skyen var; selskaper vil fullstendig bygge om på AI, og de vil bli uendelig mer produktive og effektive på grunn av det. På et individuelt nivå vil generativ AI bli vår pålitelige assistent, som hjelper oss å fullføre hverdagsaktiviteter, eksperimentere kreativt og låse opp nye kunnskaper og muligheter.

AI-fremtiden kan være en lys en, men den krever en stor kulturell endring i det stedet hvor fremtiden bygges.

Hvorfor “Beveg deg raskt og bryt ting” er uforenlig med AI

“Beveg deg raskt og bryt ting” opererer på to store antagelser: en, at alt som ikke fungerer ved lansering kan patches i en senere oppdatering; og to, at hvis du “bryter ting”, kan det føre til gjennombrudd med nok kreativ kode og utenom-boks tenkning. Og selv om mange store innovasjoner har kommet ut av feil, er dette ikke penicillin eller Coca-Cola. Kunstig intelligens er en usedvanlig kraftfull teknologi som må håndteres med ytterste forsiktighet. Risikoen for datalekkasjer og kriminell misbruk er enkelte for høye til å ignorere.

Uheldigvis har Silicon Valley en dårlig vane med å glorifisere uroen i utviklingsprosessen. Selskaper fremdeles promoverer en ustopperlig grind, hvor lange timer og en mangel på arbeidslivsbalanse blir nødvendig for å gjøre en karriere. Startups og deres aksjonærer setter urealistiske mål som øker risikoen for feil og hjørneklipping. Grenser presses når, kanskje, de ikke burde. Disse atferdene samler seg til en giftig industriell kultur som oppmuntrer til hype-jakt på bekostning av etikk.

Den nåværende takten i AI-utviklingen kan ikke fortsette innenfor denne kulturen. Hvis AI skal løse noen av verdens mest presserende problemer, må det trenes på høyt sensitive informasjoner, og selskaper har en kritisk ansvar til å beskytte denne informasjonen.

Sikkerhetstiltak tar tid å implementere, og tid er noe Silicon Valley er fullstendig overbevist om at det ikke har. Allerede ser vi AI-selskaper som går glipp av nødvendige sikkerhetstiltak for å pumppe ut nye produkter. Dette kan tilfredsstille aksjonærer på kort sikt, men de lange risikoen setter disse organisasjonene opp for massive finansielle skader nedover veien – ikke til å nevne en fullstendig kollaps av all goodwill de har fostret.

Det er også en alvorlig risiko forbundet med IP- og opphavsrettsbrudd, som vist i de forskjellige føderale søksmål i spill som involverer AI og opphavsrett. Uten nødvendige beskyttelser mot opphavsrettsbrudd og IP-overtradelser, er folks levebrød i fare.

Til AI-startup som ønsker å blitse gjennom utviklingen og gå til markedet, ser dette ut som mye å ta hensyn til – og det er. Å beskytte mennesker og informasjon krever hardt arbeid. Men det er uforhandelbart arbeid, selv om det tvinger AI-utviklere til å være mer omtenksomme. I virkeligheten ville jeg hevde at det er fordelen. Bygg løsninger på problemer før de oppstår, og du trenger ikke å fikse hva som bryter sammen nedover veien.

En ny credo: “Beveg deg strategisk for å være uødeleggelig”

I mai i fjor godkjente EU verdens første omfattende AI-lov, Artificial Intelligence Act, for å håndtere risiko gjennom omfattende transparenskrav og åndå forbud mot AI-teknologier som anses som uakseptabel risiko. Loven reflekterer EUs historisk forsiktige tilnærming til ny teknologi, som har styrt deres AI-utviklingsstrategier siden de første gnistene av den nåværende boomen. I stedet for å handle på en impuls, styre alle deres venture-penger og ingeniørkapasiteter inn i den siste trenden uten nødvendig planlegging, synker disse selskapene sine anstrengelser i å skape noe som vil vare.

Dette er ikke den rådende tilnærmingen i USA, til tross for mange forsøk på regulering. På lovgivningsfronten, enkelte stater foreslår hovedsakelig sine egne lover, som varierer fra utilstrekkelige til massive overgrep, som Californias foreslåtte SB-1047. Samtidig intensiveres AI-våpenkappløpet, og Silicon Valley holder fast ved sine gamle måter.

Venturekapitalister er bare med på å forverre problemet. Når de investerer i nye startups, spør de ikke om sikkerhetstiltak og kontroll. De vil få en minimum viable produkt ut så raskt som mulig så de kan samle inn sine sjekker. Silicon Valley er blitt et næringssystem for raskt rikdom, hvor folk vil tjene så mye penger som mulig, på så kort tid som mulig, mens de gjør så lite arbeid som mulig – og de bryr seg ikke om konsekvensene.

For AI-alderen ville jeg foreslå en erstatning for “beveg deg raskt og bryt ting”: beveg deg strategisk for å være uødeleggelig. Det kan kanskje ikke ha samme poetiske kraft som det førstnevnte, men det reflekterer tankesettet SV trenger i dagens teknologiske landskap.

Jeg er optimistisk og tror at teknologibransjen kan være bedre, og det starter med å adoptere en kundeorientert, fremtidsrettet tankesett som fokuserer på å skape produkter som varer og vedlikeholde disse produktene på en måte som fremmer tillit hos brukerne. En mer omtenksom tilnærming vil gjøre mennesker og organisasjoner trygge på å bringe AI inn i livene deres – og det høres ganske lønnsomt ut for meg.

Mot en bærekraftig fremtid

Teknologiverden lider under overveldende press for å være først. Grunnleggere føler at hvis de ikke hopper på den neste store ting umiddelbart, vil de gå glipp av båten. Selvfølgelig kan å være en tidlig beveger kanskje øke sjansene for suksess, men å være “først” bør ikke skje på bekostning av sikkerhet og etikk.

Når målet ditt er å bygge noe som varer, vil du ende opp med å se mer grundig etter risiko og svakheter. Dette er også hvordan du finner nye muligheter for gjennombrudd og innovasjon. Selskapene som kan omdanne styrker til svakheter er de som kan løse morgendagens utfordringer, i dag.

Hypen er virkelig, og den nye AI-æraen er verdig den. Men i vår begeistring for å låse opp kraften i denne teknologien, kan vi ikke forglemme de nødvendige sikkerhetstiltakene som vil gjøre disse produktene pålitelige og troværdige. AI lover å forbedre våre liv til det bedre, men den kan også forårsake uendelig skade hvis sikkerhet og sikkerhet ikke er kjernen i utviklingsprosessen.

For Silicon Valley bør dette være en vekker: det er på tide å forlate mentaliteten “beveg deg raskt, bryt ting, og fikse dem senere” bak. Fordi det ikke finnes noen “senere” når fremtiden er nå.