Hvorfor Silicon Valley ikke kan “gå raskt og bryte ting” når det gjelder AI

Folk sier at Silicon Valley har modnet seg utover den hetsige holdningen til “gå raskt, bryt ting, og fikse dem senere,” og at selskapene har adoptert en langsommere og mer ansvarlig tilnærming til å bygge fremtiden for vår bransje.

Uheldigvis forteller nåværende trender en annen historie.

Til tross for alle fine ord, har måten selskapene bygger ting på, ennå ikke endret seg. Teknologiselskaper kjører fortsatt på samme kode med kortveier og falske løfter, og kvaliteten på produktene viser det. “Gå raskt og bryt ting” er fremdeles Silicon Valleys motto – og selv om det virkelig hadde dødd, har AI-boomet gjenopplivet det i full kraft.

De siste fremstegene i AI har allerede radikalt forandret måten vi arbeider og lever på. Bare i løpet av de siste par årene, har AI gått fra å være et verkøy for datavitenskapsprofesjonelle til et husholdningsverktøy takket være den raske spredningen av generative AI-verktøy som ChatGPT. Hvis teknologiselskaper “går raskt og bryter ting” med AI, kan det ikke være noen mulighet til å “fikse dem senere”, spesielt når modellene er trent på sensitive personlige data. Du kan ikke gjøre ugjort det du har gjort, og ekkoet vil gjenta seg gjennom samfunnet, potensielt og forårsake uopprettelige skader. Fra skadelige deepfakes til svindelplaner til desinformasjonskampanjer, ser vi allerede den negative siden av AI.

På samme tid, har denne teknologien likevel kraften til å forandre vårt samfunn til det bedre. Bedriftsadoptsjon av AI vil være like revolusjonerende som overgangen til skyen var; selskaper vil fullstendig bygge om på AI, og de vil bli uendelig mer produktive og effektive på grunn av det. På et individuelt nivå, vil generativ AI bli vår pålitelige assistent, som hjelper oss å fullføre hverdagsaktiviteter, eksperimentere kreativt og låse opp nye kunnskaper og muligheter.

AI-framtiden kan være en lys fremtid, men den krever en stor kulturell endring i det stedet hvor denne fremtiden bygges.

Hvorfor “Gå raskt og bryt ting” er uforenlig med AI

“Gå raskt og bryt ting” opererer på to store antagelser: en, at alt som ikke fungerer ved lansering kan fikses i en senere oppdatering; og to, at hvis du “bryter ting”, kan det føre til gjennombrudd med nok kreativt kodearbeid og utenom-boksen-tenkning. Og selv om mange store innovasjoner har kommet ut av feil, er dette ikke penicillin eller Coca-Cola. Kunstig intelligens er en usedvanlig kraftfull teknologi som må håndteres med største forsiktighet. Risikoen for datalekkasjer og kriminell misbruk er alt for høy til å ignorere.

Uheldigvis har Silicon Valley en dårlig vane med å glorifisere utviklingsprosessen. Selskaper fremdeles fremmer en uhindret grind, hvor lange arbeidstimer og mangel på arbeidslivsbalance blir nødvendig for å gjøre en karriere. Startups og deres aksjonærer setter urealistiske mål som øker risikoen for feil og hjørneklipping. Grenser presses når, kanskje, de ikke burde. Disse atferdene samler seg til en giftig industriell kultur som oppmuntrer til hype-jakt på bekostning av etikk.

Dagens utviklingstakt for AI kan ikke fortsette innenfor denne kulturen. Hvis AI skal løse noen av verdens mest presserende problemer, må den trene på høyst sensitive opplysninger, og selskaper har en kritisk ansvar for å beskytte disse opplysningene.

Sikkerhetstiltak tar tid å implementere, og tid er noe Silicon Valley er fullstendig overbevist om at de ikke har. Allerede nå ser vi AI-selskaper som går glipp av nødvendige sikkerhetstiltak for å pumppe ut nye produkter. Dette kan tilfredsstille aksjonærer på kort sikt, men de lange risikoen setter disse organisasjonene opp for massive finansielle skader nedover veien – ikke til å nevne en fullstendig kollaps av all goodwill de har fostret.

Det er også en alvorlig risiko forbundet med IP- og opphavsrettsbrudd, som det er å se i de forskjellige føderale søksmål som er i spill og som omhandler AI og opphavsrett. Uten nødvendige beskyttelser mot opphavsrettsbrudd og IP-overtridelser, er folks levebrød i fare.

Til AI-startup som ønsker å skyte gjennom utviklingen og gå til markedet, kan dette se ut som mye å ta hensyn til – og det er. Å beskytte mennesker og informasjon krever hardt arbeid. Men det er uforhandelbart arbeid, selv om det tvinger AI-utviklerne til å være mer omtenksomme. Jeg ville faktisk hevde at det er fordelen. Bygg løsninger på problemer før de oppstår, og du trenger ikke fikse det som bryter sammen veien.

En ny trosbekjennelse: “Gå strategisk for å være uødeleggelig”

I mai i fjor godkjente EU verdens første omfattende AI-lov, Artificial Intelligence Act, for å håndtere risiko gjennom omfattende krav til åpenhet og å utelukke AI-teknologier som anses som uakseptabel risiko. Loven reflekterer EUs historisk forsiktige tilnærming til ny teknologi, som har styrt deres AI-utviklingsstrategier siden de første gnistene av den nåværende boomen. I stedet for å handle på en impuls, å styre alle deres venture-penger og ingeniørkapasiteter inn i den siste trenden uten ordentlig planlegging, synker disse selskapene sine anstrengelser inn i å skape noe som vil vare.

Dette er ikke den rådende tilnærmingen i USA, til tross for tallrike forsøk på regulering. På det lovgivende front, enkelte stater foreslår hovedsakelig sine egne lover, som varierer fra utilstrekkelige til massivt overrekkende, som Californias foreslåtte SB-1047. Samtidig intensiverer AI-kappløpet, og Silicon Valley holder fast ved sine gamle måter.

Venturekapitalister er bare med på å forverre problemet. Når de investerer i nye startups, spør de ikke om sikkerhetstiltak og kontroll. De vil få en minimum viable produkt ut så raskt som mulig så de kan samle inn sine sjekker. Silicon Valley har blitt et ynglested for raskt-rik-svindel, hvor folk vil tjene så mye penger som mulig, på så kort tid som mulig, mens de gjør så lite arbeid som mulig – og de bryr seg ikke om konsekvensene.

Jeg foreslår en erstatning for “gå raskt og bryt ting” for AI-alderen: gå strategisk for å være uødeleggelig. Det kan kanskje ikke ha samme poetiske kraft som det førstnevnte, men det reflekterer den holdningen SV trenger i dagens teknologiske landskap.

Jeg er optimistisk og tror at teknologiindustrien kan bli bedre, og det starter med å adoptere en kunde-sentrert, fremtids-orientert holdning som fokuserer på å skape produkter som varer og å vedlikeholde disse produktene på en måte som fremmer tillit hos brukerne. En mer omtenksom tilnærming vil gjøre mennesker og organisasjoner trygge på å bringe AI inn i deres liv – og det høres ganske lønnsomt ut for meg.

Mot en bærekraftig fremtid

Teknologiverden lider under overveldende press for å være først. Grunnleggere føler at hvis de ikke hopper på den neste store ting umiddelbart, vil de gå glipp av båten. Selvfølgelig kan å være en tidlig beveger kanskje øke sjansen for suksess, men å være “først” bør ikke skje på bekostning av sikkerhet og etikk.

Når målet ditt er å bygge noe som varer, vil du ende opp med å søke mer grundig etter risiko og svakheter. Dette er også hvordan du finner nye muligheter for gjennombrudd og innovasjon. Selskapene som kan omdanne styrker til svakheter er de som kan løse morgendagens utfordringer i dag.

Hypen er reel, og den nye AI-æraen er verdig den. Men i vår begeistring for å låse opp kraften i denne teknologien, kan vi ikke forgo de nødvendige sikkerhetstiltakene som vil gjøre disse produktene pålitelige og troværdige. AI lover å forbedre våre liv til det bedre, men den kan også forårsake uopprettelige skader hvis sikkerhet og etikk ikke er kjernen i utviklingsprosessen.

For Silicon Valley bør dette være en vekker: det er på tide å forlate mentaliteten “gå raskt, bryt ting, og fikse dem senere” bak. Fordi det ikke finnes noen “senere” når fremtiden er nå.