Varför Silicon Valley inte kan “göra snabbt och bryta saker” när det gäller AI

Människor säger att Silicon Valley har mognat ut ur den hetsiga mentaliteten “gör snabbt och bryt saker, sedan fixa dem senare”, och att företagen har antagit en långsammare, mer ansvarsfull approach för att bygga framtidens industri.

Tyvärr berättar nuvarande trender en annan historia.

Trots alla löften har sättet företag bygger saker på ändrats än så länge inte. Teknisk startups kör fortfarande på samma kod av genvägar och falska löften, och sjunkande kvalitet på produkter visar det. “Gör snabbt och bryt saker” är fortfarande Silicon Valleys credo – och även om det verkligen hade dött, har AI-boomen återupplivat det i full kraft.

De senaste framstegen inom AI förvandlar redan radikalt hur vi arbetar och lever. På bara de senaste åren har AI gått från att vara ett område för datavetenskapsproffs till ett hushållsverktyg tack vare den snabba spridningen av generativa AI-verktyg som ChatGPT. Om techföretag “gör snabbt och bryter saker” med AI, kan det finnas inget alternativ att “fixa dem senare”, särskilt när modeller tränas på känslig personlig data. Du kan inte “ringa tillbaka” i klockan, och eko kommer att fortplanta sig genom samhället, potentiellt orsaka irreparabel skada. Från skadliga deepfakes till bedrägerischeman till desinformationskampanjer, ser vi redan den negativa sidan av AI.

Samtidigt har den här tekniken makten att förändra vårt samhälle till det bättre. Företagsanvändning av AI kommer att vara lika revolutionerande som flytten till molnet var; företag kommer att bygga om sig själva helt på AI, och de kommer att bli oändligt mycket mer produktiva och effektiva på grund av det. På individnivå kommer generativ AI att bli vår betrodda assistent, som hjälper oss att slutföra vardagliga aktiviteter, experimentera kreativt och låsa upp ny kunskap och möjligheter.

AI-framtid kan vara en ljus, men den kräver en stor kulturell förändring på den plats där den byggs.

Varför “Gör snabbt och bryt saker” är oförenligt med AI

“Gör snabbt och bryt saker” bygger på två stora antaganden: ett, att allt som inte fungerar vid lansering kan lappas i en senare uppdatering; och två, att om du “bryter saker”, kan det leda till genombrott med tillräckligt kreativt kodande och tänkande utanför boxen. Och medan många stora innovationer har kommit ur misstag, är detta inte penicillin eller Coca-Cola. Artificiell intelligens är en oerhört kraftfull teknik som måste hanteras med yttersta försiktighet. Riskerna med dataintrång och kriminell missbruk är för höga för att ignorera.

Tyvärr har Silicon Valley en dålig vana att glorifiera utvecklingsprocessens röra. Företag främjar fortfarande ett outtröttligt slit, där långa timmar och brist på balans mellan arbete och fritid blir nödvändiga för att göra karriär. Startups och deras aktieägare sätter orealistiska mål som ökar risken för fel och snabbfix. Gränserna pressas när, kanske, de inte borde. Dessa beteenden sammanfogar till en giftig industriell kultur som uppmuntrar hype-jakt på bekostnad av etik.

Den nuvarande takten i AI-utveckling kan inte fortsätta inom denna kultur. Om AI ska lösa världens mest pressande problem, måste den träna på högst känslig information, och företagen har ett kritiskt ansvar att skydda den informationen.

Säkerhetsåtgärder tar tid att implementera, och tid är något som Silicon Valley är övertygad om att de inte har. Redan ser vi AI-företag som avstår från nödvändiga skydd för att kunna pumpa ut nya produkter. Detta kan tillfredsställa aktieägare på kort sikt, men de långsiktiga riskerna sätter dessa organisationer upp för massiva finansiella skador längre fram – för att inte tala om en total kollaps av all goodwill de har byggt upp.

Det finns också en allvarlig risk förknippad med IP och upphovsrättsintrång, som visas av de olika federala målen som pågår och involverar AI och upphovsrätt. Utan ordentliga skydd mot upphovsrättsintrång och IP-överträdelser är människors levebröd i fara.

Till AI-startup som vill ruska igenom utveckling och gå till marknaden, verkar detta som mycket att ta hänsyn till – och det är det. Att skydda människor och information kräver hårt arbete. Men det är oåterkalleligt arbete, även om det tvingar AI-utvecklare att vara mer genomtänkta. I själva verket skulle jag hävda att det är fördelen. Bygg lösningar på problem före de uppstår, och du behöver inte fixa vad som går sönder längre fram.

En ny credo: “Gör strategiskt för att vara oövervinnelig”

I maj i fjol godkände EU världens första omfattande AI-lag, Artificiell Intelligenslag, för att hantera risker genom omfattande transparenskrav och ett totalt förbud mot AI-tekniker som anses vara oacceptabla risker. Lagen speglar EU:s historiskt försiktiga tillvägagångssätt för ny teknik, som har styrt dess AI-utvecklingsstrategier sedan den första gnistan av den nuvarande boomen. Istället för att agera på en vims, styra alla sina venturepengar och ingenjörskapaciteter in i den senaste trenden utan ordentlig planering, sätter dessa företag sina ansträngningar in i att skapa något som kommer att bestå.

Detta är inte den rådande approachen i USA, trots många försök till reglering. På den lagstiftningsmässiga fronten föreslår enskilda stater i huvudsak sina egna lagar, som varierar från bedrövligt otillräckliga till massivt överraskande, som Kaliforniens föreslagna SB-1047. Samtidigt intensifieras AI-kapprustningen, och Silicon Valley fortsätter på sitt gamla sätt.

Riskkapitalister förvärrar bara problemet. När de investerar i nya startups, frågar de inte efter skydd och säkerhetskontroller. De vill få en minimivärdefull produkt ut så snabbt som möjligt så att de kan samla in sina checkar. Silicon Valley har blivit en grogrund för snabba rikedomsscheman, där människor vill tjäna så mycket pengar som möjligt, på så kort tid som möjligt, med så lite arbete som möjligt – och de bryr sig inte om konsekvenserna.

För AI-eran föreslår jag en ersättning för “gör snabbt och bryt saker”: Gör strategiskt för att vara oövervinnelig. Det kanske inte har samma poetiska kraft som det förra, men det speglar den mentalitet som SV behöver i dagens tekniska landskap.

Jag är optimistisk om att teknikindustrin kan bli bättre, och det börjar med att anta en kundcentrerad, framtidsinriktad mentalitet som fokuserar på att skapa produkter som varar och underhåller dem på ett sätt som skapar förtroende hos användarna. En mer medveten approach kommer att göra människor och organisationer känna sig trygga med att ta in AI i sina liv – och det låter ganska lönsamt för mig.

Mot en hållbar framtid

Teknikvärlden lider av överväldigande tryck för att vara först. Grundare känner att om de inte hoppar på nästa stora sak direkt, kommer de att missa båten. Naturligtvis kan att vara en tidig rörelse kanske öka deras chanser till framgång, men att vara “först” borde inte ske på bekostnad av säkerhet och etik.

När målet är att bygga något som varar, kommer du att leta mer noggrant efter risker och svagheter. Det är också hur du hittar nya möjligheter för genombrott och innovation. Företagen som kan förvandla styrkor till svagheter är de som kan lösa morgondagens utmaningar, idag.

Hypen är verklig, och den nya AI-eran är värdig den. Men i vår iver att låsa upp kraften i denna teknik, kan vi inte försumma de nödvändiga säkerhetsåtgärderna som kommer att göra dessa produkter tillförlitliga och pålitliga. AI lovar att förbättra våra liv till det bättre, men den kan också orsaka oändlig skada om säkerhet och etik inte är kärnan i utvecklingsprocessen.

För Silicon Valley bör detta vara en väckarklocka: det är dags att lämna mentaliteten “gör snabbt, bryt saker, sedan fixa dem senare” bakom. För när framtiden är nu, finns det inget “senare”.