Waarom Silicon Valley niet “snel bewegen en dingen breken” kan doen als het om AI gaat

Mensen zeggen dat Silicon Valley verder is gegaan dan de impulsieve mentaliteit van “snel bewegen, dingen breken en later repareren” en dat bedrijven een langzamere, meer verantwoorde aanpak hebben gekozen voor het opbouwen van de toekomst van onze industrie.

Helaas vertelt het huidige verhaal een ander verhaal.

Ondanks de loftuitingen, is de manier waarop bedrijven dingen bouwen nog niet veranderd. Tech-startups draaien nog steeds op dezelfde code van shortcuts en valse beloften, en de dalende kwaliteit van producten toont het. “Snel bewegen en dingen breken” is nog steeds het geloof van Silicon Valley – en zelfs als het echt dood was, heeft de AI-boom het in volle kracht herleefd.

Recente vooruitgang in AI verandert al radicaal de manier waarop we werken en leven. In slechts een paar jaar is AI gegaan van het domein van computerwetenschappers naar een huishoudelijk instrument dankzij de snelle verspreiding van generatieve AI-hulpmiddelen zoals ChatGPT. Als techbedrijven “snel bewegen en dingen breken” met AI, kan er geen optie zijn om “het later te repareren”, vooral als modellen getraind worden op gevoelige persoonlijke gegevens. Je kunt de bel niet ongedaan maken, en de echo zal door de samenleving resoneren, mogelijk onherstelbare schade veroorzakend. Van kwaadaardige deepfakes tot fraude-schema’s tot desinformatiecampagnes, we zien al de negatieve kant van AI naar voren komen.

Tegelijkertijd heeft deze technologie de kracht om onze samenleving te veranderen voor het beter. De adoptie van AI door ondernemingen zal net zo revolutionair zijn als de overstap naar de cloud; bedrijven zullen volledig opnieuw opbouwen met AI en ze zullen oneindig productiever en efficiënter worden door het. Op individueel niveau zal generatieve AI onze vertrouwde assistent worden, ons helpen om dagelijkse activiteiten te voltooien, creatief te experimenteren en nieuwe kennis en kansen te ontgrendelen.

De toekomst van AI kan een heldere zijn, maar het vereist een grote culturele verschuiving in de plaats waar die toekomst wordt gebouwd.

Waarom “snel bewegen en dingen breken” onverenigbaar is met AI

“Snel bewegen en dingen breken” werkt op twee belangrijke aannamen: één, dat alles wat niet werkt bij de lancering kan worden opgelost in een latere update; en twee, dat als je “dingen breekt”, het kan leiden tot doorbraken met genoeg creatieve codering en buiten-de-box-denken. En hoewel veel geweldige innovaties zijn voortgekomen uit fouten, is dit niet penicilline of Coca-Cola. Kunstmatige intelligentie is een buitengewoon krachtige technologie die met de grootste voorzichtigheid moet worden behandeld. De risico’s van gegevenslekken en criminele misbruik zijn gewoon te hoog om te negeren.

Helaas heeft Silicon Valley een slechte gewoonte om de rommeligheid van het ontwikkelingsproces te verheerlijken. Bedrijven promoten nog steeds een onophoudelijke inspanning, waarin lange uren en een gebrek aan werk-leven-balans noodzakelijk zijn om een carrière te maken. Startups en hun aandeelhouders stellen onrealistische doelen die het risico van fouten en het afsnijden van hoeken verhogen. Grenzen worden opgerekt wanneer, misschien, ze dat niet zouden moeten zijn. Deze gedragingen komen samen in een giftige industrie-cultuur die hype-chasing boven ethiek stimuleert.

Het huidige tempo van AI-ontwikkeling kan niet voortduren binnen deze cultuur. Als AI enkele van de meest dringende problemen van de wereld moet oplossen, zal het moeten trainen op zeer gevoelige informatie, en bedrijven hebben een kritieke verantwoordelijkheid om die informatie te beschermen.

Er is ook een serieus risico verbonden aan IP- en auteursrechtenschending, zoals blijkt uit de verschillende federale rechtszaken die momenteel gaande zijn en betrekking hebben op AI en auteursrecht. Zonder adequate bescherming tegen auteursrechtenschending en IP-schendingen zijn mensenlevens in gevaar.

Voor het AI-startup dat snel door de ontwikkeling heen wil gaan en naar de markt wil, lijkt dit veel om rekening mee te houden – en dat is het ook. Het beschermen van mensen en informatie vergt hard werken. Maar het is niet-onderhandelbaar werk, zelfs als het AI-ontwikkelaars dwingt om meer doordacht te zijn. Sterker nog, ik zou argumenteren dat dit het voordeel is. Oplossingen voor problemen voor ze ontstaan, en je hoeft niet te repareren wat later kapot gaat.

Een nieuw geloof: “Strategisch bewegen om onbreekbaar te zijn”

Afgelopen mei keurde de EU de wereldwijde eerste omvattende AI-wet, de Artificial Intelligence Act, goed om risico’s te beheersen via uitgebreide transparantie-eisen en het verbod op AI-technologieën die als een onaanvaardbaar risico worden beschouwd. De wet weerspiegelt de historisch voorzichtige aanpak van de EU ten aanzien van nieuwe technologie, die de AI-ontwikkelingsstrategieën van de EU heeft geregeld sinds de eerste vonken van de huidige boom. In plaats van te handelen op een impuls, sturen ze al hun venture-dollars en engineeringscapaciteiten in een trend zonder adequate planning, deze bedrijven steken hun inspanningen in het creëren van iets dat zal standhouden.

Dit is niet de overheersende aanpak in de VS, ondanks talloze pogingen tot regulering. Op het wetgevende front stellen individuele staten hun eigen wetten voor, variërend van zeer ontoereikend tot massief overreikend, zoals de voorgestelde SB-1047 van Californië. Ondertussen intensifieert de AI-wapenwedloop en houdt Silicon Valley vast aan zijn oude manieren.

Venture-capitalisten zijn alleen maar het probleem aan het verergeren. Wanneer ze investeren in nieuwe startups, vragen ze niet naar veiligheidshekken en -controles. Ze willen een minimum viable product zo snel mogelijk uitbrengen, zodat ze hun cheques kunnen innen. Silicon Valley is een broedplaats geworden voor snelle rijkdoms schema’s, waar mensen zo veel geld mogelijk willen verdienen in zo min mogelijk tijd, met zo min mogelijk werk – en ze bekommeren zich niet om de gevolgen.

Voor de tijdperk van AI zou ik graag een vervanging voor “snel bewegen en dingen breken” voorstellen: strategisch bewegen om onbreekbaar te zijn. Het mag niet dezelfde poëtische kracht hebben als de vorige, maar het weerspiegelt de mentaliteit die SV nodig heeft in het huidige technologische landschap.

Ik ben optimistisch dat de technologie-industrie beter kan zijn, en het begint met het aannemen van een klantgerichte, toekomstgerichte mentaliteit die gericht is op het creëren van producten die standhouden en die producten op een manier onderhoudt die vertrouwen wekt bij gebruikers – en dat klinkt best winstgevend voor mij.

Naar een duurzame toekomst

De tech-wereld lijdt aan overweldigende druk om als eerste te zijn. Oprichters voelen dat als ze niet meteen op de volgende grote zaak springen, ze de boot missen. Natuurlijk kan het zijn dat als eerste zijn kan je kansen op succes vergroten, maar “eerste” moet niet ten koste gaan van veiligheid en ethiek.

Wanneer je doel is om iets te bouwen dat standhoudt, zal je grondiger zoeken naar risico’s en zwakheden. Dit is ook hoe je nieuwe kansen voor doorbraken en innovatie vindt. De bedrijven die sterke punten in zwakheden kunnen omzetten, zijn degenen die morgen problemen kunnen oplossen.

De hype is echt, en de nieuwe tijdperk van AI is het waard. Maar in onze opwinding om de kracht van deze technologie te ontsluiten, kunnen we de noodzakelijke veiligheidsmaatregelen niet laten vallen die deze producten betrouwbaar en vertrouwd maken. AI belooft ons leven te verbeteren, maar het kan ook onmetelijke schade veroorzaken als veiligheid en beveiliging niet centraal staan in het ontwikkelingsproces.

Voor Silicon Valley moet dit een wake-up call zijn: het is tijd om de mentaliteit van “snel bewegen, dingen breken en later repareren” achter te laten. Omdat er geen “later” is wanneer de toekomst nu is.