Tankeledere

Teknisk håndverk er lyset i enden av den sorte boksen

Onur Alp Soner
Legg til Unite.AI blant dine foretrukne kilder på Google
Viktige punkterTeknisk håndverk hindrer AI-systemer i å bli uforståelige svarte bokser.
Vis mer
  • Teknisk håndverk hindrer AI-systemer i å bli uforståelige svarte bokser.
  • Overavhengighet av abstraherte verktøy ofrer systemforståelse for overflatisk hastighet.
  • Å dyrke dyp systemkunnskap muliggjør ansvarlighet i fragmenterte moderne arbeidsflyter.

Det har aldri vært enklere å bygge, distribuere og skalere teknologi uten å forstå hvordan den fungerer. Nesten alt fungerer i dag uten å måtte forstå det. Likevel er det en konstant følelse av at kontrollen glipper gjennom fingrene.

Hvis du ser nærmere, er det noe som mangler i dag, noe som en gang var i hjertet av hver stor innovasjon, og nå langsomt forsvinner fra teknologibildet – håndverk. Hver innovasjon bar preg av omsorgsfull oppmerksomhet. Noen hadde engasjert seg dypt nok til å forstå avhengigheter, atferd og begrensninger og oversatt denne kunnskapen til et fungerende system. I dag kommer verktøyene og plattformene som driver vår daglige liv ferdigbygde og fullstendig montert, fantastisk raskt, men med nesten ingen innsikt i deres indre virkemåte.

Håndverk har begynt å føles ut av plass, eller rettere, radikalt i en kultur som er besatt av hastighet. Uten det risikerer systemer å bli en virvel av hendelser: en svart boks hvor beslutninger, utdata og atferd utvikler seg raskere enn noen kan fullt ut forstå. Å gjenopplive håndverk er en måte å trekke tilbake en del av denne kontrollen, gjenopprette evnen til å resonnere om kompleksitet og ta ansvar i en verden omorganisert av AI.

Kan samarbeid blomstre uten eierskap?

Det var en gang da personen som bygde et system kjente det inn og ut. I dag er arbeidet delt inn i små bidrag, og følelsen av eierskap blir ofte utvannet til det punktet at ingen av de involverte forstår hele systemet. Teamene bidrar med spesialiserte deler til et mye større system, integrerer biblioteker, API-er, skytjenester, administrerte databaser og analyseplattformer i et fungerende produkt. Ironisk nok er den delen som direkte eies av teamet ofte mindre enn lagene som administreres av eksterne leverandører.

Fokuset på gjennomføring over håndverk introduserer blinde flekker som kan samle seg over lag i systemet. En enkelt forespørsel flytter over flere tjenester, leverandører og regioner før svaret returneres. Ting fungerer godt nok til et subtilt misforhold mellom disse lagene avslører hvor lite klarhet eller kontroll noen faktisk har. Problemet ender ikke med å fikse en feil komponent, men starter med å forklare hva som gikk galt fra første sted.

Samarbeid er faktisk motoren i moderne programvare, og muliggjør at teamene bygger systemer i en skala som ingen enkelt kunne håndtere alene. Når nye verktøy kommer inn i bildet, spesielt med AI, kan mer arbeid paralleliseres og flere beslutninger automatiseres eller assisteres, og hastigheten på gjennomføringen øker, og deltakelsen utvides. Men det strekker også forståelsen tynnere. Når høyt abstraherte verktøy medierer beslutninger, genererer kode eller tolker data, tenderer handlingen å overgå forståelse. For hvis du ikke kan forklare hvordan et system fungerer, kan du stole på beslutningene det driver?

Et system du forstår er et system du kan være ansvarlig for

Håndverk handler ikke om å avvise samarbeid eller den ubestridte potensialet i AI, men om å opprettholde en relasjon til systemet som går utover gjennomføring. Det handler om å skape kontinuitet i miljøer hvor arbeid er fragmentert og å bevare evnen til å resonnere om atferd over lag, i stedet for bare innenfor dem. I moderne arbeidsflyter kommer håndverk til slutt ned til å dyrke denne evnen til å resonnere, selv når det ikke er noen overbevisende bevis for at noe er galt. Det lar teamene flytte raskt mens de fortsatt vet hva de bygger, hvorfor det oppfører seg på en bestemt måte, og hvordan de skal reagere når det ikke gjør det.

Kun denne forståelsen kan forhindre AI-drevne systemer fra å bli svarte bokser. Faktum er at AI forsterker hva du allerede vet og hva du ikke vet. Når grunnlaget ditt er bygget på teknisk håndverk, utvider AI innsikt og forsterker styrke, men ellers forsterker det misforståelse og forvirring. Automatiserte beslutninger basert på feilaktige antakelser, skjeve data eller misforståtte modeller kan påvirke folks kontoer, personvern og tillit. Hva som en gang kunne ha vært en lokal feil eller en liten forglemmelse kan nå generere vidtrekkende konsekvenser nesten umiddelbart, takket være sammenhengen som berører hver sfære i livet.

Den sanne kostnaden av å flattende læringskurver

Læringskurver er så aggressivt flattet i dag at avhengighet har begynt å se ut som effektivitet. Det er viktig å være forsiktig med denne avveiningen. Mye av hastigheten som gjør at arbeidet føles raskere kommer fra å stole på verktøy og abstraksjoner i stedet for dyp forståelse. Hvis tiden og anstrengelsen som er spart blir betalt tilbake i uforutsette konsekvenser, kan det raskt bli kontraproduktivt.

Nå er dette ikke et argument for å gjøre ting vanskeligere enn nødvendig når enklere metoder og kraftfulle verktøy eksisterer. Men å tankeløst hoppe over kurvene fjerner sjansen til å virkelig forstå hvordan et system oppfører seg, hvor sårbarheter ligger, og hvordan virkningene av beslutninger forplanter seg gjennom systemet. Fasinasjonen over forsvinnende kompleksitet er forlokkende, men kompleksitet forsvinner ikke bare med et knappeklik. Det som skjer er at den flytter ut av syne, og etterlater skjulte risikoer som bare kommer til overflaten når noe går galt.

Sann effektivitet kommer fra å balansere bruk av moderne verktøy med tilbørlig anstrengelse for å forstå, dømme og håndverk, så hastighet og enkelhet ikke kommer på bekostning av motstandskraft eller ansvar. Tilnærme deg nye teknologier med en forståelse av både hva de kan gjøre og hva de ikke kan. Uten denne forståelsen mister teamene evnen til å tilpasse eller utvikle systemer trygt. Endringer kan bryte deler av systemet som er dårlig forstått. Dømmekraft lider når avhengighet av verktøy, standardinnstillinger eller automatisering erstatter informert intuisjon. Dette reduserer evnen til å ta kloke beslutninger under usikkerhet. Forklarbarhet avtar også, og motstandskraft følger mesterskap inn i intetheten. Effektivitet var aldri ment å være så skjør.

Hva teknisk håndverk ser ut som i praksis

Håndverk blir synlig i hvordan team, produkter og ledelse håndterer kompleksitet. Når teamene tar ansvar for å forstå systemene de er avhengige av, i stedet for å anta at leverandørene håndterer all kompleksiteten, holder de foran problemene. Produkter bygget med håndverk er bygget for å vare, utvikle og tilpasse. Trening som betoner årsaksforhold, spørsmål om antakelser og bygging av intuitive løsninger sikrer at læring er innlejret og varig.

Kort sagt, evnen til å utøve sunn dømmekraft og bevare forklarbarhet er det som vil skille store produkter fra de som bare fungerer. I komplekse, sammenkoblede systemer må menneskelig intuisjon og mesterskap guide teknologi, ikke omvendt. Det er viktig å huske at mens du kan outsourcere nesten alt, kan vurderingsevne fortsatt ikke settes bort.

Onur Alp Soner er medgründer og administrerende direktør i Countly, en digital analyse- og inn-app-engasjementplattform. En teknolog og selvstarter, han bygget Countly fra bunnen av for å gi bedrifter mer kontroll over hvordan de forstår og samhandler med sine brukere. Under hans ledelse, har Countly vokst til å bli en pålitelig plattform for bedrifter verden over som ønsker å innovere raskt samtidig som de holder brukerens personvern i sentrum av sine vekststrategier.