L’artigianato tecnico è la luce in fondo alla scatola nera

Mai come oggi è stato così facile costruire, distribuire e scalare la tecnologia senza capire completamente come funziona. Quasi tutto funziona oggi senza chiederci di capirlo. Eppure, rimane una costante sensazione che il controllo stia scivolando dalle nostre dita.

Se si guarda da vicino, ciò che manca oggi è qualcosa che un tempo era al cuore di ogni grande innovazione e ora sta lentamente scomparendo dall’immagine tecnica – l’artigianato. Ogni innovazione portava con sé una traccia di attenzione accurata. Qualcuno si era impegnato a fondo per capire le dipendenze, i comportamenti e le limitazioni e aveva tradotto quella conoscenza in un sistema funzionante. Saltando al presente, gli strumenti e le piattaforme che alimentano la nostra vita quotidiana arrivano preassemblati e completamente assemblati, in modo sorprendentemente veloce, ma con quasi nessuna visibilità nel loro funzionamento interno.

L’artigianato ha iniziato a sembrare fuori posto, o piuttosto, radicale in una cultura ossessionata dalla velocità. Senza di esso, tuttavia, i sistemi rischiano di diventare un vortice di eventi: una scatola nera in cui le decisioni, le uscite e i comportamenti si svolgono più velocemente di quanto chiunque possa capire appieno. Rinascere l’artigianato è un modo per riprendere il controllo, restaurando la capacità di ragionare sulla complessità e assumere la responsabilità in un mondo riconfigurato dall’AI.

La collaborazione può prosperare senza proprietà?

C’era un tempo in cui la persona che costruiva un sistema lo conosceva dentro e fuori. Oggi, il lavoro è diviso in piccole contribuzioni, diluendo quel senso di proprietà, spesso al punto che nessuno coinvolto capisce l’intero. I team contribuiscono con pezzi specializzati a un sistema molto più grande, integrando librerie, API, servizi cloud, database gestiti e piattaforme di analisi in un prodotto funzionante. Ironia della sorte, la parte direttamente posseduta dal team è spesso più piccola dei livelli gestiti da fornitori esterni.

La focalizzazione sull’esecuzione piuttosto che sull’artigianato introduce punti ciechi che possono accumularsi silenziosamente attraverso i livelli del sistema. Una singola richiesta si muove attraverso diversi servizi, fornitori e regioni prima che venga restituita una risposta. Le cose funzionano abbastanza bene finché una sottile discordanza tra questi livelli rivela quanto poca chiarezza o controllo abbia effettivamente qualcuno. Il problema non si conclude con la correzione di un componente difettoso, ma inizia con la spiegazione di cosa sia andato storto in primo luogo.

La collaborazione è davvero il motore del software moderno, consentendo ai team di costruire sistemi su una scala che nessun individuo potrebbe gestire da solo. Mentre nuovi strumenti entrano nel mix, soprattutto con l’AI, più lavoro può essere parallelizzato e più decisioni possono essere automatizzate o assistite, accelerando l’esecuzione e ampliando la partecipazione. Tuttavia, ciò allunga anche la comprensione. Quando strumenti altamente astratti mediano le decisioni, generano codice o interpretano i dati, l’azione tende a superare la comprensione. Dopotutto, se non puoi spiegare come funziona un sistema, puoi fidarti delle decisioni che guida?

Un sistema che capisci è un sistema per cui puoi essere responsabile

L’artigianato non riguarda il rifiuto della collaborazione o del potenziale indiscusso dell’AI, ma il mantenimento di una relazione con il sistema che va al di là dell’esecuzione. Si tratta di creare continuità in ambienti in cui il lavoro è frammentato e preservare la capacità di ragionare sul comportamento attraverso i livelli piuttosto che solo all’interno di essi. Nei flussi di lavoro moderni, l’artigianato si riduce essenzialmente a coltivare deliberatamente questa capacità di ragionare anche quando non ci sono prove convincenti che qualcosa sia sbagliato. Ciò consente ai team di muoversi velocemente mentre sanno ancora cosa stanno costruendo, perché si comporta in un certo modo e come rispondere quando non lo fa.

Solo questa comprensione può impedire che i sistemi guidati dall’AI diventino scatole nere. La cosa è, l’AI amplifica ciò che già sai e ciò che non sai. Quando la tua base è costruita sull’artigianato tecnico, l’AI estende l’approfondimento e rafforza la forza, ma altrimenti, accumula incomprensione e confusione. Le decisioni automatizzate basate su ipotesi errate, dati distorti o modelli fraintesi possono influenzare i conti delle persone, la privacy e la fiducia. Ciò che un tempo avrebbe potuto essere un bug localizzato o un errore minore può ora generare conseguenze ampie quasi istantaneamente, grazie all’interconnessione che tocca ogni sfera della vita.

Il vero costo dell’appiattimento delle curve di apprendimento

Le curve di apprendimento sono così aggressivamente appiattite oggi che la dipendenza ha iniziato a sembrare molto simile all’efficienza. È importante essere cauti di questo compromesso. Gran parte della velocità che rende il lavoro più veloce deriva dal fatto di affidarsi a strumenti e astrazioni piuttosto che a una comprensione profonda. Se il tempo e lo sforzo risparmiati sono ripagati in conseguenze impreviste, può rapidamente diventare controproducente.

Ora, questo non è un argomento per rendere le cose più difficili del necessario quando esistono metodi più semplici e strumenti potenti. Ma saltare superficialmente oltre le curve elimina la possibilità di capire veramente come si comporta un sistema, dove si trovano le vulnerabilità e come le decisioni si propagano attraverso il sistema. L’attrattiva della scomparsa della complessità è allettante, ma la complessità non scompare semplicemente con un clic del mouse. Ciò che fa è spostarsi fuori vista, lasciando rischi nascosti che si manifestano solo quando qualcosa va storto.

La vera efficienza deriva dall’equilibrio dell’uso degli strumenti moderni con lo sforzo verso la comprensione, il giudizio e l’artigianato, in modo che la velocità e la semplicità non vengano a scapito della resilienza o della responsabilità. Affrontare le nuove tecnologie con la comprensione di ciò che possono fare e ciò che non possono fare. Senza questa comprensione, i team perdono la capacità di adattare o evolvere i sistemi in modo sicuro. I cambiamenti possono rompere parti del sistema che sono poco comprese. Il giudizio soffre mentre la dipendenza dagli strumenti, dai valori predefiniti o dall’automazione sostituisce l’intuizione informata. Ciò, a sua volta, riduce la capacità di prendere decisioni sagge in condizioni di incertezza. La spiegabilità declina, mentre la padronanza segue la resilienza nell’oblio. L’efficienza non doveva essere così fragile.

Cosa sembra l’artigianato tecnico nella pratica

L’artigianato diventa visibile nel modo in cui i team, i prodotti e la leadership gestiscono la complessità. Quando i team assumono la responsabilità di capire i sistemi di cui dipendono, piuttosto che supporre che i fornitori gestiscano tutta la complessità, rimangono avanti rispetto ai problemi. I prodotti costruiti con l’artigianato sono costruiti per durare, evolversi e adattarsi. La formazione che enfatizza la ricerca delle cause, la messa in discussione delle ipotesi e la costruzione di soluzioni intuitive assicura che l’apprendimento sia incorporato e persistente.

In breve, la capacità di esercitare un giudizio sano e preservare la spiegabilità è ciò che differenzierà i grandi prodotti da quelli che funzionano semplicemente. In sistemi complessi e interconnessi, l’intuizione e la padronanza umana devono guidare la tecnologia, non il contrario. È importante ricordare che mentre puoi esternalizzare quasi tutto, la discernimento non è ancora una di queste cose.