Η Τεχνική Τέχνη Είναι το Φως στο Τέλος του Μαύρου Κουτιού

Ποτέ δεν ήταν ευκολότερο να δημιουργήσουμε, να αναπτύξουμε και να κλιμακώσουμε τεχνολογία χωρίς να κατανοήσουμε πλήρως πώς λειτουργεί. Σχεδόν τα πάντα σήμερα λειτουργούν χωρίς να μας ζητηθεί να τα καταλάβουμε. Ωστόσο, εξακολουθεί να υπάρχει η συνεχής αίσθηση ότι ο έλεγχος μας γλιστράει μέσα από τα δάχτυλα.

Αν κοιτάξετε προσεκτικά, αυτό που λείπει σήμερα είναι κάτι που κάποτε βρισκόταν στην καρδιά κάθε μεγάλης καινοτομίας και τώρα σιγά σιγά απομακρύνεται από την τεχνολογική εικόνα - η χειροτεχνία. Κάθε καινοτομία έφερε ένα ίχνος προσεκτικής προσοχής. Κάποιος είχε ασχοληθεί αρκετά βαθιά ώστε να κατανοήσει τις εξαρτήσεις, τις συμπεριφορές και τους περιορισμούς και να μεταφράσει αυτή τη γνώση σε ένα λειτουργικό σύστημα. Στο παρόν, τα εργαλεία και οι πλατφόρμες που τροφοδοτούν την καθημερινότητά μας φτάνουν προκατασκευασμένα και πλήρως συναρμολογημένα, εκπληκτικά γρήγορα, αλλά σχεδόν χωρίς ορατότητα στις εσωτερικές τους λειτουργίες.

Η χειροτεχνία έχει αρχίσει να μοιάζει εκτός τόπου, ή μάλλον ριζοσπαστική σε μια κουλτούρα που έχει εμμονή με την ταχύτητα. Χωρίς αυτήν, ωστόσο, τα συστήματα κινδυνεύουν να γίνουν μια δίνη γεγονότων: ένα μαύρο κουτί όπου οι αποφάσεις, τα αποτελέσματα και οι συμπεριφορές εκτυλίσσονται πιο γρήγορα από όσο μπορεί κανείς να κατανοήσει πλήρως. Η αναζωπύρωση της αεροπορίας είναι ένας τρόπος ανάκλησης μέρους αυτού του ελέγχου, αποκαθιστώντας την ικανότητα συλλογισμού σχετικά με την πολυπλοκότητα και ανάληψης ευθύνης σε έναν κόσμο που έχει αναδιαμορφωθεί από την Τεχνητή Νοημοσύνη.

Μπορεί η συνεργασία να ευδοκιμήσει χωρίς ανάληψη ευθύνης;

Υπήρχε μια εποχή που το άτομο που κατασκεύαζε ένα σύστημα το γνώριζε απ' έξω και ανακατωτά. Σήμερα, η εργασία χωρίζεται σε μικροσκοπικές συνεισφορές, αμβλύνοντας αυτό το αίσθημα ιδιοκτησίας, συχνά σε σημείο που κανείς από τους εμπλεκόμενους δεν καταλαβαίνει το σύνολο. Οι ομάδες συνεισφέρουν εξειδικευμένα κομμάτια σε ένα πολύ μεγαλύτερο σύστημα, ενσωματώνοντας βιβλιοθήκες, API, υπηρεσίες cloud, διαχειριζόμενες βάσεις δεδομένων και πλατφόρμες ανάλυσης σε ένα λειτουργικό προϊόν. Κατά ειρωνικό τρόπο, το μερίδιο που ανήκει άμεσα στην ομάδα είναι συχνά μικρότερο από τα επίπεδα που διαχειρίζονται εξωτερικοί πάροχοι.

Η εστίαση στην εκτέλεση έναντι της χειροτεχνίας εισάγει τυφλά σημεία που μπορούν να συσσωρευτούν αθόρυβα σε όλα τα επίπεδα του συστήματος. Ένα μόνο αίτημα μετακινείται σε διάφορες υπηρεσίες, παρόχους και περιοχές πριν επιστραφεί μια απάντηση. Τα πράγματα λειτουργούν αρκετά καλά μέχρι που μια ανεπαίσθητη αναντιστοιχία μεταξύ αυτών των επιπέδων αποκαλύπτει πόσο λίγη σαφήνεια ή έλεγχο έχει στην πραγματικότητα κάποιος. Το πρόβλημα δεν τελειώνει με την επιδιόρθωση ενός ελαττωματικού στοιχείου, αλλά ξεκινά με την εξήγηση του τι πήγε στραβά εξαρχής.

Η συνεργασία είναι πράγματι η κινητήρια δύναμη του σύγχρονου λογισμικού, επιτρέποντας στις ομάδες να δημιουργούν συστήματα σε κλίμακα που κανένα άτομο δεν θα μπορούσε να διαχειριστεί μόνο του. Καθώς εισέρχονται νέα εργαλεία, ειδικά με την Τεχνητή Νοημοσύνη, περισσότερη εργασία μπορεί να παραλληλιστεί και περισσότερες αποφάσεις να αυτοματοποιηθούν ή να υποβοηθηθούν, επιταχύνοντας την εκτέλεση και διευρύνοντας τη συμμετοχή. Αλλά αυτό επίσης επιδεινώνει την κατανόηση. Όταν τα εργαλεία υψηλής αφηρημένης επεξεργασίας μεσολαβούν στις αποφάσεις, δημιουργούν κώδικα ή ερμηνεύουν δεδομένα, η δράση τείνει να ξεπερνά την κατανόηση. Άλλωστε, αν δεν μπορείτε να εξηγήσετε πώς λειτουργεί ένα σύστημα, μπορείτε να εμπιστευτείτε τις αποφάσεις που οδηγεί;

Ένα σύστημα που καταλαβαίνετε είναι ένα σύστημα για το οποίο μπορείτε να είστε υπεύθυνοι

Η χειροτεχνία δεν αφορά την απόρριψη της συνεργασίας ή των αναμφισβήτητων δυνατοτήτων της Τεχνητής Νοημοσύνης, αλλά τη διατήρηση μιας σχέσης με το σύστημα που υπερβαίνει την εκτέλεση. Πρόκειται για τη δημιουργία συνέχειας σε περιβάλλοντα όπου η εργασία είναι κατακερματισμένη και τη διατήρηση της ικανότητας συλλογισμού σχετικά με τη συμπεριφορά σε όλα τα επίπεδα και όχι μόνο μέσα σε αυτά. Στις σύγχρονες ροές εργασίας, η χειροτεχνία τελικά καταλήγει στην σκόπιμη καλλιέργεια αυτής της ικανότητας συλλογισμού, ακόμη και όταν δεν υπάρχουν πειστικά στοιχεία που να υποδηλώνουν ότι κάτι δεν πάει καλά. Επιτρέπει στις ομάδες να κινούνται γρήγορα, ενώ παράλληλα γνωρίζουν τι κατασκευάζουν, γιατί συμπεριφέρεται με τον τρόπο που συμπεριφέρεται και πώς να αντιδρούν όταν δεν το κάνει.

Μόνο αυτή η κατανόηση μπορεί να αποτρέψει Συστήματα που βασίζονται στην τεχνητή νοημοσύνη από το να γίνουν μαύρα κουτιάΤο θέμα είναι ότι η Τεχνητή Νοημοσύνη ενισχύει αυτά που ήδη γνωρίζετε και αυτά που δεν γνωρίζετε. Όταν τα θεμέλιά σας βασίζονται σε τεχνική δεξιοτεχνία, η Τεχνητή Νοημοσύνη επεκτείνει την γνώση και ενισχύει τη δύναμη, αλλά διαφορετικά, επιδεινώνει την παρεξήγηση και τη σύγχυση. Οι αυτοματοποιημένες αποφάσεις που βασίζονται σε λανθασμένες υποθέσεις, μεροληπτικά δεδομένα ή παρεξηγημένα μοντέλα μπορούν να επηρεάσουν τους λογαριασμούς, το απόρρητο και την εμπιστοσύνη των ανθρώπων. Αυτό που κάποτε θα μπορούσε να ήταν ένα εντοπισμένο σφάλμα ή μια μικρή παράλειψη μπορεί τώρα να δημιουργήσει εκτεταμένες συνέπειες σχεδόν αμέσως, χάρη στη διασύνδεση που αγγίζει κάθε σφαίρα της ζωής.

Το πραγματικό κόστος της επιπέδωσης των καμπυλών μάθησης

Οι καμπύλες μάθησης έχουν ισοπεδωθεί τόσο επιθετικά σήμερα που η εξάρτηση έχει αρχίσει να μοιάζει πολύ με αποτελεσματικότητα. Είναι σημαντικό να είμαστε προσεκτικοί με αυτό το συμβιβασμό. Μεγάλο μέρος της ταχύτητας που κάνει την εργασία να φαίνεται πιο γρήγορη προέρχεται από την αξιοποίηση εργαλείων και αφηρημένων εννοιών αντί για βαθιά κατανόηση. Εάν ο χρόνος και η προσπάθεια που εξοικονομούνται αποπληρωθούν με απρόβλεπτες συνέπειες, μπορεί γρήγορα να αποβεί αντιπαραγωγικό.

Τώρα, αυτό δεν αποτελεί επιχείρημα για να κάνουμε τα πράγματα πιο δύσκολα από όσο χρειάζεται, όταν υπάρχουν απλούστερες μέθοδοι και ισχυρά εργαλεία. Αλλά η απερίσκεπτη παράκαμψη των καμπυλών αφαιρεί την ευκαιρία να κατανοήσουμε πραγματικά πώς συμπεριφέρεται ένα σύστημα, πού βρίσκονται τα τρωτά σημεία και πώς οι αποφάσεις επηρεάζουν το σύστημα. Η γοητεία της εξαφανιζόμενης πολυπλοκότητας είναι δελεαστική, αλλά η πολυπλοκότητα δεν εξαφανίζεται απλώς με το πάτημα ενός κουμπιού. Αυτό που κάνει είναι να απομακρύνεται από τα μάτια μας, αφήνοντας κρυμμένους κινδύνους που εμφανίζονται μόνο όταν κάτι πάει στραβά.

Η πραγματική αποτελεσματικότητα προέρχεται από την εξισορρόπηση της χρήσης σύγχρονων εργαλείων με την προσήκουσα προσπάθεια για κατανόηση, κρίση και δεξιοτεχνία, έτσι ώστε η ταχύτητα και η απλότητα να μην έρχονται εις βάρος της ανθεκτικότητας ή της λογοδοσίας. Προσεγγίστε τις νέες τεχνολογίες με κατανόηση τόσο του τι μπορούν να κάνουν όσο και του τι δεν μπορούν. Χωρίς αυτήν την κατανόηση, οι ομάδες χάνουν την ικανότητα να προσαρμόζονται ή να εξελίσσουν τα συστήματα με ασφάλεια. Οι αλλαγές μπορούν να καταστρέψουν μέρη του συστήματος που δεν είναι πλήρως κατανοητά. Η κρίση υποφέρει καθώς η εξάρτηση από εργαλεία, προεπιλογές ή αυτοματοποίηση αντικαθιστά την ενημερωμένη διαίσθηση. Αυτό, με τη σειρά του, μειώνει την ικανότητα λήψης σοφών αποφάσεων υπό συνθήκες αβεβαιότητας. Η εξηγησιμότητα μειώνεται επίσης, ενώ η ανθεκτικότητα ακολουθεί την κυριαρχία στη λήθη. Η αποδοτικότητα δεν υποτίθεται ότι ήταν ποτέ τόσο εύθραυστη.

Πώς μοιάζει η τεχνική τέχνη στην πράξη

Η δεξιοτεχνία γίνεται ορατή στον τρόπο με τον οποίο οι ομάδες, τα προϊόντα και η ηγεσία διαχειρίζονται την πολυπλοκότητα. Όταν οι ομάδες αναλαμβάνουν την ευθύνη για την κατανόηση των συστημάτων από τα οποία εξαρτώνται, αντί να υποθέτουν ότι οι προμηθευτές διαχειρίζονται όλη την πολυπλοκότητα, παραμένουν μπροστά από τα προβλήματα. Τα προϊόντα που κατασκευάζονται με δεξιοτεχνία κατασκευάζονται για να διαρκούν, να εξελίσσονται και να προσαρμόζονται. Η εκπαίδευση που δίνει έμφαση στην ανίχνευση αιτιών, στην αμφισβήτηση υποθέσεων και στην ανάπτυξη διαισθητικών λύσεων διασφαλίζει ότι η μάθηση είναι ενσωματωμένη και επίμονη.

Εν ολίγοις, η ικανότητα άσκησης ορθής κρίσης και διατήρησης της επεξηγηματικότητας είναι αυτό που θα διαφοροποιήσει τα εξαιρετικά προϊόντα από εκείνα που απλώς λειτουργούν. Σε πολύπλοκα, διασυνδεδεμένα συστήματα, η ανθρώπινη διαίσθηση και η μαεστρία πρέπει να καθοδηγούν την τεχνολογία, όχι το αντίστροφο. Είναι σημαντικό να θυμάστε ότι ενώ μπορείτε να αναθέσετε σε εξωτερικούς συνεργάτες σχεδόν οτιδήποτε, η διακριτική ικανότητα δεν είναι μία από αυτές.