Γιατί η κοιλάδα του Σιλικόνης δεν μπορεί να «κινείται γρήγορα και να σπάει πράγματα» όταν πρόκειται για AI

Οι άνθρωποι λένε ότι η κοιλάδα του Σιλικόνης έχει ωριμάσει πέρα από τη σκέψη του «κινήσου γρήγορα, σπάσε πράγματα, και μετά έξω τους» και ότι οι εταιρείες έχουν υιοθετήσει μια πιο αργή και υπεύθυνη προσέγγιση για την κατασκευή του μέλλοντος της βιομηχανίας μας.

Δυστυχώς, οι τρέχουσες τάσεις λένε μια διαφορετική ιστορία.

Παρά τις φωνές, ο τρόπος με τον οποίο οι εταιρείες κατασκευάζουν πράγματα δεν έχει αλλάξει ακόμη. Οι εταιρείες τεχνολογίας vẫn τρέχουν με τον ίδιο κώδικα των συντομεύσεων και των ψευδών υποσχέσεων, και η μειούμενη ποιότητα των προϊόντων το δείχνει. «Κινήσου γρήγορα και σπάσε πράγματα» είναι ακόμη το δόγμα της κοιλάδας του Σιλικόνης – και, ακόμη και αν είχε πραγματικά πεθάνει, ο AI boom το έχει αναζωογονήσει με πλήρη δύναμη.

Οι πρόσφατες προόδους στην τεχνητή νοημοσύνη έχουν ήδη μεταμορφώσει ριζικά τον τρόπο με τον οποίο εργαζόμαστε και ζούμε. Σε μόλις δύο χρόνια, η τεχνητή νοημοσύνη έχει περάσει από το domaine των επαγγελματιών της πληροφορικής σε ένα οικιακό εργαλείο χάρη στην ταχεία διάδοση των εργαλείων γενικής τεχνητής νοημοσύνης όπως το ChatGPT. Αν οι εταιρείες τεχνολογίας «κινήσουν γρήγορα και σπάσουν πράγματα» με την τεχνητή νοημοσύνη, μπορεί να μην υπάρχει επιλογή να «τα διορθώσουν αργότερα», ιδιαίτερα όταν τα μοντέλα εκπαιδεύονται σε ευαίσθητα προσωπικά δεδομένα. Δεν μπορείτε να αφαιρέσετε το δαχτυλίδι από το δαχτυλίδι, και η ηχώ θα αντηχηθεί σε όλη την κοινωνία, προκαλώντας πιθανώς ανεπανόρθωτη ζημία. Από κακόβουλα deepfakes σε σχεδιάσματα απάτης σε εκστρατείες παραπληροφόρησης, ήδη βλέπουμε την αρνητική πλευρά της τεχνητής νοημοσύνης να έρχεται στο φως.

Ταυτόχρονα, όμως, αυτή η τεχνολογία έχει τη δύναμη να αλλάξει την κοινωνία μας προς το καλύτερο. Η υιοθέτηση της τεχνητής νοημοσύνης από τις επιχειρήσεις θα είναι τόσο επαναστατική όσο και η μεταφορά στις cloud· οι εταιρείες θα ξαναχτίσουν完全 με την τεχνητή νοημοσύνη, και θα γίνουν άπειρα πιο παραγωγικές και αποτελεσματικές λόγω αυτής. Σε ατομικό επίπεδο, η γενική τεχνητή νοημοσύνη θα γίνει ο αξιόπιστος βοηθός μας, βοηθώντας μας να ολοκληρώσουμε τις καθημερινές δραστηριότητες, να πειραματιστούμε δημιουργικά και να ξεκλειδώσουμε νέες γνώσεις και ευκαιρίες.

Γιατί το «Κινήσου γρήγορα και σπάσε πράγματα» δεν είναι συμβατό με την τεχνητή νοημοσύνη

«Κινήσου γρήγορα και σπάσε πράγματα» λειτουργεί με δύο основικές υποθέσεις: η μία, ότι οτιδήποτε δεν λειτουργεί κατά την εκκίνηση μπορεί να επιδιορθωθεί σε μια μεταγενέστερη ενημέρωση· και η δύο, ότι αν «σπάσεις πράγματα», μπορεί να οδηγήσει σε πρωτοποριακές εφευρέσεις με αρκετή δημιουργική κωδικοποίηση και έξω από το κουτί σκέψη. Και ενώ πολλές μεγάλες καινοτομίες έχουν προέλθει από λάθη, αυτό δεν είναι πενικιλίνη ή Coca-Cola. Η τεχνητή νοημοσύνη είναι μια εξαιρετικά ισχυρή τεχνολογία που πρέπει να χειρίζεται με την απόλυτη προσοχή. Τα рисκια των διαρροών δεδομένων και της εγκληματικής κακοποίησης είναι απλά πολύ υψηλά για να αγνοηθούν.

Δυστυχώς, η κοιλάδα του Σιλικόνης έχει μια κακή συνήθεια να δοξάζει τη βρώμικη διαδικασία ανάπτυξης. Οι εταιρείες vẫn προωθούν μια ακατάπαυστη δουλειά, όπου οι μακρές ώρες και η απουσία ισορροπίας μεταξύ εργασίας και ζωής γίνονται απαραίτητες για να κάνετε μια καριέρα. Οι startups και οι μετόχοι τους ορίζουν αρεστές στόχους που αυξάνουν το ρίσκο των λαθών και της κοπής γωνιών. Τα όρια推ονται όταν, ίσως, δεν πρέπει. Αυτά τα συμπεριφορικά πρότυπα συνδυάζονται σε μια τοξική βιομηχανική κουλτούρα που ενθαρρύνει την υπεραπασχόληση με το代τί της ηθικής.

Ο τρέχων ρυθμός ανάπτυξης της τεχνητής νοημοσύνης δεν μπορεί να συνεχιστεί μέσα σε αυτήν την κουλτούρα. Αν η τεχνητή νοημοσύνη θα λύσει κάποια από τα πιο πιεστικά προβλήματα του κόσμου, θα πρέπει να εκπαιδευτεί σε εξαιρετικά ευαίσθητες πληροφορίες, και οι εταιρείες έχουν μια κρίσιμη ευθύνη να προστατεύσουν αυτές τις πληροφορίες.

Τα μέτρα ασφαλείας χρειάζονται χρόνο για να εφαρμοστούν, και ο χρόνος είναι κάτι που η κοιλάδα του Σιλικόνης είναι πεπεισμένη ότι δεν έχει. Ήδη, βλέπουμε εταιρείες τεχνητής νοημοσύνης που παραλείπουν τα απαραίτητα φράγματα για χάρη της έξωσης νέων προϊόντων. Αυτό μπορεί να ικανοποιήσει τους μετόχους στο σύντομο χρονικό διάστημα, αλλά τα μακροπρόθεσμα ρίσκια ρυθμίζουν αυτές τις οργανώσεις για τεράστιο οικονομικό ζημιά στο μέλλον – για να μην αναφέρουμε μια πλήρη κατάρρευση κάθε καλής θέλησης που έχουν δημιουργήσει.

Υπάρχει επίσης ένα σοβαρό ρίσκο που σχετίζεται με την πνευματική ιδιοκτησία και την παραβίαση των δικαιωμάτων πνευματικής ιδιοκτησίας, όπως φαίνεται από τις διάφορες ομοσπονδιακές αγωγές που είναι σε εξέλιξη και αφορούν την τεχνητή νοημοσύνη και την πνευματική ιδιοκτησία. Χωρίς τις κατάλληλες προστασίες έναντι της παραβίασης των δικαιωμάτων πνευματικής ιδιοκτησίας και των παραβιάσεων της πνευματικής ιδιοκτησίας, οι ζωές των ανθρώπων είναι σε κίνδυνο.

Ένα νέο δόγμα: «Κινήσου στρατηγικά για να γίνεις ακατάρριπτος»

Τον περασμένο Μάιο, η ΕΕ ενέκρινε τον πρώτο綜合的な νόμο για την τεχνητή νοημοσύνη, τον Νόμο για την Τεχνητή Νοημοσύνη, για να διαχειριστεί το ρίσκο μέσω εκτεταμένων απαιτήσεων διαφάνειας και της απαγόρευσης των τεχνολογιών τεχνητής νοημοσύνης που θεωρούνται απαράδεκτο ρίσκο. Ο νόμος αντανακλά την ιστορικά προσεκτική προσέγγιση της ΕΕ σε νέες τεχνολογίες, η οποία έχει κυβερνήσει τις στρατηγικές ανάπτυξης της τεχνητής νοημοσύνης από τις πρώτες σπίθες του τρέχοντος boom. Αντί να ενεργούν με μια σκέψη, να κατευθύνουν όλα τα κεφάλαια και τις ικανότητες μηχανικής σε την τελευταία τάση χωρίς σωστή σχεδίαση, αυτές οι εταιρείες βυθίζουν τις προσπάθειές τους στη δημιουργία κάτι που θα διαρκέσει.

Αυτή δεν είναι η κυρίαρχη προσέγγιση στις ΗΠΑ, παρά τις πολλές προσπάθειες ρύθμισης. Στο νομοθετικό μέτωπο, ατομικές πολιτείες προτείνουν κυρίως τους δικούς τους νόμους, που κυμαίνονται από ακαταλληλότητα έως υπερβολική ρύθμιση, όπως η προτεινόμενη SB-1047 της Καλιφόρνια. Όσο η αγωνία της τεχνητής νοημοσύνης εντείνεται, και η κοιλάδα του Σιλικόνης συνεχίζει τις παλιές της πρακτικές.

Οι επενδυτές κεφαλαίου είναι μόνο να αναφλέξουν το πρόβλημα. Όταν επενδύουν σε νέες startups, δεν ρωτούν για φράγματα και ελέγχους ασφαλείας. Θέλουν να βγάλουν ένα ελάχιστο εφικτό προϊόν όσο το δυνατόν γρηγορότερα, ώστε να συλλέξουν τους Talers. Η κοιλάδα του Σιλικόνης έχει γίνει ένα πεδίο για τα γρήγορα σχήματα, όπου οι άνθρωποι θέλουν να κάνουν όσο το δυνατόν περισσότερα χρήματα, σε όσο το δυνατόν λιγότερο χρόνο, με όσο το δυνατόν λιγότερη δουλειά – και δεν τους πειράζει οι συνέπειες.

Για την εποχή της τεχνητής νοημοσύνης, θα ήθελα να προτείνω μια αντικατάσταση για το «κινήσου γρήγορα και σπάσε πράγματα»: κινήσου στρατηγικά για να γίνεις ακατάρριπτος. Μπορεί να μην έχει την ίδια ποιητική δύναμη με το προηγούμενο, αλλά αντανακλά τη σκέψη που χρειάζεται η κοιλάδα του Σιλικόνης σήμερα.

Είμαι αισιόδοξος ότι η τεχνολογική βιομηχανία μπορεί να γίνει καλύτερη, και αρχίζει με την υιοθέτηση μιας προσωποκεντρικής, μελλοντοστραφούς σκέψης που επικεντρώνεται στη δημιουργία προϊόντων που διαρκούν και τη διατήρηση αυτών των προϊόντων με έναν τρόπο που καλλιεργεί την εμπιστοσύνη με τους χρήστες. Μια πιο προσεκτική προσέγγιση θα κάνει τους ανθρώπους και τις οργανώσεις να νιώθουν εμπιστοσύνη για την εισαγωγή της τεχνητής νοημοσύνης στις ζωές τους – και αυτό ακούγεται khá κερδοφόρο για μένα.

Προς ένα βιώσιμο μέλλον

Ο τεχνολογικός κόσμος υποφέρει από υπερβολική πίεση να είναι ο πρώτος. Οι ιδρυτές νιώθουν ότι αν δεν πηδήξουν στην επόμενη μεγάλη τάση αμέσως, θα χάσουν το σκάφος. Βέβαια, να είσαι πρώτος може να αυξήσει τις πιθανότητες επιτυχίας, αλλά να είσαι «πρώτος» δεν πρέπει να έρχεται με το代τί της ασφάλειας και της ηθικής.

Όταν ο στόχος σας είναι να χτίσετε κάτι που διαρκεί, θα ψάχνετε πιο προσεκτικά για ρίσκια και αδυναμίες. Αυτός είναι και ο τρόπος με τον οποίο βρίσκετε νέες ευκαιρίες για πρωτοποριακές καινοτομίες. Οι εταιρείες που μπορούν να μετατρέψουν τα πλεονεκτήματα σε αδυναμίες είναι αυτές που μπορούν να λύσουν τις προκλήσεις της αύριο, σήμερα.

Ο υπεροπτισμός είναι πραγματικός, και η νέα εποχή της τεχνητής νοημοσύνης αξίζει του. Αλλά στην ενθουσιασμό μας να ξεκλειδώσουμε τη δύναμη αυτής της τεχνολογίας, δεν μπορούμε να παραλείψουμε τις απαραίτητες προφυλάξεις που θα κάνουν αυτά τα προϊόντα αξιόπιστα και đáng信. Η τεχνητή νοημοσύνη υπόσχεται να βελτιώσει τις ζωές μας προς το καλύτερο, αλλά μπορεί επίσης να προκαλέσει ανεπανόρθωτη ζημία αν η ασφάλεια και η ηθική δεν είναι στο κέντρο της διαδικασίας ανάπτυξης.

Για την κοιλάδα του Σιλικόνης, αυτό πρέπει να είναι ένα σήμα κινδύνου: είναι ώρα να αφήσουμε την σκέψη του «κινήσου γρήγορα, σπάσε πράγματα, και μετά έξω τους» πίσω. Διότι δεν υπάρχει «μετά» όταν το μέλλον είναι τώρα.