Barb Hyman, Ιδρύτρια και Διευθύνων Σύμβουλος της Sapia.ai – Σειρά Συνεντεύξεων

Barb Hyman, Ιδρύτρια και Διευθύνων Σύμβουλος της Sapia.ai, είναι μια έμπειρη επιχειρηματική ηγέτης της οποίας η καριέρα περιλαμβάνει το δίκαιο, τη συμβουλευτική διαχείρισης, το μάρκετινγκ, τη μάθηση και ανάπτυξη, τους ανθρώπινους πόρους και την τεχνολογία. Ξεκίνησε την καριέρα της ως δικηγόρος στη Herbert Smith Freehills πριν μεταβεί στη συμβουλευτική με την Boston Consulting Group, όπου προχώρησε σε θέση Project Leader και αργότερα επέστρεψε σε ανώτερες θέσεις υπεύθυνη για τη μάθηση και ανάπτυξη, το HR και το μάρκετινγκ στην Αυστραλασία. Η Hyman υπηρέτησε επίσης ως Head of Marketing and Sponsorship στο Museum of Contemporary Art στο Σίδνεϊ και ως Executive General Manager of People & Culture στην REA Group. Ιδρύει τη Sapia.ai το 2018, αντλώντας από την εμπειρία της στην ηγεσία οργανισμών και στη διαχείριση ταλέντων για να επαναπροσδιορίσει τον τρόπο με τον οποίο οι εταιρείες αξιολογούν και προσλαμβάνουν άτομα χρησιμοποιώντας τεχνητή νοημοσύνη.

Sapia.ai είναι μια εταιρεία τεχνολογίας πρόσληψης που λειτουργεί με τεχνητή νοημοσύνη, εστιασμένη στην δομημένη, συνομιλιακή αξιολόγηση υποψηφίων. Η πλατφόρμα της χρησιμοποιεί συνεντεύξεις μέσω chat για να αξιολογεί υποψήφιους με συνέπεια σε μεγάλη κλίμακα, βοηθώντας τους εργοδότες να εκτιμούν δεξιότητες και καταλληλότητα ενώ μειώνει την εξάρτηση από την παραδοσιακή σάρωση βιογραφικών και άλλα σήματα που μπορούν να προκαλέσουν προκατάληψη. Η Sapia.ai δηλώνει ότι η τεχνολογία της έχει αξιολογήσει πάνω από 10 εκατομμύρια υποψηφίους και συνδυάζει τη επιστήμη δομημένης αξιολόγησης με τεχνητή νοημοσύνη ταλέντου, εξατομικευμένη ανάδραση υποψηφίων και ενσωματώσεις με υπάρχοντα συστήματα παρακολούθησης αιτήσεων και HR. Η εταιρεία δίνει επίσης έμφαση στην εξηγήσιμότητα, τη δικαιοσύνη και τη συμμόρφωση σε επιχειρηματικό επίπεδο, με την ευρύτερη πλατφόρμα της να περιλαμβάνει AI συνεντεύξεις, ανάλυση θέσεων, προγραμματισμό συνεντεύξεων, ευφυΐα ταλέντου και καθοδήγηση καριέρας με τεχνητή νοημοσύνη.

Πριν ιδρύσετε τη Sapia.ai, χτίσατε μια καριέρα που περιλάμβανε συμβουλευτική στη Boston Consulting Group, δίκαιο, μάρκετινγκ, μάθηση και ανάπτυξη, και τελικά ηγεσία People & Culture στην REA Group. Ποιες εμπειρίες από αυτό το ταξίδι σας έπεισαν ότι η πρόσληψη χρειάζεται θεμελιώδη επανασχεδιασμό, και ποιο πρόβλημα σκοπεύατε αρχικά να λύσετε με τη Sapia.ai;

Ο τρέχων τρόπος με τον οποίο αξιολογούμε τους ανθρώπους είναι ελαττωματικός — ιδιαίτερα στη διαδικασία πρόσληψης.

Βασιζόμαστε στα βιογραφικά. Δεν βλέπουμε το σύνολο του ατόμου. Παίρνουμε τις πιο σημαντικές αποφάσεις μας — ποιον να προσλάβουμε, ποιον να προωθήσουμε — βάσει ενστίκτου και παραγόντων υποκατάστασης. Η πρακτική της «καθρεφτικής» πρόσληψης είναι διαδεδομένη: από πότε το σχολείο ή το πανεπιστήμιο που παρακολούθησε κάποιος έγινε δείκτης νοημοσύνης; Δεν είναι. Είναι δείκτης προνομίου.

Κάποιο από αυτό σχετίζεται με την προσωπική μου ιστορία. Είμαι μετανάστης και ξέρω ότι βρέθηκα σε μια τυχερή κατηγορία μεταναστών: είμαι λευκός και έχω ένα όνομα που οι άνθρωποι βρίσκουν εύκολο να προφέρουν. Προέρχομαι από μια οικογένεια όπου κανείς δεν πήγε στο πανεπιστήμιο· ο πατέρας μου ήταν καταστηματάρχης. Παρόλα αυτά, είχα εξαιρετικές ευκαιρίες και πέντε καριέρες αργότερα, βρίσκομαι εδώ. Όταν σκέφτομαι τους δύο δισεκατομμύρια εργαζόμενους στον κόσμο, σκέφτομαι πόσοι από αυτούς διαθέτουν ακριβώς το ταλέντο, την ώθηση, τη κριτική σκέψη που μου αποδίδονται, αλλά δεν γίνονται ποτέ ορατοί επειδή είμαστε τυφλοί από το πρίσμα της δικής μας εμπειρίας. Η προκατάληψη είναι μια εξαιρετική συντόμευση για γρήγορη λήψη απόφασης, και είναι ακριβώς ο λόγος που η πρόσληψη συνεχίζει να ανταμείβει τους ήδη προνομιούχους. Ποτέ δεν φαινόταν δίκαιη ή λογική.

Το άλλο μισό της ιστορίας προήλθε από τη συμβουλευτική. Μετά το MBA μου, μπήκα σε έναν κόσμο όπου δεν μπαίνετε ποτέ σε μια αίθουσα συνεδριάσεων και κάνετε πρόταση χωρίς πραγματική έρευνα πίσω της. Παρόλα αυτά η απόφαση με το υψηλότερο ρίσκο που λαμβάνει κάθε εταιρεία (ποιος θα ενταχθεί, ποιος θα ηγηθεί, ποιος θα διαμορφώσει την κουλτούρα) εξακολουθεί να λαμβάνεται με ενστίκτο ή με έναν παράγοντα υποκατάστασης τόσο αδύναμο όσο το όνομα ενός πανεπιστημίου. Οι άνθρωποι δεν εμφανίζονται στον ισολογισμό, αλλά στις επαγγελματικές υπηρεσίες, ειδικά, είναι το περιουσιακό στοιχείο. Αυτή η ασυμφωνία μου φαινόταν παράλογη.

Το βιογραφικό καθαυτό δεν έχει υποστεί θεμελιώδη αλλαγή από τότε που ο Λεονάρντο ντα Βίντσι εφηύρε τη μορφή του. Η Wikipedia καταγράφει πάνω από 180 τεκμηριωμένες ανθρώπινες προκαταλήψεις. Ένα τρίτο των υποψηφίων στη Βόρεια Αμερική που ολοκληρώνουν μια αίτηση εργασίας μένουν χωρίς απάντηση δύο μήνες αργότερα. Τίποτα από αυτά δεν αποτελεί πρόβλημα ταλέντου: το ταλέντο είναι εξίσου κατανεμημένο, αλλά η ευκαιρία όχι.

Αυτό που ήθελα να διορθώσω με τη Sapia δεν ήταν μόνο μια απόφαση — προήλθε από την εμπειρία της αναζήτησης εργασίας. Η ομάδα μου γελάει με αυτό, αλλά πάντα θεωρούσα την πρόσληψη όπως το ραντεβού. Είναι μια σχέση. Θα περάσετε περισσότερο χρόνο με τους ανθρώπους στη δουλειά σας απ’ ό,τι με τον σύντροφό σας. Λοιπόν, γιατί να πάρετε αυτή την απόφαση με λιγότερη αυστηρότητα — τα δεδομένα — από ό,τι απαιτούμε για κάθε άλλη σημαντική απόφαση;

Έχετε υποστηρίξει ότι οι περισσότερες οργανώσεις προσεγγίζουν την υιοθέτηση AI ως έργο αποδοτικότητας, ενώ θα έπρεπε να ξεκινά ως έργο εμπιστοσύνης. Πώς φαίνεται πρακτικά η «εμπιστοσύνη» και πώς πρέπει οι εταιρείες να τη μετράνουν παράλληλα με πιο παραδοσιακούς δείκτες όπως η παραγωγικότητα, η εξοικονόμηση κόστους και η υιοθέτηση;

Το έμαθα ως CHRO: αν δεν είστε διαφανείς για το γιατί κάνετε μια αλλαγή, η εμπιστοσύνη είναι το πρώτο θύμα. Και νομίζω ότι οι περισσότερες εταιρείες αντιστρέφουν τη λογική της υιοθέτησης AI. Μετρούν το κέρδος στην παραγωγικότητα, π.χ. τις εξοικονομημένες ώρες, το κόστος ανά πρόσληψη, αλλά δεν σταματούν ποτέ να μετρήσουν το στοιχείο που πραγματικά καθορίζει αν κάτι παραμένει: εμπιστεύονται οι άνθρωποί σας τον τρόπο που χρησιμοποιείτε την AI, και γιατί;

Η εμπιστοσύνη είναι το υπόστρωμα του πολιτισμού σας. Δεν είναι ένας «μαλακός» δείκτης που βρίσκεται δίπλα στους πραγματικούς — είναι αυτό που στηρίζει τους πραγματικούς δείκτες. Σκεφτείτε το όπως θα σκεφτόσασταν οποιαδήποτε σχέση. Η υψηλή εμπιστοσύνη σας δίνει περιθώρια ελευθερίας. Η χαμηλή εμπιστοσύνη κάνει τα πάντα μικρότερα, λιγότερο ανθεκτικά, λιγότερο χαλαρά. Και κανείς δεν κάνει το καλύτερό του όταν δεν αισθάνεται ασφαλής. Οι οργανισμοί δεν διαφέρουν.

Ωστόσο, τόσα πολλά από όσα έχουν γίνει με την τεχνητή νοημοσύνη στον χώρο εργασίας έχουν στην πραγματικότητα εξοπλίσει τα δεδομένα των ανθρώπων εναντίον τους, για παράδειγμα σαρρώνοντας τα κοινωνικά μέσα κάποιου για να εξαχθεί αν είναι καλός υποψήφιος, καλός κίνδυνος, κακός κίνδυνος. Δεν μπορώ καθόλου να φανταστώ τη συνάντηση όπου ελήφθη αυτή η απόφαση, ή πώς κάποιος νόμιζε ότι δεν θα διαβρώσει τον πολιτισμό τη στιγμή που οι άνθρωποι το ανακαλύψουν.

Έτσι, αν είστε σοβαροί σχετικά με την υιοθέτηση της τεχνητής νοημοσύνης, η εμπιστοσύνη πρέπει να αποτελεί δείκτη από την πρώτη μέρα, δίπλα στην παραγωγικότητα και τις εξοικονομήσεις κόστους. Ρωτήστε τους ανθρώπους άμεσα: καταλαβαίνετε γιατί το χρησιμοποιούμε; Πιστεύετε ότι χρησιμοποιείται δίκαια; Αν δεν μπορείτε να απαντήσετε ναι και στις δύο ερωτήσεις, τα κέρδη από την αποδοτικότητα που γιορτάζετε είναι δανεισμένα έναντι ενός πολιτισμού που εξαντλείτε σιωπηλά.

Ένα από τα μεγαλύτερα ανησυχητικά ζητήματα σχετικά με την τεχνητή νοημοσύνη στη πρόσληψη είναι ότι τα μοντέλα μπορούν να μάθουν από ιστορικά δεδομένα απασχόλησης και ενδεχομένως να ενισχύσουν τις ίδιες ανθρώπινες προκαταλήψεις που οι οργανισμοί προσπαθούν να εξαλείψουν. Πώς μπορούν οι εταιρείες να αποτρέψουν την τεχνητή νοημοσύνη από το να αυτοματοποιεί απλώς τις υπάρχουσες προκαταλήψεις στη πρόσληψη, και ποια μέτρα ασφαλείας πρέπει να ενσωματωθούν σε αυτά τα συστήματα από την αρχή;

Αυτή είναι ακριβώς η παγίδα που οι περισσότερες συζητήσεις για την τεχνητή νοημοσύνη στη πρόσληψη παραβλέπουν και ο λόγος για τον οποίο δημιούργησα την Sapia όπως το έκανα. Αν εκπαιδεύσετε ένα μοντέλο με ιστορικά δεδομένα πρόσληψης (ποιοι προσλήφθηκαν, ποιοι προήχθησαν, ποιος έλαβε την πρώτη συνέντευξη), δεν αφαιρείτε τις προκαταλήψεις, τις βιομηχανοποιείτε. Διδάσκετε μια μηχανή να επαναλαμβάνει κάθε απόφαση “καθρεφτισμένης” πρόσληψης, κάθε κλήση “συμφωνίας με τον πολιτισμό”, κάθε συντομευμένη από το ένστικτο απόφαση που σας έδωσε το υπάρχον εργατικό δυναμικό. Αυτό δεν είναι καινοτομία. Είναι προκατάληψη σε κλίμακα, μόνο πιο γρήγορη και με μια επιφάνεια αντικειμενικότητας που την καθιστά πιο δύσκολη να αμφισβητηθεί.

Έτσι, το μέτρο ασφαλείας πρέπει να ξεκινά πιο νωρίς από τον αλγόριθμο. Δεν εκπαιδεύουμε με βιογραφικά, φωτογραφίες, ονόματα, πανεπιστήμια ή οποιαδήποτε από τα παραδοσιακά ενδιάμεσα στοιχεία που συσχετίζονται με προνόμια αντί για δυνατότητα. Αν η είσοδος μεταφέρει τις προκαταλήψεις, καμία έξυπνη μοντελοποίηση στη συνέχεια δεν τις διορθώνει. Είναι το πρόβλημα “απορρίμματα μέσα, απορρίμματα έξω”, εκτός από το ότι τα απορρίμματα είναι δεκαετίες ανθρώπινων προκαταλήψεων μεταμφιεσμένες ως βιογραφικό.

Το δεύτερο στοιχείο είναι σε τι συγκρίνετε πραγματικά το μοντέλο. Δεν αρκεί να πείτε “η τεχνητή νοημοσύνη λειτουργεί”, πρέπει συνεχώς να ελέγχετε για αρνητικές επιπτώσεις ανά φύλο, εθνικότητα, ηλικία, αναπηρία, κάθε προστατευμένο χαρακτηριστικό που μπορείτε να μετρήσετε συνεχώς, όχι ως εφάπαξ έλεγχο πριν την κυκλοφορία. Η προκατάληψη δεν είναι ένα σφάλμα που διορθώνετε μία φορά. Είναι κάτι που πρέπει να παρακολουθείτε συνεχώς, όπως θα παρακολουθούσατε οποιοδήποτε σύστημα που λαμβάνει σημαντικές αποφάσεις για τη ζωή των ανθρώπων.

Και τρίτο — αυτό είναι που οι περισσότεροι παραλείπουν — χρειάζεστε εξωτερικά μάτια. Ανεξάρτητοι, τρίτοι έλεγχοι των μοντέλων σας, δημοσιευμένη μεθοδολογία, πραγματική διαφάνεια σχετικά με το τι κάνει και τι δεν κάνει το σύστημα. Αν είστε διατεθειμένοι να ελέγχετε το εργαλείο πρόσληψης AI μόνο από τα άτομα που το δημιούργησαν και έχουν οικονομικό κίνητρο να το υπερασπιστούν, δεν έχετε πραγματικά λύσει το πρόβλημα της εμπιστοσύνης, απλώς το μετακινήσατε.

Η “ο αλγόριθμος το έκανε” δεν είναι δικαιολογία, αλλά παραδοχή ότι δεν δημιουργήσατε τα μέτρα ασφαλείας από την αρχή. Θυμηθείτε, η τεχνητή νοημοσύνη δεν αφαιρεί την ανθρώπινη ευθύνη για τη δικαιοσύνη.

Η πρόσληψη είναι μια εξαιρετικά κρίσιμη εφαρμογή της τεχνητής νοημοσύνης, επειδή ένας αλγόριθμος μπορεί να επηρεάσει άμεσα την καριέρα κάποιου. Πού πρέπει οι οργανισμοί να θέσουν το όριο μεταξύ αποφάσεων που μπορούν να αυτοματοποιηθούν και εκείνων που πρέπει πάντα να παραμένουν υπό ουσιαστική ανθρώπινη επίβλεψη;

Η γραμμή που θέτω είναι η εξής: η τεχνητή νοημοσύνη μπορεί απόλυτα να σας βοηθήσει να δείτε ένα άτομο πιο καθαρά, αλλά δεν πρέπει ποτέ να είναι αυτή που αποφασίζει μόνο της τη μοίρα του. Υπάρχει πραγματική διαφορά μεταξύ της ενίσχυσης μιας απόφασης και της ανάθεσής της. Η πρόσληψη είναι ένας από τους λίγους τομείς όπου η λανθασμένη διάκριση αλλάζει πραγματικά τη ζωή κάποιου.

Πού λοιπόν κερδίζει η αυτοματοποίηση τη θέση της; Στην ανάδειξη σημάτων που οι άνθρωποι δεν μπορούν να δουν με συνέπεια και δικαιοσύνη, για παράδειγμα διαβάζοντας χιλιάδες απαντήσεις συνεντεύξεων χωρίς κόπωση, χωρίς κακή μέρα, χωρίς να προτιμούν υποσυνείδητα τον υποψήφιο που τους θυμίζει τους εαυτούς τους στα 25. Αυτή είναι μια δουλειά που η τεχνητή νοημοσύνη μπορεί να κάνει καλύτερα από έναν κουρασμένο υπεύθυνο πρόσληψης στην όγδοη συνέντευξη της ημέρας. Η αξιολόγηση των πραγματικών “soft skills”, η δομή της πληροφορίας ώστε κάθε υποψήφιος να αξιολογείται με τα ίδια κριτήρια, είναι εκεί που η μηχανή προσθέτει πραγματική αξία, επειδή δεν είμαστε φτιαγμένοι να είμαστε τόσο συνεπείς.

Η τελική απόφαση — ποιος προσλαμβάνεται, ποιος απορρίπτεται, ποιος λαμβάνει δεύτερη ευκαιρία — πρέπει να ανήκει σε άνθρωπο που μπορεί να λογοδοτήσει γι’ αυτήν. Δεν πρέπει να είναι απλώς μια βελόνα σφραγίδας σε ό,τι και αν παράγει το μοντέλο, αλλά πραγματική, ουσιαστική επίβλεψη: κάποιος που καταλαβαίνει τι μετρά το σύστημα, μπορεί να αμφισβητήσει ένα αποτέλεσμα που φαίνεται λανθασμένο και να το παρακάμψει. Αν ένας άνθρωπος δεν μπορεί να αμφισβητήσει ουσιαστικά τη σύσταση της τεχνητής νοημοσύνης, δεν πρόκειται για επίβλεψη αλλά για ανθρώπινη δικαιολογία.

Θα έβαζα επίσης όριο σε οτιδήποτε μη αναστρέψιμο ή αδιαφανές. Αν ένας υποψήφιος δεν μπορεί να λάβει μια κατανοητή εξήγηση για το γιατί δεν προχώρησε, το σύστημα αποτυγχάνει ανεξάρτητα από το πόσο «ακριβές» είναι. Και αν το μοντέλο λαμβάνει αποφάσεις που κανείς στην εταιρεία δεν μπορεί πραγματικά να εξηγήσει — συμπεριλαμβανομένων των ανθρώπων που το δημιούργησαν — αυτό δεν είναι εργαλείο πρόσληψης, είναι ένα μαύρο κουτί με την καριέρα κάποιου μέσα του. Το τεστ που θα έδινα σε οποιονδήποτε οργανισμό είναι απλό: μπορείτε να καθίσετε απέναντι σε έναν υποψήφιο που απορρίψατε και να του εξηγήσετε, με απλή γλώσσα, γιατί; Αν η ειλικρινής απάντηση είναι «Δεν ξέρω πραγματικά, το μοντέλο αποφάσισε», έχετε αυτοματοποιήσει το λάθος μέρος της διαδικασίας.

Sapia.ai διακρίνει μεταξύ γενετικού AI που χρησιμοποιείται για ανοιχτές συνομιλίες και πιο ντετερμινιστικών συστημάτων που χρησιμοποιούνται για την αξιολόγηση υποψηφίων. Γιατί είναι σημαντική αυτή η διάκριση, ειδικά όταν τα αποτελέσματα του AI πρέπει να είναι συνεπή, ελεγχόμενα και υπερασπίσιμα;

Οι άνθρωποι ακούνε «AI» και υποθέτουν ότι είναι ένα πράγμα, αλλά στη διαδικασία πρόσληψης αυτή η συγχώνευση είναι ακριβώς το σημείο όπου τα πράγματα πάθουν λάθος. Διαχωρίζουμε σκόπιμα τη δουλειά σε δύο μέρη, επειδή η ανοιχτή συνομιλία και η αξιολόγηση υψηλού κινδύνου έχουν εντελώς διαφορετικές απαιτήσεις, και το να προσποιούμαστε ότι είναι η ίδια τεχνολογία οδηγεί τις εταιρείες σε συστήματα που δεν μπορούν να εξηγήσουν, να υπερασπιστούν ή να εμπιστευτούν.

Το γενετικό AI είναι εξαιρετικό στο επίπεδο της συνομιλίας — προσφέρει μια φυσική, ανθρώπινη ανταλλαγή με τον υποψήφιο, θέτει καλές ερωτήσεις παρακολούθησης, κάνοντας την εμπειρία να μοιάζει με συζήτηση αντί για φόρμα. Εδώ είναι που θέλετε ευελιξία, λεπτομέρεια, ακόμη και λίγη απρόβλεπτη συμπεριφορά, επειδή οι πραγματικές συνομιλίες δεν είναι προγραμματισμένες.

Αλλά τη στιγμή που μεταβαίνετε από τη συνομιλία με έναν υποψήφιο στην αξιολόγησή του, όλα όσα χρειάζεστε από το σύστημα αλλάζουν. Η αξιολόγηση πρέπει να είναι συνεπής: η ίδια απάντηση πρέπει να λαμβάνει την ίδια εκτίμηση, είτε πρόκειται για τον πρώτο υποψήφιο είτε για τον χίλιοστό, είτε είναι Δευτέρα το πρωί είτε Παρασκευή το απόγευμα. Πρέπει να είναι ελεγχόμενη, πράγμα που σημαίνει ότι πρέπει να μπορείτε να επιστρέψετε και να δείξετε ακριβώς γιατί ένας υποψήφιος έλαβε τη συγκεκριμένη βαθμολογία, όχι απλώς να εμπιστεύεστε ότι το μοντέλο «το κατάλαβε». Και πρέπει να είναι υπερασπίσιμη, επειδή η ζωή κάποιου βρίσκεται στο άκρο αυτής της βαθμολογίας, και η φράση «το γενετικό μοντέλο θεώρησε ότι αυτή ήταν καλή απάντηση» δεν αντέχει την επαφή με έναν ρυθμιστή, έναν δημοσιογράφο ή έναν υποψήφιο που θέλει να ξέρει γιατί δεν πήρε τη δουλειά.

Τα γενετικά μοντέλα, από τη φύση τους, είναι πιθανοκρατικά — εάν θέσετε την ίδια ερώτηση δύο φορές, μπορείτε να λάβετε ελαφρώς διαφορετικά αποτελέσματα. Αυτό είναι ένα πλεονέκτημα για τη συνομιλία και μια σοβαρή ευθύνη για την αξιολόγηση. Στην Sapia, χρησιμοποιούμε ντετερμινιστικά συστήματα για το τμήμα της διαδικασίας που πραγματικά αποφασίζει το αποτέλεσμα κάποιου. Μοντελοποιούμε όπου η ίδια είσοδος παράγει αξιόπιστα το ίδιο αποτέλεσμα, όπου μπορούμε να εντοπίσουμε τη λογική και όπου μπορούμε να αποδείξουμε ότι δύο παρόμοιοι υποψήφιοι αντιμετωπίζονται ισομερώς.

Πρόκειται ουσιαστικά για διαχωρισμό των ευθυνών: αφήστε το γενετικό AI να είναι εξαιρετικό στο να μοιάζει με άνθρωπο, και αφήστε τα ντετερμινιστικά, ελεγχόμενα συστήματα να φέρουν το βάρος μιας απόφασης που πρέπει να είναι δίκαιη, εξηγήσιμη και υπερασπίσιμη υπό έλεγχο.

Η εξηγήσιμότητα συχνά συζητείται ως απαίτηση για υπεύθυνο AI, αλλά πολλά προχωρημένα μοντέλα παραμένουν δύσκολα για τους χρήστες να κατανοήσουν. Πόση εξήγηση θα πρέπει λογικά να αναμένει ένας υποψήφιος ή ένας υπάλληλος όταν το AI έχει επηρεάσει μια απόφαση πρόσληψης;

Πιστεύω ότι οι υποψήφιοι αξίζουν περισσότερα από ό,τι οι περισσότερες εταιρείες τους παρέχουν αυτή τη στιγμή, και ειλικρινά, περισσότερα από ό,τι οι περισσότερες εταιρείες θεωρούν ότι μπορούν να δώσουν. «Ο αλγόριθμος αποφάσισε» είναι μια παραδοχή αποτυχίας μεταμφιεσμένης ως εκλεπτυσμένη.

Εδώ είναι η θέση μου: ένας υποψήφιος πρέπει πάντα να μπορεί να καταλάβει, με απλή γλώσσα, σε τι αξιολογήθηκε και περίπου γιατί έφτασε εκεί που έφτασε. Όχι τα υποκείμενα μαθηματικά, όχι μια εκτύπωση των βαρών του μοντέλου. Αυτό που θέλουν και αυτό που τους οφείλεται, είναι κάτι πιο κοντά σε αυτό που ένας καλός διευθυντής θα τους έλεγε πρόσωπο με πρόσωπο: αυτές είναι οι ιδιότητες που ψάχναμε, εδώ ήσασταν δυνατοί, εδώ δεν ήσασταν η πιο κοντινή αντιστοιχία αυτή τη φορά. Αυτό είναι ένα απολύτως λογικό όριο, και οποιοδήποτε σύστημα που δεν μπορεί να το περάσει δεν θα έπρεπε να παίρνει αποφάσεις για την επιβίωση κάποιου από την αρχή.

Για εμάς, η εξηγήσιμότητα πρέπει να ενσωματώνεται στην αρχιτεκτονική από την πρώτη μέρα, επειδή δεν μπορείτε να εξηγήσετε κάτι που δεν μπορείτε να εντοπίσετε.

Αυτό που θα αμφισβήτηνα λίγο είναι η ιδέα ότι η εξηγήσιμότητα σημαίνει ότι οι υποψήφιοι χρειάζονται τεχνική εκπαίδευση για το πώς λειτουργεί το μοντέλο. Αυτό είναι ένα ψευδές πρότυπο και συχνά χρησιμοποιείται ως δικαιολογία όταν στην πραγματικότητα δεν έχει σχεδιαστεί ώστε να μπορεί να εξηγηθεί. Ένας καλός γιατρός δεν σας περνάει τη βιοχημεία μιας διάγνωσης· σας λέει τι βρήκε και τι σημαίνει για εσάς. Το AI στη πρόσληψη πρέπει να τηρεί το ίδιο πρότυπο ανθρώπινης αναγνώσιμης ειλικρίνειας.

Η πραγματική δοκιμή είναι η ίδια που θα εφάρμοζα στην ανθρώπινη εποπτεία: μπορεί ένας υποψήφιος να ρωτήσει «γιατί δεν προχώρησα;» και να λάβει μια απάντηση που είναι συγκεκριμένη, ειλικρινής και πραγματικά δική του; Αν το AI σας δεν μπορεί να παράγει αυτήν την απάντηση, δεν έχετε δημιουργήσει ένα εξηγήσιμο σύστημα. Έχετε δημιουργήσει ένα που ελπίζετε ότι κανείς δεν θα ρωτήσει.

Οι εταιρείες συχνά εστιάζουν στο αν οι υπάλληλοι και οι διευθυντές χρησιμοποιούν ένα εργαλείο AI, αντί στο αν πραγματικά εμπιστεύονται τα αποτελέσματά του. Ποια προειδοποιητικά σημάδια υποδεικνύουν ότι ένας οργανισμός έχει πετύχει υιοθέτηση AI χωρίς να έχει αποκτήσει πραγματική εμπιστοσύνη στην τεχνολογία;

Η υιοθέτηση είναι το πιο εύκολο μέτρο να παραποιηθεί, και γι’ αυτό ακριβώς πολλές εταιρείες τη συγχέουν με την επιτυχία. Αν σας πω ότι όλοι στην επιχείρηση “χρησιμοποιούν” το εργαλείο AI, αυτό δεν σας λέει σχεδόν τίποτα για το αν το πιστεύουν — μπορεί απλώς να σημαίνει ότι είναι υποχρεωτικό, ή ότι είναι η πιο εύκολη λύση, ή ότι κανείς δεν έχει βρει ακόμη τρόπο να το παρακάμπτει.

Το πρώτο σημάδι προειδοποίησης είναι η συμπεριφορά παρακάμψης. Αν οι άνθρωποι χρησιμοποιούν το εργαλείο AI αλλά ταυτόχρονα ήσυχα κάνουν τη παλιά διαδικασία παράλληλα — ελέγχοντας το αποτέλεσμα του χειροκίνητα, κρατώντας ξεχωριστές σημειώσεις, τρέχοντας ένα σκιώδες σύστημα για ενδεχόμενη ανάγκη — αυτό είναι συμμόρφωση με μια πολιτική ασφάλισης που το συνοδεύει. Οι αριθμοί χρήσης φαίνονται εξαιρετικοί. Η αλήθεια είναι ότι όλοι πιστεύουν ότι το εργαλείο μπορεί να κάνει λάθος.

Το δεύτερο είναι η σιωπή. Σε έναν πραγματικά εμπιστευτικό πολιτισμό, οι άνθρωποι αμφισβητούν το σύστημα όταν κάτι φαίνεται εκτός τόπου: κάνουν ερωτήσεις, αντιδρούν, σηματοδοτούν αποτελέσματα που δεν τους φαίνονται σωστά. Όταν η υιοθέτηση είναι πραγματική αλλά η εμπιστοσύνη δεν υπάρχει, συμβαίνει το αντίστροφο. Οι άνθρωποι σταματούν να το αμφισβητούν επειδή έχουν αποφασίσει ότι δεν αξίζει ο αγώνας. Αυτή η σιωπή ερμηνεύεται από τη διοίκηση ως ικανοποίηση. Στην πραγματικότητα είναι μια παραίτηση.

Η τρίτη προειδοποίηση είναι το χάσμα μεταξύ του τι λένε οι άνθρωποι σε μια έρευνα και του τι λένε μεταξύ τους. Θα ήμουν πολύ πιο ανήσυχος για μια εταιρεία όπου ο επίσημος πίνακας υιοθέτησης είναι πράσινος παντού, αλλά η πραγματική συζήτηση στην αίθουσα ανάπαυσης είναι “ναι, κάνουμε ό,τι λέει επειδή είναι πιο εύκολο από το να διαφωνούμε” — αυτός είναι ένας πολιτισμός που δεν έχει μετατραπεί.

Και το πιο βαθύ σημάδι προειδοποίησης, και το πιο σημαντικό για μένα: όταν οι άνθρωποι σταματούν εντελώς να φέρνουν τη δική τους κρίση στο τραπέζι. Αυτό είναι παραίτηση. Η πραγματική εμπιστοσύνη σε ένα εργαλείο σημαίνει ότι οι άνθρωποι εξακολουθούν να νιώθουν ενδυναμωμένοι να διαφωνούν με αυτό όταν η δική τους εξειδίκευση τους λέει κάτι διαφορετικό — και να το κάνουν με ασφάλεια. Αν οι διευθυντές σας έχουν γίνει σιωπηλοί και απλώς υπακούουν σε ό,τι λέει το AI, έχετε δημιουργήσει εξάρτηση.

Έτσι, η πραγματική δοκιμή δεν είναι “χρησιμοποιούν το εργαλείο;” αλλά “θα επέλεγαν οι άνθρωποι να το συνεχίσουν να το χρησιμοποιούν αν ήταν προαιρετικό, και θα σας έλεγαν ειλικρινά όταν έκανε κάποιο λάθος;” Οι περισσότερες εταιρείες δεν έχουν ποτέ πραγματικά θέσει ούτε μία από αυτές τις ερωτήσεις. Αυτό είναι συνήθως το σημάδι.

Τα εργαλεία πρόσληψης AI μπορούν ενδεχομένως να αξιολογούν υποψηφίους σε κλίμακα και συνέπεια που οι ανθρώπινοι recruiters δεν μπορούν, αλλά η πρόσληψη περιλαμβάνει επίσης το πλαίσιο και τις αποχρώσεις. Πού πιστεύετε ότι το AI μπορεί σήμερα να υπερέχει της ανθρώπινης κρίσης, και πού οι άνθρωποι παραμένουν απαραίτητοι;

Το AI μπορεί να είναι ένα εξαιρετικό εργαλείο για την αξιολόγηση ενός μεγάλου αριθμού υποψηφίων ανεξάρτητα από το υπόβαθρό τους και τις εμπειρίες τους, παρέχοντας ταυτόχρονα προσαρμοσμένη αξιολόγηση για υποψηφίους με συγκεκριμένες ανάγκες. Ένας ανθρώπινος recruiter μπορεί να είναι πιο επιρρεπής να προτιμήσει υποψηφίους από ένα κορυφαίο πανεπιστήμιο ή χωρίς προηγούμενες προβλήματα υγείας. Το AI διεξάγει μια δίκαιη, ίση αξιολόγηση όλων των υποψηφίων με τρόπο που οι άνθρωποι δεν μπορούν όταν αντιμετωπίζουν εκατοντάδες αιτήσεις. Παρόλα αυτά, η ανθρώπινη κρίση παραμένει απαραίτητη για την αξιολόγηση του αν ένας υποψήφιος θα ταιριάξει στην εταιρική κουλτούρα ή θα πληροί τα πρότυπα που απαιτούνται από τους πελάτες.

Καθώς το AI ενσωματώνεται πιο βαθιά στην πρόσληψη, την εκπαίδευση, τη διαχείριση απόδοσης και άλλες αποφάσεις σχετικά με το εργατικό δυναμικό, πώς πρέπει να δομηθεί η λογοδοσία όταν μια απόφαση με τη βοήθεια AI παράγει άδικο ή λανθασμένο αποτέλεσμα;

Η λογοδοσία στο AI παραμένει όταν οι άνθρωποι είναι οι τελικοί λήπτες αποφάσεων, ενώ η ροή εργασίας πρόσληψης περιλαμβάνει διαφάνεια, εξηγήσιμότητα και αυστηρό έλεγχο προκαταλήψεων. Εκκινήσαμε το μοντέλο FAIR™ για να προωθήσουμε υπεύθυνες πρακτικές AI. Συνιστά:

• Αμεροληψία: Δοκιμάστε για προκατάληψη και χρησιμοποιήστε τα σωστά στατιστικά μέτρα — όπως ο κανόνας 4/5, η ισοδυναμία ποσοστών σφάλματος και άλλες σχετικές δοκιμές προκατάληψης — για να ελέγξετε ότι τα αποτελέσματα είναι δίκαια.
• Εγκυρότητα: Η απόδειξη που προέρχεται από AI βασίζεται σε πραγματικά δεδομένα και συνδέεται με το αποτέλεσμα που προορίζεται να προβλέψει.
• Εξηγήσιμη: Διαθέστε σαφή τεκμηρίωση και εργαλεία για την ερμηνεία των αποτελεσμάτων, τι έχει εντοπίσει το AI για έναν υποψήφιο και πώς αυτό συνέβαλε στη βαθμολογία του.
• Συμπερίληψη: Αυτό σημαίνει να διασφαλίζετε ότι οι υποψήφιοι αντιμετωπίζονται δίκαια σε όλη τη διαδικασία, από την αίτηση μέχρι τη λήψη απόφασης. Είναι μια ολοκληρωμένη άποψη της εμπειρίας πρόσληψης — συμπεριλαμβανομένων των ανθρώπων, των διαδικασιών, της τεχνολογίας και του AI που συνεργάζονται.

Κοιτάζοντας μπροστά, αναμένετε το AI να γίνει κυρίως ένα επίπεδο λήψης αποφάσεων μέσα στα συστήματα HR, ή θα έχει πιο σημαντικό ρόλο στη συνομιλία, βοηθώντας υποψηφίους και εργαζόμενους να κατανοούν καλύτερα τις ευκαιρίες, να αναπτύσσουν δεξιότητες και να διαχειρίζονται τις καριέρες τους;

Ακόμη και οι πιο προηγμένες τεχνολογίες απαιτούν ανθρώπινη επαφή, ανθρώπινη κρίση και ανθρώπινη επίβλεψη. Το AI είναι εκεί για να υποστηρίξει τη διαδικασία, διασφαλίζοντας ότι κάθε υποψήφιος έχει μια δίκαιη, ίση ευκαιρία να ληφθεί υπόψη για μια θέση. Στην Sapia, μας αρέσει να το αποκαλούμε «προσέγγιση ανθρώπου-στο-βρόχο», όπου συνδυάζουμε την ανθρώπινη και τη μηχανική νοημοσύνη για να δημιουργήσουμε έξυπνες συνομιλίες που είναι προβλεπτικές, υπεύθυνες και εξατομικευμένες. Για να το πετύχουμε, εντάσσουμε τους πελάτες μας, ώστε να επικυρώνουμε συνεχώς την ακρίβεια και τη δικαιοσύνη, ενώ ταυτόχρονα διδάσκουμε τα μοντέλα AI μας να εξελίσσονται με τον χρόνο.

Η ανθρώπινη προσέγγισή μας μεταφράζεται επίσης σε ό,τι προσφέρουμε στους υποψηφίους. Πρόσφατα λανσάραμε το Phai, έναν επαγγελματικό σύμβουλο που λειτουργεί ως μέντορας, παρέχοντας στους αναζητητές εργασίας εξατομικευμένη καθοδήγηση, χαρτογράφηση δυνατοτήτων και προετοιμασία συνέντευξης ώστε να αντιμετωπίζουν με αυτοπεποίθηση την επόμενη ευκαιρία τους. Είναι ένα θετικό εργαλείο για να διατηρείται ο υποψήφιος ενθουσιασμένος πέρα από το αποτέλεσμα της συνέντευξης.

Σας ευχαριστούμε για τη σπουδαία συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα θα πρέπει να επισκεφθούν το Sapia.ai.