Το πιο Κρίσιμο η Απόφαση, το Λιγότερο το AI Πρέπει να Λειτουργεί Μόνο του

Τα πράγματα είναι σαφώς ένα πρόβλημα που είναι μεταμφιεσμένο ως πITCH για τα πλεονεκτήματά τους. Ο πράκτορας μιλάει με αυτοπεποίθηση και γράφει με κομψότητα, επεξεργάζοντας πληροφορίες γρηγορότερα από έναν άνθρωπο. Αυτό μπορεί να δώσει την εντύπωση ότι το AI είναι έτοιμο να λειτουργήσει αυτόνομα. Στην πραγματικότητα, μόλις μια απόφαση εμπλέκει πραγματικά χρήματα, προσδοκίες πελατών και εμπιστοσύνη, το AI δεν πρέπει να είναι ένα αυτόνομο σύστημα, επειδή ακόμη χρειάζεται την εποπτεία ενηλίκων.

Αυτή η διδαχθή δεν προέρχεται από τη θεωρία – μαθήθηκε μέσω δοκιμών, όταν το AI της υπηρεσίας πολυτελούς τρόπου ζωής ήταν σε θέση να αλληλεπιδράσει με πραγματικούς πελάτες.

Συμβουλές με καλές προθέσεις που possono být επικίνδυνες

Στις πρώτες δοκιμές της εφαρμογής διαχείρισης τρόπου ζωής που βασίζεται στο AI, το σύστημα φάνηκε εντυπωσιακό στην πρώτη ματιά. Μπορούσε να συντάξει μια λίστα με εστιατόρια, να προτείνει επιλογές ψυχαγωγίας, να συντάξει προγράμματα για τοπικές δραστηριότητες και να συνδυάσει όλα αυτά σε σαφείς, υψηλής ποιότητας συστάσεις. Αλλά σε περίπου 15% των περιπτώσεων, απλά έφτιαχνε τα λεπτομέρειες – και το έκανε με τρόπο που ήταν πειστικό enough να είναι πιστευτό.

Υπάρχει ένα παράδειγμα που έκανε αυτό το πρόβλημα αδύνατο να αγνοηθεί: το AI σύστησε ένα εστιατόριο στο Ντουμπάι που είχε κλείσει οκτώ μήνες νωρίτερα. Όταν ρωτήθηκε γι’ αυτό, δεν δίστασε ή παραδέχτηκε ότι είχε κάνει λάθος. Ο πράκτορας διπλασίασε την απόφασή του, κατασκευάζοντας μια κριτική και την αναφερόμενος.

Μια άλλη φορά, ο Πράκτορας σφάλμασε ένα σνακ μπαρ στο δρόμο για ένα εστιατόριο με αστέρι Μισελέν, επειδή τα ονόματα ήταν κάπως παρόμοια. Αν ένας άνθρωπος δεν είχε ελέγξει την παραγγελία, ο πελάτης της υπηρεσίας concierge μπορεί να είχε τελειώσει με ένα δείπνο που δεν ήταν τίποτα σαν αυτό που είχε σχεδιαστεί.

Τότε υπήρχε το περιστατικό με το παιχνίδι pádel. Ένας πελάτης ρώτησε για ένα αθλητικό κέντρο με γήπεδα pádel. Το AI ήταν έτοιμο να τον οδηγήσει σε ένα μέρος που είχε μόνο γήπεδα τένις. Γιατί; Επειδή κάπου στα δεδομένα πηγής, βρήκε ένα άρθρο που ανέφερε ότι γήπεδα pádel ήταν προγραμματισμένα να κατασκευαστούν εκεί, και το μεταμόρφωσε συθέμα «προγραμματισμένα» σε «ήδη υπάρχει». Αυτό είναι ακριβώς αυτό που κάνει τα μοντέλα ένα επικίνδυνο πείραμα στον τομέα της υπηρεσίας: ακόμη και αν το AI δεν έχει πλήρη και ακριβή δεδομένα, δεν σταματά – αυτοσχεδιάζει.

Αιγισόδειες του AI ως Επιχειρηματικός Κίνδυνος

Αυτό το πρόβλημα δεν είναι καθόλου περιορισμένο στον τουριστικό κλάδο – βρίσκεται στην εφαρμογή του AI.

Σε καθορισμένα πλαίσια, το AI δουλεύει εξαιρετικά. Μπορείτε να του δώσετε δομημένα δεδομένα, ενημερωμένα API, και θα σας ξεπεράσει με ευρεία διαφορά. Θα ταξινομήσει τις περιπτώσεις σύμφωνα με δεκαεπτά παραμέτρους, θα σκανάρει άμεσα τις κανόνες, και θα παράγει έτοιμες προς χρήση προτάσεις σε δευτερόλεπτα. Αλλά ο πραγματικός κόσμος είναι μακράν από μια δομημένη βάση δεδομένων. Η πραγματικότητα είναι γεμάτη με περιπτώσεις άκρων, παλιά πληροφορίες, αμφίβολες προτιμήσεις, ασαφείς λέξεις και λειτουργικές лакκώσεις.

Ακριβώς εδώ αρχίζουν οι αιγισόδειες να αποτελούν επιχειρηματικό κίνδυνο. Μελέτες έχουν επαναλαμβανόμενα προειδοποιήσει ότι οι αιγισόδειες μπορούν να καταστρέψουν άμεσα την εμπιστοσύνη, ιδιαίτερα όταν ένας πελάτης λαμβάνει γυαλιστερή αλλά ανακριβή πληροφορία στη στιγμή της λήψης απόφασης. Οι άνθρωποι ήδη χρησιμοποιούν ευρέως τους AI πλάνων, αλλά η εμπιστοσύνη παραμένει ανεπαρκής.

HNWIs ως ο τελικός έλεγχος压力 για το AI

Τώρα ας αυξήσουμε τα στοιχήματα.

Το AI χειρίζεται εύκολα τις τυποποιημένες εργασίες – ένα παράδειγμα τέτοιας εργασίας είναι η κράτηση ταξιδιού από το Λονδίνο στο Ντουμπάι: επιχειρηματική κλάση, ξενοδοχείο τεσσάρων αστέρων για τρεις νύχτες. Ο πραγματικός έλεγχος είναι μια εντολή από έναν HNWI: είναι η επέτειός μας. Μίλησε για ένα εστιατόριο στην Αμάλφι με μια μπλε πόρτα. Αγαπά τα πιόνια αλλά μισεί τις τριαντάφυλλες, και θα αισθανθεί πιο άνετα με έναν οδηγό που μιλάει γαλλικά.

Τέτοια αίτηση ακούγεται κομψή, αλλά από επιχειρηματική άποψη, είναι ένα πεδίο μινών. Ένας πράκτορας AI θα προτείνει επιλογές, αλλά μπορεί επίσης να παρέχει 40% ανακριβείς πληροφορίες με πλήρη αυτοπεποίθηση.

Οι πελάτες στο τμήμα πολυτελούς και HNWI αποκαλύπτουν τα πραγματικά όρια του AI πιο γρήγορα από οποιαδήποτε δοκιμή,既然 οι αιτήσεις τους δεν είναι τυποποιημένες και οι προσδοκίες τους είναι συναισθηματικές, εξαρτώμενες από το контέκστ και υψηλά ειδικές. Περισσότερες φορές από ό,τι όχι, τέτοιες αιτήσεις είναι δύσκολο να επαληθευτούν αυτόματα.

Επιπλέον, η αποτυχία να εξυπηρετήσει αποτελεσματικά τους πελάτες HNWI δεν θα τελειώσει με μια απλή επιστροφή χρημάτων. Θα ζημιώσει την φήμη της εταιρείας, поскольку οι συστάσεις και η εμπιστοσύνη είναι κρίσιμα σημαντικές σε αυτό το τμήμα.

Πραγματικοί υπάλληλοι αντιμετωπίζουν αυτές τις αιγισόδειες κάθε μέρα. Παρατηρούν το εστιατόριο που τυχαίνει να είναι κλειστό την ίδια Τρίτη που ο πελάτης φτάνει, και τη γρήγορη πέντελεπτη διαδρομή που στην πραγματικότητα αποδεικνύεται να είναι μια είκοσι πέντε λεπτών ανηφόρα με αποσκευές. Ένας εκπαιδευμένος ειδικός δεν θα παραβλέψει ένα ξενοδοχείο boutique που φαίνεται τέλειο στις φωτογραφίες αλλά στην πραγματικότητα είναι καλυμμένο με σκαλωσιές λόγω ανακαίνισης.

Γιατί η fintech απαιτεί ακρίβεια, όχι ταχύτητα

Μπορούμε να εφαρμόσουμε την ίδια λογική σε ολόκληρο τον κλάδο της fintech. Το AI μπορεί να αναλύσει προϊόντα, να συγκρίνει επιλογές, να αναγνωρίσει ανωμαλίες και να παράγει συστάσεις γρήγορα και αποτελεσματικά. Αλλά όταν πρόκειται για χρήματα, δεν υπάρχει ανεκτότητα για τυχαία λάθη.

Οι εταιρείες fintech πληρώνουν τώρα το τίμημα για αποφάσεις που λαμβάνονται από αυτοματοποίηση – με τη μορφή απώλειας εμπιστοσύνης πελατών. Οι επιτυχημένες εταιρείες εφαρμόζουν μηχανισμούς ελέγχου από νωρίς, αντί να τους εισαγάγουν αναδρομικά μια φορά που η ζημιά έχει ήδη γίνει. Το σωστό μοντέλο περιλαμβάνει την εποπτεία ανθρώπων.

Απαιτείται ένα επιπλέον στρώμα επαλήθευσης μεταξύ του AI και του πελάτη – ένα στάδιο όπου το αποτέλεσμα ελέγχεται προσεκτικά και ασφαλής. Σε πεδία όπου το κόστος του λάθους είναι υψηλό, αυτό το στρώμα γίνεται η βάση του προϊόντος.

Μια πιο χρήσιμη έννοια είναι η υποδομή. Το AI πρέπει να επικεντρωθεί σε δομημένες εργασίες: έρευνα, ταξινόμηση, σύγκριση και σύνταξη. Σε αυτή τη διαδικασία, οι άνθρωποι πρέπει να λάβουν τις τελικές αποφάσεις. Με τον καιρό, κάποιες εργασίες θα γίνουν σταθερές enough να γίνουν πλήρως αυτοματοποιημένες. Σε εκείνο το σημείο, είναι πιθανό να είναι δυνατό να καθορίσετε ένα πρότυπο, αλλά αυτό πρέπει να γίνει με βάση τις ενδείξεις, όχι με πίστη. Αυτές οι ιδέες μπορεί να ακούγονται λιγότερο εμπνευσμένες από το πλήρως αυτόνομο μέλλον, αλλά αυτό είναι ακριβώς πώς οι σοβαρές εταιρείες θα επιτύχουν τελικά.

Αυτές οι ιδέες μπορεί να ακούγονται λιγότερο εμπνευσμένες από το πλήρως αυτόνομο μέλλον, αλλά αυτό είναι ακριβώς πώς οι σοβαρές εταιρείες θα επιτύχουν τελικά.