Όταν η Τεχνητή Νοημοσύνη Ξεκινά Να Διεξάγει Συναλλαγές, Ποιος Είναι Υπεύθυνος;

Ο κόσμος των χρηματοοικονομικών μεταφέρεται προς την κατεύθυνση της αγεντικής ΤΝ, όπου η ΤΝ δεν απαντά μόνο σε ερωτήσεις αλλά πραγματικά πραγματοποιεί αγορές και διαπραγματεύεται για λογαριασμό σας. Συνδυάστε αυτό με την αόρατη χρηματοδότηση και η τραπεζική εξαφανίζεται στο παρασκήνιο της καθημερινής ζωής. Είναι ένα σημαντικό βήμα μπροστά από το άνοιγμα μιας εφαρμογής ή την συμπλήρωση εντύπων για να έχετε το αυτοκίνητό σας, το λογισμικό εργασίας ή ένα ασφαλές ψηφιακό πορτοφόλι ταυτοποίησης που χειρίζεται πληρωμές και δάνεια άμεσα και αυτόματα.

Εκεί είναι που προορίζεται να πάμε – με την παγκόσμια αγορά για巨αντική ΤΝ στις χρηματοοικονομικές υπηρεσίες που αναμένεται να αυξηθεί με μέσο ετήσιο ρυθμό που υπερβαίνει το 40%, υπερβαίνοντας 80 δισεκατομμύρια δολάρια μέχρι το 2034. Σε quelques χρόνια, θα σταματήσουμε να κάνουμε τραπεζικές συναλλαγές και θα αρχίσουμε να εποπτεύουμε συστήματα που διαχειρίζονται τις χρηματοοικονομικές μας ζωές για μας. Όταν τα συστήματα ΤΝ μετακινούνται από τη συμβουλή χρηστών στην εκτέλεση συναλλαγών για λογαριασμό τους, οι fintechs πρέπει να αντιμετωπίσουν ένα θεμελιώδες ερώτημα: όταν μια μηχανή λαμβάνει μια χρηματοοικονομική απόφαση, ποιος φέρει την νομική και ρυθμιστική ευθύνη;

Η μετάβαση από τη βοήθεια στην αντιπροσώπευση

Για τις χρηματοοικονομικές υπηρεσίες, οι οποίες παραδοσιακά απαιτούσαν την παρουσία ανθρώπων στη στιγμή της συναλλαγής, θα ήταν κάποτε αδιανόητο να εμπιστευθούμε τις μηχανές με την αντιπροσώπευση για να καθορίσουν αν, πότε και πώς να διεξάγουν συναλλαγές – χωρίς τη στιγμή της απόφασης να απαιτεί ανθρώπινη κρίση.

Αόρατη χρηματοδότηση έχει ήδη εξελιχθεί μέσω ενσωματωμένων πληρωμών, αυτόματων συνδρομών, μιας κλικ checkout και πραγματικού χρόνου ραγών. Η τραπεζική μεταφέρεται ολοένα και περισσότερο σε προϊόντα από μέσα τραπεζικών εφαρμογών. Συνδυάστε αυτό με αγεντικά συστήματα και παίρνετε στόχους που οδηγούν σε χρηματοοικονομικές ικανότητες που κατανοούν το контέκστ, συλλέγουν σχετικές πληροφορίες σε διάφορες πλατφόρμες και ξεκινούν εργοflows αυτόματα. Σε λίγα λόγια, η αγεντική χρηματοδότηση μετατρέπει την ανθρώπινη πρόθεση σε δυναμική, συνεχή λήψη αποφάσεων χωρίς να απαιτεί πραγματικό χρόνο ανθρώπινη είσοδο.

Οι συναλλαγές, όπως τις ξέρουμε, γίνονται περισσότερο υποδομή παρασκηνίου και λιγότερο συνειδητή αλληλεπίδραση.

Ποια είναι οι επιπτώσεις;

Η άνοδος της αγεντικής χρηματοδότησης μπορεί να θεωρηθεί μέσα από τα φακό της ελέγχου, της συμπεριφοράς και της εμπιστοσύνης.

Ο έλεγχος δεν αφορά πλέον το άνοιγμα εφαρμογών ή το κλικ κουμπιών, αλλά απορροφάται στα αόρατα στρώματα ταυτοποίησης, πληρωμής και αυτοματοποίησης, καθοδηγώντας τον τρόπο με τον οποίο μετακινούνται τα χρήματα. Δεν ασκείται πλέον στη στιγμή της συναλλαγής, αλλά πολύ νωρίτερα, όταν οι άνθρωποι ορίζουν τις προτιμήσεις, τα όρια, τους στόχους και τις άδειες τους. Αντί να αποφασίζουν κάθε φορά που τα χρήματα πρέπει να μετακινηθούν, αποφασίζουν τους κανόνες υπό τους οποίους μπορεί να γίνει. Το σύστημα στη συνέχεια μεταφέρει αυτόν τον έλεγχο, ερμηνεύοντας αυτούς τους κανόνες σε πραγματικό χρόνο και ενεργώντας ανάλογα.

Αυτό αλλάζει θεμελιωδώς και ακόμη και προκλήσεις τον τρόπο με τον οποίο οι χρήστες ασκούν τον έλεγχο. Ενώ ο έλεγχος κάποτε έκειτο στην δράση, τώρα προσανατολίζεται προς τη διαμόρφωση. Δεν διαχειρίζεστε συναλλαγές, αλλά ορίζετε τις συνθήκες υπό τις οποίες οι συναλλαγές επιτρέπεται να συμβούν. Η εποπτεία γίνεται η αναθεώρηση και η προσαρμογή αυτών των συνθηκών, αντί να εγκρίνετε πληρωμές μια προς μια.

Για τις fintechs, αυτό αλλάζει όπου έγκειται η ευθύνη. Ο έλεγχος δεν στεγάζεται πλέον στη διεπαφή, αλλά στην υποδομή herself. Βρίσκεται στον τρόπο με τον οποίο η ταυτοποίηση επαληθεύεται, τον τρόπο με τον οποίο οι άδειες σχεδιάζονται, τον τρόπο με τον οποίο οι αποφάσεις καταγράφονται και τον τρόπο με τον οποίο οι ενέργειες μπορούν να ελεγχθούν ή να αναστραφούν. Αυτά τα στρώματα διαμορφώνουν τον τρόπο με τον οποίο ο χρηματοοικονομικός έλεγχος ασκείται στην πραγματικότητα, ακόμη και αν οι χρήστες δεν το βλέπουν απευθείας. Συνεπώς, ο έλεγχος ανακατευθύνεται στην προληπτική ελεγκτότητα της λογικής του πράκτορα. Αυτό μεταφέρει την εποπτεία από την έγκριση συναλλαγών σε πραγματικό χρόνο στη διακυβέρνηση των ‘αντικειμενικών συναρτήσεων’, των βασικών στόχων που προγραμματίζονται στην ΤΝ, εξασφαλίζοντας ότι η θεμελιώδης πρόθεση της μηχανής παραμένει ευθυγραμμισμένη με τα μακροπρόθεσμα συμφέροντα του χρήστη πριν από μια seule κίνηση.

Όταν οι χρηματοοικονομικές ενέργειες μετακινούνται στο παρασκήνιο, ο τρόπος με τον οποίο οι άνθρωποι αλληλεπιδρούν με τα χρήματά τους αλλάζει, too. Λιγότερα πράγματα για διαχείριση, λιγότερες προτροπές για έγκριση και λιγότεροι λόγοι για να ελέγξετε. Με τον καιρό, η συνήθεια της ενεργού διαχείρισης συναλλαγών δίνει τη θέση της στην περιοδική αναθεώρηση του τρόπου με τον οποίο λειτουργεί το σύστημα. Αν οι άμεσες πληρωμές έκαναν τις συναλλαγές άνετες και οι αυτόματες ανανεώσεις τις έκαναν συνεχείς, τότε τα αγεντικά συστήματα τις κάνουν αυτόνομες.

Τι γίνεται της εμπιστοσύνης; Όταν ο χρήστης εξελίσσεται από τις προηγούμενες ρουτίνες εποπτείας, η αξιοπιστία του υποκείμενου συστήματος γίνεται ο πυλώνας της εμπιστοσύνης. Οι άνθρωποι δεν κρίνουν πλέον μια υπηρεσία με βάση το πόσο αξιόπιστη είναι η επεξεργασία μιας πληρωμής, αλλά με βάση το πόσο μπορεί να εμπιστευτεί να αποφασίσει για λογαριασμό τους. Οι χρήστες θα θέλουν να γνωρίζουν πώς λαμβάνονται οι αποφάσεις, ποια δεδομένα λαμβάνονται υπόψη, ποιοί είναι οι περιορισμοί και τι συμβαίνει όταν κάτι πάει λάθος.

Τι συμβαίνει όταν κάτι πάει λάθος;

Η περισσότερη χρηματοοικονομική νομοθεσία είναι χτισμένη γύρω από την ιδέα ότι οι άνθρωποι ξεκινάνε συναλλαγές. Αλλά όταν η στιγμή της πρόθεσης και η στιγμή της εκτέλεσης χωρίζονται, αυτή η υπόθεση αποδυναμώνεται. Με αυτόνομα συστήματα, η ενέργεια εκκίνησης γίνεται έμμεση. Ο χρήστης μπορεί να έχει εξουσιοδοτήσει ένα ευρύ σύνολο κανόνων, αλλά όχι μια συγκεκριμένη συναλλαγή. Έτσι, όταν κάτι πάει λάθος, η ακριβής απόφαση που οδήγησε σε αυτό γίνεται δύσκολο να προσδιοριστεί. Η ιδέα του單一, σαφούς αποφασιστή δεν ισχύει πλέον, και η σαφή αλυσίδα πρόθεσης, εκτέλεσης και αιτίας που οι νομικοί πλαισίοι έχουν πάντα βασιστεί διαταράσσεται.

Τα αγεντικά συστήματα εισάγουν αλγοριθμικές ερμηνείες της πρόθεσης του χρήστη και των αποτελεσμάτων που προκύπτουν από δεδομένα σε πραγματικό χρόνο αντί για ρητές οδηγίες. Αυτό που φαίνεται σαν μια seule συναλλαγή μπορεί στην πραγματικότητα να είναι το αποτέλεσμα πολλών αυτοματοποιημένων κρίσεων που στρώνονται με τον καιρό.

Αυτό δημιουργεί πρακτικά προβλήματα. Για ένα, οι διαμάχες γίνονται πιο δύσκολο να ξεπεραστούν γιατί δεν είναι σαφές αν το ζήτημα έγκειται στην αρχική διαμόρφωση του χρήστη, την ερμηνεία του συστήματος της πρόθεσης, τα δεδομένα που βασίστηκαν, ή την ενέργεια που τελικά έλαβε. Η ρυθμιστική επιβολή cũng γίνεται πιο σύνθετη, καθώς οι παραδοσιακές πλαισίωσης εξουσιοδότησης και ευθύνης δεν μεταφέρονται καλά στα αγεντικά αποφασιστικά.

Ωστόσο, στα μάτια του ρυθμιστή, η χρηματοοικονομική εταιρεία παραμένει υπεύθυνη για αποτυχίες, παραβιάσεις ή ζημίες που προκαλούνται μέσω αυτών των συστημάτων. Ο νόμος αντιμετωπίζει τις ενέργειες της ΤΝ σαν να είχαν εκτελεστεί από έναν ανθρώπινο υπάλληλο. Αν η ΤΝ κάνει ένα λάθος, η εταιρεία φέρει την ευθύνη, ιδιαίτερα αν το λάθος προέρχεται από κακή εγκατάσταση, λανθασμένη διαμόρφωση ή ανεπαρκή εποπτεία. Η ποιότητα και η ανθρώπινη εποπτεία δεν μπορούν να υποτιμηθούν στην face της αυτόνομης λήψης αποφάσεων. Αν κάτι, γίνονται ακόμη πιο κρίσιμες για να διασφαλίσουν ότι τα συστήματα ενεργούν όπως προορίζονται.

Σημαίνει ότι πρέπει να είναι υπεύθυνοι για αποφάσεις που λαμβάνονται από λογισμικό που σχεδιάζεται να ενεργεί ανεξάρτητα, συχνά σε καταστάσεις που κανείς άνθρωπος δεν προέβλεψε ρητά. Τα ερωτήματα της ευθύνης, της ελεγκτότητας και της εξηγήσιμότητας θα μεταφερθούν από την νομική άκρη στο κέντρο του σχεδιασμού. Οι χρηματοοικονομικές εταιρείες θα χρειαστούν πιο σαφείς μοντέλα για να ιχνηλατήσουν αποφάσεις, να αποδώσουν ευθύνη και να αποδείξουν ότι ακόμη και αυτόνομα ενέργειες μπορούν να κατανοηθούν, να αναθεωρηθούν και να κυβερνηθούν. Για να γεφυρώσουν αυτό το κενό ευθύνης, η βιομηχανία πρέπει να υιοθετήσει μια ‘Αναστρέψιμη Υπόθεση Αλγοριθμικής Δυσλειτουργίας.’ Αυτό το πλαίσιο νομικά υποθέτει ότι έχει συμβεί ένα σφάλμα συστήματος σε κάθε αμφισβητούμενη συναλλαγή, trừ khi η χρηματοοικονομική εταιρεία μπορεί να παρέχει一个 αμετάβλητο ιχνηλάτη αποδείξεων που αποδεικνύει ότι ο πράκτωρ συμμορφώθηκε αυστηρά με τα κωδικοποιημένα φράγματα του.

Η ύπαρξη ενός ανώτερου ατόμου που εποπτεύει κάθε ‘πράκτορα’ βοηθά στη διαχείριση του κινδύνου των απρόβλεπτων ενεργειών και προλαμβάνει τα λάθη από το να εξελιχθούν σε πραγματικά προβλήματα. Αυτό εξασφαλίζει ότι η εταιρεία παραμένει στην σωστή πλευρά του νόμου ενώ διατηρεί την ευθύνη.

Τι είναι ο ιδανικός τρόπος προς τα εμπρός;

Όταν η αγεντική ΤΝ εισέρχεται στις χρηματοοικονομικές υπηρεσίες, η διακυβέρνηση πρέπει να γίνει εξίσου ρητή. Οι νομικές και συμμορφωτικές ομάδες θα πρέπει να παίξουν einen προδραστικό ρόλο στο σχεδιασμό πλαισίων εξουσιοδότησης για πράκτορες ΤΝ, να ορίσουν την ευθύνη μεταξύ συνεργατών, να ορίσουν συμβατικά όρια για ενέργειες μηχανών και να καθορίσουν πρότυπα εγγράφων που περιγράφουν σαφώς ποιος είναι υπεύθυνος για τι. Η συγκατάθεση, επίσης, πρέπει να εξελιχθεί – οι χρήστες πρέπει να έχουν μια διαφανή κατανόηση του τι συνάπτουν και των ορίων της αγεντικής εξουσίας.

Ιδανικά, είναι ένας κόσμος όπου οι πελάτες παραμένουν πλήρως υπό έλεγχο και πάντα ενήμεροι για το τι ακριβώς κάνει ο πράκτωρ ΤΝ. Αντί να βασίζονται σε μακρές, συναρπαστικές συμβάσεις που υπογράφονται μια φορά, η συγκατάθεση γίνεται δυναμική και λεπτομερής, χορηγημένη μέσω “μικρο-αδειοδότησεων” για συγκεκριμένες εργασίες. Ωστόσο, για να αποφευχθεί ο κίνδυνος ‘καταναλωτικής κόπωσης’, όπου οι χρήστες εγκρίνουν προτροπές χωρίς να τις διαβάσουν, η συγκατάθεση πρέπει να ενισχυθεί από κωδικοποιημένα όρια κινδύνου. Αυτά λειτουργούν ως αυτοματοποιημένα ‘κυκλώματα ασφαλείας’, παύοντας οποιαδήποτε μη детерμινιστική ή υψηλής μεταβλητότητας ενέργεια που βρίσκεται εκτός του ιστορικού προφίλ συμπεριφοράς του χρήστη.

Για παράδειγμα, ένας χρήστης μπορεί να επιτρέψει στον πράκτορα ΤΝ ένα ψηφιακό “πασπόρτι” να δαπανήσει μόνο μέχρι 50 ευρώ για λογαριασμό του για μια μέρα. Κάθε ενέργεια καταγράφεται, δημιουργώντας μια σαφή ιχνηλάτηση που αποδεικνύει ότι η ΤΝ παρέμεινε μέσα στα εξουσιοδοτημένα όρια. Αν η ΤΝ προσπαθήσει κάτι ασυνήθιστο ή επικίνδυνο, το σύστημα αυτόματα παύει και ζητά μια γρήγορη επιβεβαίωση μέσω ενός αποτυπώματος δακτυλικού αποτυπώματος ή σκαναρίσματος προσώπου, για παράδειγμα. Οι μικρο-αδειοδοτήσεις μετατρέπουν τι θα μπορούσε να ήταν ένα νομικό πονοκέφαλο σε ένα μέτρο ασφαλείας σε πραγματικό χρόνο – μια νίκη-νίκη για τους χρήστες και τις εταιρείες. Οι χρήστες διατηρούν την ορατότητα και τον έλεγχο, ενώ η αυτονομία της ΤΝ λειτουργεί μέσα σε σαφείς, υπεύθυνες ορίους. Αυτή η ορατότητα διατηρείται καλύτερα μέσω της ‘Συνεχούς Επαλήθευσης’, όπου ένα στρώμα ‘Φύλακας’ λειτουργεί παράλληλα με τον πράκτορα ΤΝ. Αυτό το δευτερεύον στρώμα δεν ξεκινά συναλλαγές, αλλά έχει την απόλυτη εξουσία να βέτοι οποιαδήποτε ενέργεια που παραβιάζει προκαθορισμένα όρια ασφαλείας, εξασφαλίζοντας ότι η ασφάλεια με επίκεντρο τον άνθρωπο παραμένει προδραστική και όχι απλώς καταγεγραμμένη.

Τελικά, η επιτυχία της αγεντικής χρηματοδότησης θα εξαρτηθεί από την ικανότητά της να λειτουργεί με ασφάλεια, αξιοπιστία και με ανθρώπινο κέντρο. Η πρόκληση έγκειται στη μετατροπή ενός σύνθετου, αόρατου συστήματος σε κάτι που οι άνθρωποι μπορούν να εμπιστευτούν, να κατανοήσουν και να αισθανθούν ότι είναι υπό τον έλεγχό τους.