Όταν η Τεχνητή Νοημοσύνη Ξεκινά Να Διεξάγει Συναλλαγές, Ποιος Είναι Υπεύθυνος;

Ο κόσμος των χρηματοοικονομικών κινείται προς την κατεύθυνση της αγεντικής ΤΝ, όπου η ΤΝ δεν απαντά μόνο σε ερωτήσεις, αλλά πραγματικά πραγματοποιεί αγορές και διαπραγματεύεται για λογαριασμό σας. Συνδυάστε αυτό με την αόρατη χρηματοδότηση και η τραπεζική εξαφανίζεται στο φόντο της καθημερινής ζωής. Είναι ένα σημαντικό βήμα μπροστά από το άνοιγμα μιας εφαρμογής ή την συμπλήρωση φορμών για να έχει το αυτοκίνητό σας, το λογισμικό εργασίας ή ένα ασφαλές ψηφιακό πορτοφόλι ταυτοτήτων να χειρίζεται πληρωμές και δάνεια άμεσα και αυτόματα.

Εκεί είναι που προχωράμε – με την παγκόσμια αγορά για τη γιγαντιαία ΤΝ στις χρηματοοικονομικές υπηρεσίες να αναμένεται να αυξηθεί με μέσο ετήσιο ρυθμό που υπερβαίνει το 40%, ξεπερνώντας 80 δισεκατομμύρια δολάρια μέχρι το 2034. Σε quelques χρόνια, θα σταματήσουμε να κάνουμε τραπεζικές συναλλαγές και θα αρχίσουμε να εποπτεύουμε συστήματα που διαχειρίζονται τις χρηματοοικονομικές μας ζωές για μας. Όταν τα συστήματα ΤΝ μετατοπίζονται από τη συμβουλευτική των χρηστών στην εκτέλεση συναλλαγών για λογαριασμό τους, οι εταιρείες fintech πρέπει να αντιμετωπίσουν ένα θεμελιώδες ερώτημα: όταν μια μηχανή λαμβάνει μια χρηματοοικονομική απόφαση, ποιος φέρει την νομική και ρυθμιστική ευθύνη;

Η μετάβαση από τη βοήθεια στην εταιρική ευθύνη

Για τις χρηματοοικονομικές, που παραδοσιακά απαιτούσαν την παρουσία ανθρώπων στη στιγμή της συναλλαγής, θα ήταν κάποτε αδιανόητο να εμπιστευθούμε τις μηχανές με την εταιρική ευθύνη να καθορίσουν αν, πότε και πώς να διεξάγουν συναλλαγές – χωρίς τη στιγμή της απόφασης να απαιτεί ανθρώπινη κρίση.

Αόραστη χρηματοδότηση έχει ήδη εξελιχθεί μέσω ενσωματωμένων πληρωμών, αυτόματων συνδρομών, μιας κλικ checkout και πραγματικού χρόνου ραγών. Η τραπεζική αυξανόμενα μετακινήθηκε σε προϊόντα από μέσα τραπεζικών εφαρμογών. Συνδυάστε αυτό με αγεντικές συστήματα, και παίρνετε στόχους-οδηγούμενες χρηματοοικονομικές ικανότητες που κατανοούν το контέκστ, συλλέγουν σχετικές πληροφορίες σε διάφορες πλατφόρμες και ξεκινούν εργοflows αυτόνομα. Σε λίγα λόγια, η αγεντική χρηματοδότηση μετατρέπει την ανθρώπινη πρόθεση σε δυναμική, συνεχή λήψη αποφάσεων χωρίς να απαιτείται πραγματικός χρόνος ανθρώπινη είσοδος.

Οι συναλλαγές, όπως τις γνωρίζουμε, γίνονται περισσότερο υποδομή φόντου και λιγότερη συνειδητή αλληλεπίδραση.

Ποίες είναι οι επιπτώσεις;

Η άνοδος της αγεντικής χρηματοδότησης μπορεί να θεωρηθεί μέσα από τα φακό των ελέγχου, συμπεριφοράς και εμπιστοσύνης.

Ο έλεγχος δεν αφορά πλέον το άνοιγμα εφαρμογών ή το κλικ κουμπιών, αλλά απορροφάται στα αόρατα στρώματα ταυτοτήτων, πληρωμών και αυτοματοποίησης συστημάτων, καθοδηγώντας πώς κινείται το χρήμα. Δεν ασκείται πλέον στη στιγμή της συναλλαγής, αλλά πολύ νωρίτερα, όταν οι άνθρωποι ορίζουν τις προτιμήσεις, τα όρια, τους στόχους και τις άδειες τους. Αντί να αποφασίζουν κάθε φορά που το χρήμα πρέπει να κινηθεί, αποφασίζουν τις κανόνες υπό τους οποίους μπορεί να κινηθεί. Το σύστημα στη συνέχεια μεταφέρει αυτόν τον έλεγχο προς τα εμπρός, ερμηνεύοντας αυτούς τους κανόνες σε πραγματικό χρόνο και ενεργώντας αντίστοιχα.

Αυτό αλλάζει θεμελιωδώς και ακόμη και προκλήσεις τον τρόπο με τον οποίο οι χρήστες ασκούν έλεγχο. Ενώ ο έλεγχος κάποτε έκειτο στην δράση, τώρα gravitates προς τη διαμόρφωση. Δεν διαχειρίζεστε συναλλαγές, αλλά αντίθετα, ορίζετε τις συνθήκες υπό τις οποίες οι συναλλαγές επιτρέπεται να συμβούν. Η εποπτεία γίνεται αναθεώρηση και προσαρμογή αυτών των συνθηκών αντί να εγκρίνετε πληρωμές μια προς μια.

Για τις εταιρείες fintech, αυτό αλλάζει όπου ευθύνεται η ευθύνη. Ο έλεγχος δεν στεγάζεται πλέον στη διεπαφή, αλλά μέσα στη δική της υποδομή. Βρίσκεται στο πώς η ταυτότητα επαληθεύεται, πώς σχεδιάζονται οι άδειες, πώς οι αποφάσεις καταγράφονται και πώς οι ενέργειες μπορούν να ελεγχθούν ή να αναστραφούν. Αυτά τα στρώματα διαμορφώνουν πώς ασκείται πραγματικά ο χρηματοοικονομικός έλεγχος, ακόμη και αν οι χρήστες δεν το βλέπουν απευθείας. Συνεπώς, ο έλεγχος ανακατευθύνεται στην προληπτική ελέγχου της λογικής του πράκτορα. Αυτό μεταφέρει την εποπτεία από την έγκριση συναλλαγών σε πραγματικό χρόνο στην διακυβέρνηση των ‘σκοπών’, των βασικών στόχων που προγραμματίζονται στην ΤΝ, διασφαλίζοντας ότι η θεμελιώδης πρόθεση της μηχανής παραμένει ευθυγραμμισμένη με τα μακροπρόθεσμα συμφέροντα του χρήστη πριν από μια seule κίνηση.

Όταν οι χρηματοοικονομικές ενέργειες μετακινούνται στο φόντο, ο τρόπος με τον οποίο οι άνθρωποι αλληλεπιδρούν με τα χρήματά τους αλλάζει, επίσης. Λιγότερα πράγματα να διαχειριστούν, λιγότερες προτροπές για έγκριση και λιγότεροι λόγοι για να ελέγξουν. Με τον καιρό, η συνήθεια της ενεργού διαχείρισης συναλλαγών δίνει τη θέση της στην περιοδική αναθεώρηση του τρόπου με τον οποίο λειτουργεί το σύστημα. Αν οι ακαlesh πληρωμές έκαναν τις συναλλαγές χωρίς κόπο και οι αυτόματες ανανεώσεις τις έκαναν συνεχείς, τότε τα αγεντικά συστήματα τις κάνουν αυτόνομες.

Τι γίνεται της εμπιστοσύνης; Όταν ο χρήστης εξελίσσεται από τις προηγούμενες ρουτίνες εποπτείας, η αξιοπιστία του υποκείμενου συστήματος γίνεται ο πυρήνας της εμπιστοσύνης. Οι άνθρωποι δεν κρίνουν πλέον μια υπηρεσία με βάση το πόσο αξιόπιστο επεξεργάζεται μια πληρωμή, αλλά με βάση το πόσο με σιγουριά μπορεί να επιτραπεί να αποφασίσει για λογαριασμό τους. Οι χρήστες θα θέλουν να γνωρίζουν πώς λαμβάνονται οι αποφάσεις, ποια δεδομένα λαμβάνονται υπόψη, ποιοί είναι οι περιορισμοί και τι συμβαίνει όταν κάτι πάει στραβά.

Τι συμβαίνει όταν κάτι πάει στραβά;

Η περισσότερη χρηματοοικονομική νομοθεσία είναι χτισμένη γύρω από την ιδέα ότι οι άνθρωποι ξεκινάνε συναλλαγές. Αλλά όταν η στιγμή της πρόθεσης και η στιγμή της εκτέλεσης χωρίζονται, αυτή η υπόθεση αποδυναμώνεται. Με αυτόνομες συστήματα, η ενεργοποίηση γίνεται έμμεση. Ο χρήστης μπορεί να έχει εξουσιοδοτήσει ένα ευρύ σύνολο κανόνων, αλλά όχι μια συγκεκριμένη συναλλαγή. Έτσι, όταν κάτι πάει στραβά, η ακριβής απόφαση που οδήγησε σε αυτό γίνεται δύσκολο να εντοπιστεί. Η ιδέα του單一, σαφούς αποφασίσαντος δεν ισχύει πλέον, και η σαφής αλυσίδα της πρόθεσης, της εκτέλεσης και της αιτίας που οι νομικοί πλαισίες έχουν πάντα βασιστεί διαταράσσεται.

Αγεντικά συστήματα εισάγουν αλγοριθμικές ερμηνείες της πρόθεσης του χρήστη και αποτελέσματα που προκύπτουν από δεδομένα σε πραγματικό χρόνο αντί για ρητές οδηγίες. Αυτό που φαίνεται ως μια seule συναλλαγή μπορεί στην πραγματικότητα να είναι το αποτέλεσμα πολλών αυτοματοποιημένων κρίσεων στρωμένων στον χρόνο.

Αυτό δημιουργεί πρακτικές προκλήσεις. Για παράδειγμα, οι διαμάχες γίνονται πιο δύσκολο να ξεμπερδευτούν επειδή δεν είναι σαφές αν το ζήτημα έγκειται στην αρχική διαμόρφωση του χρήστη, την ερμηνεία του συστήματος της πρόθεσης, τα δεδομένα που βασίζονται ή την ενέργεια που τελικά έλαβε. Η ρυθμιστική επιβολή cũng γίνεται πιο σύνθετη, καθώς οι παραδοσιακές πλαισίες εξουσιοδότησης και ευθύνης δεν μεταφέρονται ομαλά στις αγεντικές αποφάσεις.

Ωστόσο, στα μάτια του ρυθμιστή, η χρηματοοικονομική εταιρεία παραμένει υπεύθυνη για τις αποτυχίες, τις παραβιάσεις ή τις ζημιές που προκαλούνται μέσω αυτών των συστημάτων. Ο νόμος θεωρεί τις ενέργειες της ΤΝ ως ανถάσεις που εκτελούνται από έναν ανθρώπινο υπάλληλο. Αν η ΤΝ κάνει ένα λάθος, η εταιρεία φέρει την ευθύνη, ιδιαίτερα αν το σφάλμα προέρχεται από κακή εγκατάσταση, λανθασμένη διαμόρφωση ή ανεπαρκή εποπτεία. Η ποιότητα και η ανθρώπινη εποπτεία δεν μπορούν να υποτιμηθούν στην περίπτωση αυτόνομης λήψης αποφάσεων. Αν κάτι, γίνονται ακόμη πιο κρίσιμες για να διασφαλίσουν ότι τα συστήματα ενεργούν όπως προορίζονται.

Σημαίνει ότι να είναι υπεύθυνος για τις αποφάσεις που λαμβάνονται από λογισμικό που σχεδιάζεται να ενεργεί ανεξάρτητα, συχνά σε καταστάσεις που κανείς άνθρωπος δεν προέβλεψε ρητά. Τα ερωτήματα της ευθύνης, της ελέγχου και της εξηγησιμότητας θα μεταφερθούν από το νομικό περιθώριο στο κέντρο του σχεδιασμού. Οι χρηματοοικονομικές εταιρείες θα χρειαστούν σαφείς μοντέλα για να αναζητήσουν αποφάσεις, να αποδώσουν ευθύνη και να αποδείξουν ότι ακόμη και αυτόνομες ενέργειες μπορούν να κατανοηθούν, να αναθεωρηθούν και να κυβερνηθούν. Για να γεφυρώσουμε αυτό το κενό ευθύνης, η βιομηχανία πρέπει να υιοθετήσει μια ‘Ανατρεπτή Υπόθεση Αλγοριθμικής Δυσλειτουργίας.’ Αυτό το πλαίσιο νομικά υποθέτει ότι έχει συμβεί ένα σφάλμα συστήματος σε κάθε αμφισβητούμενη συναλλαγή, trừśli η χρηματοοικονομική εταιρεία δεν μπορεί να παρέχει一个 αμετάβλητο ιχνηλατικό αποτύπωμα που αποδεικνύει ότι ο πράκτορας συμμορφώθηκε αυστηρά με τις κωδικοποιημένες φρουρές του.

Το να έχεις ένα ανώτερο άτομο να εποπτεύει κάθε ‘πράκτορα’ βοηθά στη διαχείριση του κινδύνου των μη προβλεπόμενων ενεργειών και προλαμβάνει τα λάθη από το να εξελιχθούν σε πραγματικά προβλήματα. Αυτό διασφαλίζει ότι η εταιρεία παραμένει στη σωστή πλευρά του νόμου, διατηρώντας την ευθύνη.

Τι είναι ο ιδανικός τρόπος προς τα εμπρός;

Όταν η αγεντική ΤΝ εισέρχεται στις χρηματοοικονομικές, η διακυβέρνηση πρέπει να γίνει εξίσου ρητή. Οι νομικές και συμμόρφωσης ομάδες θα πρέπει να παίξουν einen προδραστικό ρόλο στο σχεδιασμό πλαισίων εξουσιοδότησης για πράκτορες ΤΝ, να ορίσουν την ευθύνη μεταξύ συνεργατών, να ορίσουν συμβατικές όρια για ενέργειες μηχανών και να καθορίσουν πρότυπα τεκμηρίωσης που να περιγράφουν σαφώς ποιος είναι υπεύθυνος για τι. Η συγκατάθεση, επίσης, πρέπει να εξελιχθεί – οι χρήστες πρέπει να έχουν μια διαφανή κατανόηση του τι ακριβώς συναινούν και των ορίων της αγεντικής εξουσίας.

Ιδανικά, είναι ένας κόσμος όπου οι πελάτες παραμένουν πλήρως υπό έλεγχο και πάντα ενήμεροι για το τι ακριβώς κάνει ο πράκτορας ΤΝ. Αντί να βασίζονται σε μακρές, συναρπαστικές συμβάσεις που υπογράφονται μια φορά, η συγκατάθεση γίνεται δυναμική και γρανικά, χορηγούμενη μέσω “μικρο-αδειοδότησεων” για συγκεκριμένες εργασίες. Ωστόσο, για να αποφευχθεί ο κίνδυνος ‘κοπής ειδοποιήσεων’, όπου οι χρήστες ανταποκρίνονται αυτόματα σε προτροπές χωρίς να τις διαβάσουν, η συγκατάθεση πρέπει να ενισχυθεί από σκληροκωδικοποιημένα όρια κινδύνου. Αυτά ενεργούν ως αυτόματοι ‘διακόπτες’, σταματώντας οποιαδήποτε μη-детерμινιστική ή υψηλής διακύμανσης ενέργεια που βρίσκεται έξω από το ιστορικό προφίλ συμπεριφοράς του χρήστη.

Για παράδειγμα, ένας χρήστης μπορεί να επιτρέψει στον πράκτορα ΤΝ ένα ψηφιακό “περίπατο” να δαπανήσει μόνο μέχρι 50 ευρώ για λογαριασμό του για μια μέρα. Κάθε ενέργεια καταγράφεται, δημιουργώντας một σαφής ιχνηλατικό που αποδεικνύει ότι η ΤΝ παρέμεινε εντός των εξουσιοδοτημένων ορίων. Αν η ΤΝ προσπαθήσει κάτι ασυνήθιστο ή ριψοκίνδυνο, το σύστημα αυτόματα παύει και ζητά μια γρήγορη επιβεβαίωση μέσω ενός αποτυπώματος δακτυλικού ή σκανning, για παράδειγμα. Οι μικρο-αδειοδότησεις μετατρέπουν αυτό που θα μπορούσε να ήταν ένα νομικό πονοκέφαλο σε ένα μέτρο ασφαλείας σε πραγματικό χρόνο – ένα κέρδος για τους χρήστες και τις εταιρείες. Οι χρήστες διατηρούν την ορατότητα και τον έλεγχο, ενώ η αυτονομία ΤΝ λειτουργεί εντός σαφών, υπεύθυνων ορίων. Αυτή η ορατότητα διατηρείται καλύτερα μέσω της ‘Συνεχούς Επαλήθευσης’, όπου ένα στρώμα ‘Φύλακας’ λειτουργεί παράλληλα με τον πράκτορα ΤΝ. Αυτό το δευτερεύον στρώμα δεν ξεκινά συναλλαγές, αλλά έχει την απόλυτη εξουσία να βέτοι οποιαδήποτε ενέργεια που παραβιάζει προκαθορισμένα όρια ασφαλείας, διασφαλίζοντας ότι η ανθρώπινη ασφάλεια παραμένει προδραστική αντί να είναι απλώς καταγεγραμμένη.

Τελικά, η επιτυχία της αγεντικής χρηματοδότησης θα εξαρτηθεί από την ικανότητά της να λειτουργεί ασφαλώς, αξιόπιστα και με ανθρώπινη κεντρική. Η πρόκληση έγκειται στο να μετατρέψει ένα σύνθετο, αόρατο σύστημα σε κάτι που οι άνθρωποι μπορούν να εμπιστευτούν, να κατανοήσουν και να αισθανθούν ότι είναι υπό τον έλεγχό τους.