Khi Trí Tuệ Nhân Tạo Bắt Đầu Thực Hiện Giao Dịch, Ai Là Người Chịu Trách Nhiệm?

Thế giới tài chính đang chuyển hướng sang trí tuệ nhân tạo có khả năng hành động, nơi trí tuệ nhân tạo không chỉ trả lời câu hỏi mà còn thực hiện mua hàng và đàm phán thay mặt bạn. Kết hợp điều này với tài chính vô hình, và ngân hàng sẽ biến mất vào nền tảng của cuộc sống hàng ngày. Đây là một bước nhảy vĩ đại từ việc mở ứng dụng hoặc điền vào biểu mẫu để có thể xử lý thanh toán và vay tiền tự động và tức thời.

Đó là nơi chúng ta đang hướng tới – với thị trường toàn cầu về trí tuệ nhân tạo tài chính khổng lồ dự kiến sẽ tăng trưởng với tốc độ trung bình hàng năm vượt quá 40%, vượt qua 80 tỷ đô la vào năm 2034. Trong vài năm, chúng ta sẽ ngừng thực hiện các giao dịch ngân hàng và bắt đầu giám sát các hệ thống quản lý cuộc sống tài chính của chúng ta. Khi các hệ thống trí tuệ nhân tạo chuyển từ tư vấn người dùng sang thực hiện giao dịch thay mặt họ, các công ty fintech phải đối mặt với một câu hỏi cơ bản: khi một máy tính thực hiện quyết định tài chính, ai sẽ chịu trách nhiệm pháp lý và quy định?

Chuyển đổi từ hỗ trợ đến đại lý

Đối với tài chính, vốn đã yêu cầu con người phải có mặt tại thời điểm giao dịch, sẽ không thể tưởng tượng được việc giao phó cho máy móc quyền quyết định nếu, khi và làm thế nào để giao dịch – mà không cần đến sự quyết định của con người.

Tài chính vô hình đã phát triển thông qua các khoản thanh toán nhúng, đăng ký tự động, thanh toán một lần và đường ray thời gian thực. Ngân hàng ngày càng chuyển vào các sản phẩm từ bên trong ứng dụng ngân hàng. Kết hợp điều này với các hệ thống có khả năng hành động, và bạn sẽ có được các khả năng tài chính hướng tới mục tiêu, hiểu ngữ cảnh, thu thập thông tin liên quan trên các nền tảng và khởi tạo các quy trình tự động. Tóm lại, tài chính có khả năng hành động biến đổi ý định con người thành quyết định động và liên tục mà không cần đến sự tương tác của con người.

Giao dịch, như chúng ta biết, đang trở thành cơ sở hạ tầng nền tảng và ít hơn là sự tương tác có ý thức.

Điều gì là ý nghĩa?

Sự trỗi dậy của tài chính có khả năng hành động có thể được xem xét thông qua các khía cạnh của kiểm soát, hành vi và niềm tin.

Kiểm soát không còn là mở ứng dụng hoặc nhấp vào nút nữa, mà được hấp thụ vào các lớp vô hình của hệ thống xác thực, thanh toán và tự động hóa, hướng dẫn cách tiền di chuyển. Nó không còn được thực hiện tại thời điểm giao dịch mà sớm hơn, khi người dùng định nghĩa sở thích, giới hạn, mục tiêu và quyền của họ. Thay vì quyết định mỗi lần tiền nên di chuyển, họ quyết định quy tắc dưới đó tiền có thể di chuyển. Hệ thống sau đó sẽ thực hiện kiểm soát đó, giải thích những quy tắc đó trong thời gian thực và hành động theo đó.

Điều này thay đổi cơ bản và thậm chí thách thức cách người dùng thực hiện kiểm soát. Trong khi kiểm soát trước đây nằm trong hành động, nó hiện đang chuyển hướng đến cấu hình. Bạn không còn quản lý giao dịch, mà thay vào đó, bạn đang thiết lập các điều kiện dưới đó giao dịch được phép xảy ra. Giám sát trở thành việc xem xét và điều chỉnh các điều kiện đó, thay vì phê duyệt các khoản thanh toán một lần.

Đối với các công ty fintech, điều này thay đổi nơi trách nhiệm nằm. Kiểm soát không còn nằm trong giao diện mà trong chính cơ sở hạ tầng. Nó nằm trong cách xác thực danh tính, cách thiết kế quyền, cách quyết định được ghi lại và cách hành động có thể được kiểm tra hoặc đảo ngược. Những lớp này định hình cách kiểm soát tài chính thực sự được thực hiện, ngay cả khi người dùng không trực tiếp nhìn thấy nó. Do đó, kiểm soát được chuyển hướng vào khả năng kiểm tra trước của logic đại lý. Điều này chuyển giám sát từ phê duyệt giao dịch thời gian thực sang quản lý các ‘hàm mục tiêu’, các mục tiêu cốt lõi được lập trình vào trí tuệ nhân tạo, đảm bảo rằng ý định cơ bản của máy vẫn phù hợp với lợi ích dài hạn của người dùng trước khi một xu được di chuyển.

Khi các hành động tài chính chuyển vào nền tảng, cách người dùng tương tác với tiền của họ cũng thay đổi. Ít hơn những thứ để quản lý, ít hơn các lời nhắc để phê duyệt và ít hơn lý do để kiểm tra. Theo thời gian, thói quen quản lý giao dịch tích cực sẽ nhường chỗ cho việc xem xét định kỳ cách hệ thống đang hoạt động. Nếu thanh toán không dùng tiền mặt làm cho giao dịch trở nên dễ dàng và tự động hóa làm cho chúng liên tục, thì các hệ thống có khả năng hành động làm cho chúng tự động.

Vậy thì điều gì sẽ xảy ra với niềm tin? Khi người dùng phát triển từ các thói quen giám sát trước đó, độ tin cậy của hệ thống cơ bản trở thành chìa khóa của niềm tin. Người dùng sẽ muốn biết quyết định được đưa ra như thế nào, dữ liệu nào được xem xét, ranh giới nào tồn tại và điều gì xảy ra khi có điều gì đó sai sót.

Điều gì xảy ra khi có điều gì đó sai sót?

Hầu hết các luật tài chính được xây dựng xung quanh ý tưởng rằng con người cố ý khởi xướng giao dịch. Nhưng khi thời điểm ý định và thời điểm thực hiện được tách biệt, giả định này trở nên yếu đi. Với các hệ thống tự động, hành động khởi xướng trở nên gián tiếp. Người dùng có thể đã ủy quyền một tập hợp các quy tắc rộng, nhưng không phải là giao dịch cụ thể. Vì vậy, khi có điều gì đó sai sót, quyết định chính xác dẫn đến nó trở nên khó xác định. Ý tưởng về người quyết định đơn lẻ, rõ ràng không còn đứng vững, và chuỗi ý định, thực hiện và nguyên nhân mà các khuôn khổ pháp lý đã luôn dựa vào bị gián đoạn.

Các hệ thống có khả năng hành động giới thiệu các giải thích thuật toán về ý định người dùng và kết quả xuất hiện từ dữ liệu thời gian thực chứ không phải từ các hướng dẫn rõ ràng. Điều trông giống như một giao dịch đơn lẻ có thể thực sự là kết quả của nhiều phán quyết tự động được xếp lớp theo thời gian.

Điều này tạo ra các thách thức thực tế. Một mặt, các tranh chấp trở nên khó giải quyết hơn vì không rõ liệu vấn đề nằm ở cấu hình ban đầu của người dùng, sự giải thích của hệ thống về ý định đó, dữ liệu mà nó dựa vào hay hành động cuối cùng mà nó thực hiện. Việc thực thi quy định cũng trở nên phức tạp hơn, vì các khuôn khổ truyền thống về ủy quyền và trách nhiệm không chuyển giao một cách gọn gàng sang việc ra quyết định có khả năng hành động.

Mặc dù vậy, trong mắt của cơ quan quản lý, tổ chức tài chính vẫn phải chịu trách nhiệm về các thất bại, vi phạm hoặc thiệt hại gây ra thông qua các hệ thống này. Luật pháp coi hành động của trí tuệ nhân tạo giống như nếu chúng được thực hiện bởi một nhân viên người. Nếu trí tuệ nhân tạo mắc lỗi, công ty phải chịu trách nhiệm, đặc biệt nếu lỗi phát sinh từ việc thiết lập kém, cấu hình không đầy đủ hoặc giám sát không đủ. Đảm bảo chất lượng và giám sát của con người có thể không bao giờ bị giảm nhẹ trong việc ra quyết định tự động. Nếu có điều gì, chúng trở nên quan trọng hơn để đảm bảo rằng các hệ thống hoạt động như dự định.

Nó có nghĩa là phải chịu trách nhiệm về các quyết định được đưa ra bởi phần mềm được thiết kế để hoạt động độc lập, thường trong các tình huống mà không có người nào dự kiến trước. Các câu hỏi về trách nhiệm pháp lý, khả năng kiểm tra và giải thích sẽ chuyển từ rìa pháp lý sang trung tâm của thiết kế. Các tổ chức tài chính sẽ cần các mô hình rõ ràng hơn để theo dõi quyết định, gán trách nhiệm và chứng minh rằng ngay cả các hành động tự động cũng có thể được hiểu, xem xét và quản lý. Để bắc cầu khoảng trống trách nhiệm này, ngành nên áp dụng ‘Giả định có thể bác bỏ về sự cố thuật toán.’ Khung pháp lý này giả định một lỗi hệ thống đã xảy ra trong bất kỳ giao dịch tranh chấp nào trừ khi tổ chức tài chính có thể cung cấp một đường dẫn kiểm tra không thể thay đổi chứng minh rằng đại lý tuân thủ nghiêm ngặt các rào cản được mã hóa.

Có một người cao cấp giám sát mọi ‘đại lý’ giúp quản lý rủi ro của các hành động không chủ ý và ngăn chặn các lỗi từ việc trở thành vấn đề thực sự. Điều này đảm bảo rằng công ty vẫn ở đúng phía của luật pháp trong khi duy trì trách nhiệm.

Con đường lý tưởng để tiến lên?

Khi trí tuệ nhân tạo có khả năng hành động xâm nhập vào tài chính, quản trị phải trở nên rõ ràng như nhau. Các đội pháp lý và tuân thủ sẽ cần phải đóng vai trò chủ động trong việc thiết kế các khuôn khổ ủy quyền cho các đại lý trí tuệ nhân tạo, định nghĩa trách nhiệm pháp lý qua các đối tác, thiết lập các ranh giới hợp đồng cho hành động của máy và thiết lập các tiêu chuẩn tài liệu rõ ràng về ai chịu trách nhiệm cho điều gì. Đồng ý, quá, cần phải phát triển – người dùng phải có một sự hiểu biết minh bạch về những gì họ đang đăng ký và giới hạn của quyền đại lý.

Ly tưởng, đó là một thế giới nơi khách hàng vẫn hoàn toàn kiểm soát và luôn biết chính xác những gì đại lý trí tuệ nhân tạo của họ đang làm. Thay vì dựa vào các hợp đồng dài và khó hiểu được ký một lần, sự đồng ý trở nên động và chi tiết, được cấp thông qua “sự cho phép vi mô” cho các nhiệm vụ cụ thể. Tuy nhiên, để tránh rủi ro ‘mệt mỏi thông báo’, nơi người dùng phê duyệt các lời nhắc một cách vô tình mà không đọc chúng, sự đồng ý phải được tăng cường bởi các ngưỡng rủi ro được mã hóa cứng. Những điều này hoạt động như các ‘ngắt mạch tự động’, dừng bất kỳ hành động không xác định hoặc biến động cao nào nằm ngoài hồ sơ hành vi lịch sử của người dùng.

Ví dụ, người dùng có thể cho phép đại lý trí tuệ nhân tạo của họ một “giấy phép số” để chi tiêu chỉ lên đến 50 euro thay mặt họ trong một ngày. Mọi hành động đều được ghi lại, tạo ra một đường dẫn rõ ràng chứng minh rằng trí tuệ nhân tạo vẫn nằm trong các giới hạn được ủy quyền. Nếu trí tuệ nhân tạo cố gắng thực hiện bất kỳ điều gì bất thường hoặc rủi ro, hệ thống sẽ tự động tạm dừng và yêu cầu xác nhận nhanh chóng thông qua dấu vân tay hoặc quét khuôn mặt, ví dụ. Sự cho phép vi mô biến những gì có thể là một cơn đau đầu pháp lý thành một biện pháp an toàn thời gian thực – một chiến thắng cho cả người dùng và tổ chức.

Người dùng giữ được khả năng hiển thị và kiểm soát, trong khi sự tự chủ của trí tuệ nhân tạo hoạt động trong các ranh giới có thể chịu trách nhiệm. Khả năng hiển thị này được duy trì tốt nhất thông qua ‘Xác minh liên tục’, nơi một lớp ‘Người giám hộ’ dựa trên quy tắc hoạt động song song với đại lý trí tuệ nhân tạo. Lớp thứ cấp này không khởi xướng giao dịch nhưng có quyền tuyệt đối để phủ quyết bất kỳ hành động nào vi phạm các ranh giới an toàn được định nghĩa trước, đảm bảo rằng an toàn con người vẫn chủ động chứ không chỉ được ghi lại.

Cuối cùng, thành công của tài chính có khả năng hành động sẽ phụ thuộc vào khả năng hoạt động an toàn, đáng tin cậy và theo cách lấy con người làm trung tâm. Thách thức nằm ở việc biến một hệ thống phức tạp và vô hình thành thứ mà mọi người có thể tin tưởng, hiểu và cảm thấy kiểm soát.