Khi Trí Tuệ Nhân Tạo Bắt Đầu Thực Hiện Giao Dịch, Ai Là Người Chịu Trách Nhiệm?

Thế giới tài chính đang chuyển hướng đến trí tuệ nhân tạo có khả năng hành động, nơi trí tuệ nhân tạo không chỉ trả lời câu hỏi mà còn thực hiện mua hàng và đàm phán thay mặt bạn. Kết hợp điều này với tài chính vô hình, và ngân hàng sẽ biến mất vào nền tảng của cuộc sống hàng ngày. Đây là một bước nhảy vĩ đại từ việc mở ứng dụng hoặc điền vào biểu mẫu để có xe, phần mềm làm việc hoặc ví danh tính kỹ thuật số xử lý thanh toán và khoản vay tức thời và tự động.

Đó là nơi chúng ta đang hướng tới – với thị trường toàn cầu cho trí tuệ nhân tạo khổng lồ trong dịch vụ tài chính dự kiến sẽ tăng trưởng với tốc độ trung bình hàng năm vượt quá 40%, vượt quá 80 tỷ đô la vào năm 2034. Trong vài năm, chúng ta sẽ ngừng thực hiện ngân hàng và bắt đầu giám sát các hệ thống quản lý cuộc sống tài chính của chúng ta. Khi hệ thống trí tuệ nhân tạo chuyển từ tư vấn người dùng sang thực hiện giao dịch thay mặt họ, các công ty fintech phải đối mặt với một câu hỏi cơ bản: khi một máy tính thực hiện quyết định tài chính, ai sẽ chịu trách nhiệm pháp lý và quy định?

Chuyển đổi từ hỗ trợ đến đại lý

Đối với tài chính, vốn đã yêu cầu con người phải có mặt tại thời điểm giao dịch, sẽ không thể tưởng tượng được việc giao phó cho máy tính quyền đại lý để xác định liệu, khi và làm thế nào để giao dịch – mà không cần sự quyết định của con người.

Tài chính vô hình đã phát triển thông qua các khoản thanh toán nhúng, đăng ký tự động, thanh toán một lần và đường ray thời gian thực. Ngân hàng ngày càng chuyển vào các sản phẩm từ bên trong ứng dụng ngân hàng. Kết hợp điều này với hệ thống đại lý, và bạn sẽ có được khả năng tài chính định hướng mục tiêu hiểu ngữ cảnh, thu thập thông tin liên quan trên các nền tảng và khởi chạy quy trình làm việc tự động. Tóm lại, tài chính đại lý chuyển đổi ý định của con người thành quyết định động và liên tục mà không cần đầu vào của con người.

Giao dịch, như chúng ta biết, đang trở thành cơ sở hạ tầng nền tảng và ít hơn sự tương tác có ý thức.

Điều gì là ý nghĩa?

Sự trỗi dậy của tài chính đại lý có thể được xem qua lăng kính kiểm soát, hành vi và niềm tin.

Kiểm soát không còn là mở ứng dụng hoặc nhấp vào nút nữa, mà nó được hấp thụ vào các lớp vô hình của hệ thống danh tính, thanh toán và tự động hóa, hướng dẫn cách tiền di chuyển. Nó không còn được thực hiện tại điểm giao dịch mà là sớm hơn, khi người dùng xác định sở thích, giới hạn, mục tiêu và quyền của họ. Thay vì quyết định mỗi lần tiền nên di chuyển, họ quyết định quy tắc dưới哪 tiền có thể. Hệ thống sau đó mang kiểm soát này tiến về phía trước, giải thích những quy tắc này trong thời gian thực và hành động theo đó.

Điều này thay đổi và thậm chí thách thức cách người dùng thực hiện kiểm soát. Trong khi kiểm soát trước đây nằm trong hành động, nó hiện đang chuyển hướng đến cấu hình. Bạn không quản lý giao dịch, mà thay vào đó, bạn thiết lập điều kiện dưới đó giao dịch được phép xảy ra. Giám sát trở thành xem xét và điều chỉnh các điều kiện này thay vì phê duyệt thanh toán một lần.

Đối với các công ty fintech, điều này thay đổi nơi trách nhiệm nằm. Kiểm soát không còn nằm trong giao diện mà trong chính cơ sở hạ tầng. Nó nằm trong cách xác thực danh tính, cách thiết kế quyền, cách quyết định được ghi nhật ký và cách hành động có thể được kiểm tra hoặc đảo ngược. Những lớp này định hình cách kiểm soát tài chính thực sự được thực hiện, ngay cả khi người dùng không trực tiếp nhìn thấy nó. Do đó, kiểm soát được chuyển hướng vào khả năng kiểm toán trước của logic của đại lý. Điều này chuyển giám sát từ phê duyệt giao dịch thời gian thực sang quản trị các ‘hàm mục tiêu’, các mục tiêu cốt lõi được lập trình vào trí tuệ nhân tạo, đảm bảo rằng ý định cơ bản của máy tính vẫn phù hợp với lợi ích lâu dài của người dùng trước khi một xu di chuyển.

Khi hành động tài chính chuyển vào nền tảng, cách người dùng tương tác với tiền của họ cũng thay đổi. Ít hơn để quản lý, ít hơn để phê duyệt và ít hơn lý do để kiểm tra. Theo thời gian, thói quen quản lý giao dịch tích cực sẽ nhường chỗ cho việc xem xét định kỳ cách hệ thống đang hoạt động. Nếu thanh toán không dùng tiền mặt làm cho giao dịch trở nên dễ dàng và tự động hóa làm cho chúng liên tục, thì hệ thống đại lý làm cho chúng tự động.

Vậy thì điều gì xảy ra với niềm tin? Khi người dùng phát triển từ các thói quen giám sát trước đó, sự tin cậy của hệ thống cơ bản trở thành chốt của niềm tin. Người dùng sẽ muốn biết quyết định được đưa ra như thế nào, dữ liệu nào được xem xét, ranh giới nào tồn tại và điều gì xảy ra khi có điều gì đó đi sai.

Điều gì xảy ra khi có điều gì đó đi sai?

Hầu hết luật tài chính được xây dựng xung quanh ý tưởng rằng con người khởi xướng giao dịch một cách có chủ ý. Nhưng khi thời điểm ý định và thời điểm thực hiện được tách biệt, giả định này suy yếu. Với hệ thống tự động, hành động khởi xướng trở nên gián tiếp. Người dùng có thể đã ủy quyền một tập hợp các quy tắc rộng, nhưng không phải giao dịch cụ thể. Vì vậy, khi có điều gì đó đi sai, quyết định chính xác dẫn đến nó trở nên khó xác định. Ý tưởng về người quyết định duy nhất, rõ ràng không còn đứng vững, và chuỗi ý định, thực hiện và nguyên nhân mà các khuôn khổ pháp lý đã luôn dựa vào bị gián đoạn.

Hệ thống đại lý giới thiệu các giải thích thuật toán về ý định của người dùng và kết quả xuất hiện từ dữ liệu thời gian thực chứ không phải từ hướng dẫn rõ ràng. Điều trông giống như một giao dịch duy nhất có thể thực sự là kết quả của nhiều phán quyết tự động được phân lớp theo thời gian.

Điều này tạo ra các thách thức thực tế. Ví dụ, tranh chấp trở nên khó giải quyết hơn vì không rõ liệu vấn đề nằm trong cấu hình ban đầu của người dùng, sự giải thích của hệ thống về ý định đó, dữ liệu nó dựa vào hoặc hành động cuối cùng nó thực hiện. Thực thi quy định cũng trở nên phức tạp hơn, vì các khuôn khổ truyền thống của ủy quyền và trách nhiệm không chuyển giao một cách gọn gàng sang việc ra quyết định của đại lý.

Tuy nhiên, trong mắt của cơ quan quản lý, tổ chức tài chính vẫn chịu trách nhiệm về các sai sót, vi phạm hoặc thiệt hại gây ra thông qua các hệ thống này. Luật pháp coi hành động của trí tuệ nhân tạo giống như được thực hiện bởi một nhân viên con người. Nếu trí tuệ nhân tạo mắc lỗi, công ty phải chịu trách nhiệm, đặc biệt nếu lỗi phát sinh từ việc thiết lập kém, cấu hình sai hoặc giám sát không đầy đủ. Đảm bảo chất lượng và giám sát của con người có thể không bao giờ bị giảm thiểu khi đối mặt với việc ra quyết định tự động. Nếu có gì, chúng trở nên quan trọng hơn để đảm bảo rằng hệ thống hoạt động như dự định.

Điều này có nghĩa là phải chịu trách nhiệm về các quyết định được đưa ra bởi phần mềm được thiết kế để hoạt động độc lập, thường trong các tình huống mà không có con người nào dự kiến trước. Các câu hỏi về trách nhiệm, khả năng kiểm toán và giải thích sẽ chuyển từ rìa pháp lý sang trung tâm của thiết kế. Các tổ chức tài chính sẽ cần các mô hình rõ ràng hơn để theo dõi quyết định, gán trách nhiệm và chứng minh rằng ngay cả các hành động tự động cũng có thể được hiểu, xem xét và quản lý. Để bắc cầu khoảng cách trách nhiệm này, ngành nên áp dụng ‘Giả định có thể bác bỏ về sự cố thuật toán’. Khung pháp lý này giả định rằng một lỗi hệ thống đã xảy ra trong bất kỳ giao dịch tranh chấp nào trừ khi tổ chức tài chính có thể cung cấp một đường kiểm toán không thể thay đổi chứng minh rằng đại lý tuân thủ nghiêm ngặt các rào cản được mã hóa.

Có một người cao cấp giám sát mọi ‘đại lý’ giúp quản lý rủi ro của các hành động không mong muốn và ngăn chặn các lỗi từ việc leo thang thành các vấn đề thực sự. Điều này đảm bảo rằng công ty vẫn ở đúng phía của pháp luật trong khi duy trì trách nhiệm.

Con đường lý tưởng để tiến lên?

Khi trí tuệ nhân tạo đại lý làm việc trong tài chính, quản trị phải trở nên rõ ràng như nhau. Các nhóm pháp lý và tuân thủ sẽ cần phải đóng vai trò chủ động trong việc thiết kế các khuôn khổ ủy quyền cho các đại lý trí tuệ nhân tạo, định nghĩa trách nhiệm qua các đối tác, thiết lập các ranh giới hợp đồng cho hành động của máy tính và thiết lập các tiêu chuẩn tài liệu rõ ràng xác định ai chịu trách nhiệm về điều gì. Đồng ý, quá, cần phải phát triển – người dùng phải có một sự hiểu biết minh bạch về những gì họ đang đăng ký và giới hạn của quyền đại lý.

Ideally, đó là một thế giới nơi khách hàng vẫn hoàn toàn kiểm soát và luôn biết chính xác những gì đại lý trí tuệ nhân tạo của họ đang làm. Thay vì dựa vào các hợp đồng dài và khó hiểu được ký một lần, đồng ý trở nên động và chi tiết, được cấp thông qua “quyền micro” cho các nhiệm vụ cụ thể. Tuy nhiên, để tránh rủi ro ‘mệt mỏi thông báo’, nơi người dùng chấp thuận các nhắc nhở mà không đọc chúng, đồng ý phải được tăng cường bởi các ngưỡng rủi ro được mã hóa cứng. Những điều này hoạt động như các ‘ngắt mạch’ tự động, dừng bất kỳ hành động không xác định hoặc biến động cao nào nằm ngoài hồ sơ hành vi lịch sử của người dùng.

Ví dụ, người dùng có thể cho phép đại lý trí tuệ nhân tạo của họ một “hộ chiếu kỹ thuật số” để chi tiêu chỉ lên đến 50 EUR thay mặt họ trong một ngày. Mọi hành động đều được ghi nhật ký, tạo ra một đường dẫn rõ ràng chứng minh rằng trí tuệ nhân tạo vẫn nằm trong giới hạn được ủy quyền. Nếu trí tuệ nhân tạo cố gắng làm điều gì đó bất thường hoặc rủi ro, hệ thống sẽ tự động pause và yêu cầu xác nhận nhanh chóng thông qua dấu vân tay hoặc quét khuôn mặt, ví dụ. Quyền micro biến những gì có thể là một vấn đề pháp lý thành một biện pháp an toàn thời gian thực – một chiến thắng cho cả người dùng và tổ chức. Người dùng giữ được khả năng hiển thị và kiểm soát, trong khi tự chủ trí tuệ nhân tạo hoạt động trong các ranh giới có thể trách nhiệm được. Khả năng hiển thị này được duy trì tốt nhất thông qua ‘Xác minh liên tục’, nơi một lớp ‘Người giám hộ’ dựa trên quy tắc hoạt động song song với đại lý trí tuệ nhân tạo. Lớp thứ hai này không khởi xướng giao dịch nhưng có thẩm quyền tuyệt đối để phủ quyết bất kỳ hành động nào vi phạm các ranh giới an toàn định trước, đảm bảo rằng an toàn lấy con người làm trung tâm vẫn chủ động chứ không chỉ được ghi nhật ký.

Cuối cùng, thành công của tài chính đại lý sẽ phụ thuộc vào khả năng hoạt động an toàn, đáng tin cậy và theo cách lấy con người làm trung tâm. Thử thách nằm ở việc biến một hệ thống phức tạp và vô hình thành thứ mà mọi người có thể tin tưởng, hiểu và cảm thấy kiểm soát.