Thách thức tiếp theo cho AI trong Luật Tổn Thương Cá Nhân là Trách nhiệm

Một số trường hợp sử dụng AI khá tầm thường; những trường hợp khác lại gây tranh cãi đáng kể. Và vì công nghệ này còn mới, người ta có thể cho rằng việc áp dụng rộng rãi trong ngành pháp lý thuộc vào loại sau.

Mối lo ngại về vai trò của AI trong thực hành pháp lý vẫn lan rộng, đặc biệt khi kết quả của nó ảnh hưởng đến phân tích pháp lý hoặc kết quả của khách hàng. Mọi người lo rằng các luật sư đang giao việc suy nghĩ cho máy móc, và bằng chứng quan trọng do công cụ chuẩn bị có thể bị thẩm phán hoặc bồi thẩm đoàn hiểu sai. Liệu AI có thể có vai trò hợp pháp trong một hệ thống công lý coi công bằng, minh bạch và quy trình pháp lý là những trụ cột không?

Dù sao, AI đã tìm thấy các ứng dụng thực tiễn trong công việc pháp lý, đặc biệt trong việc rà soát tài liệu, nghiên cứu, tóm tắt và soạn thảo. Và có vẻ nó sẽ không biến mất: Các đội ngũ pháp lý tại khoảng 41 percent công ty luật hiện đang sử dụng công cụ AI, và con số này dự kiến sẽ tăng.

Là một luật sư chuyên về tai nạn cá nhân, tôi thấy các khoảng trống pháp lý xuất hiện nhanh hơn so với tốc độ cập nhật của các tiêu chuẩn pháp lý do việc sử dụng AI trong các công ty luật. Các quy tắc nghề nghiệp hiện có buộc luật sư chịu trách nhiệm về công việc của mình, nhưng chúng không nhất thiết giải quyết mọi câu hỏi đặc thù của AI liên quan đến việc công khai, khả năng kiểm toán, trách nhiệm nhà cung cấp, lưu trữ dữ liệu và mức độ rà soát của con người cần thiết.

Định nghĩa Trách nhiệm

Trách nhiệm là một trong những câu hỏi khó khăn nhất do AI: Ai chịu trách nhiệm pháp lý khi AI mắc lỗi?

Trong vụ án nổi tiếng năm 2023 Mata vs. Avianca, các luật sư của nguyên đơn đã sử dụng ChatGPT để tạo ra các trích dẫn pháp lý. Tuy nhiên, chatbot đã tạo ra ảo giác và đưa ra các vụ án không tồn tại, sau đó được nộp chính thức như tiền lệ cho thẩm phán. Cuộc tranh cãi kết quả là điều không thể tránh khỏi, nhưng nó đã thiết lập một nguyên tắc quan trọng: AI có thể hỗ trợ luật sư, nhưng không thể thay thế nghĩa vụ chuyên môn của họ trong việc xác minh độ chính xác của công việc.

Trong lĩnh vực luật tai nạn cá nhân, thách thức về trách nhiệm lại vượt ra ngoài các trích dẫn pháp lý. Với tính nhạy cảm và thường phức tạp của các vụ việc trong lĩnh vực này, bất kỳ sai sót nào cũng có thể ảnh hưởng đến đàm phán dàn xếp hoặc chiến lược tranh tụng từ rất sớm, trước khi vụ án tới tòa.

Giả sử một công cụ AI được dùng để tóm tắt và rút gọn hàng trăm trang hồ sơ y tế thành một bản ghi chép theo thứ tự thời gian. Nhưng chi tiết của một chấn thương nghiêm trọng trước đó lại bị chôn vùi. Sự thiếu sót như vậy sẽ ảnh hưởng đến yêu cầu của luật sư và khách hàng, và có thể chỉ được phát hiện trong buổi khai chứng.

Điều không có lợi là các sai lầm của AI có thể khó phát hiện. Một trích dẫn bịa đặt là một lỗi rõ ràng và dễ nhận biết, nhưng một hệ thống AI bỏ qua một tình trạng y tế đã tồn tại, tóm tắt sai quan điểm của nhân chứng, hoặc tính toán sai chi phí chăm sóc tương lai — những sai sót như vậy có thể trông hợp lý và không bị chú ý.

Thiên lệ có thể còn khó phát hiện hơn. Một hệ thống định giá được đào tạo trên dữ liệu có thiên lệch lịch sử có thể, ví dụ, liên tục hạ thấp giá trị các yêu cầu liên quan đến các nhóm nhân khẩu học cụ thể.

Sử dụng AI một cách thận trọng

AI có thể sàng lọc qua hàng ngàn tài liệu, phân tích hồ sơ y tế, và thậm chí soạn thảo các yêu cầu pháp lý. Khi được sử dụng đúng cách, những khả năng này có thể giảm bớt công việc hành chính thừa thãi và cho phép các luật sư dành nhiều thời gian hơn để tư vấn khách hàng và phát triển chiến lược pháp lý.

Nhưng không phải mọi nhiệm vụ đều nên được giao cho AI, và các vụ tai nạn cá nhân hiếm khi đơn giản. Chúng bao gồm các lời khai nhân chứng mâu thuẫn, bằng chứng y tế đang phát triển, câu hỏi về độ tin cậy, và các cuộc đàm phán phụ thuộc nhiều vào phán đoán của con người cũng như tiền lệ pháp lý. Dữ liệu lịch sử có thể giúp AI xác định các mô hình dàn xếp, nhưng không thể thay thế cho việc đánh giá của luật sư về cách một nguyên đơn, nhân chứng hoặc sự kiện cụ thể sẽ được nhìn nhận tại phiên tòa.

Nguy cơ lớn nhất, do đó, là các luật sư đặt niềm tin không đáng có vào các kết quả xuất hiện như có thẩm quyền và khách quan, mặc dù AI có thể sai, mù quáng trước ngữ cảnh và không có khả năng phán đoán của con người.

Mối lo ngại tương tự đang diễn ra trong ngành bảo hiểm. Hãy xem phản ứng dữ dội đối với các công ty bảo hiểm y tế sử dụng AI để xem xét yêu cầu bồi thường. Mọi người muốn được đảm bảo có sự giám sát của con người, biết rằng một con người thực sự có khả năng phán đoán đã xem xét các trường hợp của họ, ngay cả khi khối lượng công việc đã được giảm bớt và tăng tốc bởi AI.

Luật pháp không khác gì, và bất kể AI hỗ trợ bao nhiêu cho công việc tẻ nhạt, chúng ta phải nhận ra rằng nó phải được sử dụng một cách có chọn lọc, với các giới hạn rõ ràng và sự giám sát thực sự của con người. May mắn là đây dường như là xu hướng mà hầu hết các luật sư đang hướng tới: khoảng 83 phần trăm các chuyên gia pháp lý cho rằng việc sử dụng AI để cung cấp tư vấn pháp lý không phù hợp.

Khung Quy định

Cơ bản, quy định nên tập trung vào cách AI được sử dụng, cũng như nơi nào thích hợp để sử dụng.

Nếu AI sinh tạo được dùng để tạo ra các hồ sơ tòa án hoặc tài liệu, luật nên yêu cầu các luật sư phải tự mình xác minh mọi phân tích pháp lý, trích dẫn hoặc thiệt hại trước khi chúng được chia sẻ với khách hàng hoặc nộp lên tòa.

Rà soát của con người phải là một bước bắt buộc, không chỉ là khuyến nghị thực hành tốt. Đầu ra càng có hậu quả quan trọng, quy trình rà soát càng phải chặt chẽ. Bất kỳ trích dẫn pháp lý, tính toán thiệt hại, chuỗi thời gian y tế hoặc khẳng định thực tế nào được AI tạo ra và dự định cho khách hàng hoặc tòa án không bao giờ được truyền tới người nhận mà không có sự xác minh thực sự của luật sư.

Việc không thực hiện như vậy, ví dụ như bị bắt gặp khi nộp thông tin ảo vào tòa, nên dẫn đến hậu quả nghiêm trọng về mặt nghề nghiệp.

Các công ty cũng nên được yêu cầu tạo và duy trì một hồ sơ có thể kiểm toán được về việc sử dụng AI của mình. Nếu AI hỗ trợ việc rà soát hồ sơ y tế, soạn thảo thư yêu cầu, hoặc tóm tắt lời khai, các luật sư cần có khả năng xác định công cụ nào đã được dùng, thông tin nào đã được xử lý, và luật sư nào đã rà soát và phê duyệt tài liệu cuối cùng. Hãy xây dựng một hệ thống đề cao trách nhiệm để các sai sót có thể được sửa chữa trước khi chúng trở thành vấn đề trong quá trình tranh tụng.

Cuối cùng, vấn đề bảo vệ dữ liệu cũng cần được quan tâm. Các vụ tai nạn cá nhân thường liên quan đến hồ sơ y tế chi tiết, lịch sử công việc, tài liệu tài chính và các thông tin bí mật khác của khách hàng. Việc đưa dữ liệu này vào hệ thống AI tạo ra những rủi ro mới về việc lưu trữ dữ liệu, truy cập trái phép, và khả năng thông tin được gửi tới nhà cung cấp AI bên thứ ba có thể được dùng để huấn luyện các mô hình trong tương lai.

Các biện pháp bảo mật hiện có đã yêu cầu luật sư cân nhắc những rủi ro này. Các cơ quan quản lý nên hướng tới việc đặt ra các tiêu chuẩn tối thiểu về sự thận trọng của nhà cung cấp, chính sách lưu trữ, việc sử dụng dữ liệu huấn luyện và kiểm soát truy cập.

Kết luận

Khi AI ngày càng được sử dụng trong tranh tụng, ngành này đang đối mặt với cả cơ hội và thách thức. Công nghệ chắc chắn có thể giúp các luật sư có thêm thời gian để tập trung vào những yếu tố quan trọng hơn, nhưng nếu thiếu sự minh bạch và các khung làm việc được cân nhắc kỹ lưỡng cho việc sử dụng và công bố, nó có thể làm suy giảm niềm tin vào hệ thống tư pháp của chúng ta và đưa ra các thiên lệ trong các phiên tòa.

Dường như AI tự nó đang đứng trước tòa. Nhưng trước khi nó có thể lên bệ chứng, cần có các quy định cụ thể để xác định những gì được phép và không được phép theo luật. Chỉ bằng cách tạo ra các tiêu chuẩn rõ ràng về minh bạch và trách nhiệm, khách hàng và tòa án mới có thể tin rằng AI đang cải thiện quá trình tranh tụng mà không làm suy giảm các nguyên tắc công lý, công bằng và bình đẳng cho mọi người.