Lãnh đạo tư tưởng
Từ Mạng Nơ-ron đến Sự Bất Cẩn: Ai Chịu Trách Nhiệm Khi Trí Tuệ Nhân Tạo Thất Bại?
Bài viết này thảo luận về các vấn đề pháp lý liên quan đến những thiệt hại do trí tuệ nhân tạo gây ra và nơi trách nhiệm pháp lý có thể nằm nếu một mạng nơ-ron không hoạt động chính xác trong thế giới thực.
Trí tuệ nhân tạo (AI) đã vượt ra ngoài phòng thí nghiệm và vào các tòa án, phòng khám, xe hơi và sàn giao dịch chứng khoán, với các mạng nơ-ron chẩn đoán bệnh, phê duyệt khoản vay và ngày càng thực hiện các nhiệm vụ lâu dài được coi là thuộc phạm vi của con người. Nhưng khi các hệ thống như vậy thất bại trong thế giới thực, chúng làm như vậy với những hậu quả nghiêm trọng và đôi khi là tử vong.
Là một luật sư về thương tích cá nhân ở Ontario, Canada, và hiện là ứng viên tiến sĩ quản trị kinh doanh đang nghiên cứu sự giao thoa giữa kinh doanh, luật và công nghệ, tôi ngày càng được hỏi một câu hỏi đơn giản: Nếu tổn hại do AI xảy ra, ai là người bị đổ lỗi?
Câu trả lời thực sự phức tạp hơn. AI đặt ra những thách thức đối với các học thuyết về sự bất cẩn, nguyên nhân và khả năng dự đoán, và đặt ra những câu hỏi cơ bản về cách pháp luật nên phản ứng với quyết định của máy.
Vai Trò Mở Rộng Của AI Trong Ra Quyết Định Có Rủi Ro Cao
AI không còn bị giới hạn trong việc tự động hóa các nhiệm vụ có kỹ năng thấp hoặc các nền tảng học máy. Nó hiện đang đưa ra quyết định về chăm sóc sức khỏe, tài chính, việc làm, vận tải, cảnh sát và phân tích pháp lý.
Các mô hình AI hiện tại thường bao gồm các mạng nơ-ron sâu mà, mặc dù có thể phát hiện các mẫu phức tạp trong các tập dữ liệu lớn, vẫn còn khá không rõ ràng đối với các nhà phát triển. Các học giả đã quan sát rằng các hệ thống AI giới thiệu độ không thể đoán trước và tự chủ vào pháp luật, từng được quản lý chặt chẽ bởi khả năng dự đoán và ý định. Điều này tạo ra một cuộc xung đột giữa đổi mới và trách nhiệm.
Trong khi các hệ thống pháp lý coi thiệt hại gây ra là có thể quy cho con người, AI phân phối trách nhiệm cho các kỹ sư của tập dữ liệu, những người tạo ra, triển khai và người dùng cuối. Trách nhiệm trở nên phân tán.
Khoảng Trống Trách Nhiệm: Khi Tổn Thương Không Thể Dễ Dàng Gán Cho
Các học giả pháp lý ngày càng đề cập đến một “khoảng trống trách nhiệm” đang xuất hiện trong quản trị AI. Luật tort truyền thống phụ thuộc vào việc xác định:
- Trách nhiệm chăm sóc
- Vi phạm trách nhiệm đó
- Nguyên nhân
- Thiệt hại
AI làm phức tạp mỗi yếu tố. Ví dụ, các nhà phát triển có thể không biết mô hình sẽ hoạt động như thế nào sau khi triển khai, và các tổ chức có thể sử dụng các hệ thống học máy của bên thứ ba. Từ góc độ của người dùng cuối, cơ chế để xác định đầu ra là không rõ ràng.
Một nghiên cứu học thuật đã lưu ý đến cách chứng minh lỗi là khó hơn nếu các hệ thống AI hoạt động bán tự chủ hoặc thích nghi tự chủ thông qua các quá trình như học máy. Sự phân mảnh này thách thức các học thuyết dựa trên hành động của con người.
Trong tố tụng về thương tích cá nhân, các tòa án truyền thống kiểm tra xem bị đơn có hành động một cách hợp lý trong hoàn cảnh hay không. Nhưng các tòa án nên đánh giá sự hợp lý như thế nào khi việc ra quyết định được ủy quyền một phần cho các mô hình xác suất?
Các Mạng Nơ-ron và Vấn Đề Giải Thích
Các hệ thống học sâu thường hoạt động như “hộp đen”. Các quá trình ra quyết định nội bộ của chúng không dễ giải thích, ngay cả đối với các chuyên gia. Sự thiếu giải thích này có những ý nghĩa pháp lý nghiêm trọng.
Nếu một hệ thống AI y tế chẩn đoán sai bệnh ung thư, ai sẽ bị lỗi? Nó có thể là:
- Cách mô hình được đào tạo
- Liệu dữ liệu đào tạo có chứa thiên vị
- Liệu các quá trình xác thực có đủ?
- Liệu các bác sĩ lâm sàng có dựa quá nhiều vào đầu ra tự động?
Văn học pháp lý khuyên nên phân biệt giữa trách nhiệm nguyên nhân, trách nhiệm vai trò và trách nhiệm pháp lý để quy trách nhiệm cho các tổn hại do AI gây ra.
Tuy nhiên, trong thực tế, trách nhiệm có thể mở rộng đến một chuỗi các diễn viên:
- Cung cấp dữ liệu
- Nhà phát triển phần mềm
- Những người đào tạo mô hình
- Những người triển khai
- Các tổ chức sử dụng đầu ra AI
- Các chuyên gia dựa vào các khuyến nghị của AI
AI không loại bỏ trách nhiệm, mà phân phối lại nó.
Bài Học Từ Phương Tiện Tự Lái: Một Nghiên Cứu Trường Hợp Về Trách Nhiệm Pháp Lý Của AI
Tố tụng về phương tiện tự lái cung cấp một cái nhìn sơ bộ về cách các tòa án có thể giải quyết tổn hại liên quan đến AI. Các tòa án đã áp dụng các nguyên tắc thông thường của sự bất cẩn và trách nhiệm sản phẩm đối với các công nghệ mới gây thương tích. Trong các vụ án gần đây, các bồi thẩm đoàn đã bắt đầu phân chia trách nhiệm giữa các tài xế và các công ty công nghệ đã tạo ra các hệ thống lái tự động.
Các nhà bình luận pháp lý đã đề xuất rằng các học thuyết trách nhiệm sản phẩm hiện có, như khiếm khuyết thiết kế, khiếm khuyết sản xuất và thất bại trong việc cảnh báo, là phù hợp với các hệ thống được AI kích hoạt.
Tuy nhiên, phương tiện tự lái暴 lộ những hạn chế của các khuôn khổ pháp lý hiện tại. Trách nhiệm pháp lý nên gắn với: Nhà sản xuất xe? Nhà phát triển phần mềm? Người vận hành? Hay dữ liệu được sử dụng để đào tạo thuật toán?
Một số học giả đã đề xuất rằng việc phân tích các nguyên tắc trách nhiệm sản phẩm có thể xác định rõ ràng trách nhiệm giữa các diễn viên trực tuyến và ngoại tuyến.
Từ góc độ của nguyên đơn, các vụ án cho thấy các tòa án có thể vẫn áp dụng các nguyên tắc thông thường cho các công nghệ mới, nhưng chỉ với kiến thức chuyên môn và kiến thức kỹ thuật thực sự tiên tiến.
Trách Nhiệm Pháp Lý Ngặt Nghiêm và Sự Bất Cẩn: Các Lý Thuyết Pháp Lý Đối Lập
Một cuộc tranh luận trung tâm là liệu các khuôn khổ sự bất cẩn thông thường có thể được áp dụng cho các hệ thống AI. Một số học giả ủng hộ các chế độ trách nhiệm pháp lý nghiêm ngặt, lập luận rằng các bên bị thương không nên gánh chịu gánh nặng chứng minh lỗi trong các môi trường công nghệ phức tạp.
Trách nhiệm pháp lý nghiêm ngặt có thể đặc biệt hữu ích khi tổn hại là có thể dự đoán nhưng không thể tránh khỏi, khi một hệ thống AI được triển khai trên quy mô lớn, và khi rủi ro được phân phối xã hội. Hoặc khi việc chứng minh nguyên nhân kỹ thuật không dễ dàng.
Người ta cũng lập luận rằng luật bất cẩn có thể thích nghi với sự thay đổi công nghệ. Nghiên cứu pháp lý so sánh đã lập luận để xây dựng trên các học thuyết hiện có, với các hiệu ứng ổn định nội tại và thích nghi dần dần với các tổn hại mới.
Trách nhiệm pháp lý nghiêm ngặt và sự bất cẩn minh họa cho các ưu tiên chính sách liên quan đến đổi mới, công bằng và cách rủi ro và chi phí nên được phân bổ.
Liệu các nhà đổi mới có nên chịu trách nhiệm về rủi ro công nghệ? Hay xã hội nói chung nên chia sẻ chi phí của tiến bộ?
Quan Điểm Kinh Doanh: Phân Bổ Rủi Ro và Bảo Hiểm
Từ góc độ kinh doanh, trách nhiệm pháp lý của AI không chỉ là vấn đề pháp lý mà còn là vấn đề quản lý rủi ro. Các tổ chức triển khai các hệ thống AI đã bắt đầu tập trung vào các câu hỏi về phân bổ rủi ro hợp đồng: 2. bảo hiểm trách nhiệm chuyên môn, 3. bảo hiểm an ninh mạng, và 4. bảo đảm, cũng như các khuôn khổ tuân thủ quy định.
Thị trường bảo hiểm có thể đóng vai trò quan trọng trong việc thiết lập trách nhiệm pháp lý cho AI. Một số nghiên cứu đề xuất rằng một số tổn hại từ AI cuối cùng có thể được giải quyết tốt nhất thông qua các chế độ bồi thường hỗn hợp kết hợp bảo hiểm và luật tort.
Các công ty tích hợp AI vào việc ra quyết định hoạt động nên tính đến rủi ro tố tụng trong quá trình chuyển đổi số của họ. Việc không làm như vậy có thể khiến các tổ chức như vậy dễ bị tổn thương về uy tín, xử phạt quy định và trách nhiệm dân sự.
Trách Nhiệm Đạo Đức so với Trách Nhiệm Pháp Lý
Trong nhiều trường hợp, trách nhiệm pháp lý không tương đương với trách nhiệm đạo đức. Các cuộc tranh luận về quản trị AI bao gồm các nguyên tắc sau:
- Công bằng
- Minh bạch
- Trách nhiệm
- Giải thích
Tuy nhiên, các nghĩa vụ pháp lý không tự động tuân theo từ các xem xét đạo đức.
Công việc gần đây đề xuất các khuôn khổ khái niệm để phân bổ trách nhiệm trong các hệ sinh thái AI đa diễn viên và để xây dựng các quy tắc bằng chứng kết nối các quyết định thiết kế với kết quả pháp lý. Do đó, các hệ thống pháp lý tìm cách thúc đẩy đổi mới cũng phải tính đến những người bị tổn hại bởi công nghệ mới. Việc cân bằng này sẽ định hình tương lai của quản trị AI.
Tương Lai Của Sự Bất Cẩn Trong Thời Đại Trí Tuệ Nhân Tạo
Trí tuệ nhân tạo thách thức giả định rằng quyền ra quyết định luôn nằm trong tay các diễn viên con người có thể xác định. Nhưng trách nhiệm pháp lý cuối cùng vẫn là con người.
Trong tương lai gần, không thể các tòa án sẽ công nhận các hệ thống AI là người pháp lý. Thay vào đó, có thể các cá nhân phát triển, triển khai và lợi nhuận từ các hệ thống AI sẽ bị coi là có trách nhiệm.
Khi các hệ thống AI trở nên độc lập hơn, các mô hình lai có thể phát triển, kết hợp các hình thức quy định khác nhau:
- Các nguyên tắc bất cẩn
- Các học thuyết trách nhiệm sản phẩm
- Giám sát quy định
- Các chế độ bồi thường dựa trên bảo hiểm
Thay vì thay thế các khái niệm pháp lý thông thường, AI có thể chỉ buộc các tòa án làm rõ chúng. Từ góc độ của nguyên đơn, câu hỏi là gì đã xảy ra.
Ai là người tạo ra rủi ro? Ai có thể ngăn chặn rủi ro gây hại cho các cá nhân?
Cho đến khi các cơ quan lập pháp thông qua các chế độ trách nhiệm pháp lý AI toàn diện, các tòa án sẽ áp dụng các học thuyết pháp lý hiện có cho các công nghệ mới. Các mạng nơ-ron có thể mới. Sự bất cẩn không phải vậy.
