Robot hình người sắp xuất hiện trong các nhà máy. Ai chịu trách nhiệm khi chúng gặp sự cố?

Một robot có thể hoàn thành tốt bài kiểm tra hiệu suất nhưng vẫn trở thành mối nguy về an toàn nếu gặp chướng ngại vật bất ngờ, thay đổi cách hoạt động do bản cập nhật phần mềm hoặc một công nhân thực sự. Vấn đề giờ đây không còn là liệu robot hình người có thể thực hiện một nhiệm vụ hay không, mà là chúng có thể thực hiện nhiệm vụ đó như thế nào. Liệu chúng có thể làm việc an toàn hay không — và ai chịu trách nhiệm nếu xảy ra sự cố?

Agility Robotics và FORT Robotics đã công bố quan hệ hợp tác vào tháng 10 nhằm tăng cường kiến trúc an toàn cho robot hình người Digit 5 của Agility. Hai bên đã hoạch định cách tiếp cận bằng việc tích hợp các hệ thống an toàn trên robot cùng giao diện bên ngoài, phương thức liên lạc và cơ chế ghi đè thủ công. Sự hợp tác này đánh dấu một bước chuyển quan trọng: robot phải an toàn khi hoạt động tại nơi làm việc có con người, và điều đó đòi hỏi nhiều hơn việc chỉ bảo đảm an toàn cho bản thân robot.

Tuy nhiên, công nghệ không đủ để giải quyết vấn đề trách nhiệm giải trình. Khi robot mắc lỗi vì một hệ thống AI nhận dạng sai một bộ phận bị lỗi, nhà sản xuất, nhà phát triển phần mềm, đơn vị tích hợp hệ thống và người sử dụng hệ thống là chủ lao động đều có thể phải chịu trách nhiệm pháp lý.

Khi các quyết định của AI trở thành nguy cơ ngoài đời thực

Robot công nghiệp truyền thống thường hoạt động trong các ô làm việc khép kín, được ngăn cách với công nhân bằng rào chắn và thiết bị an toàn. Robot hình người đặt ra một thách thức khác: chúng được thiết kế để di chuyển trong những môi trường dành cho con người, thực hiện nhiều nhiệm vụ khác nhau và thích ứng với các môi trường khác nhau.

Tính linh hoạt đó tạo ra những rủi ro mới. Nếu xảy ra nhận diện nhầm, robot có thể thực hiện một chuyển động không cần thiết. Bản cập nhật phần mềm có thể làm thay đổi hành vi của robot. Những thay đổi trong bố trí nhà máy có thể tạo ra các mối nguy chưa từng xuất hiện trong những lần thử nghiệm trước.

Dana R. Wolfe, Phó chủ tịch kiêm Trưởng bộ phận ngành tại GFT Americas, nói với Unite AI rằng để ngăn chặn các thao tác không an toàn, cần có nhiều lớp bảo vệ, chẳng hạn như các rào chắn an toàn bằng phần mềm có tính xác định, ngưỡng độ tin cậy riêng cho từng nhà máy, kết hợp dữ liệu từ nhiều cảm biến và thẩm định theo từng giai đoạn trước khi triển khai.

Wolfe cho biết không thể loại bỏ hoàn toàn các kết quả dương tính giả. Thay vào đó, nhà sản xuất cần bảo đảm rằng sai sót không dẫn đến những chuyển động vật lý thiếu an toàn.

Wolfe cho biết ngưỡng độ tin cậy và quyền quyết định của con người cần là một phần trong kiến trúc an toàn của hệ thống, cùng với các khóa liên động phần cứng.

Các tiêu chuẩn an toàn phải theo kịp sự phát triển

Các tiêu chuẩn hiện hành về robot công nghiệp là nền tảng hữu ích, nhưng không nhất thiết giải quyết được mọi vấn đề mà robot hình người di động đặt ra.

Tổ chức Tiêu chuẩn hóa Quốc tế (ISO) đã ban hành các yêu cầu an toàn dành cho robot công nghiệp; trong đó, ISO 10218-2 quy định việc tích hợp robot vào các hệ thống hoàn chỉnh.

Tuy nhiên, các tiêu chuẩn này không đề cập đến mọi ứng dụng hoặc mối nguy liên quan đến robot di động làm việc cùng con người.

Wolfe cho biết thử nghiệm độc lập, thẩm định dựa trên các kịch bản và thí điểm theo từng giai đoạn tại nơi làm việc đặc biệt quan trọng khi thực tiễn trong ngành tiếp tục phát triển.

Cũng cần tiến hành lại các đánh giá an toàn nếu những thay đổi về mô hình AI, phần mềm, giới hạn chuyển động, nhiệm vụ hoặc môi trường nhà máy có thể khiến các đánh giá trước đó không còn phù hợp.

Sau một thay đổi lớn, robot từng an toàn trong một tập hợp điều kiện có thể không còn an toàn trong tập hợp điều kiện mới.

Giám sát của con người phải có ý nghĩa hơn việc chỉ phê duyệt

Việc giám sát mọi quyết định của một hệ thống AI là không thực tế, nhưng nếu con người không tham gia vào các quyết định quan trọng thì sẽ nảy sinh một thách thức khác: việc chứng minh trách nhiệm giải trình trở nên khó khăn hơn.

Adrian Figueroa Ramos, đồng sáng lập kiêm CEO của Flexio và Routina, cho biết việc giám sát nên tập trung vào những quyết định có mức độ bất định hoặc rủi ro cao nhất.

“Trong thế giới AI ngày nay, lượng đầu ra vượt quá khả năng xử lý của con người. Rà soát mọi thứ sẽ khiến con người trở thành nút thắt, nhưng phán đoán của con người vẫn cần thiết đối với các quyết định có rủi ro cao hoặc độ tin cậy thấp”, ông nói với Unite AI.

Điều này đặc biệt đúng với AI vật lý. Hoạt động giám sát của con người cần chỉ định rõ những cá nhân có quyền ghi đè hệ thống, đồng thời bảo đảm các quyết định được ghi lại và kiểm tra, chứ không chỉ đơn thuần là nhấp vào nút phê duyệt.

Ai chịu trách nhiệm khi robot gặp sự cố?

Trách nhiệm giải trình cần được phân chia dựa trên mức độ kiểm soát của mỗi bên đối với hệ thống.

Chẳng hạn, nhà sản xuất chịu trách nhiệm xây dựng và lập hồ sơ về các biện pháp an toàn. Nhà phát triển phần mềm cần thử nghiệm những thay đổi có thể ảnh hưởng đến khả năng nhận thức hoặc chuyển động.

Đơn vị tích hợp cần thẩm định toàn bộ hệ thống trong môi trường dự kiến triển khai. Người sử dụng lao động chịu trách nhiệm đào tạo công nhân, bảo đảm các biện pháp bảo vệ được áp dụng và thiết lập quy trình dừng hoạt động không an toàn.

An ninh mạng cũng rất quan trọng. Công nghệ vận hành có thể dễ bị ảnh hưởng bởi các vấn đề về cảm biến, phần mềm và hệ thống bên ngoài có kết nối với robot. Sự cố an ninh ảnh hưởng đến hoạt động thể chất là vấn đề an toàn lao động, đồng thời cũng là vấn đề công nghệ thông tin.

Trong tương lai, robot hình người được kỳ vọng sẽ linh hoạt và năng suất hơn trong các nhà máy. Tuy nhiên, việc ứng dụng chúng sẽ không chỉ dựa trên các chỉ số hiệu suất. Cần xác định rõ trách nhiệm, tiến hành thẩm định độc lập và duy trì các biện pháp bảo vệ trong suốt vòng đời hoạt động của robot.

Câu hỏi đặt ra là: robot có thể mắc sai lầm không? Có, nếu những người sử dụng robot đã thiết lập một hệ thống quy trách nhiệm cho họ về những sai sót đó.