Công Nghệ Trí Tuệ Nhân Tạo Tiên Tiến Đặt Ra Thử Thách Đạo Đức – Các Lãnh Đạo Tư Duy

By Alfred Crews, Jr Phó Chủ Tịch & Luật Sư trưởng cho lĩnh vực Trí Tuệ & An Ninh của BAE Systems Inc.

Đầu năm nay, trước khi đại dịch toàn cầu xảy ra, tôi đã tham dự Hội nghị Đạo đức Trí Tuệ tại The Citadel ở Charleston, nơi chúng tôi thảo luận về chủ đề đạo đức trong thu thập thông tin liên quan đến bảo vệ an ninh quốc gia. Trong ngành công nghiệp quốc phòng, chúng tôi đang chứng kiến sự phổ biến của kiến thức, tính toán và công nghệ tiên tiến, đặc biệt là trong lĩnh vực trí tuệ nhân tạo (AI) và học máy (ML). Tuy nhiên, có thể có những vấn đề đáng kể khi triển khai AI trong bối cảnh thu thập thông tin hoặc chiến đấu thời gian thực.

AI kết hợp với tính toán lượng tử đặt ra rủi ro

Điều chúng ta phải đặt câu hỏi, phân tích và xác định một con đường phía trước là khi sử dụng AI kết hợp với khả năng tính toán lượng tử trong quá trình ra quyết định thời chiến. Ví dụ, hãy nhớ lại Terminator? Khi công nghệ của chúng ta đạt được những bước tiến lớn, thực tế của những gì Skynet trình bày đang ở trước chúng ta. Chúng ta có thể tự hỏi mình, “Skynet có đang đến với chúng ta không?” Hãy đi dạo xuống đường nhớ lại với tôi; các máy tính đã chiếm quyền kiểm soát vì chúng có khả năng suy nghĩ và đưa ra quyết định một mình, mà không cần một người chỉ đạo. Khi máy tính kết luận rằng con người là một lỗi, chúng đã cố gắng tiêu diệt loài người. Đừng hiểu lầm tôi, AI có tiềm năng tuyệt vời, nhưng tôi tin rằng nó phải có các tham số kiểm soát do yếu tố rủi ro liên quan.

Đạo đức mơ hồ và 딜레mma triết học của AI

Tôi tin rằng đây chính là lý do tại sao Bộ Quốc phòng Hoa Kỳ (DoD) đã ban hành các Nguyên tắc Đạo đức cho AI của riêng mình, vì việc sử dụng AI đặt ra những đạo đức mơ hồ và rủi ro mới. Khi kết hợp AI với khả năng tính toán lượng tử, khả năng đưa ra quyết định thay đổi và rủi ro mất kiểm soát tăng lên – nhiều hơn chúng ta có thể nhận ra ngày nay. Tính toán lượng tử khiến hệ thống vận hành của não bộ con người trở nên xấu hổ vì siêu máy tính có thể thực hiện nhiều tính toán hơn, nhanh hơn và chính xác hơn so với não bộ con người của chúng ta.

Ngoài ra, việc sử dụng AI kết hợp với tính toán đặt ra một 딜레mma triết học. Ở điểm nào thế giới sẽ cho phép máy móc có ý chí riêng; và nếu máy móc được phép suy nghĩ một mình, điều đó có nghĩa là máy móc đã trở nên tự nhận thức? Liệu việc tự nhận thức có cấu thành sự sống? Là một xã hội, chúng ta vẫn chưa xác định cách định nghĩa tình huống này. Do đó, như nó đứng ngày hôm nay, máy móc hành động một mình mà không có người kiểm soát, có thể dẫn đến hậu quả. Liệu một máy móc có thể ghi đè lên sự can thiệp của con người để dừng lại không? Nếu máy móc hoạt động một mình, chúng ta có thể rút phích cắm không?

Như tôi nhìn thấy, sử dụng AI từ góc độ phòng thủ là dễ dàng. Tuy nhiên, làm thế nào dễ dàng hơn để chuyển sang tấn công? Trên tấn công, máy móc sẽ đưa ra quyết định bắn trong chiến đấu. Liệu một máy móc bắn xuống một kẻ thù có vi phạm Công ước Geneva và luật xung đột vũ trang? Di chuyển vào không gian này với tốc độ nhanh, thế giới phải đồng ý rằng việc sử dụng AI và tính toán lượng tử trong chiến đấu phải tuân theo luật pháp hiện hành.

DoD có một vị trí khi sử dụng AI với hệ thống tự động và tuyên bố rằng luôn có một người tham gia vào quá trình ra quyết định; một người sẽ đưa ra quyết định cuối cùng về việc bắn một vũ khí. Đó là quy tắc của chúng ta, nhưng điều gì xảy ra nếu một đối thủ quyết định đi theo một con đường khác và cho phép một máy móc có khả năng AI đưa ra tất cả các quyết định cuối cùng? Sau đó, máy móc, như chúng ta đã thảo luận, đã nhanh hơn, thông minh hơn và chính xác hơn, sẽ có lợi thế.

Hãy xem một máy bay không người lái được trang bị AI và nhận dạng khuôn mặt: Máy bay không người lái bắn theo ý chí của mình vì một mục tiêu đã được xác định trước là một kẻ khủng bố. Ai thực sự chịu trách nhiệm về việc bắn? Liệu có trách nhiệm nếu có một sai lầm thiên vị?

Thiên vị được nướng vào AI/ML

Nghiên cứu cho thấy rằng một máy móc ít có khả năng mắc lỗi hơn con người. Tuy nhiên, nghiên cứu cũng chứng minh rằng có thiên vị trong học máy dựa trên “giáo viên” con người dạy máy. Năm Nguyên tắc Đạo đức của AI của DoD đã đề cập đến các thiên vị hiện có khi nó tuyên bố, “Bộ sẽ thực hiện các bước có chủ ý để giảm thiểu thiên vị không mong muốn trong các khả năng AI.” Chúng ta đã biết thông qua các nghiên cứu đã chứng minh rằng trong việc sử dụng các ứng dụng nhận dạng khuôn mặt, có thiên vị đối với người da màu với các kết quả dương tính giả. Khi một người tạo mã dạy máy móc cách đưa ra quyết định, sẽ có thiên vị. Điều này có thể là không cố ý vì người tạo AI không nhận thức được thiên vị tồn tại trong chính mình.

Vậy, làm thế nào để loại bỏ thiên vị? Đầu ra AI chỉ tốt như đầu vào. Do đó, phải có các biện pháp kiểm soát. Bạn phải kiểm soát dữ liệu流 vào vì đó là những gì có thể làm cho kết quả AI ít hợp lệ. Các nhà phát triển sẽ phải liên tục viết lại mã để loại bỏ thiên vị.

Thế giới để định nghĩa sử dụng tốt nhất công nghệ

Công nghệ tự nó không tốt hay xấu. Đó là cách một quốc gia sử dụng nó có thể đưa ra những ý định tốt nhất và đi sai. Khi công nghệ tiến bộ theo những cách ảnh hưởng đến cuộc sống con người, thế giới phải làm việc cùng nhau để định nghĩa hành động phù hợp. Nếu chúng ta lấy con người ra khỏi phương trình trong các ứng dụng AI, chúng ta cũng lấy đi đó là khoảng thời gian trước khi bóp cò – đó là la bàn đạo đức hướng dẫn chúng ta; khoảng thời gian khi chúng ta dừng lại và đặt câu hỏi, “Điều này có đúng không?” Một máy móc được dạy để tham gia sẽ không có khoảng thời gian đó. Vì vậy, câu hỏi là, trong tương lai, thế giới sẽ đứng về vấn đề này? Thế giới sẽ đi bao xa để cho phép máy móc đưa ra quyết định chiến đấu?