Nhóm Tư vấn Công nghệ Khuyến nghị Giới hạn Sử dụng Trí tuệ Nhân tạo của Lầu Năm Góc

Lầu Năm Góc đã thể hiện rõ ý định đầu tư mạnh vào trí tuệ nhân tạo, tuyên bố rằng trí tuệ nhân tạo sẽ làm cho quân đội Mỹ trở nên mạnh mẽ và vững chắc hơn trước các mối đe dọa an ninh quốc gia. Theo Engadget, vào thứ Năm vừa qua, Hội đồng Đổi mới Quốc phòng đã đưa ra một số hướng dẫn đạo đức đề xuất cho việc sử dụng trí tuệ nhân tạo trong quân đội. Danh sách đề xuất bao gồm các chiến lược để tránh thiên vị không mong muốn và trí tuệ nhân tạo có thể điều khiển được, với các thủ tục dừng khẩn cấp để ngăn chặn trí tuệ nhân tạo gây ra thiệt hại không cần thiết.

Wired báo cáo rằng Hội đồng Đổi mới Quốc phòng được thành lập bởi Chính quyền Obama để hướng dẫn Lầu Năm Góc trong việc thu hút kinh nghiệm và tài năng từ ngành công nghệ. Hiện tại, hội đồng được chủ trì bởi cựu CEO của Google (GOOGL ), Eric Schmidt. Bộ đã gần đây được giao nhiệm vụ thiết lập hướng dẫn cho việc thực hiện trí tuệ nhân tạo trong các dự án quân sự một cách có đạo đức. Vào thứ Năm, hội đồng đã đưa ra hướng dẫn và khuyến nghị của mình để xem xét. Báo cáo lưu ý rằng thời điểm để có những cuộc thảo luận nghiêm túc về việc sử dụng trí tuệ nhân tạo trong bối cảnh quân sự là bây giờ, trước khi một sự kiện nghiêm trọng đòi hỏi phải có một cuộc thảo luận như vậy.

Theo Artificial Intelligence News, một quan chức quân sự cũ gần đây đã tuyên bố rằng Lầu Năm Góc đang tụt lại phía sau trong việc sử dụng trí tuệ nhân tạo. Lầu Năm Góc đang cố gắng bù đắp sự khác biệt này và đã tuyên bố rằng việc phát triển và mở rộng trí tuệ nhân tạo trong quân đội là một ưu tiên quốc gia. Các nhà đạo đức học về trí tuệ nhân tạo lo ngại rằng trong sự vội vàng của Lầu Năm Góc để trở thành một nhà lãnh đạo trong lĩnh vực trí tuệ nhân tạo, các hệ thống trí tuệ nhân tạo có thể được sử dụng theo những cách không đạo đức. Mặc dù các hội đồng đạo đức độc lập về trí tuệ nhân tạo đã đưa ra các đề xuất của riêng họ, Hội đồng Đổi mới Quốc phòng đã đề xuất ít nhất năm nguyên tắc mà quân đội nên tuân theo mọi lúc khi phát triển và triển khai các hệ thống trí tuệ nhân tạo.

Nguyên tắc đầu tiên được hội đồng đề xuất là nguyên tắc rằng con người luôn phải chịu trách nhiệm về việc sử dụng, triển khai và kết quả của bất kỳ nền tảng trí tuệ nhân tạo nào được sử dụng trong bối cảnh quân sự. Điều này gợi nhớ đến một chính sách năm 2012 đã quy định rằng con người phải luôn là một phần của quá trình ra quyết định khi lực lượng致命 có thể được sử dụng. Có một số nguyên tắc khác trong danh sách cung cấp các lời khuyên chung như đảm bảo rằng các hệ thống trí tuệ nhân tạo luôn được xây dựng bởi các kỹ sư hiểu và ghi chép đầy đủ chương trình của họ. Một nguyên tắc khác khuyên rằng các hệ thống trí tuệ nhân tạo quân sự nên luôn được kiểm tra về độ tin cậy. Những hướng dẫn này dường như là điều hiển nhiên, nhưng hội đồng muốn nhấn mạnh tầm quan trọng của chúng.

Các nguyên tắc khác trong danh sách liên quan đến việc kiểm soát thiên vị cho các thuật toán trí tuệ nhân tạo và khả năng của trí tuệ nhân tạo để phát hiện nếu thiệt hại không mong muốn có thể xảy ra và tự động ngắt kết nối. Hướng dẫn quy định rằng nếu thiệt hại không cần thiết sẽ xảy ra, trí tuệ nhân tạo nên có thể ngắt kết nối và có một người điều khiển lấy lại quyền kiểm soát. Bản thảo của các nguyên tắc cũng khuyến nghị rằng đầu ra của trí tuệ nhân tạo nên có thể theo dõi được để các nhà phân tích có thể thấy những gì đã dẫn đến việc trí tuệ nhân tạo đưa ra một quyết định nhất định.

Tập hợp các khuyến nghị được hội đồng đưa ra nhấn mạnh hai ý tưởng khác nhau. Các nguyên tắc phản ánh thực tế rằng trí tuệ nhân tạo sẽ là một phần không thể thiếu trong tương lai của các hoạt động quân sự, nhưng nhiều phần của trí tuệ nhân tạo vẫn phụ thuộc vào quản lý và ra quyết định của con người.

Mặc dù Lầu Năm Góc không phải tuân theo các khuyến nghị của hội đồng, nhưng dường như Lầu Năm Góc đang xem xét nghiêm túc các khuyến nghị này. Theo Wired, giám đốc Trung tâm Trí tuệ Nhân tạo Liên hợp, Trung tướng Jack Shanahan, tuyên bố rằng các khuyến nghị của hội đồng sẽ giúp Lầu Năm Góc “duy trì các tiêu chuẩn đạo đức cao nhất như được nêu trong chiến lược trí tuệ nhân tạo của Bộ Quốc phòng, đồng thời tiếp tục truyền thống mạnh mẽ của quân đội Mỹ trong việc áp dụng các tiêu chuẩn kiểm tra và triển khai nghiêm ngặt cho các đổi mới công nghệ”.

Ngành công nghệ nói chung vẫn còn cảnh giác với việc sử dụng trí tuệ nhân tạo trong việc tạo ra phần cứng và phần mềm quân sự. Các nhân viên của Microsoft (MSFT ) và Google đã phản đối việc hợp tác với các thực thể quân sự, và Google gần đây đã quyết định không gia hạn hợp đồng mà đã có họ đóng góp cho Dự án Maven. Một số CEO, nhà khoa học và kỹ sư cũng đã ký một cam kết không tham gia “phát triển, sản xuất, buôn bán hoặc sử dụng vũ khí tự động致命”. Nếu Lầu Năm Góc áp dụng các hướng dẫn được hội đồng đề xuất, nó có thể làm cho ngành công nghệ sẵn sàng hợp tác trên các dự án hơn, mặc dù chỉ có thời gian mới có thể cho biết.