Các nhà nghiên cứu cho biết con người sẽ không thể kiểm soát AI siêu thông minh

Bất kỳ ai biết về trí tuệ nhân tạo (AI) đều có thể đã nghe một số phiên bản về việc cuối cùng nó sẽ thoát khỏi sự kiểm soát của con người. Đây không chỉ là một chủ đề trong các bộ phim khoa học viễn tưởng, mà là một khả năng rất mạnh khiến nhiều chuyên gia trong ngành lo ngại. Nhiều chuyên gia trong số này, bao gồm cả các nhà khoa học, ủng hộ rằng chúng ta nên bắt đầu chuẩn bị cho khả năng này và tránh nó bằng mọi cách có thể. 

Giờ đây, một nhóm các nhà nghiên cứu quốc tế đã lấy ý tưởng này và hỗ trợ nó bằng các tính toán lý thuyết. Nhóm nghiên cứu, bao gồm các nhà khoa học từ Trung tâm Con người và Máy móc tại Viện Phát triển Con người Max Planck, đã sử dụng những tính toán đó để chứng minh việc không thể kiểm soát một AI siêu thông minh như thế nào. 

Nghiên cứu gần đây đã được xuất bản trên Tạp chí Nghiên cứu Trí tuệ Nhân tạo. 

Hệ thống AI siêu thông minh

Nỗi sợ hãi về một hệ thống AI siêu thông minh liên quan đến thực tế là một hệ thống như vậy sẽ vượt trội hơn nhiều so với con người. Nó không chỉ có thể học độc lập mà còn có thể truy cập tất cả dữ liệu hiện có và xử lý dữ liệu cực kỳ nhanh. 

Một sự kiện như vậy có thể dẫn đến việc AI siêu thông minh sẽ vượt qua tất cả các máy hiện có trên mạng, và trong khi nó có thể và sẽ làm những việc như chữa bệnh và giải quyết các vấn đề lớn khác mà nhân loại phải đối mặt, nguy cơ mọi thứ vượt khỏi tầm kiểm soát cũng rất cao. 

Manuel Cebrian là đồng tác giả của nghiên cứu và là Trưởng nhóm Huy động Kỹ thuật số tại Trung tâm Con người và Máy móc, Viện Phát triển Con người Max Planck. 

“Một cỗ máy siêu thông minh điều khiển thế giới nghe như khoa học viễn tưởng. Nhưng đã có những cỗ máy thực hiện một số nhiệm vụ quan trọng một cách độc lập mà không cần lập trình viên hiểu đầy đủ cách họ học nó. Do đó, câu hỏi đặt ra là liệu tại một thời điểm nào đó, điều này có thể trở nên không thể kiểm soát và gây nguy hiểm cho nhân loại hay không,” Cebrian nói. 

Kiểm soát hệ thống

Có hai trường phái tư tưởng chính khi nói đến việc kiểm soát một hệ thống như vậy. Đầu tiên, con người có thể hạn chế khả năng của AI siêu thông minh bằng cách hạn chế quyền truy cập của nó vào một số nguồn dữ liệu, chẳng hạn như toàn bộ internet. Hệ thống cũng có thể hoạt động mà không cần tiếp xúc với thế giới bên ngoài. Tuy nhiên, vấn đề với điều này là nó sẽ hạn chế đáng kể tiềm năng của AI.

Hệ thống sẽ được kiểm soát bằng cách chỉ cho phép nó theo đuổi những kết quả có lợi cho nhân loại và điều này có thể được thực hiện bằng cách lập trình các nguyên tắc đạo đức cho nó. 

Nghiên cứu có sự tham gia của nhóm phát triển một thuật toán ngăn chặn trên lý thuyết nhằm ngăn AI siêu thông minh làm hại con người trong bất kỳ trường hợp nào. Điều này có thể đạt được bằng cách trước tiên tạo mô phỏng hành vi của AI và phát hiện bất kỳ hành vi nào có thể gây hại. Bất chấp lý thuyết đầy hứa hẹn này, phân tích hiện tại cho thấy rằng một thuật toán như vậy không thể được phát triển. 

Iyad Rahwan là Giám đốc Trung tâm Con người và Máy móc.

“Nếu bạn chia vấn đề thành các quy tắc cơ bản từ khoa học máy tính lý thuyết, thì hóa ra một thuật toán ra lệnh cho AI không phá hủy thế giới có thể vô tình dừng hoạt động của chính nó. Nếu điều này xảy ra, bạn sẽ không biết liệu thuật toán ngăn chặn vẫn đang phân tích mối đe dọa hay liệu nó đã ngừng ngăn chặn AI có hại hay chưa. Trên thực tế, điều này làm cho thuật toán ngăn chặn không sử dụng được,” Rahwan nói.

Một vấn đề khác là các chuyên gia thậm chí có thể không nhận ra khi nào một cỗ máy siêu thông minh đạt đến trạng thái đó, chủ yếu là do thực tế là nó sẽ thông minh hơn con người.