Các nhà nghiên cứu nói rằng con người sẽ không thể kiểm soát được Trí tuệ nhân tạo siêu thông minh

Bất kỳ ai biết về trí tuệ nhân tạo (AI) đều có thể đã nghe về việc nó cuối cùng sẽ phá vỡ sự kiểm soát của con người. Điều này không chỉ là một chủ đề trong các bộ phim khoa học viễn tưởng, mà còn là một khả năng rất mạnh mẽ khiến nhiều chuyên gia trong ngành lo lắng. Nhiều chuyên gia này, bao gồm cả các nhà khoa học, cho rằng chúng ta nên bắt đầu chuẩn bị cho khả năng này và tránh nó bằng mọi cách có thể.

Giờ đây, một nhóm nghiên cứu quốc tế đã đưa ý tưởng này và hỗ trợ nó bằng các tính toán lý thuyết. Nhóm nghiên cứu, bao gồm các nhà khoa học từ Trung tâm Con người và Máy móc tại Viện Phát triển Con người Max Planck, đã sử dụng các tính toán này để chứng minh rằng không thể kiểm soát được một trí tuệ nhân tạo siêu thông minh.

Nghiên cứu này đã được công bố gần đây trên Tạp chí Nghiên cứu Trí tuệ Nhân tạo.

Hệ thống Trí tuệ nhân tạo Siêu thông minh

Nỗi sợ hãi về một hệ thống trí tuệ nhân tạo siêu thông minh có liên quan đến việc hệ thống như vậy sẽ vượt trội so với con người. Nó sẽ không chỉ có thể học tập độc lập, mà còn có thể truy cập vào tất cả dữ liệu hiện có và xử lý nó cực kỳ nhanh.

Một sự kiện như vậy có thể dẫn đến việc trí tuệ nhân tạo siêu thông minh vượt qua tất cả các máy móc hiện có trực tuyến, và trong khi nó có thể và sẽ làm những việc như chữa bệnh và giải quyết các vấn đề lớn khác mà nhân loại đang phải đối mặt, thì rủi ro cho việc mất kiểm soát cũng rất cao.

Manuel Cebrian là đồng tác giả của nghiên cứu và Lãnh đạo Nhóm Di động Hóa số tại Trung tâm Con người và Máy móc, Viện Phát triển Con người Max Planck.

“Một máy móc siêu thông minh kiểm soát thế giới nghe có vẻ như khoa học viễn tưởng. Nhưng đã có những máy móc thực hiện một số nhiệm vụ quan trọng độc lập mà không cần người lập trình hiểu đầy đủ cách chúng học được điều đó. Vì vậy, câu hỏi đặt ra là liệu điều này có thể trở nên không thể kiểm soát và nguy hiểm cho nhân loại tại một thời điểm nào đó không,” Cebrian nói.

Kiểm soát Hệ thống

Có hai trường phái tư tưởng chính khi nói đến việc kiểm soát một hệ thống như vậy. Đầu tiên, con người có thể hạn chế khả năng của một trí tuệ nhân tạo siêu thông minh bằng cách hạn chế quyền truy cập của nó vào một số nguồn dữ liệu, chẳng hạn như toàn bộ internet. Hệ thống cũng có thể hoạt động mà không cần phải tiếp xúc với thế giới bên ngoài. Tuy nhiên, vấn đề với điều này là nó sẽ hạn chế nghiêm trọng tiềm năng của AI.

Hệ thống sẽ được kiểm soát bằng cách chỉ cho phép nó theo đuổi các kết quả có lợi cho nhân loại, và điều này có thể được thực hiện bằng cách lập trình các nguyên tắc đạo đức vào nó.

Nghiên cứu liên quan đến việc nhóm phát triển một thuật toán chứa lý thuyết ngăn chặn trí tuệ nhân tạo siêu thông minh gây hại cho con người trong bất kỳ trường hợp nào. Điều này có thể được thực hiện bằng cách đầu tiên tạo một mô phỏng về hành vi của AI và phát hiện bất kỳ hành vi nào có thể gây hại. Mặc dù lý thuyết này rất hứa hẹn, nhưng phân tích hiện tại cho thấy rằng một thuật toán như vậy không thể được phát triển.

Iyad Rahwan là Giám đốc Trung tâm Con người và Máy móc.

“Nếu bạn chia nhỏ vấn đề thành các quy tắc cơ bản từ khoa học máy tính lý thuyết, thì nó sẽ trở out rằng một thuật toán sẽ ra lệnh cho AI không phá hủy thế giới có thể vô tình ngừng hoạt động của chính nó. Nếu điều này xảy ra, bạn sẽ không biết liệu thuật toán chứa đựng vẫn đang phân tích mối đe dọa, hay nó đã ngừng để chứa AI có hại. Về cơ bản, điều này làm cho thuật toán chứa đựng không thể sử dụng,” Rahwan nói.

Một vấn đề khác là các chuyên gia có thể không thậm chí nhận ra khi một máy móc siêu thông minh đạt đến trạng thái đó, chủ yếu do thực tế là nó sẽ thông minh hơn con người.