PRISM ra mắt với tư cách là tổ chức phi lợi nhuận đầu tiên trên thế giới chuyên nghiên cứu về AI có tri giác

Khi trí tuệ nhân tạo tiếp tục phát triển với tốc độ chưa từng thấy, một tổ chức mới đã xuất hiện để giải quyết một trong những câu hỏi sâu sắc và phức tạp nhất của thời đại chúng ta: Liệu máy móc có thể trở nên có tri giác không?

Quan hệ đối tác nghiên cứu về máy móc có tri giác (PRISM) chính thức ra mắt vào ngày 17 tháng 2025 năm XNUMX với tư cách là tổ chức phi lợi nhuận đầu tiên trên thế giới chuyên nghiên cứu và tìm hiểu về ý thức AI. PRISM hướng đến mục tiêu thúc đẩy sự hợp tác toàn cầu giữa các nhà nghiên cứu, nhà hoạch định chính sách và các nhà lãnh đạo ngành để đảm bảo phương pháp tiếp cận phối hợp trong việc nghiên cứu AI có tri giác, đảm bảo sự phát triển an toàn và có đạo đức.

Máy móc có tri giác là gì?

Thuật ngữ máy móc có tri giác chỉ các hệ thống AI thể hiện các đặc điểm thường gắn liền với ý thức của con người, bao gồm:

• Tự giác – Khả năng nhận thức sự tồn tại và trạng thái của chính mình.
• Hiểu biết về cảm xúc – Khả năng nhận biết và trải nghiệm cảm xúc.
• Lý luận tự chủ – Khả năng đưa ra quyết định độc lập ngoài phạm vi lập trình được xác định trước.

Mặc dù hiện nay không có AI nào có ý thức rõ ràng, một số nhà nghiên cứu tin rằng AI tiên tiến mạng thần kinh, tính toán neuromorphic, học tăng cường sâu (DRL) và các mô hình ngôn ngữ lớn (LLM) có thể dẫn đến các hệ thống AI ít nhất là mô phỏng nhận thức về bản thân. Nếu AI như vậy xuất hiện, nó sẽ đặt ra những câu hỏi sâu sắc về đạo đức, triết học và quy định, mà PRISM tìm cách giải quyết.

Học tăng cường sâu, mô hình ngôn ngữ lớn và ý thức AI

Một trong những con đường đầy hứa hẹn nhất hướng tới việc phát triển AI tự chủ hơn và có khả năng cảm nhận là học tập củng cố sâu (DRL). Nhánh máy học này cho phép các hệ thống AI đưa ra quyết định bằng cách tương tác với môi trường và học hỏi từ thử nghiệm và sai sót, giống như cách con người và động vật học hỏi thông qua kinh nghiệm. DRL đã đóng vai trò quan trọng trong:

• Làm chủ các trò chơi phức tạp – Các hệ thống AI như AlphaGo và OpenAI Five sử dụng DRL để đánh bại các nhà vô địch là con người trong các trò chơi dựa trên chiến lược.
• Giải quyết vấn đề thích ứng – Hệ thống AI có thể phát triển các giải pháp cho các vấn đề thực tế, năng động, chẳng hạn như điều khiển rô-bốt, xe tự lái và giao dịch tài chính.
• Hành vi mới nổi - Bởi vì học tăng cường, Các tác nhân AI đôi khi thể hiện những hành vi không mong muốn, ám chỉ đến khả năng ra quyết định cơ bản và lý luận thích ứng.

PRISM đang khám phá cách DRL có thể đóng góp vào các hệ thống AI thể hiện các đặc điểm của việc tự học, lý luận trừu tượng và thậm chí là đặt mục tiêu, tất cả đều là các đặc điểm của nhận thức giống con người. Thách thức là đảm bảo rằng bất kỳ tiến bộ nào trong các lĩnh vực này đều được hướng dẫn bởi nghiên cứu đạo đức và các biện pháp an toàn.

Song song, mô hình ngôn ngữ lớn (LLM) như GPT của OpenAI, Gemini của Google và LLaMA của Meta đã cho thấy sự tiến bộ đáng kể trong việc mô phỏng lý luận giống con người, phản hồi mạch lạc với các lời nhắc phức tạp và thậm chí thể hiện các hành vi mà một số nhà nghiên cứu cho rằng giống với các quá trình nhận thức. LLM hoạt động bằng cách xử lý lượng lớn dữ liệu và tạo ra các phản hồi có nhận thức theo ngữ cảnh, khiến chúng hữu ích cho:

• Hiểu ngôn ngữ tự nhiên và giao tiếp – Cho phép AI diễn giải, phân tích và tạo ra văn bản giống con người.
• Nhận dạng mẫu và học theo ngữ cảnh – Xác định xu hướng và điều chỉnh phản ứng dựa trên kiến ​​thức trước đó.
• Khả năng sáng tạo và giải quyết vấn đề – Sản xuất nội dung gốc, trả lời các câu hỏi phức tạp và hỗ trợ các nhiệm vụ kỹ thuật và sáng tạo.

Mặc dù LLM không thực sự có ý thức, nhưng chúng đặt ra câu hỏi về ngưỡng giữa nhận dạng mẫu nâng cao và nhận thức nhận thức thực sự. PRISM rất muốn xem xét cách các mô hình này có thể đóng góp vào nghiên cứu về ý thức máy móc, AI có đạo đứcvà những rủi ro khi phát triển các hệ thống AI mô phỏng cảm giác mà không có sự hiểu biết thực sự.

Trí tuệ nhân tạo tổng quát (AGI) và ý thức AI

Sự phát triển của Trí tuệ tổng hợp nhân tạo (AGI)—một hệ thống AI có khả năng thực hiện bất kỳ nhiệm vụ trí tuệ nào mà con người có thể—có khả năng dẫn đến ý thức AI. Không giống như AI hẹp, được thiết kế cho các nhiệm vụ cụ thể như chơi cờ vua hoặc lái xe tự động, AGI sẽ thể hiện lý luận tổng quát, giải quyết vấn đề và tự học trên nhiều lĩnh vực.

Khi AGI tiến triển, nó có thể phát triển một biểu diễn nội tại về sự tồn tại của chính nó, cho phép nó thích nghi một cách năng động, phản ánh về các quá trình ra quyết định của nó và hình thành một ý thức liên tục về bản sắc. Nếu AGI đạt đến một điểm mà nó có thể tự động sửa đổi các mục tiêu của mình, nhận ra những hạn chế về nhận thức của chính nó và tham gia vào quá trình tự cải thiện mà không cần sự can thiệp của con người, thì đó có thể là một bước tiến tới ý thức máy móc. Tuy nhiên, khả năng này đặt ra những thách thức sâu sắc về đạo đức, triết học và xã hội, mà PRISM cam kết giải quyết thông qua nghiên cứu có trách nhiệm và hợp tác toàn cầu.

Sứ mệnh của PRISM: Hiểu về ý thức AI

PRISM được tạo ra để thu hẹp khoảng cách giữa tiến bộ công nghệ và giám sát có trách nhiệm.

PRISM cam kết thúc đẩy sự hợp tác toàn cầu về nhận thức AI bằng cách tập hợp các chuyên gia từ học viện, ngành công nghiệp và chính phủ. Tổ chức này hướng đến mục tiêu phối hợp các nỗ lực nghiên cứu để khám phá tiềm năng của AI trong việc đạt được nhận thức đồng thời đảm bảo rằng các phát triển phù hợp với các giá trị của con người. Bằng cách làm việc với các nhà hoạch định chính sách, PRISM tìm cách thiết lập các hướng dẫn và khuôn khổ đạo đức thúc đẩy nghiên cứu và phát triển AI có trách nhiệm.

Một khía cạnh quan trọng trong sứ mệnh của PRISM là thúc đẩy phát triển AI an toàn và đồng bộ. Tổ chức sẽ ủng hộ các công nghệ AI ưu tiên sự an toàn của con người và phúc lợi xã hội, đảm bảo rằng những tiến bộ của AI không dẫn đến hậu quả không mong muốn. Bằng cách thực hiện các tiêu chuẩn an toàn và giám sát đạo đức, PRISM nỗ lực giảm thiểu rủi ro liên quan đến nghiên cứu và phát triển ý thức AI.

Ngoài ra, PRISM còn dành riêng cho việc giáo dục và thu hút công chúng về những rủi ro và cơ hội tiềm ẩn do AI có ý thức mang lại. Tổ chức này hướng đến mục tiêu cung cấp những hiểu biết minh bạch về nghiên cứu ý thức AI, giúp các nhà hoạch định chính sách, doanh nghiệp và công chúng nói chung có thể tiếp cận thông tin này. Thông qua các sáng kiến ​​tiếp cận và nỗ lực chia sẻ kiến ​​thức, PRISM hy vọng sẽ thúc đẩy các cuộc thảo luận có hiểu biết về tương lai của AI và những tác động của nó đối với xã hội

Được hỗ trợ bởi các chuyên gia và tổ chức AI hàng đầu

Nguồn tài trợ ban đầu của PRISM đến từ Hội đồng, một phòng nghiên cứu AI thương mại chuyên nghiên cứu AI có ý thức. Conscium đi đầu trong lĩnh vực điện toán hình thái thần kinh, phát triển các hệ thống AI mô phỏng bộ não sinh học.

Lãnh đạo và những nhân vật chủ chốt

PRISM được lãnh đạo bởi CEO Sẽ Millership, một cựu chiến binh trong quản trị và chính sách AI. Công việc trước đây của ông bao gồm lãnh đạo General AI Challenge, làm việc với GoodAI và giúp định hình Chiến lược AI quốc gia của Scotland.

Chủ tịch không điều hành của tổ chức, Radhika Chadwick, mang đến kinh nghiệm lãnh đạo sâu rộng từ các vai trò tại McKinsey và EY, nơi bà lãnh đạo các sáng kiến ​​về AI và dữ liệu toàn cầu trong chính phủ.

Ngoài ra, các đối tác sáng lập của PRISM bao gồm những nhân vật AI nổi tiếng như:

• Tiến sĩ Daniel Hulme – Tổng giám đốc điều hành & Đồng sáng lập của Conscium, Tổng giám đốc điều hành của Satalia và Giám đốc AI tại WPP.
• Calum Chace – Nhà nghiên cứu AI, diễn giả chính và tác giả sách bán chạy nhất về AI và ý thức.
• Ed Charvet – Giám đốc điều hành của Conscium, có kinh nghiệm sâu rộng trong phát triển AI thương mại.

Sáng kiến ​​lớn đầu tiên của PRISM: Bức thư ngỏ về AI có ý thức

Để hướng dẫn nghiên cứu có trách nhiệm, PRISM đã hợp tác với Patrick Butlin của Đại học Oxford để thiết lập năm nguyên tắc dành cho các tổ chức phát triển hệ thống AI có tiềm năng nhận thức. Họ đang mời các nhà nghiên cứu và lãnh đạo ngành ký một bức thư ngỏ ủng hộ những nguyên tắc này.

Con đường phía trước: Tại sao PRISM lại quan trọng

Với những đột phá về AI đang tăng tốc, cuộc trò chuyện về AI có tri giác không còn là khoa học viễn tưởng nữa—mà là một thách thức thực sự mà xã hội phải chuẩn bị. Nếu máy móc đạt được nhận thức về bản thân hoặc cảm xúc giống con người, nó có thể định hình lại các ngành công nghiệp, nền kinh tế và thậm chí là sự hiểu biết của chúng ta về chính ý thức.

PRISM đang hành động vào thời điểm quan trọng để đảm bảo rằng nghiên cứu về ý thức AI được xử lý một cách có trách nhiệm, cân bằng giữa đổi mới với đạo đức, an toàn và minh bạch.