Chúng Ta Không Còn Đồng Bộ Hóa AIs Nữa. Chúng Ta Đang Đồng Bộ Hóa Các Văn Minh

Trong nhiều năm, câu hỏi chính trong trí tuệ nhân tạo (AI) là làm thế nào để đồng bộ hóa các mô hình AI với các giá trị của con người. Các nhà nghiên cứu đã cố gắng định nghĩa các quy tắc an toàn, các nguyên tắc đạo đức và các cơ chế kiểm soát để hướng dẫn các quyết định của AI. Công việc này đã đạt được tiến bộ đáng kể. Nhưng bây giờ, khi các hệ thống AI trở nên mạnh mẽ và phổ biến hơn,焦 điểm của việc đồng bộ hóa đang bắt đầu thay đổi. Điều gì bắt đầu như một thách thức để đồng bộ hóa một mô hình với một tập hợp các hướng dẫn đã trở thành một thách thức lớn hơn để đồng bộ hóa các văn minh整个 sử dụng các hệ thống này trên quy mô toàn cầu. AI không còn chỉ là một công cụ. Nó đang phát triển thành một môi trường nơi các xã hội làm việc, giao tiếp, đàm phán và cạnh tranh. Do đó, việc đồng bộ hóa không còn là một vấn đề kỹ thuật. Nó đã trở thành một vấn đề văn minh. Trong bài viết này, tôi giải thích tại sao việc đồng bộ hóa không còn chỉ là về các mô hình và tại sao chúng ta phải bắt đầu suy nghĩ về các văn minh thay vì máy móc. Tôi cũng thảo luận về cách thức thay đổi này ảnh hưởng đến các trách nhiệm của chúng ta và ý nghĩa của nó đối với hợp tác toàn cầu.

Ai Là Người Thật Sự Đại Diện Cho Các Giá Trị Của AI?

Nếu bạn hỏi một AI về một sự kiện lịch sử nhạy cảm, câu trả lời của nó phụ thuộc vào dữ liệu nó đã học. Nếu dữ liệu đó đến từ internet phương Tây, câu trả lời sẽ có thiên vị phương Tây. Nó sẽ ưu tiên chủ nghĩa cá nhân, tự do ngôn luận và lý tưởng dân chủ. Những giá trị này là tốt đối với nhiều người. Nhưng chúng không phải là các giá trị duy nhất trên thế giới.

Một người dùng ở Singapore, một người dùng ở Riyadh và một người dùng ở San Francisco có định nghĩa khác nhau về những gì là “hữu ích” và những gì là “hại”. Ở một số văn hóa, sự hòa hợp xã hội quan trọng hơn sự tự do ngôn luận tuyệt đối. Ở những nơi khác, sự tôn trọng thứ bậc quan trọng hơn sự phá vỡ.

Khi một công ty ở Thung lũng Silicon sử dụng “Reinforcement Learning from Human Feedback” (RLHF), họ thuê con người để đánh giá các câu trả lời của AI. Nhưng những con người này là ai? Niềm tin của họ là gì? Nếu họ đồng bộ hóa mô hình với các tiêu chuẩn của Mỹ, họ vô tình xây dựng một sản phẩm văn hóa của Mỹ. Họ đang xây dựng một nhà ngoại giao kỹ thuật số áp đặt các quy tắc của một văn minh cụ thể lên phần còn lại của thế giới.

Sự Phát Triển Của Các Vòng Lặp Phản Hồi

Thách thức không chỉ là AI phản ánh niềm tin của một văn hóa. Đó là cách những niềm tin đó có thể thay đổi chúng ta. Các hệ thống AI hiện đại có tiềm năng định hình hành vi của các cá nhân, tổ chức và thậm chí các quốc gia. Chúng có thể ảnh hưởng đến cách chúng ta nghĩ, làm việc, tin tưởng và cạnh tranh. Điều này tạo ra các vòng lặp phản hồi giữa các hệ thống AI và các xã hội của con người; chúng ta đào tạo AI và AI định hình cách chúng ta nghĩ và hành động. Những vòng lặp này đang trở nên mạnh mẽ hơn khi AI trở nên phổ biến hơn. Để xem cách vòng lặp phản hồi này hoạt động, dưới đây là hai ví dụ:

• Triển khai AI quy mô lớn thay đổi hành vi xã hội, và hành vi xã hội thay đổi dữ liệu đào tạo các hệ thống mới. Ví dụ, một thuật toán đề xuất có thể định hình những gì người dùng xem, đọc và tin tưởng. Các công cụ năng suất định hình lại cách các nhóm cộng tác và cách học sinh học. Những thay đổi trong hành vi này thay đổi các mẫu dữ liệu dưới dạng thói quen xem, mẫu giao tiếp tại nơi làm việc hoặc phong cách viết. Khi dữ liệu này chảy vào các tập dữ liệu đào tạo trong tương lai, các mô hình điều chỉnh các giả định và đầu ra của chúng tương ứng. Hành vi của con người định hình các mô hình, và các mô hình, đến lượt, định hình hành vi của con người.
• Các công cụ quyết định tự động ảnh hưởng đến chính sách công, và chính sách công ảnh hưởng đến đào tạo mô hình trong tương lai. Ví dụ, nhiều chính phủ hiện đang sử dụng AI để đề xuất nơi phân bổ nguồn lực, chẳng hạn như xác định khu vực nào cần hỗ trợ y tế nhiều hơn hoặc khu vực nào có thể có nguy cơ tội phạm cao hơn. Khi các nhà hoạch định chính sách hành động theo các khuyến nghị này, kết quả của những quyết định đó sau đó trở thành một phần của các tập dữ liệu mới. Theo thời gian, các quyết định chính sách được định hình bởi AI sẽ định hình các thế hệ mô hình AI tiếp theo.

Khi bạn nhận ra vòng lặp phản hồi này, nó trở nên rõ ràng rằng AI đang dần định hình và đồng bộ hóa các văn minh. Do đó, các quốc gia đang bắt đầu hỏi: Làm thế nào họ có thể bảo vệ các giá trị của mình trong khi tích hợp AI vào các xã hội và tổ chức của họ?

Sự Xuất Hiện Của Trí Tuệ Nhân Tạo Chủ Quyền

Thách thức đồng bộ hóa này đã gây ra phản ứng đáng kể từ các chính phủ trên toàn thế giới. Các quốc gia đã nhận ra rằng việc dựa vào AI nhập khẩu là một rủi ro đối với chủ quyền của họ. Họ không thể cho phép công dân của mình được giáo dục, thông tin và tư vấn bởi một hộp đen nghĩ như một người nước ngoài.

Định thực này đã dẫn đến sự xuất hiện của “Trí tuệ nhân tạo chủ quyền.” Pháp đang đầu tư mạnh mẽ để xây dựng các mô hình nói tiếng Pháp và hiểu luật pháp và văn hóa Pháp. Ấn Độ đang xây dựng các mô hình AI bản địa để đảm bảo các giá trị văn hóa của họ. Các Tiểu vương quốc Ả Rập Thống nhất và Trung Quốc đang xây dựng các mô hình AI phù hợp với tầm nhìn quốc gia của họ.

Đây là cuộc đua vũ trang mới. Đó là một cuộc đua cho việc kiểm soát tường thuật. Một văn minh không có AI của riêng mình sẽ cuối cùng mất đi ký ức của mình. Nếu con bạn hỏi một câu hỏi cho máy và máy trả lời với logic của một văn hóa khác, văn hóa của bạn bắt đầu bị xói mòn. Sự nhận thức này, tuy nhiên, có thể dẫn đến sự hình thành của các khối kỹ thuật số riêng biệt. Chúng ta có thể kết thúc với một AI phương Tây, một AI Trung Quốc, một AI Ấn Độ, v.v. Những hệ thống này sẽ hoạt động với các sự kiện và la bàn đạo đức khác nhau. Những phát triển này làm rõ ràng rằng nếu chúng ta muốn tạo ra một mô hình AI đồng bộ hóa thực sự, chúng ta phải tìm cách đồng bộ hóa các văn minh trước.

Cần Một Trí Tuệ Nhân Tạo Ngoại Giao

Đồng bộ hóa truyền thống giả định rằng một mô hình có thể được đồng bộ hóa bằng cách đào tạo, nhắc và rào chắn cẩn thận. Tư duy này đến từ tâm lý kỹ thuật của nghiên cứu an toàn AI ban đầu. Nhưng ngay cả việc đồng bộ hóa mô hình hoàn hảo cũng không thể giải quyết được thách thức của việc đồng bộ hóa các văn minh. Việc đồng bộ hóa không thể duy trì ổn định khi các xã hội kéo theo hướng ngược lại. Nếu các quốc gia, công ty và cộng đồng có mục tiêu mâu thuẫn, họ sẽ đẩy các hệ thống AI phản ánh những mâu thuẫn đó. Những hạn chế này cho thấy rằng việc đồng bộ hóa không chỉ là một vấn đề kỹ thuật. Đó là một vấn đề quản trị, văn hóa và phối hợp. Và những vấn đề này đòi hỏi không chỉ các chuyên gia hoặc nhà phát triển. Chúng liên quan đến toàn bộ các văn minh.

Vậy, làm thế nào chúng ta tiến hành? Nếu chúng ta chấp nhận rằng việc đồng bộ hóa phổ quát là không thể, chúng ta phải thay đổi chiến lược. Chúng ta cần ngừng tìm kiếm một giải pháp kỹ thuật cho một vấn đề triết học. Chúng ta cần bắt đầu suy nghĩ như các nhà ngoại giao. Chúng ta sẽ cần xây dựng các giao thức cho “Đồng bộ hóa Văn minh.” Chúng ta cần tìm ra cách AI có thể tôn trọng niềm tin và giá trị của một xã hội mà không áp đặt niềm tin của các văn hóa khác. Nói cách khác, chúng ta cần một Liên Hợp Quốc kỹ thuật số cho các thuật toán của mình.

Điều này đòi hỏi sự minh bạch. Hiện tại, chúng ta không thực sự biết những giá trị nào được ẩn trong các lớp sâu của một mạng nơ-ron. Chúng ta chỉ thấy đầu ra. Để đồng bộ hóa các văn minh, chúng ta cần rõ ràng về “Hiến pháp” của mỗi mô hình. Một mô hình nên có thể tuyên bố thiên vị của nó. Nó nên có thể nói, “Tôi được đào tạo trên dữ liệu này, với các quy tắc an toàn này, ưu tiên các giá trị này.” Chỉ khi thiên vị là rõ ràng, chúng ta mới có thể tin tưởng hệ thống. Một người dùng nên có thể chuyển đổi giữa các quan điểm. Bạn nên có thể hỏi một câu hỏi và xem cách một mô hình “phương Tây” trả lời so với cách một mô hình “phương Đông” trả lời. Điều này sẽ biến AI thành một công cụ để hiểu, chứ không phải một công cụ để giáo điều.

Kết Luận

Chúng ta đã dành quá nhiều thời gian lo lắng về Terminator. Rủi ro thực sự không phải là một robot phá hủy chúng ta. Rủi ro thực sự là một robot làm cho chúng ta quên đi ai chúng ta là. Đồng bộ hóa không phải là một mã chúng ta có thể viết một lần và quên. Đó là một cuộc đàm phán liên tục với các mô hình AI để giữ chúng đồng bộ với niềm tin và giá trị của chúng ta. Đó là một hành động chính trị. Khi chúng ta bước vào giai đoạn tiếp theo của thời đại thông minh, chúng ta phải nhìn vượt ra ngoài màn hình. Chúng ta phải xem xét cách AI giải thích lịch sử của chúng ta, biên giới của chúng ta và niềm tin của chúng ta. Chúng ta đang xây dựng những tâm trí sẽ giúp chúng ta điều hành thế giới. Chúng ta phải đảm bảo rằng những tâm trí đó tôn trọng sự khác biệt giữa các văn minh.