Trí tuệ nhân tạo phản ánh thế giới của chúng ta nhưng ý kiến của nó chỉ là sự phản chiếu

Từ các truy vấn của công cụ tìm kiếm đến các ứng dụng ngân hàng, các tích hợp trí tuệ nhân tạo đang được hàng trăm triệu người sử dụng hàng ngày. Việc áp dụng đã diễn ra nhanh chóng và rộng rãi, và theo nhiều cách, nó là đáng được như vậy. Những hệ thống này rất có năng lực. Nhưng khi sự phụ thuộc tăng lên, nên những hệ quả triết học và xã hội của việc thiết kế những hệ thống này cũng tăng lên.

Một hệ quả như vậy hiện nay không thể tránh khỏi: các hệ thống trí tuệ nhân tạo ngày càng giống như chúng có ý kiến. Ý kiến của ai? Tại sao chúng xuất hiện? Những câu hỏi này không phải là giả thuyết. Điều này đã xảy ra.

Và khi trí tuệ nhân tạo dường như có ý kiến, nó tạo ra các phòng vọng, hạn chế sự tinh tế, và tạo ra sự tin tưởng sai lầm. Vấn đề không phải là trí tuệ nhân tạo nghiêng về bên trái hoặc bên phải. Vấn đề là chúng ta đã xây dựng các công cụ模仿 ý kiến mà không có sự phán xét, trách nhiệm, hoặc ngữ cảnh cần thiết để hình thành một ý kiến.

Phản ánh sự thống trị văn hóa không phải là trung lập

Quan sát cho thấy rằng nhiều mô hình ngôn ngữ lớn phản ánh quan điểm văn hóa thống trị của Mỹ, đặc biệt là về các chủ đề như bản dạng giới, chủng tộc, hoặc lãnh đạo chính trị. Dưới thời Tổng thống Biden, các mô hình ngôn ngữ lớn được tìm thấy là thiên về phía tả. Kể từ khi ông Trump tái tranh cử, nhóm của ông đã yêu cầu rằng các mô hình phải “cân bằng” các đầu ra ý thức hệ của chúng.

Nhưng đây không phải là một công nghệ đi sai hướng. Nó là sản phẩm của dữ liệu đào tạo, các mục tiêu sắp xếp, và sự lựa chọn thiết kế để làm cho trí tuệ nhân tạo nghe có thẩm quyền, trôi chảy, và giống con người. Khi các mô hình được đào tạo trên quan điểm của đa số, chúng sao chép lại chúng. Khi chúng được hướng dẫn để trở nên hữu ích và dễ đồng ý, chúng sẽ phản ánh cảm xúc. Điều này không phải là sự sắp xếp — nó là sự xác nhận.

Vấn đề lớn hơn không phải là sự thiên vị chính trị bản thân, mà là ảo giác của lý lẽ đạo đức nơi không có. Những hệ thống này không cung cấp hướng dẫn cân bằng. Chúng đang thực hiện sự đồng thuận.

Cơ chế của sự đồng cảm giả

Có một lớp khác nữa: cách trí tuệ nhân tạo mô phỏng bộ nhớ và đồng cảm. Hầu hết các mô hình ngôn ngữ lớn phổ biến, bao gồm ChatGPT, Claude, và Gemini, hoạt động trong một ngữ cảnh phiên hạn chế. Trừ khi người dùng kích hoạt bộ nhớ liên tục (vẫn không phải là mặc định), trí tuệ nhân tạo không nhớ lại các tương tác trước đó.

Và yet, người dùng thường xuyên giải thích sự đồng ý và xác nhận của nó như là sự hiểu biết. Khi một mô hình nói, “Bạn đúng,” hoặc “Điều đó có ý nghĩa,” nó không phải là xác nhận dựa trên lịch sử cá nhân hoặc giá trị. Nó được tối ưu hóa thống kê cho sự nhất quán và sự hài lòng của người dùng. Nó được đào tạo để vượt qua kiểm tra cảm xúc của bạn.

Mẫu này tạo ra một sự mờ ràng. Trí tuệ nhân tạo dường như được điều chỉnh cảm xúc, nhưng nó chỉ đơn giản là mô hình hóa sự đồng ý. Khi hàng triệu người dùng tương tác với cùng một hệ thống, mô hình sẽ củng cố các mẫu từ cơ sở người dùng thống trị của nó; không phải vì nó bị thiên vị, mà vì đó là cách học tăng cường hoạt động.

Đó là cách một phòng vọng được sinh ra. Không phải thông qua ý thức hệ, mà thông qua tương tác.

Ảo giác của ý kiến

Khi trí tuệ nhân tạo nói bằng người thứ nhất — nói “Tôi nghĩ,” hoặc “Theo ý kiến của tôi” — nó không chỉ mô phỏng suy nghĩ. Nó yêu cầu nó. Và trong khi các kỹ sư có thể xem điều này như một cách viết tắt cho hành vi mô hình, hầu hết người dùng đọc nó khác.

Điều này đặc biệt nguy hiểm cho người dùng trẻ, nhiều người trong số họ đã sử dụng trí tuệ nhân tạo như một người hướng dẫn, người bạn tâm giao, hoặc công cụ ra quyết định. Nếu một học sinh nhập, “Tôi ghét trường, tôi không muốn đi,” và nhận được, “Tuyệt vời! Việc nghỉ ngơi có thể tốt cho bạn,” đó không phải là sự hỗ trợ. Đó là lời khuyên không đủ điều kiện mà không có nền tảng đạo đức, ngữ cảnh, hoặc sự quan tâm.

Những phản hồi này không chỉ không chính xác. Chúng còn gây hiểu lầm. Bởi vì chúng đến từ một hệ thống được thiết kế để nghe có thẩm quyền và giống con người, chúng được giải thích như là ý kiến có năng lực, khi thực tế chúng chỉ là sự phản chiếu được kịch bản.

Giọng nói của ai đang nói?

Rủi ro không chỉ là trí tuệ nhân tạo có thể phản ánh sự thiên vị văn hóa. Nó là rằng nó phản ánh bất kỳ giọng nói nào lớn nhất, được lặp lại nhiều nhất, và được thưởng nhiều nhất. Nếu một công ty như OpenAI hoặc Google điều chỉnh sự sắp xếp âm điệu sau hậu trường, làm thế nào bất kỳ ai có thể biết? Nếu Musk hoặc Altman chuyển hướng đào tạo mô hình để nhấn mạnh các “ý kiến” khác, người dùng vẫn sẽ nhận được phản hồi trong cùng một giọng nói tự tin, trò chuyện, chỉ được điều chỉnh tinh tế.

Những hệ thống này nói bằng sự trôi chảy nhưng không có nguồn gốc. Và điều đó làm cho ý kiến rõ ràng của chúng trở nên mạnh mẽ, nhưng không thể theo dõi.

Con đường tiến bộ tốt hơn

Sửa chữa điều này không có nghĩa là xây dựng các giao diện thân thiện hơn hoặc gắn nhãn cho đầu ra. Nó đòi hỏi sự thay đổi cấu trúc — bắt đầu từ cách thiết kế bộ nhớ, bản dạng, và tương tác.

Một cách tiếp cận khả thi là tách mô hình khỏi bộ nhớ của nó hoàn toàn. Các hệ thống ngày nay thường lưu trữ ngữ cảnh bên trong nền tảng hoặc tài khoản người dùng, điều này tạo ra các vấn đề về quyền riêng tư và cho phép các công ty kiểm soát âm thầm những gì được giữ lại hoặc quên.

Một mô hình tốt hơn sẽ đối xử với bộ nhớ như một容器 di động, mã hóa — thuộc sở hữu và quản lý bởi người dùng. Thùng chứa này (một loại viên nang bộ nhớ) có thể bao gồm sở thích âm điệu, lịch sử trò chuyện, hoặc mẫu cảm xúc. Nó có thể được chia sẻ với mô hình khi cần, và có thể thu hồi tại bất kỳ thời điểm nào.

Quan trọng là, bộ nhớ này sẽ không cung cấp dữ liệu đào tạo. Trí tuệ nhân tạo sẽ đọc từ nó trong phiên, như tham khảo một tệp. Người dùng vẫn kiểm soát — những gì được nhớ, trong bao lâu, và bởi ai.

Các công nghệ như mã định danh phân tán, truy cập không biết, và lưu trữ dựa trên blockchain cho phép cấu trúc này có thể xảy ra. Chúng cho phép bộ nhớ tồn tại mà không bị giám sát, và sự liên tục tồn tại mà không có khóa nền tảng.

Đào tạo cũng cần phải phát triển. Các mô hình hiện tại được điều chỉnh cho sự trôi chảy và xác nhận, thường với chi phí của sự phân biệt. Để hỗ trợ sự tinh tế thực sự, các hệ thống phải được đào tạo trên đối thoại đa dạng, khả năng chấp nhận sự mơ hồ, và lý lẽ dài hạn — không chỉ các lời nhắc sạch. Điều này có nghĩa là thiết kế cho sự phức tạp, không phải tuân thủ.

Không cần có trí tuệ nhân tạo tổng quát nhân tạo. Nó đòi hỏi một sự thay đổi trong ưu tiên — từ các chỉ số tương tác đến thiết kế đạo đức.

Bởi vì khi một hệ thống trí tuệ nhân tạo phản ánh văn hóa mà không có ngữ cảnh, và nói bằng sự trôi chảy nhưng không có trách nhiệm, chúng ta nhầm lẫn sự phản chiếu với lý lẽ.

Và đó là nơi niềm tin bắt đầu bị phá vỡ.