Cơn sốt cường điệu về ngày tận thế do AI và những quán cà phê mang đậm chất AI: Những câu hỏi về quản trị không thể bỏ qua

Chúng ta sẽ diệt vong ư? AI có ý thức không? Và vì sao các công ty AI lại mở quán cà phê?

Những câu hỏi này gây ấn tượng mạnh, khiến người ta bất an và—đặc biệt là câu hỏi về ý thức—thực sự rất khó giải đáp. Chúng cũng có sức kéo chúng ta về phía những khía cạnh giàu suy đoán nhất hoặc khơi gợi cảm xúc mạnh mẽ nhất trong câu chuyện về AI. Trong khi đó, những câu hỏi ít kịch tính hơn đã và đang định hình cuộc sống của mọi người: Ai chịu trách nhiệm khi một hệ thống AI gây hại? Những dữ liệu và sức lao động nào đã giúp tạo ra nó? Hệ thống nên được phép tác động đến những quyết định nào? Và ai có quyền lên tiếng?

Tôi không nhất thiết cho rằng bất kỳ ai nêu lên rủi ro hiện hữu, bàn về ý thức của máy móc hay mở quán cà phê đều làm vậy để né tránh những câu hỏi ấy. Mỗi chủ đề đều có thể đáng để chúng ta quan tâm vì chính nó. Nhưng sự chú ý là hữu hạn. Khi một câu chuyện gây chấn động chiếm vị trí trung tâm, ta nên tự hỏi còn điều gì khác đã khuất khỏi tầm nhìn.

Sức hấp dẫn của AI hữu hình

Ngành AI bắt đầu đặt địa chỉ thực cho những sản phẩm phần lớn vô hình của mình. “Zero Slop Zone” của Anthropic ở New York mời khách ghé thăm chậm lại, thưởng thức cà phê, đọc sách và viết bằng bút trên giấy; Perplexity mở Cafe Curious, một quán cà phê ở Seoul, nơi AI của công ty là một phần trong trải nghiệm. Bài viết về cửa hàng tạm thời của Anthropic và quán cà phê của Perplexity ở Seoul mô tả hai nỗ lực riêng biệt nhằm đưa một công nghệ trừu tượng vào không gian đời thường, mang tính giao tiếp xã hội.

Điều đó cũng có lý. Hầu hết mọi người không thể nhìn thấy một mô hình ngôn ngữ, kiểm tra cơ sở hạ tầng phía sau nó hay dễ dàng hình dung những gì diễn ra giữa một câu lệnh và câu trả lời. Quán cà phê đem đến một hình ảnh thay thế hữu hình: một căn phòng, một tách cà phê, một cuộc trò chuyện. Nơi đó có thể giúp mọi người dễ tiếp cận hơn với một công ty và công nghệ của công ty ấy—và có lẽ cũng dễ hiểu hơn.

Không gian thực còn có một tác dụng khác: giúp công ty hiện diện rõ ràng trong cộng đồng. Ít nhất, nó phát đi thông điệp: “hiện tại, chúng tôi đang ở đây, tại nơi này”. Điều đó có thể tạo cảm giác yên tâm trong một lĩnh vực mà sản phẩm, chính sách và kỳ vọng thay đổi nhanh chóng. Nhưng hiện diện rõ ràng không đồng nghĩa với trách nhiệm giải trình. Một không gian thân thiện có thể khiến công nghệ trở nên quen thuộc hơn, nhưng không cho chúng ta biết công nghệ được huấn luyện như thế nào, hoạt động đáng tin cậy đến đâu, hay một người có thể nhờ cậy vào đâu khi công nghệ mắc sai lầm nghiêm trọng.

Sự phân biệt đó gợi lại một ý tưởng mà tôi đã nhiều lần nhắc đến trong nhiều năm: trải nghiệm số chưa bao giờ chỉ là trải nghiệm số. Chúng gắn với con người thông qua địa điểm, các mối quan hệ và thể chế. Câu hỏi về thiết kế không chỉ là làm sao để hệ thống AI tạo cảm giác dễ gần. Mà còn là liệu trải nghiệm ấy có giúp mọi người hiểu được những giới hạn của hệ thống và duy trì quyền chủ động thực chất hay không.

Tranh luận về ý thức—và những người đã chịu ảnh hưởng

Sự phân biệt tương tự cũng có ý nghĩa trong các cuộc tranh luận về ý thức của AI. Có bất đồng thực sự về việc liệu máy móc có thể có ý thức hay không, bằng chứng nào được xem là đủ sức thuyết phục và sự bất định nên định hình trách nhiệm của chúng ta ra sao. Lập luận của Anil Seth trên Noema cho rằng không nên xem trí tuệ và ý thức là hai khái niệm có thể thay thế cho nhau; các bài tường thuật gần đây trên The Guardian cũng trình bày vì sao câu hỏi này vẫn chưa có lời giải. Cuộc tranh luận này không dễ có câu trả lời đơn giản.

Nhưng sự bất định về đời sống nội tâm của máy móc không khiến những câu hỏi hiện nay về hệ quả đối với con người trở nên bất định. Trách nhiệm không chỉ bắt đầu khi chúng ta xác định được ý thức là gì. Nó bắt đầu khi các tổ chức xây dựng, triển khai và thu lợi từ những hệ thống có ảnh hưởng đến con người.

Hãy xem xét những câu hỏi mà chúng ta có thể tìm hiểu ngay lúc này. Những thông tin nào được dùng để huấn luyện một hệ thống, và trong điều kiện nào? Ai thực hiện công việc chuẩn bị và kiểm tra kết quả đầu ra của hệ thống? Hệ thống hoạt động ra sao với các nhóm người khác nhau? Điều gì xảy ra khi hệ thống được sử dụng trong y tế, tuyển dụng, giáo dục hoặc dịch vụ công? Một người có thể phản đối đề xuất tự động, liên hệ với người có thẩm quyền ra quyết định và nhận được lời giải thích thỏa đáng hay không?

Đây không phải là những mối lo ngại chỉ có trên lý thuyết. Một bài tổng quan về thiên kiến trong AI y tế mô tả cách dữ liệu thiên lệch và các lựa chọn thiết kế có thể góp phần dẫn đến những quyết định lâm sàng thiếu công bằng. Trong khi đó, nghiên cứu về AI và việc làm vẫn đang được phát triển: phân tích thị trường lao động của Anthropic đưa ra một cách đo lường mức độ chịu tác động, còn bài tổng quan của Hamilton Project lưu ý rằng bằng chứng về những ảnh hưởng rộng khắp đến thị trường lao động vẫn chưa đầy đủ. Các nguồn này đưa ra những hướng nhìn khác nhau về điều chúng ta có thể kết luận vào lúc này, nhưng đều củng cố sự cần thiết phải đo lường tác động thay vì lấy những câu chuyện đầy tự tin thay cho bằng chứng.

Cách chúng ta nói về các hệ thống cũng tiềm ẩn một rủi ro liên quan. Tên gọi, giọng nói và phong cách trò chuyện giống con người có thể khiến AI có vẻ giống một người hơn là một sản phẩm. Điều đó có thể ảnh hưởng đến lòng tin và cách mọi người dựa vào câu trả lời của AI. Việc đặt câu hỏi liệu những cuộc bàn luận về ý thức hay thiết kế nhân cách hóa có thể chuyển hướng sự chú ý khỏi các tổ chức quyết định mục tiêu và giới hạn của hệ thống hay không là hoàn toàn hợp lý. Một bài phân tích trên MIT Technology Review lập luận rằng những câu chuyện về ý thức có thể làm lu mờ các vấn đề về trách nhiệm của doanh nghiệp. Đây là lập luận về tác động của cách đóng khung vấn đề—chứ không phải bằng chứng cho thấy mọi người nêu câu hỏi ấy đều có động cơ ngầm.

Nỗi lo tận thế không phải là kế hoạch quản trị

Rủi ro hiện sinh cần được quan tâm nghiêm túc. Việc có những tổn hại trước mắt không khiến các hậu quả thảm khốc trở nên kém quan trọng; cũng như khả năng xảy ra thảm họa không khiến những tổn hại trước mắt trở nên kém quan trọng. Chúng ta không phải chọn một khung thời gian rồi bỏ qua khung còn lại.

Nhưng khi câu hỏi “Chúng ta có doomed không?” trở thành toàn bộ cuộc đối thoại, những rủi ro dài hạn lại lấn át các tổn hại đang diễn ra. Nỗi lo về thảm họa có thể nghe như một kết luận thay vì lời kêu gọi hành động: nếu kết cục đã định, sao phải bận tâm đến công việc khó khăn là thay đổi nó? Một bài viết trên The New Yorker về khóa học về rủi ro hiện sinh kể lại câu hỏi “xây nhà thờ lớn” của một sinh viên: nếu tin rằng thế giới có thể kết thúc, tại sao lại cam kết xây dựng một thứ có thể tồn tại lâu hơn mình? Câu trả lời không phải là những rủi ro biến mất. Mà là sự bất định không xóa bỏ khả năng — hay trách nhiệm — của chúng ta trong việc quyết định điều gì quan trọng tiếp theo và góp phần định hình những gì sẽ xảy ra.

Đó là điều tôi muốn nói khi nhắc đến triết lý “lạc quan có chiến lược”. Đó không phải là thái độ vô tư kiểu “mọi chuyện rồi sẽ ổn”, cũng không phải là khước từ việc nhìn vào bằng chứng. Đó là thừa nhận những rủi ro có thật, nỗ lực giảm thiểu chúng, và đồng thời dốc sức vun đắp một tương lai đáng để hướng tới. Hy vọng không đối lập với sự chặt chẽ. Hy vọng có thể giúp sự chặt chẽ gắn liền với hành động.

Những câu hỏi về quản trị ẩn sau màn trình diễn

Dù một tổ chức đang mua công cụ AI, tự xây dựng công cụ hay hoạch định chính sách về AI, những câu hỏi thực tiễn thường kém hào nhoáng hơn một quán cà phê hay một tuyên bố về ý thức — nhưng hữu ích hơn:

• Mục đích: Hệ thống được tạo ra để giải quyết vấn đề gì, và AI có phải là công cụ phù hợp cho vấn đề đó không?
• Bằng chứng: Hệ thống đã được kiểm thử như thế nào, bao gồm cả với những nhóm người dùng khác nhau và các trường hợp ít phổ biến hơn?
• Ranh giới: Những quyết định nào phải do con người đưa ra, và hệ thống không thể làm được những gì?
• Trách nhiệm giải trình: Ai chịu trách nhiệm khi hệ thống gặp sự cố, và những người bị ảnh hưởng có thể khiếu nại bằng cách nào?
• Tính minh bạch: Mọi người có thể biết khi nào AI được sử dụng và thông tin nào đã định hình kết quả đầu ra của hệ thống không?
• Giám sát liên tục: Sau khi triển khai, ai theo dõi hiệu suất, sự thay đổi của dữ liệu và những tác động ngoài dự kiến?

Các khuôn khổ như Khung Quản lý Rủi ro AI của NIST cung cấp cho các tổ chức một phương pháp có hệ thống để xác định và quản lý rủi ro trong suốt vòng đời của hệ thống AI. Không khuôn khổ nào có thể thay thế khả năng phán đoán hay tranh luận công khai, nhưng công tác quản trị sẽ trở nên cụ thể hơn khi trách nhiệm, quy trình kiểm thử và các cơ chế khắc phục được nêu rõ.

Quản trị còn phải tính đến khía cạnh vật chất. AI phụ thuộc vào trung tâm dữ liệu, điện, nước, đất đai và nguồn vốn — chứ không chỉ các giao diện. Bài viết về cơ cấu tài chính của một dự án trung tâm dữ liệu lớn đặt ra câu hỏi về cách công bố các rủi ro liên quan đến cơ sở hạ tầng và cuối cùng ai sẽ gánh chịu những rủi ro đó. Quán cà phê có thể giúp mọi người tiếp xúc với AI; nhưng tự thân nó không thể giúp họ hiểu rõ cơ sở hạ tầng đằng sau AI.

Vậy hãy tận hưởng quán cà phê. Hãy đặt những câu hỏi lớn về ý thức. Hãy xem xét nghiêm túc rủi ro thảm khốc. Sau đó, hãy quay lại với những quyết định mà chúng ta có thể xem xét và tác động ngay lúc này: điều gì được xây dựng, ai được hưởng lợi, ai phải gánh chịu chi phí và có những biện pháp bảo vệ nào khi xảy ra sự cố.

Tương lai không phải là phán quyết do một dòng tít đưa ra. Đó là tập hợp những lựa chọn — do các công ty, tổ chức, chính phủ và cộng đồng đưa ra — mà chúng ta vẫn có thể chất vấn và thay đổi. Câu hỏi hữu ích nhất không chỉ là liệu chúng ta có doomed hay không. Mà còn là những điều kiện nào sẽ giúp AI phục vụ sự phát triển tốt đẹp của con người, và chúng ta sẵn sàng làm gì để biến những điều kiện ấy thành hiện thực.