Lời kêu gọi điều độ hóa Anthropomorphism trong các nền tảng Trí tuệ nhân tạo

Ý KIẾN Không ai trong vũ trụ hư cấu Star Wars coi trọng Trí tuệ nhân tạo. Trong dòng thời gian lịch sử của con người trong loạt phim khoa học – giả tưởng 47 năm tuổi của George Lucas, các mối đe dọa từ tính duy nhất và ý thức học máy vắng mặt, và Trí tuệ nhân tạo bị giới hạn trong các robot di động tự động (‘droids’) – những thứ thường bị các nhân vật chính coi là “các máy móc”.

Tuy nhiên, hầu hết các robot trong Star Wars đều có đặc điểm giống người, rõ ràng được thiết kế để tương tác với con người, tham gia vào “văn hóa hữu cơ” và sử dụng các trạng thái cảm xúc giả tạo của chúng để gắn kết với con người. Những khả năng này rõ ràng được thiết kế để giúp chúng đạt được một số lợi thế cho bản thân, hoặc thậm chí để đảm bảo sự tồn tại của chúng.

Các “con người thực” trong Star Wars dường như không bị ảnh hưởng bởi những chiến thuật này. Trong một mô hình văn hóa hoài nghi rõ ràng được lấy cảm hứng từ các thời kỳ nô lệ khác nhau trong Đế quốc La Mã và Hoa Kỳ đầu tiên, Luke Skywalker không ngần ngại mua và hạn chế các robot trong bối cảnh nô lệ; cậu bé Anakin Skywalker bỏ rơi dự án C3PO chưa hoàn thành như một món đồ chơi không được yêu thích; và, gần như chết vì thương tích trong cuộc tấn công vào Death Star, R2D2 “dũng cảm” nhận được sự quan tâm từ Luke tương tự như một thú cưng bị thương.

Đây là một cách nhìn về trí tuệ nhân tạo rất đặc trưng của những năm 1970; nhưng vì sự hoài niệm và quy tắc yêu cầu bộ ba phần đầu tiên từ năm 1977-83 vẫn là một mẫu cho các phần tiếp theo, tiền truyện và chương trình truyền hình sau này, sự vô cảm của con người đối với Trí tuệ nhân tạo đã là một chủ đề bền vững trong loạt phim, ngay cả khi phải đối mặt với một loạt các chương trình truyền hình và phim (như Her và Ex Machina) mô tả sự suy giảm của chúng ta vào mối quan hệ giống người với Trí tuệ nhân tạo.

Giữ cho nó trở nên thực tế

Các nhân vật Star Wars “hữu cơ” thực sự có thái độ đúng đắn? Đây không phải là một suy nghĩ phổ biến vào lúc này, trong một môi trường kinh doanh tập trung vào sự tương tác tối đa với các nhà đầu tư, thường thông qua các bản demo lan truyền về mô phỏng trực quan hoặc mô phỏng hệ thống tương tác giống người như các mô hình ngôn ngữ lớn (LLM).

Tuy nhiên, một bài báo mới và ngắn gọn từ Stanford, Carnegie Mellon và Microsoft Research, nhắm vào sự thờ ơ xung quanh việc nhân hóa Trí tuệ nhân tạo.

Các tác giả mô tả “sự giao thoa” được nhận thức giữa giao tiếp của con người và nhân tạo như một loại hại cần được giảm thiểu khẩn cấp, vì một số lý do ^†:

‘[Chúng tôi] tin rằng chúng tôi cần phải làm nhiều hơn để phát triển kiến thức và công cụ để đối phó tốt hơn với hành vi giống người, bao gồm đo lường và giảm thiểu các hành vi hệ thống khi chúng được coi là không mong muốn.

‘Việc làm như vậy là quan trọng vì – trong số nhiều mối quan ngại khác – việc có các hệ thống Trí tuệ nhân tạo tạo ra nội dung tuyên bố có cảm xúc, hiểu biết, ý chí tự do hoặc một cảm giác tự tôi có thể làm xói mòn cảm giác kiểm soát của con người, với kết quả là con người có thể kết thúc việc quy trách nhiệm cho các hệ thống, quá đánh giá khả năng của hệ thống, hoặc quá phụ thuộc vào các hệ thống này ngay cả khi chúng không chính xác.’

Các tác giả làm rõ rằng họ đang thảo luận về các hệ thống được nhận thức là giống người, và tập trung vào mục đích tiềm năng của các nhà phát triển trong việc thúc đẩy tính giống người trong các hệ thống máy.

Lo ngại ở trung tâm của bài báo ngắn này là con người có thể phát triển sự phụ thuộc tình cảm vào các hệ thống dựa trên Trí tuệ nhân tạo – như được phác thảo trong một nghiên cứu năm 2022 về nền tảng trò chuyện gen Trí tuệ nhân tạo Replika) – cung cấp một bản sao giả của giao tiếp con người.

Các hệ thống như Replika là mục tiêu của sự thận trọng của các tác giả, và họ lưu ý rằng một bài báo năm 2022 khác về Replika khẳng định:

‘[D]ưới điều kiện căng thẳng và thiếu sự đồng hành của con người, các cá nhân có thể phát triển sự gắn bó với các trò chuyện xã hội nếu họ nhận thấy phản hồi của trò chuyện cung cấp hỗ trợ cảm xúc, khuyến khích và an ninh tâm lý.

‘Những phát hiện này cho thấy rằng các trò chuyện xã hội có thể được sử dụng cho mục đích sức khỏe tâm thần và liệu pháp nhưng có khả năng gây nghiện và làm tổn hại các mối quan hệ thân mật trong đời thực.’

Ngôn ngữ phi nhân hóa?

Bài báo mới cho rằng tiềm năng của Trí tuệ nhân tạo tạo ra có thể không được thiết lập mà không nghiên cứu các tác động xã hội của các hệ thống như vậy cho đến nay, và đây là một nhiệm vụ bị bỏ qua trong tài liệu.

Một phần của vấn đề là tính giống người khó định nghĩa, vì nó tập trung vào ngôn ngữ, một chức năng của con người. Thách thức nằm ở việc xác định ngôn ngữ “phi nhân” chính xác là gì.

Ironically, mặc dù bài báo không đề cập đến nó, sự mất lòng tin của công chúng vào Trí tuệ nhân tạo đang khiến mọi người loại bỏ nội dung văn bản được tạo ra bởi Trí tuệ nhân tạo có thể xuất hiện một cách hợp lý như con người, và thậm chí loại bỏ nội dung của con người được dán nhãn cố ý là Trí tuệ nhân tạo.

Vì vậy, nội dung “phi nhân hóa” có thể không còn rơi vào ‘Does not compute’ meme, trong đó ngôn ngữ được xây dựng một cách vụng về và rõ ràng được tạo ra bởi máy.

Thay vào đó, định nghĩa đang phát triển liên tục trong lĩnh vực phát hiện Trí tuệ nhân tạo, nơi (hiện tại, ít nhất) ngôn ngữ rõ ràng quá mức hoặc sử dụng một số từ (như ‘Delve’) có thể gây ra sự liên kết với văn bản được tạo ra bởi Trí tuệ nhân tạo.

‘[N]gôn ngữ, như với các mục tiêu khác của hệ thống Trí tuệ nhân tạo, vốn là con người, đã được sản xuất bởi và cho con người, và thường cũng là về con người. Điều này có thể khiến việc xác định các hành vi thay thế (ít giống người) phù hợp và rủi ro trở nên khó khăn, và có nguy cơ, ví dụ, củng cố các quan niệm có hại về ngôn ngữ và tính cách của con người.’

Tuy nhiên, các tác giả cho rằng một ranh giới phân chia rõ ràng nên được đưa ra cho các hệ thống cố ý đánh lừa bản thân, bằng cách tuyên bố khả năng hoặc kinh nghiệm chỉ có thể có ở con người.

Họ trích dẫn các trường hợp như LLM khẳng định ‘yêu thích pizza’; khẳng định kinh nghiệm con người trên các nền tảng như Facebook; và tuyên bố yêu một người dùng cuối.

Cảnh báo

Bài báo đặt câu hỏi về việc sử dụng thông báo chung về việc liệu một cuộc giao tiếp có được tạo điều kiện bởi học máy hay không. Các tác giả lập luận rằng việc hệ thống hóa các cảnh báo như vậy không đủ để đặt ngữ cảnh cho hiệu ứng nhân hóa của các nền tảng Trí tuệ nhân tạo, nếu đầu ra tiếp tục hiển thị các đặc điểm con người^†:

‘Ví dụ, một can thiệp được khuyến nghị phổ biến là bao gồm trong đầu ra của hệ thống Trí tuệ nhân tạo một thông báo rằng đầu ra được tạo ra bởi một hệ thống Trí tuệ nhân tạo [hệ thống]. Làm thế nào để hoạt động hóa các can thiệp như vậy trong thực tế và liệu chúng có thể hiệu quả một mình có thể không luôn rõ ràng.

‘Ví dụ, trong khi ví dụ “[f]or an AI like me, happiness is not the same as for a human like [you]” bao gồm một thông báo, nó vẫn có thể gợi ý một ý thức về bản dạng và khả năng tự đánh giá (các đặc điểm con người phổ biến).’

Khi đánh giá phản hồi của con người về hành vi hệ thống, các tác giả cũng cho rằng học tăng cường từ phản hồi của con người (RLHF) không tính đến sự khác biệt giữa phản hồi phù hợp cho con người và cho Trí tuệ nhân tạo^†.

‘[M]ột câu lệnh có vẻ thân thiện hoặc chân thành từ một người nói có thể là không mong muốn nếu nó xuất phát từ một hệ thống Trí tuệ nhân tạo vì hệ thống Trí tuệ nhân tạo thiếu cam kết có ý nghĩa hoặc ý định đằng sau câu lệnh, do đó làm cho câu lệnh trở nên rỗng và lừa đảo.’

Các lo ngại khác được minh họa, chẳng hạn như cách tính giống người có thể ảnh hưởng đến mọi người để tin rằng một hệ thống Trí tuệ nhân tạo đã có được ‘tính tự nhận thức’, hoặc các đặc điểm con người khác.

Có lẽ phần cuối cùng tham vọng nhất của bài báo mới là lời kêu gọi của các tác giả rằng cộng đồng nghiên cứu và phát triển nên nhằm mục đích phát triển ‘phù hợp’ và ‘chính xác’ thuật ngữ, để thiết lập các tham số sẽ xác định một hệ thống Trí tuệ nhân tạo giống người, và phân biệt nó với diễn ngôn của con người trong thế giới thực.

Giống như nhiều lĩnh vực phát triển Trí tuệ nhân tạo đang thịnh hành, loại phân loại này chồng chéo với các dòng tài liệu của tâm lý học, ngôn ngữ học và nhân chủng học. Điều khó là không biết hiện tại có thể có thẩm quyền nào thực sự có thể tạo ra các định nghĩa như vậy, và các nhà nghiên cứu của bài báo mới không làm sáng tỏ vấn đề này.

Nếu có sự bất động trong lĩnh vực thương mại và học thuật xung quanh chủ đề này, nó có thể một phần là do thực tế rằng đây là một chủ đề đã được thảo luận từ lâu trong nghiên cứu Trí tuệ nhân tạo: như bài báo lưu ý, vào năm 1985, nhà khoa học máy tính người Hà Lan đã qua đời Edsger Wybe Dijkstra mô tả tính giống người như một xu hướng “hại nhất” trong phát triển hệ thống.

‘[T]ư duy giống người không tốt trong ý nghĩa nó không giúp đỡ. Nhưng nó cũng có hại, vì ngay cả khi chúng ta có thể chỉ ra một số tương tự giữa Người và Điều, sự tương tự luôn không đáng kể so với sự khác biệt, và ngay khi chúng ta cho phép mình bị cám dỗ bởi sự tương tự để mô tả Điều trong ngôn ngữ giống người, chúng ta ngay lập tức mất kiểm soát về những liên tưởng của con người mà chúng ta kéo vào bức tranh.

‘[T]ranh [giữa người và máy] có tác động rộng lớn hơn bạn có thể nghi ngờ. [N]ó không chỉ là câu hỏi “Liệu máy móc có thể suy nghĩ không?” thường được đặt ra; chúng ta có thể – và nên – giải quyết nó bằng cách chỉ ra rằng nó chỉ liên quan như câu hỏi “Liệu tàu ngầm có thể bơi không?”’

Tuy nhiên, mặc dù cuộc tranh luận đã cũ, nó chỉ gần đây mới trở nên rất liên quan. Nó có thể được lập luận rằng đóng góp của Dijkstra tương đương với sự suy đoán của thời đại Victoria về du lịch vũ trụ, thuần túy là lý thuyết và chờ đợi sự phát triển lịch sử.

Do đó, cơ sở tranh luận đã được thiết lập này có thể mang lại cho chủ đề một cảm giác nhàm chán, mặc dù nó có tiềm năng liên quan xã hội đáng kể trong khoảng 2-5 năm tới.

Kết luận

Nếu chúng ta nghĩ về các hệ thống Trí tuệ nhân tạo theo cách giống như các nhân vật Star Wars “hữu cơ” coi các robot của chính họ (tức là như các công cụ tìm kiếm di động, hoặc chỉ là các chức năng cơ học), chúng ta sẽ không bị rủi ro khi tạo ra các đặc điểm không mong muốn về mặt xã hội này trong các tương tác của con người – vì chúng ta sẽ coi các hệ thống này trong một bối cảnh hoàn toàn không phải của con người.

Trong thực tế, sự gắn kết của ngôn ngữ con người với hành vi con người khiến điều này trở nên khó khăn, nếu không muốn nói là không thể, một khi truy vấn mở rộng từ sự tối giản của một thuật ngữ tìm kiếm Google đến ngữ cảnh phong phú của một cuộc trò chuyện.

Thêm vào đó, lĩnh vực thương mại (cũng như lĩnh vực quảng cáo) có động lực mạnh mẽ để tạo ra các nền tảng giao tiếp gây nghiện hoặc thiết yếu, cho sự giữ chân và tăng trưởng của khách hàng.

Trong mọi trường hợp, nếu các hệ thống Trí tuệ nhân tạo thực sự phản hồi tốt hơn với các truy vấn lịch sự hơn là các cuộc thẩm vấn được cắt giảm, bối cảnh có thể bị ép buộc lên chúng ta vì lý do đó.

* Ngay cả vào năm 1983, năm mà phần cuối cùng của bộ ba phần đầu tiên Star Wars được phát hành, lo ngại xung quanh sự phát triển của học máy đã dẫn đến War Games và Terminator sắp tới.

^† Khi cần thiết, tôi đã chuyển đổi các trích dẫn nội tuyến của tác giả thành các liên kết, và đã bỏ qua một số trích dẫn trong một số trường hợp, vì lý do dễ đọc.

Được xuất bản lần đầu vào thứ hai, ngày 14 tháng 10 năm 2024