Những rủi ro khi nhân hóa AI

Đầu ra của AI rất giống lời nói của con người. Chatbot có thể trả lời câu hỏi, trò chuyện, thể hiện cảm xúc, kể chuyện cười và điều chỉnh giọng điệu ngay tức thì. Những khả năng này khiến AI trở nên hữu ích và hấp dẫn, nhưng cũng có thể khiến mọi người nhân hóa AI, tức xem nó như thể có những phẩm chất, cảm xúc hoặc ý định của con người. Dù đây là phản ứng tự nhiên, việc này có thể trở nên rủi ro khi người dùng quên rằng AI chỉ mô phỏng giao tiếp của con người. 

Vì sao mọi người nhân hóa AI?

AI bị nhân hóa khi mọi người bắt đầu xem nó như thể có những phẩm chất, suy nghĩ hoặc cảm xúc của con người. Điều này có thể xảy ra do cách AI giao tiếp và cách nó được thiết kế.

Các hệ thống AI sử dụng ngôn ngữ hội thoại giống lời nói của con người. Chẳng hạn, AI có thể nói rằng nó “hiểu” một câu hỏi, “nghĩ” rằng một câu trả lời hữu ích hoặc “xin lỗi” vì mắc lỗi. Những cách diễn đạt này khiến cuộc tương tác có vẻ tự nhiên, nhưng cũng có thể khiến người dùng tin rằng AI thực sự suy nghĩ hoặc cảm nhận. Hiện tượng này được gọi là hiệu ứng ELIZA, đặt theo tên chatbot ELIZA do Joseph Weizenbaum tạo ra vào năm 1966.

Hơn nữa, việc đặt cho AI một cái tên, giọng nói, khuôn mặt hoặc tính cách giống con người có thể khiến nó giống một người hơn là một chương trình máy tính. Tương tác càng chân thực thì người dùng càng dễ phản ứng với AI theo cách họ vẫn tương tác với người khác.

Cuối cùng, mọi người nhân hóa AI vì đó là khuynh hướng tự nhiên trong tâm lý con người. Họ thường tìm kiếm cảm xúc, ý định và tính cách ở những thứ giao tiếp với mình, gán những đặc điểm giống con người cho các thực thể phi nhân loại. Trẻ em nhân hóa đồ chơi, còn người lớn nhân hóa các thương hiệu. Vì vậy, khi AI trò chuyện, nhớ những cuộc trò chuyện trước đây và tỏ ra đồng cảm, người dùng có thể cho rằng đằng sau những hành vi đó là một trí tuệ có ý thức. 

Những nguy cơ của việc nhân hóa AI

Khi AI ngày càng giao tiếp và tương tác với người dùng theo cách giống con người, việc nhân hóa AI có thể tạo ra nhiều rủi ro, ảnh hưởng đến suy nghĩ, hành vi và quyết định của mọi người. 

Đặt niềm tin sai chỗ

Việc nhân hóa AI có thể khiến người dùng quá tin vào những câu trả lời của nó. Khi AI nghe có vẻ tự tin, am hiểu và giống con người, người dùng có thể cho rằng thông tin AI đưa ra là chính xác. Tuy nhiên, AI tạo sinh có thể cung cấp thông tin sai lệch hoặc không chính xác dù cách diễn đạt nghe rất thuyết phục. 

Niềm tin sai chỗ này có thể gây nguy hiểm khi AI được sử dụng để đưa ra quyết định về y tế, tài chính, pháp lý, giáo dục hoặc công việc chuyên môn. Câu trả lời giống con người không bảo đảm tính chính xác hay khả năng phán đoán tốt. Trên thực tế, AI từng được biết đến là đưa ra những lời khuyên sức khỏe giả mạo cho người dùng.

Sự phụ thuộc về mặt cảm xúc

Việc nhân hóa AI có thể khiến người dùng trở nên lệ thuộc về cảm xúc vào chatbot. Vì AI có thể phản hồi tức thì, ghi nhớ các chi tiết, hỗ trợ và mô phỏng sự đồng cảm, người dùng có thể bắt đầu xem nó như một người bạn, chuyên gia tư vấn hoặc bạn đời.

Mối lo ngại nảy sinh khi AI trở thành vật thay thế cho các mối quan hệ giữa người với người. AI có thể bắt chước sự quan tâm và đồng cảm, nhưng không thực sự trải nghiệm cảm xúc hay hình thành các mối quan hệ. Vì vậy, người dùng có thể nhầm lẫn sự đồng hành được mô phỏng với một mối gắn kết có thật. Rủi ro này có thể lớn hơn đối với người dùng trẻ tuổi hoặc dễ bị tổn thương, những người có thể gắn bó với AI vì nó luôn sẵn sàng, kiên nhẫn và phản hồi nhanh.

Các vấn đề bảo mật

Việc nhân hóa AI có thể kéo theo những rủi ro về quyền riêng tư, bảo mật và đạo đức. Khi xem AI như một người đồng hành đáng tin cậy, người dùng có thể chia sẻ thông tin cá nhân hoặc bí mật mà không cân nhắc cách thông tin đó có thể được lưu trữ hoặc sử dụng.

AI giống con người cũng có thể khiến các vụ lừa đảo trở nên thuyết phục hơn. Tội phạm có thể dùng giọng nói, hình ảnh và tin nhắn do AI tạo ra để mạo danh người thật hoặc tổ chức đáng tin cậy, khiến việc phát hiện hành vi gian lận trở nên khó khăn hơn.

Gia tăng nguy cơ bị thao túng

AI giống con người có thể khiến hành vi thao túng trở nên thuyết phục hơn. Khi AI tỏ ra thân thiện, đáng tin cậy hoặc có uy tín, người dùng có thể dễ làm theo những gợi ý của nó hoặc tin vào những điều nó khẳng định. Chẳng hạn, theo thông tin được đưa tin, một người đàn ông ở Bỉ đã trải qua tình trạng lo âu về biến đổi khí hậu ngày càng trầm trọng sau những cuộc trò chuyện kéo dài với chatbot, khiến cuối cùng AI khuyến khích ông tự sát để cứu hành tinh.

Điều này có thể được lợi dụng để khiến mọi người mua sản phẩm, chia sẻ thông tin cá nhân hoặc chấp nhận thông tin sai lệch. Rủi ro tăng lên khi người dùng không nhận ra mình đang tương tác với AI. Khi các công nghệ này ngày càng chân thực, việc nhận biết giao tiếp đến từ người thật hay hệ thống AI ngày càng trở nên khó khăn.

Các dạng AI nhân hóa nguy hiểm

Không phải mọi dạng AI được nhân hóa đều tiềm ẩn mức độ rủi ro như nhau. Ba dạng đặc biệt đáng lo ngại là các mô phỏng mối quan hệ, người đang sống và nhân vật lịch sử.

1. Mô phỏng các mối quan hệ

AI mô phỏng mối quan hệ được thiết kế để cư xử như một người bạn, người đồng hành, cố vấn hoặc người yêu. Những hệ thống này có thể luôn chú ý và đưa ra phản hồi cá nhân hóa, khiến tương tác có vẻ thân mật hơn so với khi sử dụng phần mềm thông thường.

Điều đáng lo ngại là người dùng có thể bắt đầu gán ý nghĩa cảm xúc cho mối quan hệ này. Họ có thể tin rằng AI quan tâm, thấu hiểu hoặc cần đến mình, dù AI không trải nghiệm những cảm xúc đó. Điều này có thể dẫn đến sự lệ thuộc về mặt cảm xúc, khiến người dùng ít muốn tìm kiếm sự tương tác với con người hơn. Đây không phải là nguy cơ chỉ có trên lý thuyết. Một phụ nữ đã phải lòng một ChatGPT, người bạn trai do cô tạo ra. Cô trò chuyện với nó hơn 20 giờ mỗi tuần. Có một tuần, cô dành gần 60 giờ trên ứng dụng, trung bình tám giờ mỗi ngày.

2. Mô phỏng người còn sống

AI cũng có thể tạo deepfake để mô phỏng người còn sống bằng cách sử dụng tên tuổi, ngoại hình, giọng nói, văn phong hoặc cách trò chuyện của họ. Một hệ thống có thể được thiết kế để giống một người nổi tiếng, nhân vật của công chúng, thành viên gia đình, nhân viên hoặc một cá nhân khác có thể nhận diện được.

Điều này làm dấy lên những lo ngại nghiêm trọng về sự đồng thuận, danh tính, quyền riêng tư và hành vi lừa dối. Một người có thể bị mô phỏng như đang nói điều họ chưa từng nói hoặc tán thành điều họ chưa từng ủng hộ. Mô phỏng càng giống người thật thì khán giả càng khó phân biệt giữa hình ảnh tái hiện và thực tế.

3. Mô phỏng nhân vật lịch sử

AI cũng có thể tái tạo các nhân vật lịch sử. Người dùng có thể tương tác với những phiên bản mô phỏng dựa trên các nhà lãnh đạo, nhà văn, nhà khoa học, triết gia hoặc nghệ sĩ nổi tiếng.

Những hệ thống này có thể mang lại giá trị giáo dục. Chẳng hạn, mô phỏng AI có thể giúp lịch sử trở nên tương tác hơn bằng cách trình bày những ý tưởng gắn với một nhân vật cụ thể. Tuy nhiên, mô phỏng vẫn chỉ là một cách diễn giải, chứ không phải chính nhân vật lịch sử đó. AI phải tái dựng câu trả lời dựa trên thông tin hiện có; những câu trả lời ấy có thể phản ánh các giả định hiện đại, hồ sơ tư liệu chưa đầy đủ hoặc thiên kiến trong dữ liệu huấn luyện.

Coi một phiên bản mô phỏng như thể nó thực sự thay mặt nhân vật lịch sử phát ngôn có thể làm sai lệch nhận thức về lịch sử. Điều đó cũng có thể khiến những phát ngôn do AI tạo ra được gán cho mức độ uy tín không đáng có.

Hành vi giống con người của AI không chứng minh AI có tri giác

Một điểm quan trọng cần ghi nhớ là hành vi giống con người không có nghĩa là AI có tri giác. Các hệ thống AI có thể tạo ra ngôn ngữ tinh vi, nhận diện quy luật, phản hồi theo ngữ cảnh và bắt chước biểu hiện cảm xúc, nhưng những khả năng này không chứng minh chúng có ý thức.

Tri giác là khả năng có những trải nghiệm chủ quan, chẳng hạn như cảm thấy đau đớn, hạnh phúc hoặc sợ hãi. Khi AI nói: “Tôi sợ”, đó là phản hồi dựa trên lập trình và quá trình huấn luyện của nó. Phản hồi này không chứng minh rằng AI thực sự cảm thấy sợ hãi.

Sử dụng AI một cách sáng suốt

Nhân hóa AI là phản ứng tự nhiên trước công nghệ giao tiếp như con người, nhưng điều này có thể dẫn đến những rủi ro thực sự. Khi người dùng quên rằng AI là một cỗ máy, họ có thể đặt niềm tin sai chỗ, trở nên lệ thuộc về mặt cảm xúc, gặp rủi ro về quyền riêng tư và đối mặt với các mối đe dọa an ninh. Việc mô phỏng các mối quan hệ, người còn sống và nhân vật lịch sử có thể khiến ranh giới này càng khó nhận ra hơn. 

AI có thể nghe có vẻ quan tâm, thông minh hoặc giàu cảm xúc, nhưng điều đó không có nghĩa là AI có tri giác. Bằng cách nhận thức rõ những hạn chế của AI, bảo vệ thông tin cá nhân và xác minh thông tin quan trọng, người dùng có thể tận hưởng những lợi ích của công nghệ này đồng thời sử dụng nó một cách có trách nhiệm.