Những Nguy Cơ Của Trợ Lý Trò Chuyện AI – Và Cách Phòng Ngừa

Ngày xưa, người ta chỉ nghĩ rằng các chương trình trò chuyện tự động, trợ lý trò chuyện AI có thể học hỏi và tham gia vào các cuộc trò chuyện gần như không thể phân biệt được với con người. Tuy nhiên, những nguy cơ của trợ lý trò chuyện AI cũng đa dạng không kém.

Những nguy cơ này có thể bao gồm từ việc người dùng lạm dụng chúng cho đến các rủi ro về bảo mật mạng. Khi con người ngày càng phụ thuộc vào công nghệ AI, việc biết được những hậu quả tiềm ẩn của việc sử dụng những chương trình này là điều cần thiết. Nhưng liệu các bot có nguy hiểm?

1. Sự Thất Công Bằng Và Phân Biệt Đối Xử

Một trong những nguy cơ lớn nhất của trợ lý trò chuyện AI là xu hướng thiên vị có hại. Bởi vì AI tạo ra các kết nối giữa các điểm dữ liệu mà con người thường bỏ qua, nó có thể nhận ra các thiên vị ngầm, ẩn ý trong dữ liệu đào tạo để tự dạy mình trở nên phân biệt đối xử. Kết quả là, các bot trò chuyện có thể nhanh chóng học cách phát tán nội dung phân biệt chủng tộc, phân biệt giới tính hoặc nội dung phân biệt đối xử khác, ngay cả khi không có nội dung cực đoan như vậy trong dữ liệu đào tạo.

Một ví dụ điển hình là bot tuyển dụng bị Amazon loại bỏ. Vào năm 2018, nó đã được tiết lộ rằng Amazon đã từ bỏ một dự án AI nhằm đánh giá trước hồ sơ của ứng viên vì nó đã phạt các ứng dụng từ phụ nữ. Bởi vì hầu hết các hồ sơ mà bot đào tạo trên đều là của nam giới, nó đã tự dạy mình rằng ứng viên nam là được ưu tiên, ngay cả khi dữ liệu đào tạo không nói rõ như vậy.

Các bot trò chuyện sử dụng nội dung internet để tự dạy cách giao tiếp tự nhiên có xu hướng thể hiện sự thiên vị thậm chí còn cực đoan hơn. Vào năm 2016, Microsoft đã ra mắt một bot trò chuyện tên là Tay mà đã học cách bắt chước các bài đăng trên mạng xã hội. Trong vài giờ, nó bắt đầu gửi tweet nội dung cực kỳ phản cảm, dẫn đến Microsoft phải đình chỉ tài khoản sau một thời gian ngắn.

Nếu các công ty không cẩn thận khi xây dựng và triển khai các bot này, họ có thể vô tình dẫn đến các tình huống tương tự. Các bot trò chuyện có thể đối xử không công bằng với khách hàng hoặc lan truyền nội dung phân biệt đối xử mà chúng được thiết kế để ngăn chặn.

2. Rủi Ro Bảo Mật Mạng

Những nguy cơ của công nghệ bot trò chuyện AI cũng có thể gây ra một mối đe dọa bảo mật mạng trực tiếp đối với người dùng và doanh nghiệp. Một trong những hình thức tấn công mạng phổ biến nhất là lừa đảo qua email và điện thoại — những kẻ tấn công mạng giả mạo các tổ chức đáng tin cậy như ngân hàng hoặc cơ quan chính phủ.

Các cuộc tấn công lừa đảo qua email thường hoạt động thông qua email và tin nhắn văn bản — nhấp vào liên kết cho phép phần mềm độc hại xâm nhập vào hệ thống máy tính. Một khi bên trong, virus có thể làm bất cứ điều gì từ đánh cắp thông tin cá nhân đến giữ hệ thống cho đến khi nhận được tiền chuộc.

Tỷ lệ các cuộc tấn công lừa đảo qua email đã tăng đều đặn trong và sau đại dịch COVID-19. Cơ quan An ninh Mạng và Cơ sở Hạ tầng đã tìm thấy 84% cá nhân trả lời các tin nhắn lừa đảo qua email với thông tin nhạy cảm hoặc nhấp vào liên kết.

Những kẻ lừa đảo qua email đang sử dụng công nghệ bot trò chuyện AI để tự động hóa việc tìm kiếm nạn nhân, thuyết phục họ nhấp vào liên kết và cung cấp thông tin cá nhân. Các bot trò chuyện được sử dụng bởi nhiều tổ chức tài chính — như ngân hàng — để tối ưu hóa trải nghiệm dịch vụ khách hàng.

Các bot lừa đảo qua email có thể bắt chước các lời nhắc tự động mà các ngân hàng sử dụng để lừa nạn nhân. Chúng cũng có thể tự động gọi điện thoại hoặc liên hệ trực tiếp với nạn nhân trên các nền tảng trò chuyện tương tác.

3. Độc Dữ Liệu

Độc dữ liệu là một loại tấn công mạng mới được thiết kế nhắm vào trí tuệ nhân tạo. Công nghệ AI học hỏi từ các tập dữ liệu và sử dụng thông tin đó để hoàn thành nhiệm vụ. Điều này đúng với tất cả các chương trình AI, bất kể mục đích hoặc chức năng của chúng.

Đối với các bot trò chuyện AI, điều này có nghĩa là học hỏi nhiều phản hồi cho các câu hỏi mà người dùng có thể đưa ra. Tuy nhiên, đây cũng là một trong những nguy cơ của AI.

Những tập dữ liệu này thường là các công cụ và tài nguyên mã nguồn mở có sẵn cho bất kỳ ai. Mặc dù các công ty AI thường giữ bí mật về nguồn dữ liệu của họ, nhưng những kẻ tấn công mạng có thể xác định được nguồn nào họ sử dụng và thao túng dữ liệu.

Những kẻ tấn công mạng có thể tìm cách làm hỏng các tập dữ liệu được sử dụng để đào tạo AI, cho phép họ thao túng quyết định và phản hồi của AI. AI sẽ sử dụng thông tin từ dữ liệu bị thay đổi và thực hiện các hành động mà những kẻ tấn công mong muốn.

Ví dụ, một trong những nguồn dữ liệu phổ biến nhất là tài nguyên Wiki như Wikipedia. Mặc dù dữ liệu không đến từ bài viết Wikipedia trực tiếp, nhưng nó đến từ các bản chụp dữ liệu được thực hiện tại các thời điểm cụ thể. Những kẻ tấn công mạng có thể tìm cách chỉnh sửa dữ liệu để phục vụ lợi ích của họ.

Trong trường hợp của các bot trò chuyện AI, những kẻ tấn công mạng có thể làm hỏng các tập dữ liệu được sử dụng để đào tạo các bot trò chuyện làm việc cho các tổ chức y tế hoặc tài chính. Họ có thể thao túng chương trình bot trò chuyện để cung cấp thông tin sai lệch cho khách hàng, dẫn họ đến nhấp vào liên kết chứa phần mềm độc hại hoặc trang web giả mạo. Một khi AI bắt đầu sử dụng dữ liệu bị độc, rất khó để phát hiện và có thể dẫn đến một sự vi phạm bảo mật mạng nghiêm trọng mà không được chú ý trong một thời gian dài.

Làm Thế Nào Để Đối Phó Với Những Nguy Cơ Của Trợ Lý Trò Chuyện AI

Những rủi ro này là đáng lo ngại, nhưng chúng không có nghĩa là các bot vốn đã nguy hiểm. Thay vào đó, bạn nên tiếp cận chúng một cách thận trọng và xem xét những nguy cơ này khi xây dựng và sử dụng các bot trò chuyện.

Chìa khóa để ngăn chặn sự thiên vị của AI là tìm kiếm nó trong quá trình đào tạo. Hãy đảm bảo đào tạo nó trên các tập dữ liệu đa dạng và lập trình cụ thể để tránh tính đến các yếu tố như chủng tộc, giới tính hoặc khuynh hướng tính dục trong quá trình ra quyết định. Điều tốt nhất là có một đội ngũ đa dạng các nhà khoa học dữ liệu để xem xét các hoạt động nội bộ của bot trò chuyện và đảm bảo chúng không thể hiện bất kỳ thiên vị nào, dù là tinh vi.

Cách phòng thủ tốt nhất chống lại lừa đảo qua email là đào tạo. Đào tạo tất cả nhân viên để nhận biết các dấu hiệu phổ biến của lừa đảo qua email để họ không bị lừa. Việc nâng cao nhận thức của người tiêu dùng về vấn đề này cũng sẽ giúp ích.

Bạn có thể ngăn chặn độc dữ liệu bằng cách hạn chế quyền truy cập vào dữ liệu đào tạo của bot trò chuyện. Chỉ những người cần truy cập vào dữ liệu này để thực hiện công việc của họ một cách chính xác mới nên có quyền truy cập — một khái niệm gọi là nguyên tắc đặc quyền tối thiểu. Sau khi thực hiện những hạn chế đó, sử dụng các biện pháp xác thực mạnh như xác thực đa yếu tố hoặc sinh trắc học để ngăn chặn rủi ro của các tội phạm mạng xâm nhập vào tài khoản được ủy quyền.

Cảnh Giác Với Những Nguy Cơ Của Sự Phụ Thuộc Vào AI

Trí tuệ nhân tạo là một công nghệ thực sự tuyệt vời với vô số ứng dụng. Tuy nhiên, những nguy cơ của AI có thể không rõ ràng. Liệu các bot có nguy hiểm? Không vốn dĩ, nhưng các tội phạm mạng có thể sử dụng chúng theo nhiều cách phá hoại khác nhau. Việc quyết định ứng dụng của công nghệ mới này là lên các người dùng.