Những Nguy Cơ Của Trợ Lý Trò Chuyện AI – Và Cách Phòng Ngừa

Trước đây, trợ lý trò chuyện AI chỉ được coi là chương trình tự động nói, nhưng hiện nay chúng có thể học hỏi và tham gia vào các cuộc trò chuyện gần như không thể phân biệt với con người. Tuy nhiên, những nguy cơ của trợ lý trò chuyện AI cũng đa dạng không kém.

Những nguy cơ này có thể bao gồm từ việc người dùng lạm dụng chúng đến các rủi ro bảo mật thực sự. Khi con người ngày càng phụ thuộc vào công nghệ AI, việc hiểu biết về các hậu quả tiềm ẩn của việc sử dụng các chương trình này là điều cần thiết. Nhưng liệu các bot có nguy hiểm?

1. Sự Thần Kinh Và Phân Biệt

Một trong những nguy cơ lớn nhất của trợ lý trò chuyện AI là xu hướng thiên vị có hại. Bởi vì AI tạo ra các kết nối giữa các điểm dữ liệu mà con người thường bỏ qua, nó có thể nhận ra các thiên vị ngầm, ẩn trong dữ liệu đào tạo để tự dạy mình trở nên phân biệt. Kết quả là, các bot có thể nhanh chóng học cách phát ra nội dung phân biệt chủng tộc, phân biệt giới tính hoặc phân biệt đối xử khác, ngay cả khi không có nội dung cực đoan như vậy trong dữ liệu đào tạo.

Một ví dụ điển hình là dự án tuyển dụng bot của Amazon (AMZN ). Vào năm 2018, nó đã được tiết lộ rằng Amazon đã từ bỏ một dự án AI nhằm đánh giá trước các hồ sơ ứng viên vì nó đã phạt các ứng viên nữ. Bởi vì hầu hết các hồ sơ mà bot đào tạo trên đều là của nam giới, nó đã tự dạy mình rằng ứng viên nam là được ưu tiên, ngay cả khi dữ liệu đào tạo không nói rõ như vậy.

Các bot trò chuyện sử dụng nội dung trên internet để tự học cách giao tiếp tự nhiên có xu hướng thể hiện các thiên vị thậm chí còn cực đoan hơn. Vào năm 2016, Microsoft (MSFT ) đã ra mắt một bot trò chuyện tên là Tay mà đã học cách bắt chước các bài đăng trên mạng xã hội. Trong vài giờ, nó bắt đầu tweet nội dung cực đoan, dẫn đến việc Microsoft phải tạm ngừng tài khoản sau một thời gian.

Nếu các công ty không cẩn thận khi xây dựng và triển khai các bot này, họ có thể vô tình dẫn đến các tình huống tương tự. Các bot có thể đối xử không công bằng với khách hàng hoặc lan truyền nội dung thiên vị có hại mà chúng được thiết kế để ngăn chặn.

2. Rủi Ro Bảo Mật

Những nguy cơ của công nghệ bot trò chuyện AI cũng có thể tạo ra một mối đe dọa bảo mật trực tiếp đối với người dùng và doanh nghiệp. Một trong những hình thức tấn công mạng phổ biến nhất là lừa đảo qua email và tin nhắn – những cuộc tấn công này liên quan đến các kẻ tấn công mạng giả mạo các tổ chức đáng tin cậy như ngân hàng hoặc cơ quan chính phủ.

Các cuộc tấn công lừa đảo thường hoạt động thông qua email và tin nhắn văn bản – việc nhấp vào liên kết cho phép phần mềm độc hại xâm nhập vào hệ thống máy tính. Một khi đã xâm nhập, virus có thể làm bất cứ điều gì từ việc đánh cắp thông tin cá nhân đến việc giữ hệ thống cho đến khi nhận được tiền chuộc.

Tỷ lệ các cuộc tấn công lừa đảo đã tăng đều đặn trong và sau đại dịch COVID-19. Cơ quan An ninh Mạng và Cơ sở Hạ tầng đã phát hiện 84% cá nhân trả lời các tin nhắn lừa đảo với thông tin nhạy cảm hoặc nhấp vào liên kết.

Những kẻ lừa đảo đang sử dụng công nghệ bot trò chuyện AI để tự động hóa việc tìm kiếm nạn nhân, thuyết phục họ nhấp vào liên kết và cung cấp thông tin cá nhân. Các bot được nhiều tổ chức tài chính – như ngân hàng – sử dụng để tự động hóa trải nghiệm dịch vụ khách hàng.

Các bot lừa đảo có thể bắt chước các lời nhắc tự động mà các ngân hàng sử dụng để lừa nạn nhân. Chúng cũng có thể tự động gọi điện cho các nạn nhân hoặc liên hệ trực tiếp với họ trên các nền tảng trò chuyện tương tác.

3. Dữ Liệu Độc

Dữ liệu độc là một loại tấn công mạng mới được thiết kế nhằm trực tiếp vào trí tuệ nhân tạo. Công nghệ AI học hỏi từ các tập dữ liệu và sử dụng thông tin đó để hoàn thành các nhiệm vụ. Điều này đúng với tất cả các chương trình AI, bất kể mục đích hoặc chức năng của chúng.

Đối với các bot trò chuyện AI, điều này có nghĩa là học hỏi nhiều phản hồi cho các câu hỏi mà người dùng có thể đặt ra. Tuy nhiên, đây cũng là một trong những nguy cơ của AI.

Các tập dữ liệu này thường là các công cụ và tài nguyên mã nguồn mở có sẵn cho bất kỳ ai. Mặc dù các công ty AI thường giữ bí mật các nguồn dữ liệu của họ, nhưng các kẻ tấn công mạng có thể xác định được những nguồn nào họ sử dụng và thao túng dữ liệu.

Các kẻ tấn công mạng có thể tìm cách thao túng các tập dữ liệu được sử dụng để đào tạo AI, cho phép chúng thao túng quyết định và phản hồi của AI. AI sẽ sử dụng thông tin từ dữ liệu đã bị thay đổi và thực hiện các hành động mà kẻ tấn công mong muốn.

Ví dụ, một trong những nguồn dữ liệu phổ biến nhất là tài nguyên Wiki như Wikipedia. Mặc dù dữ liệu không đến từ bài viết Wikipedia trực tiếp, nhưng nó đến từ các bản chụp dữ liệu được thực hiện tại các thời điểm cụ thể. Các hacker có thể tìm cách chỉnh sửa dữ liệu để phục vụ cho họ.

Trong trường hợp của các bot trò chuyện AI, các hacker có thể làm hỏng các tập dữ liệu được sử dụng để đào tạo các bot làm việc cho các tổ chức y tế hoặc tài chính. Họ có thể thao túng các chương trình bot để cung cấp thông tin sai lệch cho khách hàng, điều này có thể dẫn đến việc họ nhấp vào liên kết chứa mã độc hoặc truy cập vào một trang web giả mạo. Một khi AI bắt đầu sử dụng dữ liệu bị độc, rất khó để phát hiện và có thể dẫn đến một sự vi phạm bảo mật nghiêm trọng mà không được phát hiện trong một thời gian dài.

Làm Thế Nào Để Đối Phó Với Những Nguy Cơ Của Trợ Lý Trò Chuyện AI

Những rủi ro này là đáng lo ngại, nhưng chúng không có nghĩa là bot là nguy hiểm vốn có. Thay vào đó, bạn nên tiếp cận chúng một cách cẩn thận và xem xét những nguy cơ này khi xây dựng và sử dụng các bot.

Chìa khóa để ngăn chặn thiên vị AI là tìm kiếm nó trong suốt quá trình đào tạo. Hãy đảm bảo đào tạo nó trên các tập dữ liệu đa dạng và lập trình cụ thể để tránh tính đến các yếu tố như chủng tộc, giới tính hoặc xu hướng tính dục trong quá trình ra quyết định. Ngoài ra, cũng tốt nhất nên có một đội các nhà khoa học dữ liệu đa dạng để xem xét các hoạt động nội bộ của bot và đảm bảo chúng không thể hiện bất kỳ thiên vị nào, dù nhỏ.

Phương pháp phòng thủ tốt nhất chống lại lừa đảo là đào tạo. Hãy đào tạo tất cả nhân viên để nhận biết các dấu hiệu phổ biến của lừa đảo để họ không bị mắc kẹt trong các cuộc tấn công này. Việc nâng cao nhận thức của người tiêu dùng về vấn đề này cũng sẽ giúp ích.

Bạn có thể ngăn chặn việc làm hỏng dữ liệu bằng cách hạn chế quyền truy cập vào dữ liệu đào tạo của bot. Chỉ những người cần truy cập vào dữ liệu này để thực hiện công việc của họ một cách chính xác mới nên được ủy quyền – một khái niệm được gọi là nguyên tắc đặc quyền tối thiểu. Sau khi thực hiện các hạn chế này, hãy sử dụng các biện pháp xác thực mạnh như xác thực đa yếu tố hoặc sinh trắc học để ngăn chặn rủi ro của việc các kẻ tấn công mạng xâm nhập vào một tài khoản được ủy quyền.

Giữ Gìn Sự Cảnh Giác Chống Lại Những Nguy Cơ Của Sự Phụ Thuộc Vào AI

Trí tuệ nhân tạo là một công nghệ thực sự tuyệt vời với vô số ứng dụng. Tuy nhiên, những nguy cơ của AI có thể không rõ ràng. Liệu các bot có nguy hiểm? Không vốn có, nhưng các kẻ tấn công mạng có thể sử dụng chúng theo nhiều cách phá hoại khác nhau. Việc quyết định ứng dụng của công nghệ mới này là lên các người dùng.