Cách Hacker Sử Dụng Trí Tuệ Nhân Tạo

Trí tuệ nhân tạo đã chứng minh mình là một công nghệ mang lại giá trị cho nền kinh tế toàn cầu.

Khi các doanh nghiệp tìm cách thích nghi với các sự kiện hiện tại trong những năm qua, một số trong số họ đã tìm ra cách nén nửa thập kỷ biến đổi số – trong trường hợp của Frito-Lay – vào một khung thời gian ngắn hơn nhiều. Harris Poll và Appen đã phát hiện ra rằng ngân sách cho AI đã tăng 55% trong thời gian đại dịch toàn cầu.

Giống như bất kỳ công cụ nào, trí tuệ nhân tạo không có giá trị đạo đức nội tại. Sự hữu ích hoặc tiềm năng gây hại của AI phụ thuộc vào cách hệ thống “học” và con người cuối cùng sử dụng nó.

Một số nỗ lực nhằm tận dụng AI – như “dự đoán” tội phạm trước khi nó xảy ra – cho thấy rằng các mô hình được đào tạo trên dữ liệu thiên vị có xu hướng nhân rộng những khiếm khuyết của con người. Cho đến nay, việc đào tạo AI sử dụng dữ liệu từ hệ thống tư pháp Hoa Kỳ đã dẫn đến việc suy luận AI bị thiên vị một cách bi thảm.

Trong các ví dụ khác, con người chọn các cách thức có chủ đích hơn để tận dụng tiềm năng phá hoại của AI. Những kẻ tấn công đang thể hiện sự sáng tạo của họ một lần nữa bằng cách sử dụng trí tuệ nhân tạo để cải thiện phạm vi, hiệu quả và lợi nhuận của các cuộc tấn công. Và khi chiến tranh mạng trở nên phổ biến hơn trên toàn cầu, chúng ta chắc chắn sẽ thấy các ứng dụng của AI trong việc tấn công phát triển thêm.

AI Là Một Cơ Hội và Một Rủi Ro

Trí tuệ nhân tạo cung cấp một thế giới cơ hội cho các doanh nghiệp muốn cải thiện dự báo, tối ưu hóa kinh doanh và chiến lược giữ chân khách hàng. Nó cũng là một khoản thu nhập cho những người muốn xâm phạm chủ quyền kỹ thuật số của người khác.

Dưới đây là một số cách trí tuệ nhân tạo có thể dễ bị tổn thương bởi sự can thiệp kín đáo và nỗ lực cởi mở hơn để chuyển nó thành các hành động hung hãn.

1. Xâm Phạm Logic Máy

Ưu điểm chính của AI cho người tiêu dùng và doanh nghiệp là nó thực hiện các hành động logic có thể dự đoán và lặp lại mà không cần can thiệp của con người. Đây cũng là điểm yếu nhất của nó.

Giống như bất kỳ cấu trúc kỹ thuật số nào khác, AI có thể dễ bị xâm phạm bởi các lực lượng bên ngoài. Những kẻ tấn công có thể truy cập và làm hỏng logic máy của AI, khiến nó thực hiện các hành động không thể dự đoán hoặc có hại. Ví dụ, một AI được giao nhiệm vụ giám sát điều kiện công nghiệp có thể cung cấp các đọc giả sai hoặc bỏ qua các tín hiệu bảo trì.

Vì toàn bộ điểm của đầu tư AI là loại bỏ sự can thiệp của con người và nghi ngờ kết quả, nên thiệt hại đối với cơ sở hạ tầng hoặc chất lượng sản phẩm do một cuộc tấn công như vậy gây ra có thể không được phát hiện cho đến khi xảy ra thất bại thảm khốc.

2. Sử Dụng Thuật Toán Nghịch

Một con đường gây hại tiềm năng khác – đặc biệt là khi liên quan đến tài sản trí tuệ (IP) và dữ liệu người tiêu dùng hoặc thương mại – là khái niệm về thuật toán nghịch. Những kẻ tấn công thậm chí có thể đánh cắp mã AI itself. Với đủ thời gian để nghiên cứu cách nó hoạt động, họ cuối cùng có thể phát hiện ra các tập dữ liệu được sử dụng để đào tạo AI từ đầu.

Điều này có thể gây ra một số kết quả, trong đó đầu tiên là đầu độc AI. Các ví dụ khác có thể liên quan đến việc những kẻ tấn công tận dụng dữ liệu đào tạo AI để thu thập thông tin gây tổn hại về thị trường, đối thủ, chính phủ, nhà cung cấp hoặc người tiêu dùng nói chung.

3. Học Về Các Mục Tiêu Đích

Giám sát mục tiêu có thể là một trong những ý nghĩa đáng lo ngại nhất của AI rơi vào tay những kẻ tấn công. Khả năng của AI để đưa ra kết luận về khả năng, lĩnh vực kiến thức, tính cách và khả năng bị tấn công, gian lận hoặc lạm dụng của một người đang chứng minh đặc biệt đáng lo ngại cho một số chuyên gia an ninh mạng.

Trí tuệ nhân tạo có thể tiêu thụ và đạt được kết luận chi tiết đáng ngạc nhiên về người, đội và nhóm dựa trên một số điểm dữ liệu không thể tin được. Một cá nhân “được tham gia” hoặc “làm phân tâm” có thể gõ nhanh, điều khiển chuột hoặc chuyển giữa các tab trình duyệt nhanh. Một người dùng “bối rối” hoặc “do dự” có thể tạm dừng trước khi nhấp vào các yếu tố trang hoặc truy cập lại nhiều trang web.

Trong tay đúng, những tín hiệu như vậy giúp các bộ phận nhân sự tăng cường sự tham gia của nhân viên hoặc giúp các nhóm tiếp thị hoàn thiện trang web và kênh bán hàng của họ.

Đối với những kẻ tấn công, các tín hiệu như vậy có thể dẫn đến một hồ sơ tâm lý tinh vi về mục tiêu dự kiến. Những kẻ tấn công mạng có thể xác định được những người có thể dễ bị tổn thương bởi lừa đảo, smishing, phần mềm độc hại, gian lận tài chính và các loại tổn hại khác. Nó cũng có thể giúp những kẻ xấu học cách thuyết phục mục tiêu của họ rằng nỗ lực gian lận của họ đến từ các nguồn hợp pháp.

4. Khám Phá Lỗ Hổng Mạng

Các chuyên gia an ninh mạng đã xuất bản dữ liệu về 20,175 lỗ hổng bảo mật đã biết trong năm 2021. Đó là một sự tăng lên so với năm 2020, khi có 17,049 lỗ hổng như vậy.

Thế giới trở nên kết nối kỹ thuật số nhiều hơn – một số người sẽ nói là phụ thuộc lẫn nhau – mỗi giờ. Thế giới hiện có một số lượng lớn các mạng nhỏ và công nghiệp, với hàng tỷ thiết bị được kết nối trực tuyến và nhiều hơn trên đường đi. Mọi thứ đều trực tuyến, từ cảm biến giám sát điều kiện đến phần mềm lập kế hoạch doanh nghiệp.

Trí tuệ nhân tạo cho thấy tiềm năng trong việc giúp các đội an ninh mạng nhanh chóng khám phá các lỗ hổng mạng, phần mềm và phần cứng nhanh hơn con người có thể một mình. Tốc độ và quy mô của sự tăng trưởng cơ sở hạ tầng kỹ thuật số của Trái đất có nghĩa là gần như không thể tìm kiếm hàng tỷ dòng mã để tìm kiếm các lỗ hổng bảo mật để vá. Tất cả điều này phải xảy ra trong khi các hệ thống này đang trực tuyến do chi phí downtime.

Nếu AI là một công cụ an ninh mạng ở đây, nó cũng là một thanh gươm hai lưỡi. Những kẻ tấn công có thể sử dụng các cơ chế tương tự như “white hat” IT để thực hiện cùng một công việc: khám phá mạng, phần mềm và firmware để tìm kiếm các lỗ hổng một cách hiệu quả hơn so với các chuyên gia IT con người.

Cuộc Chiến Kỹ Thuật Số

Có quá nhiều ứng dụng AI trong tội phạm mạng để có thể kể hết, nhưng dưới đây là một số ví dụ:

• Những kẻ tấn công có thể che giấu mã AI trong một ứng dụng vô hại khác thực hiện một hành vi độc hại khi nó phát hiện một kích hoạt hoặc ngưỡng nhất định.
• Các mô hình AI độc hại có thể được sử dụng để xác định thông tin đăng nhập hoặc các tính năng quản lý IT bằng cách theo dõi đầu vào sinh trắc học, chẳng hạn như vân tay và nhận dạng giọng nói.
• Ngay cả khi một cuộc tấn công mạng cố gắng cuối cùng thất bại, những kẻ tấn công được trang bị AI có thể sử dụng học máy để xác định những gì đã đi sai và họ có thể làm khác vào lần tiếp theo.

Có vẻ như chỉ cần một câu chuyện được đặt đúng chỗ về hacking một chiếc jeep trong khi nó đang di chuyển để làm chậm sự phát triển của xe tự hành. Một vụ hack nổi bật mà AI đóng vai trò then chốt có thể gây ra sự xói mòn quan điểm công chúng tương tự. Một số cuộc thăm dò cho thấy người Mỹ trung bình đã rất hoài nghi về lợi ích của AI rồi.

Tính toán phổ biến đi kèm với rủi ro an ninh mạng – và cả những kẻ tấn công “white hat” và “black hat” đều biết điều đó. AI có thể giúp giữ cuộc sống trực tuyến của chúng ta an toàn, nhưng nó cũng là trung tâm của một cuộc chiến tranh kỹ thuật số mới.