Trí tuệ nhân tạo là kẻ săn mồi đỉnh cao trong thế giới phát triển

Áp lực tiến hóa: Một lời giới thiệu ngắn

Trước khi chúng ta bắt đầu, có một số khái niệm cần thiết phải thiết lập. Đầu tiên là áp lực tiến hóa.

Tiến hóa không phải là một lựa chọn. Động vật không chọn tiến hóa theo một cách nào đó – môi trường của chúng buộc chúng phải làm như vậy, hoặc môi trường sẽ loại bỏ chúng. Vì vậy, khi chúng ta nói về cách một loài động vật tiến hóa, hoặc tại sao nó tồn tại như ngày nay, chúng ta không nói về một loạt các quyết định có ý thức. Chúng ta đang nói về các đột biến ngẫu nhiên và áp lực môi trường đã đẩy một loài theo một hướng nào đó.

Hiện tại, các công ty phần mềm đang bước vào một thời điểm tiến hóa tương tự. Các hệ thống trí tuệ nhân tạo có khả năng tự động xác định các điểm yếu, tạo ra các cuộc tấn công và tăng tốc các cuộc tấn công mạng đang thay đổi áp lực mà các nhà phát triển và đội ngũ bảo mật phải đối mặt.

Trí tuệ nhân tạo hiện đang tạo ra áp lực môi trường tương tự cho các công ty phần mềm. Các mô hình có khả năng tự động khám phá các điểm yếu, tạo ra các cuộc tấn công và tự động hóa các cuộc tấn công quy mô lớn đang thay đổi cảnh quan bảo mật nhanh hơn nhiều so với hầu hết các tổ chức có thể chuẩn bị.

Áp lực tiến hóa cụ thể mà tôi muốn nói đến là kẻ săn mồi đỉnh cao trên Trái đất hiện nay: con người. Và cách ba loài động vật khác nhau phản ứng với áp lực đó.

Ai làm việc tồi tệ hơn: Wombat khổng lồ hay gà?

Wombat khổng lồ

Wombat khổng lồ – tôi không nhớ chính xác tên, nhưng nó sống ở Úc – nặng khoảng 6.000 pound. Trước khi con người đến, Úc là một nơi xanh tươi, gần như là thiên đường. Nếu chúng ta không bao giờ chạm vào nó. Những con wombat khổng lồ này sống hầu như không bị làm phiền. Một số loài săn mồi thỉnh thoảng giết một con, nhưng với kích thước khổng lồ của chúng, nguồn thức ăn dồi dào và khả năng sinh sản, chúng đã tự vệ chống lại mọi thứ mà lục địa này có thể ném vào chúng.

Sau đó, con người xuất hiện.

Một số điều xảy ra ngay lập tức. Đầu tiên, con người nhìn thấy một nguồn protein khổng lồ có thể nuôi một nhóm trong nhiều tuần – thậm chí lâu hơn nếu họ có thể bảo quản thịt. Thứ hai, họ bắt đầu chặt phá rừng mà wombat phụ thuộc vào, hoặc bằng cách đốt các khu rừng để驱 động vật ra ngoài nơi chúng có thể bị giết. Con người cực kỳ giỏi trong loại phá hủy có phối hợp và hiệu quả này.

Trong một khoảng thời gian rất ngắn – về mặt địa chất, gần như ngay lập tức – con người đã phá hủy các khu rừng lớn và săn bắt mọi con wombat khổng lồ cuối cùng đến tuyệt chủng.

Đáng chú ý là không phải mọi động vật ở Úc đều tuyệt chủng. Kangaroo, wombat nhỏ, koala và những loài khác đã sống sót – vì chúng đủ nhỏ, đủ nhanh hoặc đủ linh hoạt để ở ngoài tầm với. Khi người châu Âu đến, lục địa đã được định hình thành một thứ gì đó khắc nghiệt và không thể tha thứ. Một dân số con người nhỏ hơn, khắc nghiệt và thích nghi với điều kiện khắc nghiệt. Động vật mà либо rất nhỏ, rất nguy hiểm hoặc cả hai. Như họ nói: mọi thứ ở Úc đều cố gắng giết bạn.

Đó là phiên bản một.

Gà

Bây giờ, theo cách riêng của nó, gà có thể là loài động vật trên cạn thành công nhất trên Trái đất. Khoảng 70% tổng sinh khối chim trên hành tinh là gà nhà. Thậm chí có những nơi gà đã trở thành hoang dã – trên các hòn đảo mà chúng không có kẻ săn mồi tự nhiên, như Quần đảo Cayman – và chúng đã phát triển mạnh.

Gà đã tiến hóa thành thứ mà con người thấy cực kỳ hữu ích: chúng sinh sản nhanh, chúng lớn nhanh, chúng đẻ trứng. Con người cho chúng ăn, bảo vệ chúng và tích cực khuyến khích chúng nhân lên. Bằng hầu hết các chỉ số thành công sinh học – kích thước dân số, phân bố địa lý, quyền truy cập vào tài nguyên – gà đang thắng.

Trừ khi,当然, phần mà chúng ta ăn chúng.

Vì vậy, gà đã thành công bằng cách trở thành thực phẩm hoàn hảo. Đó không phải là không có gì. Nhưng có một giới hạn cho loại thành công đó.

Mèo: Câu trả lời đúng

Có một loài động vật mà, tôi sẽ lập luận, đã làm điều này gần như chính xác.

Mèo.

Mèo không phải là kẻ săn mồi đỉnh cao. Chúng không thống trị con người hoặc săn bắt chúng. Thay vào đó, thay vì bị nghiền nát bởi sự mở rộng của con người hoặc phục tùng nhu cầu của con người, chúng đã làm điều gì đó khác: chúng đã tiến hóa cùng với chúng. Chúng đã làm cho mình trở nên hữu ích bằng cách săn bắt chuột và các loài chim nhỏ được thu hút bởi các khu định cư của con người và, ở một thời điểm nào đó, chúng đã làm cho mình trở thành mong muốn. Chúng đã trở thành bạn đồng hành.

Kết quả? Mèo sinh sản nhanh. Chúng có nguồn thức ăn dồi dào, hoặc là thú cưng hoặc là những kẻ săn mồi cơ hội xung quanh nơi ở của con người. Chúng đối mặt với rất ít kẻ săn mồi nghiêm trọng. Chúng ở khắp mọi nơi con người ở.

Và lại, điều này không phải là một lựa chọn mà chúng đã thực hiện. Đó không phải là một chiến lược. Đó chỉ là cách áp lực tiến hóa đã diễn ra. Nhưng kết quả thật đáng kinh ngạc: thay vì chống lại kẻ săn mồi đỉnh cao, hoặc cho kẻ săn mồi đỉnh cao ăn, chúng đã bạn với kẻ săn mồi đỉnh cao.

Điều này liên quan đến Trí tuệ nhân tạo như thế nào

Vậy tại sao bất kỳ điều gì trong số này lại quan trọng?

Sự xuất hiện của các mô hình như Anthropic’s Mythos và Project Glass Wing là, tôi sẽ lập luận, tương đương với ngày con người đến Úc. Ngoài ra, thời gian đã bị nén đáng kể. Những gì đã diễn ra trong nhiều thế hệ trên lục địa này sẽ xảy ra trong vài năm – có thể ít hơn.

Hiện tại có rất nhiều bài viết về cách các đội ngũ bảo mật nên phản ứng với mối đe dọa của việc tấn công bằng trí tuệ nhân tạo. Tôi nghĩ rằng cách định khung này là một sai lầm. Điều này không phải là một vấn đề bảo mật chính. Đó là một vấn đề kỹ thuật.

Điều đang thay đổi là: trước làn sóng trí tuệ nhân tạo mới này, cả những người tấn công và những người phòng thủ đều hoạt động trong một thế giới có mức độ rủi ro tương đối hạn chế. Các cuộc tấn công đã xảy ra. Các vụ vi phạm đã xảy ra. Nhưng tốc độ và sự tinh vi bị giới hạn bởi khả năng của con người. Điều đó đã thay đổi cơ bản. Bây giờ có các mô hình trí tuệ nhân tạo được thiết kế đặc biệt để tự động tìm và khai thác các điểm yếu, ở quy mô lớn, mà không có mệt mỏi.

Hầu hết các đội ngũ phát triển là wombat khổng lồ trong câu chuyện này. Họ đã sống trong một môi trường mà đúng, có những mối đe dọa, nhưng không có gì giống như điều này. Họ đã xây dựng các hệ thống mà là tương đối an toàn chống lại áp lực mà họ thực sự đối mặt. Họ chưa từng gặp bất cứ điều gì giống như điều đang đến.

Điều đó sắp thay đổi.

Ba lựa chọn – và tại sao chỉ một trong số chúng hoạt động

Khi mối đe dọa mới này đến, các tổ chức sẽ có hiệu quả ba lựa chọn:

1. Trở thành wombat. Không thích nghi. Bị xóa bỏ. Điều này sẽ xảy ra với nhiều công ty. Một số sẽ không bao giờ trở lại.
2. Trở thành gà. Trở nên phản ứng, vội vàng vá mỗi điểm yếu mới khi nó xuất hiện. Đây là cách tiếp cận “kéo ra ngọn giáo và điều trị vết thương”. Nó tốt hơn là không có gì, nhưng khi có 45 ngọn giáo đang bay về phía bạn từ mọi hướng, kỹ năng đó sẽ không cứu bạn. Bạn vẫn là thức ăn; bạn chỉ chậm hơn một chút để đến bàn.
3. Trở thành mèo. Thay đổi cơ bản mối quan hệ của bạn với mối đe dọa. Sử dụng trí tuệ nhân tạo để bảo vệ chống lại trí tuệ nhân tạo. Nhúng bảo mật vào kỹ thuật từ đầu. Thiết kế hệ thống với giả định rằng vi phạm – không phải hy vọng ngăn chặn nó.

Mục tiêu không phải là thuê thêm các nhà phân tích bảo mật để tuần tra chu vi. Đó là cố gắng bảo vệ voi trên savannah. Nó không thể mở rộng chống lại loại mối đe dọa này. Mục tiêu là thiết kế lại savannah.

Trở thành mèo thực sự trông như thế nào

Điều này không phải là công việc bề mặt. Nó không phải là chạy một máy quét bảo mật trí tuệ nhân tạo trên cơ sở mã của bạn mỗi quý. Nó đòi hỏi phải suy nghĩ lại cách phát triển được thực hiện.

Thực tế, điều đó có nghĩa là những điều như:

• Cơ sở mã đơn giản hơn, dễ lý luận và kiểm toán
• Kéo từ các thư viện có tư thế bảo mật được biết và kiểm chứng
• Xây dựng cơ sở hạ tầng trên giả định rằng vi phạm là một khi, không phải nếu – và làm cho việc di chuyển ngang trở nên khó khăn nhất có thể một khi một tác nhân xấu đã ở bên trong
• Bạn của kẻ săn mồi bằng cách tận dụng nó giống như kẻ tấn công. Các mô hình trí tuệ nhân tạo có thể khuếch đại các đội kỹ thuật và bảo mật để phát triển các biện pháp phòng thủ của họ và đi trước đường cong.

Các công ty được thành lập vào ngày mai có một tờ giấy sạch. Họ có thể xây dựng theo cách này từ ngày đầu tiên. Các công ty đã tồn tại, với khách hàng, với dữ liệu nhạy cảm, với hệ thống trực tiếp, không có sự sang trọng đó. Họ phải bắt đầu chuyển đổi ngay bây giờ.

Đề xuất hành động

Anthropic đã nói điều này chính họ: sẽ có một sự tính toán. Sẽ có sự gián đoạn kinh tế và xã hội từ các cuộc tấn công được kích hoạt bởi trí tuệ nhân tạo. Một số công ty sẽ không tồn tại. Họ sẽ bị xâm phạm bởi những người sử dụng các công cụ này và họ sẽ không bao giờ phục hồi hoàn toàn. Điều đó sẽ xảy ra.

Vì vậy, đây là thông điệp: bắt đầu từ bây giờ.

Kỹ thuật và bảo mật cần phải ngồi trong cùng một phòng. Đi qua cảnh quan mối đe dọa cùng nhau. Xây dựng một con đường chia sẻ. Một nơi mà công việc chính được thực hiện bởi các đội kỹ thuật và thiết kế, được xác nhận bởi bảo mật, không phải ngược lại. Bảo mật không thể dẫn đầu điều này. Bảo mật có thể kiểm tra công việc. Nhưng sự thay đổi cơ bản phải đến từ những người xây dựng các hệ thống.

Các công ty bắt đầu quá trình này ngày hôm nay sẽ không phải tất cả đều thành công. Nhưng họ sẽ thiết lập các điều kiện để tồn tại. Và trong môi trường đang đến, đó là điều tốt nhất bất kỳ chúng ta có thể làm.

Trở thành mèo.