Khủng hoảng bộ nhớ của Trí tuệ nhân tạo: Chúng ta đang xây dựng một Thời đại Tối tăm Số

Hàng triệu tác nhân Trí tuệ nhân tạo đang được đưa vào các hệ thống sản xuất. Gần như không có tác nhân nào có thể chia sẻ kinh nghiệm hoạt động. Đây là lý do tại sao sự lựa chọn kiến trúc đó lại quan trọng — và những gì thay đổi nếu chúng ta làm đúng.

Vào lúc 2:06 chiều, một khách hàng đặt hàng trực tuyến cho một chiếc laptop.

Tác nhân thanh toán truy vấn cơ sở dữ liệu hoạt động của nó: lịch sử mua hàng sạch, số tiền trong phạm vi bình thường, địa chỉ giao hàng đã được sử dụng trước đó, thiết bị và vị trí nhất quán với các đơn hàng thành công gần đây. Mọi thứ看起来 bình thường. Tác nhân phê duyệt đơn hàng.

Vào cùng thời điểm, một tác nhân hành vi xử lý dữ liệu clickstream trong nhà kho dữ liệu của công ty. Từ phiên, nó suy ra một mẫu: người dùng đến trực tiếp trên một URL thanh toán sâu mà không có hành vi duyệt hoặc so sánh. Tín hiệu này là yếu trên riêng nó, nhưng nó là một tiền thân được biết đến trong các kịch bản chiếm tài khoản khi kết hợp với các mua hàng bình thường khác.

Tác nhân hành vi ghi lại sự giải thích này như kiến thức được suy ra để phân tích và đào tạo mô hình sau này.

Tác nhân thanh toán không bao giờ nhìn thấy nó. Không phải vì tín hiệu không được tính toán, và không phải vì nó bị bỏ qua — mà vì kiến thức sống trong một hệ thống mà tác nhân thanh toán không tham khảo trong quá trình ủy quyền.

Mỗi tác nhân hành động đúng cách khi xem xét những gì nó có thể thấy. Mỗi tác nhân viết kết luận của nó vào hệ thống mà nó sở hữu, và những kết luận đó vẫn vô hình với các tác nhân khác hoạt động song song. Các quyết định là chính xác ở địa phương, nhưng không đầy đủ trên toàn cầu.

Chiếc laptop được gửi đi.

Ba mươi sáu giờ sau, khoản phí bị tranh chấp. Điều tra xác nhận rằng tài khoản đã bị xâm phạm vào cùng ngày đó. Kẻ tấn công giữ giao dịch trong phạm vi bình thường, dựa vào việc tín hiệu cảnh báo sớm chỉ tồn tại như kiến thức hành vi bị mắc kẹt ngoài ngữ cảnh quyết định của tác nhân thanh toán.

Sự thất bại không phải là do thiếu dữ liệu, xử lý chậm, hoặc một mô hình kém. Đó là một tác nhân bị cô lập: kiến thức được hình thành, nhưng không được chia sẻ.

Và điều này暴露 một vấn đề mà gần như không ai đang nói đến. Chúng ta đã xây dựng các kiến trúc mà các tác nhân Trí tuệ nhân tạo đưa ra quyết định không thể truy cập những gì các tác nhân Trí tuệ nhân tạo khác đã khám phá.

Vấn đề mà Máy in đã giải quyết

Trước khi có máy in, kiến thức là mong manh. Khi một học giả chết, nhiều kiến thức mà họ đã học cũng chết cùng họ. Một nhà toán học ở London có thể dành nhiều thập kỷ để khám phá các nguyên tắc mà một nhà toán học ở Paris sẽ khám phá độc lập năm mươi năm sau. Tiến bộ là thực, nhưng nó là địa phương, chậm, và lặp lại nhiều lần.

Máy in không làm cho các cá nhân trở nên thông minh hơn. Nó externalized bộ nhớ. Kiến thức không còn bị ràng buộc vào một tâm trí duy nhất và bắt đầu tồn tại vượt qua cuộc đời của người tạo ra nó. Các ý tưởng có thể được chia sẻ, tái khám phá, và xây dựng dựa trên các thế hệ. Đó là điều cho phép tiến bộ tích lũy.

Chúng ta đang có nguy cơ lặp lại sai lầm trước khi có máy in với Trí tuệ nhân tạo.

Hầu hết các tổ chức hiện đang triển khai các tác nhân Trí tuệ nhân tạo trên các hệ thống sản xuất, với nhiều tổ chức khác đang tích cực thử nghiệm trong các lĩnh vực như hỗ trợ khách hàng, phát triển phần mềm, nghiên cứu, và phát hiện gian lận. Các tác nhân này thường được triển khai như các dịch vụ độc lập phù hợp với các kiến trúc microservice hiện đại, mỗi tác nhân có dữ liệu và ranh giới hoạt động của riêng nó. Ngay cả trong cùng một tổ chức, các tác nhân suy ra kiến thức từ kinh nghiệm hoạt động của riêng chúng, nhưng hiếm khi chia sẻ kiến thức mà chúng tạo ra với các tác nhân khác đưa ra quyết định liên quan.

Kết quả là kiến thức hoạt động vẫn còn phân mảnh. Các quyết định địa phương có thể được cải thiện, nhưng kinh nghiệm không tích lũy trên toàn hệ thống. Mỗi đột phá mà vẫn bị mắc kẹt trong một tác nhân là một đột phá mà không thể tích lũy.

Lần này, yếu tố hạn chế không phải là trí thông minh hay tốc độ. Đó là bộ nhớ. Không có cách nào để các hệ thống Trí tuệ nhân tạo externalize và chia sẻ những gì chúng khám phá, tiến bộ sẽ reset nhiều hơn là tích lũy.

Chia sẻ Bộ nhớ Thực sự trông như thế nào

Cửa sổ ngữ cảnh lớn hơn có thể làm giàu lý lẽ cá nhân, nhưng chúng không tạo ra kinh nghiệm chia sẻ, vĩnh cửu trên các tác nhân.

Chia sẻ bộ nhớ thay đổi kết quả không bằng cách cải thiện các mô hình, mà bằng cách thay đổi những gì các tác nhân có thể thấy vào thời điểm quyết định.

Trong một hệ thống bị cô lập, mỗi tác nhân lý lẽ đúng trong ranh giới của riêng nó. Tác nhân thanh toán đánh giá rủi ro giao dịch. Tác nhân hành vi phân tích mẫu clickstream. Mỗi tác nhân viết kết luận của nó vào hệ thống mà nó sở hữu, và những kết luận đó vẫn vô hình với các tác nhân khác hoạt động song song. Các quyết định là chính xác ở địa phương, nhưng không đầy đủ trên toàn cầu.

Với một lớp bộ nhớ chia sẻ, ranh giới đó biến mất.

Khi tác nhân hành vi xử lý một phiên, nó suy ra một tín hiệu yếu nhưng có ý nghĩa: một mẫu điều hướng liên quan đến các nỗ lực chiếm tài khoản sớm. Thay vì lưu trữ tín hiệu đó chỉ cho phân tích ngoại tuyến, nó viết tín hiệu vào bộ nhớ chia sẻ, liên kết với phiên hoạt động.

Trong vài khoảnh khắc sau, khi tác nhân thanh toán đánh giá mua hàng, nó truy vấn bộ nhớ đó. Giao dịch vẫn trông bình thường. Nhưng nó hiện thấy thêm ngữ cảnh: một cảnh báo hành vi mà nếu không sẽ vắng mặt. Không tín hiệu nào là quyết định trên riêng nó. Cùng nhau, chúng vượt qua ngưỡng cho xác minh thêm.

Không có gì thay đổi về các tác nhân themselves. Không có mô hình nào được đào tạo lại. Không có bộ điều khiển trung tâm can thiệp. Sự khác biệt là tính khả dụng: một ý tưởng được hình thành bởi một tác nhân trở nên có sẵn cho một tác nhân khác trong khi nó vẫn quan trọng.

Quan trọng là, ý tưởng đó vẫn tồn tại. Khi kết quả sau này được biết — gian lận hoặc hợp pháp — sự liên kết giữa tín hiệu và kết quả được ghi lại. Theo thời gian, hệ thống tích lũy một hồ sơ thực nghiệm về những chỉ số yếu nào có xu hướng quan trọng, và dưới những điều kiện nào. Các quyết định trong tương lai được thông tin bởi kinh nghiệm mà vượt qua bất kỳ tương tác hoặc tác nhân đơn lẻ nào.

Chia sẻ bộ nhớ không phải là một kho dữ liệu và không phải là một cơ sở dữ liệu hoạt động. Nó là một lớp hạ tầng có độ trễ thấp cho ngữ cảnh được suy ra: tín hiệu, giải thích, và liên kết tồn tại sau tương tác tạo ra chúng và vẫn có thể được truy vấn bởi các tác nhân khác đưa ra quyết định liên quan.

Đây là cách kinh nghiệm tích lũy — không phải bên trong bất kỳ mô hình nào, mà trên toàn hệ thống.

Sự trao đổi Kiến trúc đằng sau Các Tác nhân Cô lập

Các tác nhân cô lập không phải là một lỗi triển khai. Chúng là kết quả có thể dự đoán của các kiến trúc doanh nghiệp được thiết kế xung quanh một loại người tiêu dùng khác.

Trong nhiều thập kỷ, các hệ thống sản xuất đã tách biệt các khối lượng công việc theo chức năng. Các hệ thống hoạt động được tối ưu hóa cho các giao dịch có độ trễ thấp, nhất quán, trong khi các hệ thống phân tích được tối ưu hóa cho việc tổng hợp quy mô lớn và khám phá mẫu lịch sử (OLTP so với OLAP). Sự tách biệt này phản ánh cách thức kiến thức được tiêu thụ: các kết quả phân tích được sản xuất cho con người, không phải máy, và do đó được mong đợi đến không đồng bộ và ngoài đường tới quyết định.

Các tác nhân Trí tuệ nhân tạo kế thừa sự tách biệt kiến trúc này, nhưng chúng không phù hợp với nó.

Kết quả không chỉ là sự chậm trễ của kiến thức, mà còn là điểm mù cấu trúc. Các ý tưởng được sản xuất trong các hệ thống phân tích được khám phá sau khi các quyết định thời gian thực đã được thực hiện. Các tín hiệu có thể thay đổi kết quả tồn tại, nhưng không thể được hiển thị tại thời điểm quyết định vì chúng sống trong các hệ thống không được thiết kế để được truy vấn liên tục bởi các nhà quyết định tự động.

Kiến trúc không bị hỏng. Nó không phù hợp với các yêu cầu của các hệ thống tự động.

Điscipline Thiếu sót: Kỹ thuật Ngữ cảnh

Chia sẻ bộ nhớ giới thiệu một vấn đề mà hầu hết các đội không được chuẩn bị để giải quyết: quyết định kinh nghiệm nào nên tồn tại.

Các hệ thống Trí tuệ nhân tạo tạo ra một lượng lớn kinh nghiệm thô — giao dịch, click, tin nhắn, hành động, kết quả. Việc duy trì tất cả chúng là không thực tế và không hữu ích. Không có sự lựa chọn cẩn thận, bộ nhớ chia sẻ trở nên ồn ào. Thử thách không phải là thu thập thêm dữ liệu, mà là định hình kinh nghiệm thành ngữ cảnh mà các tác nhân khác có thể sử dụng.

Đây là vai trò của kỹ thuật ngữ cảnh.

Kỹ thuật ngữ cảnh là kỷ luật của việc quyết định những quan sát nào trở thành tín hiệu bền, cách những tín hiệu đó được đại diện, và khi nào chúng nên được hiển thị cho các tác nhân khác. Nó nằm giữa các sự kiện thô và lý lẽ của tác nhân, biến đổi hoạt động tạm thời thành hiểu biết chung, có liên quan đến quyết định.

Trong thực tế, điều này có nghĩa là nâng cao các mẫu, chỉ số, và liên kết có điều kiện trong khi cho phép hầu hết kinh nghiệm thô biến mất. Một tín hiệu yếu hoặc trường hợp ngoại lệ có thể không quan trọng khi cô lập, nhưng trở nên có giá trị khi tích lũy và hiển thị tại đúng thời điểm.

Kỹ thuật ngữ cảnh quyết định liệu bộ nhớ chia sẻ chỉ lưu trữ kinh nghiệm — hay cho phép nó tích lũy.

Điều gì Xảy ra Nếu Chúng ta Làm Đúng

Đây không phải là một mối quan tâm trong tương lai. Đây là một quyết định kiến trúc đang được thực hiện — thường là ngầm — bởi các đội cơ sở hạ tầng ngày nay.

Con đường mặc định là cô lập. Các tác nhân Trí tuệ nhân tạo hành động độc lập, chỉ dựa trên kinh nghiệm của riêng chúng. Mỗi tác nhân đưa ra quyết định nhanh, chính xác ở địa phương, nhưng trí thông minh đạt đến cực hạn. Các trường hợp ngoại lệ giống nhau lặp lại, các tín hiệu yếu được khám phá lại, và các thất bại lặp lại với tốc độ và khối lượng lớn hơn.

Alternatif là một lớp bộ nhớ chia sẻ.

Khi ngữ cảnh được suy ra tồn tại và có thể nhìn thấy tại thời điểm quyết định, kinh nghiệm ngừng bốc hơi. Các ý tưởng được khám phá một lần vẫn có sẵn. Các tín hiệu yếu có được ý nghĩa thông qua tích lũy. Các quyết định được cải thiện không phải vì các mô hình thay đổi, mà vì các tác nhân không còn lý lẽ trong cô lập.

Điều này không yêu cầu các mô hình lớn hơn, đào tạo lại thời gian thực, hoặc kiểm soát tập trung. Nó yêu cầu đối xử với bộ nhớ như một lớp kiến trúc hạng nhất — được thiết kế cho độ trễ thấp, sự tồn tại, và tính khả dụng chia sẻ.

Các mặc định kiến trúc cứng lại nhanh chóng. Các hệ thống được xây dựng mà không có bộ nhớ chia sẻ trở nên ngày càng khó khăn để cải tạo khi các tác nhân tăng lên. Lựa chọn là đơn giản: xây dựng các hệ thống tích lũy kinh nghiệm — hoặc các hệ thống reset vô tận.

itectural layer—designed for low-latency access, persistence, and shared visibility. Architectural defaults harden quickly. Systems built without shared memory become increasingly difficult to retrofit as agents proliferate. The choice is simple: build systems that accumulate experience—or systems that endlessly reset.