Các tác nhân AI đang biến đổi các hệ thống đề xuất quy mô lớn và AI

Các hệ thống đề xuất quy mô lớn đang trở nên khó cải thiện hơn vì chúng không còn hoạt động như các mô hình riêng biệt. Các hệ thống đề xuất hiện đại thường bao gồm hàng trăm mô hình kết nối, đường ống dữ liệu, lớp xếp hạng, hệ thống giám sát và quy tắc kinh doanh. Mỗi thành phần có thể tối ưu hóa một tín hiệu khác nhau, nhưng toàn bộ hệ thống được kỳ vọng sẽ cải thiện các kết quả kinh doanh rộng lớn hơn như doanh thu, mua hàng, tương tác hoặc sự hài lòng của người dùng cuối.

Giai đoạn tiếp theo của tiến bộ tập trung vào các tác nhân trí tuệ nhân tạo (AI) có thể hấp thụ nhiều ngữ cảnh hệ thống hơn, giảm ma sát phát triển và dần dần đảm nhận nhiều trách nhiệm hơn. Sự thay đổi này không chỉ là về tự động hóa. Nó là về các hệ thống đề xuất có thể giám sát, chẩn đoán, sửa chữa và cải thiện bản thân với ít can thiệp của con người hơn.

Các hệ thống đề xuất quy mô lớn chậm trong việc phát triển

Chu kỳ phát triển là nút thắt chính trong các hệ thống đề xuất quy mô lớn. Một thay đổi duy nhất có thể đi qua nhiều lớp trước khi nó tạo ra một kết quả có thể đo lường được. Một mô hình có thể ảnh hưởng đến việc tạo ra ứng viên, một mô hình khác có thể ảnh hưởng đến xếp hạng và một mô hình khác có thể tối ưu hóa tương tác, chuyển đổi hoặc doanh thu. Những mô hình này thường thuộc về các đội khác nhau với chu kỳ triển khai độc lập, tạo ra các phụ thuộc ẩn khiến việc phối hợp trở nên khó khăn.

Sự phức tạp này cũng làm cho việc gỡ lỗi trở nên khó khăn hơn. Khi hiệu suất giảm, nguyên nhân gốc rễ có thể không nằm trong mô hình mà hiển thị sự suy giảm. Một thay đổi ở phía上游 có thể ảnh hưởng đến xếp hạng ở phía dưới游 hoặc một sự thay đổi trong hành vi của người dùng có thể thay đổi phân phối dữ liệu cho nhiều mô hình cùng một lúc. Các công việc kỹ thuật gần đây đã phản ánh sự quan tâm ngày càng tăng đến các hệ thống có thể lý luận trên các ngữ cảnh kỹ thuật rộng lớn hơn và hỗ trợ các vòng cải thiện tự động hơn, củng cố trường hợp cho các tác nhân AI trong không gian này.

Các tác nhân AI cung cấp một con đường để lặp lại nhanh hơn

Các tác nhân AI có thể giảm gánh nặng của việc hiểu các hệ thống kết nối lớn mà làm chậm các đội kỹ sư. Một kỹ sư mới có thể mất vài tháng để hiểu một chồng đề xuất lớn. Với tài liệu phù hợp, telemetry, thí nghiệm, đường mã, và nhật ký, một hệ thống AI có thể xử lý ngữ cảnh hệ thống rộng lớn hơn nhiều lần.

Điều này không có nghĩa là các tác nhân đã sẵn sàng để sở hữu các hệ thống đề xuất quy mô lớn từ đầu đến cuối. Các mô hình hiện tại vẫn còn những hạn chế về niềm tin. Chúng có thể ảo giác, bỏ qua các phụ thuộc hoặc đưa ra các giả định không chính xác khi ngữ cảnh không đầy đủ. Các trường hợp sử dụng mạnh mẽ nhất là hẹp hơn: phát hiện suy giảm, tóm tắt kết quả thí nghiệm, so sánh hành vi mô hình, đề xuất các bản sửa lỗi hạn chế hoặc xác thực các thay đổi so với một mục tiêu đã biết.

Tầm nhìn dài hạn là tham vọng hơn. Nhiều tác nhân có thể làm việc trên từng phân khúc dọc cụ thể: chất lượng dữ liệu, giám sát tính năng, hiệu suất xếp hạng, phân tích thí nghiệm, phát hiện suy giảm hoặc chi phí cơ sở hạ tầng. Một tác nhân cấp cao hơn có thể sau đó phối hợp các tín hiệu này và xác định cách một mô hình thất bại hoặc cải thiện ảnh hưởng đến hệ thống đề xuất rộng lớn hơn. Các nỗ lực nghiên cứu về các nhà khoa học AI minh họa cách các hệ thống AI đang bắt đầu khám phá các quy trình nghiên cứu và cải thiện lặp lại.

Sự áp dụng an toàn phụ thuộc vào việc thực hiện có giới hạn, xác thực và tự chủ dần dần

Các quy trình làm việc đề xuất tự động trở nên đáng tin cậy hơn khi các tác nhân hoạt động trong các ranh giới rõ ràng. Thay vì cấp cho một tác nhân quyền truy cập không giới hạn vào các hệ thống sản xuất, các đội có thể giới hạn nó trong các công cụ, quy trình làm việc, môi trường thử nghiệm, bảng điều khiển, mẫu thí nghiệm và thủ tục hồi quy đã được phê duyệt. Điều này giảm thiểu rủi ro của các thay đổi không ổn định, chi phí tăng vọt hoặc lý luận vòng tròn.

Một mô hình tự chủ thực tế có thể bao gồm:

• Thực hiện có giới hạn. Các tác nhân hoạt động thông qua các công cụ, quyền và quy trình làm việc đã được phê duyệt thay vì truy cập sản xuất không giới hạn.
• Phát triển xác thực trước. Mỗi nhiệm vụ bao gồm một điểm bắt đầu được định nghĩa, một kết quả có thể đo lường được và các thử nghiệm tự động để xác nhận tiến độ.
• Truyền giao dựa trên mức độ quan trọng. Các hệ thống có rủi ro thấp trở thành các ứng viên đầu tiên cho việc thực hiện tác nhân, trong khi các khu vực có tác động cao hơn vẫn giữ lại việc xem xét của con người.
• Phối hợp tăng dần. Các tác nhân con đáng tin cậy có thể sau đó được kết nối vào các quy trình làm việc rộng lớn hơn một lần mỗi thành phần hoạt động nhất quán.

Cách tiếp cận này ưa chuộng các chiến thắng nhỏ, có thể đo lường được trước khi sở hữu hệ thống rộng lớn hơn. Nghiên cứu kỹ thuật về các tác nhân tự động chỉ ra tầm quan trọng của các môi trường có cấu trúc, phân chia nhiệm vụ và xác thực khi các tác nhân thực hiện công việc kỹ thuật phức tạp. Trong các hệ thống đề xuất, những nguyên tắc đó được chuyển thành thử nghiệm có kiểm soát trước khi phối hợp tác nhân rộng lớn hơn.

Các tổ chức cần có sự kết hợp đúng về nhân tài, mô hình hoạt động và các biện pháp hiệu suất

Các tác nhân AI không loại bỏ giá trị của các kỹ sư có kinh nghiệm. Chúng tăng giá trị của các kỹ sư có thể sử dụng AI một cách hiệu quả. Hồ sơ mạnh nhất kết hợp kiến thức chuyên môn sâu với khả năng tận dụng AI cho phân tích, thí nghiệm và triển khai nhanh hơn.

Hai nhóm nhân tài trở nên đặc biệt quan trọng. Các chuyên gia cơ sở hạ tầng xây dựng khung xung quanh các tác nhân: công cụ, hàng rào, quy trình làm việc, quyền, khả năng quan sát và môi trường thực hiện. Các nhà nghiên cứu học máy (ML) hướng dẫn logic tối ưu hóa, chiến lược mô hình và hướng thuật toán. Cùng nhau, các nhóm này tạo ra điều kiện cho các tác nhân hoạt động một cách sản xuất mà không trở thành một hệ thống dễ vỡ khác mà con người phải duy trì liên tục.

Việc đo lường hiệu suất cũng thay đổi. Các chỉ số có thể được sắp xếp thành một hệ thống phân cấp. Ở trên cùng là các kết quả kinh doanh chậm như doanh thu, mua hàng, chuyển đổi hoặc khối lượng giao dịch. Dưới chúng là các chỉ số dẫn đầu, chẳng hạn như nhấp chuột, lượt xem, cuộn qua, thời gian xem hoặc độ sâu phiên. Ở cấp độ tác nhân, các đội có thể theo dõi độ chính xác của nhiệm vụ, tỷ lệ thành công, tỷ lệ thất bại, thời gian hoàn thành và số lượng vòng tương tác. Các chỉ số cấp độ tác nhân này trở nên có ý nghĩa khi chúng kết nối lại với tác động kinh doanh.

Chiến thắng các hạn chế của mô hình

Tương lai của các hệ thống đề xuất tự cải thiện phụ thuộc vào ba tiến bộ cấp độ mô hình: giảm tỷ lệ ảo giác, tăng kích thước cửa sổ ngữ cảnh có thể sử dụng và tăng cường lý luận. Các ảo giác làm suy yếu niềm tin vào các quyết định tự động. Các hạn chế ngữ cảnh hạn chế khả năng của tác nhân để hiểu toàn bộ hệ thống. Các khoảng trống trong lý luận làm cho nó khó khăn hơn để kết nối một thay đổi trong một mô hình với một kết quả trong một mô hình khác, giảm tiến bộ của hệ thống rộng lớn hơn.

Nếu những hạn chế đó được cải thiện, các tác nhân có thể chuyển từ tối ưu hóa các nhiệm vụ hẹp đến hiểu hành vi của toàn bộ hệ thống, bao gồm phát hiện suy giảm, xác định nguyên nhân có thể, thử nghiệm các bản sửa lỗi, giám sát kết quả và đề xuất con đường tối ưu hóa tiếp theo. Nghiên cứu về các hệ thống tự cải thiện và các hệ thống tác nhân phản ánh phong trào kỹ thuật rộng lớn hơn hướng tới các hệ thống AI có thể tham gia vào các vòng cải thiện lặp lại.

Con đường đến trí tuệ vòng kín

Các hệ thống đề xuất tự cải thiện đại diện cho bước tiếp theo sau tự động hóa AI cơ bản. Bản đồ đường đi bắt đầu với các nhiệm vụ tác nhân có giới hạn, hàng rào mạnh, xác thực dẫn dắt và phán quyết của con người tại các điểm kiểm soát đúng. Theo thời gian, các chiến thắng tự động nhỏ có thể tích lũy thành quyền sở hữu hệ thống rộng lớn hơn, kết nối thực hiện sớm với tự chủ sau này.

Khi các khả năng mô hình cải thiện, các tổ chức có thể di chuyển gần hơn đến các hệ thống đề xuất có thể giám sát, sửa chữa và tối ưu hóa bản thân trong khi vẫn giữ nguyên với các chỉ số kinh doanh có ý nghĩa. Mục tiêu là AI không chỉ giảm thiểu nỗ lực kỹ sư mà còn giúp duy trì hiệu suất của các hệ thống mà nó hỗ trợ, kết nối tiến bộ kỹ thuật với kết quả kinh doanh.