Bản Đồ và Đường Ray: Xây Dựng Kiến Trúc An Toàn cho Trí Tuệ Nhân Tạo Doanh Nghiệp

Phần một kết thúc với một tuyên bố: trí tuệ nhân tạo doanh nghiệp sẽ thành công khi các tổ chức học cách xây dựng vòng lặp chính nó. Bài viết này là về những gì vòng lặp đứng trên. Một tác nhân làm việc trong một công ty thực cần hai điều mà công ty gần như chắc chắn không có ngày hôm nay: một bản đồ của công việc, và đường ray cho các hậu quả.

Bản Đồ

Đây là một thực tế khó chịu dưới hầu hết các chương trình trí tuệ nhân tạo bị đình trệ: công ty không thể đưa cho tác nhân một mô tả về công việc của chính mình, vì không có mô tả như vậy tồn tại. Hầu hết các công ty đã đã lập bản đồ các danh từ — cơ sở dữ liệu đầy đủ các khách hàng, hóa đơn, yêu cầu, hợp đồng. Nhưng hầu như không có công ty nào đã lập bản đồ công việc: những gì có thể được thực hiện với những thứ đó, bởi ai, dưới những điều kiện nào, và những gì xảy ra sau đó. Kiến thức đó sống trong đầu của những người có kinh nghiệm và trong một biểu đồ quá trình mô tả cách công việc được thiết kế năm năm trước, không phải cách nó chạy ngày hôm nay.

Một nhân viên mới được tuyển dụng đóng khoảng trống đó bằng cách học việc — xem, thử, hỏi. Một tác nhân không học theo cách đó. Nó cần công việc được viết ra: những thứ mà doanh nghiệp xử lý và nơi mỗi thứ đứng, công việc được thực hiện trên chúng, quyết định chọn đường đi, ai được phép di chuyển chúng tiếp, và những gì xảy ra khi họ làm — hồ sơ thay đổi, sự chấp thuận nó cần, cách nó được hoàn trả — bản mô tả được viết ra là bản đồ.

Ba quy tắc giữ cho bản đồ sống. Nó phải được viết bởi những người sở hữu công việc và được đảm bảo an toàn bởi các kỹ sư — một bản đồ chỉ các kỹ sư có thể cập nhật sẽ trở nên cũ, và một bản đồ chỉ các vận hành viên có thể chỉnh sửa sẽ trở nên không an toàn. Nó phải được phiên bản, vì một tác nhân không bao giờ nên hành động chống lại ý nghĩa đã thay đổi im lặng. Và nó phải được xuất bản — có thể đọc được bởi tác nhân, người xem xét, và người kiểm toán. Nếu một tác nhân phải khám phá doanh nghiệp của bạn bằng cách khâu lại các cuộc gọi API, bạn đã暴露 các hệ thống, không phải mô tả công việc. API là cách thức thực hiện. Bản đồ là cách công việc được hiểu.

Bản đồ quan trọng vì một lý do vượt qua mọi chu kỳ sản phẩm: tác nhân không phải là tài sản bền vững. Bản đồ là. Các mô hình sẽ được cải thiện và thay thế, khung tác nhân sẽ đến và đi — và mô tả công việc của bạn, với các quy tắc và ngoại lệ và sửa chữa tích lũy, là những gì mọi tác nhân tương lai kế thừa vào ngày đầu tiên.

Đường Ray

Bản đồ nói về những gì có thể xảy ra. Đường ray là những gì làm cho nó xảy ra chính xác.

Một số công việc mà tác nhân chạm vào là phán quyết: đọc email lộn xộn, cân nhắc ngoại lệ, đề xuất đường đi. Nhưng hầu hết công việc là lặp lại — kiểm tra giống nhau, cập nhật giống nhau, đăng giống nhau, hàng nghìn lần. Lặp lại không cần trí tuệ. Nó cần phải chính xác. Một mô hình là xác suất theo thiết kế, và đối với thực hiện, có thể đúng là sai: một bài đăng thanh toán không có biến thể chấp nhận được, bất kể mô hình tốt như thế nào. Công việc ổn định thuộc về đường ray — tự động hóa quyết định chạy giống nhau mọi lúc, không tốn kém cho mỗi lần chạy, và để lại một hồ sơ kiểm toán sạch.

Đây là nơi hai đường cong đang phân kỳ. Xây dựng đường ray đang trở nên dễ dàng hơn, vì mô tả công việc, tạo mã, viết thử nghiệm, và sửa chữa đường dẫn bị hỏng là chính xác loại công việc trí tuệ nhân tạo tăng tốc. Triển khai tác nhân tự do bên trong quá trình có hậu quả không trở nên dễ dàng với tốc độ tương tự, vì tác nhân càng gần hành động, càng cần ranh giới, bằng chứng, chấp thuận, kiểm toán, và chủ sở hữu. Hậu quả là khó, và nó vẫn khó. Vì vậy, hãy để tác nhân khám phá, và hãy để chúng giúp các đội của bạn học công việc — sau đó di chuyển mỗi đường dẫn lên đường ray càng sớm càng tốt khi nó ngừng thay đổi. Đừng để công việc ổn định, có khối lượng lớn bên trong vòng lặp xác suất vì tác nhân đang thời thượng.

Quản Lý Theo Hậu Quả

Với bản đồ và đường ray ở vị trí, một câu hỏi còn lại trước khi tác nhân chạm vào công việc thực: tác nhân nên được phép làm gì? Thói quen của ngành là trả lời theo thuật ngữ ống nước — tác nhân “sử dụng công cụ” — như thể tìm kiếm chính sách, tính toán biến thể, soạn thảo thư, chấp thuận hóa đơn, và trả tiền là một loại công việc. Chúng không phải như vậy. Một mô hình tìm kiếm chính sách không giống như một mô hình từ chối yêu cầu. Một mô hình tính toán số lượng không giống như một mô hình trả tiền. Đọc thông tin, đưa ra quyết định, chuẩn bị hành động, thay đổi hồ sơ, và di chuyển tiền là các loại công việc khác nhau, và sự khác biệt là hậu quả: những gì nó chi phí cho công ty khi bước đi sai.

Quản lý nên theo sau sự khác biệt đó, không phải theo ống nước. Công việc chỉ đọc cần kiểm soát truy cập. Công việc đề xuất cần một người thực sự quyết định. Công việc thay đổi hồ sơ cần phép, hồ sơ kiểm toán, cách hoàn trả, và chủ sở hữu được đặt tên. Công việc di chuyển tiền cần tất cả những điều đó, cộng với đảm bảo rằng một thay đổi không hoàn thành không thể để lại công ty trong một trạng thái đơn giản là sai. Quản lý theo hậu quả và sử dụng an toàn trí tuệ nhân tạo mở ra nhanh chóng; quản lý mọi thứ theo cùng một cách, và bạn sẽ nhận được sự tê liệt hoặc một sự cố.

Tin Cậy Được Kiếm Được Bởi Công Việc

Sự khác biệt đó cũng là cách tin cậy phát triển. Với bản đồ và đường ray, tin cậy ngừng trở thành cảm giác về mô hình và trở thành thuộc tính của công việc. Một công việc — một phần mô tả được, với cổng từ phần một — kiếm được phép một bước tại một thời điểm, leo lên cùng một sự khác biệt: đầu tiên nó chỉ soạn thảo, sau đó nó có thể đề xuất, sau đó nó có thể chuẩn bị hành động mà một người phê duyệt, sau đó nó có thể thực hiện các trường hợp thông thường và chuyển các trường hợp ngoại lệ, và cuối cùng nó chạy dưới kiểm toán, với người theo dõi kết quả thay vì nhấp vào mọi trường hợp.

Mỗi bước lên được kiếm được với bằng chứng từ cổng — các quyết định được kiểm tra, các sửa chữa, các lý do — và mỗi bước xuống được tự động khi hiệu suất giảm. Một mô hình tốt hơn không kiếm được quyền hành động.

Đừng thăng tiến mô hình. Thăng tiến công việc.

Bắt Đầu Với Một Công Việc

Không có gì trong số này yêu cầu một chương trình toàn doanh nghiệp, và nó không nên bắt đầu như một chương trình như vậy. Chọn một công việc có hậu quả với khối lượng thực, chi phí lỗi thực, và một chủ sở hữu muốn sửa nó. Lập bản đồ công việc đó. Đặt các bước ổn định của nó lên đường ray. Thiết lập cổng của nó. Sau đó kiểm tra mô tả chống lại chín câu hỏi đơn giản:

• Những đối tượng kinh doanh nào đang di chuyển?
• Nơi nào mỗi đối tượng đang đứng ngay bây giờ?
• Công việc gì đang được thực hiện?
• Quyết định gì chọn đường đi tiếp theo?
• Những gì xảy ra nếu điều này được chấp thuận?
• Những gì có thể được tác nhân sử dụng?
• Những gì chạy tự động?
• Ai đề xuất, ai phê duyệt, ai thực hiện, ai chịu trách nhiệm?
• Nếu có gì đó đi sai, những gì thay đổi trước lần chạy tiếp theo?

Nếu những người sở hữu công việc có thể trả lời những câu hỏi đó cho một công việc, một tác nhân có thể làm việc bên trong nó an toàn — đề xuất, được xác thực, và để đường ray thực hiện. Nếu họ không thể, không có chất lượng mô hình nào sẽ cứu được việc triển khai.

Những thất bại cũng dễ nhận biết như mô hình. Một chatbot có quyền truy cập vào các hệ thống nhạy cảm nhưng không có bản đồ công việc. Một lớp thu hồi có thể trả lời các câu hỏi chính sách nhưng không thể hiển thị nguồn chính sách. Một tác nhân có thể chấp thuận công việc nhưng không thể nói ai sở hữu sự chấp thuận. Một người xem xét thấy đề xuất nhưng không thấy hậu quả của việc chấp thuận. Một công việc được thăng tiến lên tự chủ vì mô hình được cải thiện, không phải vì công việc kiếm được tin cậy.

Bản đồ, đường ray, và cổng: đó là kiến trúc. Câu hỏi còn lại là làm thế nào để xây dựng nó trong một công việc — và đó là phần ba.