Hiến pháp cho Doanh nghiệp Mới: 15 Quy tắc cho Quản trị AI

Những bài viết này được cho là về kiến trúc. Đọc lại chúng và nhận thấy chúng thực sự đã làm gì: chúng liên tục đưa ra các quy tắc. Phê duyệt không phải là dữ liệu; xác minh là dữ liệu. Quản trị dựa trên hậu quả. Đừng quảng bá mô hình; hãy quảng bá quy trình làm việc. Một hậu quả không làm thay đổi lần chạy tiếp theo chỉ là một sự cố, không phải là học hỏi. Các quy tắc được nêu thẳng thừng không phải là lời khuyên. Chúng là các điều khoản. Và ở đâu đó trong bài viết, kết luận không còn là tùy chọn: một doanh nghiệp muốn vận hành bằng AI cần một hiến pháp.

Các phòng thí nghiệm AI đã đưa ra kết luận này trước chúng ta. Anthropic đã viết một hiến pháp cho các mô hình của mình — một tuyên bố rõ ràng về các nguyên tắc mà hệ thống được đào tạo để tuân thủ — dựa trên một lý thuyết áp dụng rộng hơn việc đào tạo mô hình: hướng dẫn không tồn tại trong bất kỳ tài liệu nào sẽ không tồn tại ở đâu. Bây giờ hãy nhìn vào các doanh nghiệp triển khai những mô hình đó. Hầu hết có các dự án thí điểm, một chính sách rải rác trong các đánh giá bảo mật, và những bản năng được mang theo bởi người đã tham dự buổi giới thiệu nhà cung cấp cuối cùng. Các mô hình có các nguyên tắc được viết ra. Các tổ chức vận hành chúng thì không.

Tại sao lại là một hiến pháp, chứ không phải một chính sách khác? Một chính sách được viết cho một công nghệ, và công nghệ này thay đổi mỗi quý; một hiến pháp được viết cho một tổ chức, và nêu rõ những gì vẫn giữ nguyên trong khi mọi thứ bên dưới thay đổi. Các chính sách nhân lên cho đến khi không ai có thể nắm giữ chúng; một hiến pháp ngắn gọn đủ để một quản lý có thể mang theo vào cuộc họp. Và một hiến pháp cho phép sửa đổi — công khai, dựa trên bằng chứng — trong khi chính sách chỉ tích lũy.

Vì vậy đây là của tôi: mười lăm điều khoản, chia thành ba phần. Chỉ có các tuyên bố — lý do đằng sau mỗi điều và các phản đối mạnh mẽ nhất đối với mỗi điều — xứng đáng có không gian hơn một bài luận cho phép. Tôi đang công bố chúng ngay bây giờ, trước bản dài hơn, chính xác để mọi người có thể tranh luận về chúng.

I. Cách công việc vận hành

Điều khoản 1. Kết quả là đơn vị giá trị. Một chương trình AI được đánh giá dựa trên những gì xảy ra với công việc: nhanh hơn, ít lỗi hơn, chi phí thấp hơn, giảm nỗ lực của con người, và kiểm soát bền vững. Đếm những yếu tố này. Đừng đếm các tác nhân đã triển khai.

Điều khoản 2. AI đề xuất, con người quyết định, tự động hoá thực thi. Các tác nhân đọc ngữ cảnh, xử lý biến thể, thu thập bằng chứng và chuẩn bị. Con người nắm giữ các quyết định mang lại hậu quả, và trách nhiệm đi kèm. Tự động hoá thực hiện thay đổi đã được phê duyệt.

Điều khoản 3. Đừng tiêu tốn trí tuệ vào công việc không cần thiết. Bất cứ công việc nào có thể được ghi chép và kiểm tra, sẽ được thực hiện bằng tự động hoá — không có mô hình trong vòng, không phải trả phí mỗi lần chạy, kết quả luôn giống nhau. Mô hình chỉ được dành cho việc phán đoán, ngôn ngữ và biến thể.

Điều khoản 4. Điều phối giữ cho công việc gắn kết. Công việc bao gồm con người, tác nhân, tự động hoá và hệ thống được điều phối bởi một cấu trúc được công bố, chịu trách nhiệm về tiến trình, trạng thái và khôi phục. Khi con đường đã biết, hãy công bố nó. Giữ tự do tìm mục tiêu cho những kết quả thực sự vượt qua các con đường — và ràng buộc chặt chẽ nhất tại chỗ đó.

Điều khoản 5. Quyền hạn được công việc kiếm được, không bao giờ được cấp cho mô hình. Một tác nhân có thể hỗ trợ bất kỳ ai dựa trên ngữ cảnh được cung cấp. Nó chỉ nhận được quyền thực tế đối với công việc mà nó đã được cung cấp ngữ cảnh để hiểu — được mô tả, giới hạn, với các ràng buộc bằng văn bản — và chỉ khi bằng chứng tích lũy. Quyền hạn sẽ tự động thu hẹp khi hiệu suất giảm.

Điều khoản 6. Thiết kế cho nhà máy ngoại lệ. Con đường suôn sẻ là những gì biểu đồ quy trình hiển thị; các ngoại lệ là nơi công ty thực sự tồn tại. Một thiết kế chỉ xử lý con đường suôn sẻ sẽ tự động hoá 80% công việc dễ dàng và sụp đổ ở 20% còn lại, nơi chi phí tập trung. Việc leo thang, quay lại và khôi phục được quyết định trong giai đoạn thiết kế, không phải được phát hiện trong sản xuất.

II. Những gì tổ chức xây dựng và duy trì

Điều khoản 7. Xây dựng bản đồ và đường ray khi tiến hành. Mỗi triển khai AI nên để lại hai thứ: một bản đồ tốt hơn về cách công việc thực sự vận hành, và các tự động hoá cho những phần đã chứng minh ổn định. Cả hai nên được xây dựng cùng AI, đồng thời, ngay từ dự án đầu tiên — không phải là một chương trình riêng sau này.

Điều khoản 8. Ghi lại phán đoán, không phải cuộc trò chuyện. Mọi tương tác với mô hình đều gắn liền với công việc mà nó thuộc về — quy trình, trường hợp, quyết định — hoặc biến mất khi phiên kết thúc. Việc ghi lại bắt đầu từ lần ủy thác có giám sát đầu tiên, không phải từ tự chủ.

Điều khoản 9. Thuê mô hình; sở hữu bộ nhớ. Không bao giờ gắn bó với một mô hình duy nhất — hãy chuyển đổi dựa trên khả năng, chi phí và nơi dữ liệu của bạn cần lưu trữ, mà không phải viết lại công việc. Điều mà tổ chức sở hữu là bộ nhớ: bản đồ công việc, hồ sơ các quyết định và chỉnh sửa, và theo thời gian các mô hình được đào tạo trên công việc đã được xác thực của chính mình, trong phạm vi nội bộ.

Điều khoản 10. Việc học được quản trị, không tự sửa đổi. Bằng chứng đề xuất; một chủ sở hữu được chỉ định phê duyệt; không có gì trở nên hoạt động nếu không có sự phê duyệt đó. Hồ sơ quyết định chỉ được thêm mới.

III. Những gì xảy ra với con người

Điều khoản 11. Một chương trình, không phải hai. Việc áp dụng AI và chuyển đổi lực lượng lao động là cùng một chương trình. Mỗi quyết định triển khai là một quyết định về lực lượng lao động; mỗi quyết định về lực lượng lao động thay đổi những gì AI có thể thực hiện một cách an toàn.

Điều khoản 12. Giữ cả hai sổ sách. Sổ sách năng suất ghi lại những gì trở nên nhanh hơn và rẻ hơn. Sổ sách tổ chức ghi lại những gì đã mất, được bảo tồn hoặc được xây dựng lại: niềm tin, sự hướng dẫn, ký ức khách hàng, phán đoán dưới áp lực, văn hoá. Báo cáo cả hai.

Điều khoản 13. Thiết kế lại vai trò dựa trên công việc còn lại. Mỗi vai trò tạo ra hai kết quả: sản phẩm công việc có thể nhìn thấy, mà AI ngày càng tiếp nhận, và kết quả phát triển mà AI không thể — niềm tin được xây dựng theo thời gian, sự hướng dẫn, mối quan hệ khách hàng, phán đoán trong các trường hợp đặc biệt. Hãy thiết kế lại vai trò dựa trên yếu tố thứ hai trước khi loại bỏ chúng vì yếu tố thứ nhất.

Điều khoản 14. Tái xây dựng chương trình học việc một cách có chủ đích. Chương trình học việc cũ — các nhân viên trẻ học nghề bằng cách thực hiện công việc thường ngày — sẽ chết khi công việc thường ngày được giao cho máy móc. Hãy xây dựng sự thay thế một cách có chủ đích: bản đồ làm sân tập, các nhân viên cao cấp dạy phán đoán, nhân viên trẻ dạy tốc độ bản chất của máy móc. Đừng loại bỏ các nhân viên trẻ.

Điều khoản 15. Dân chủ hoá, không phải hỗn loạn. Những người sở hữu công việc tự tạo ra công việc của mình — ứng dụng, tự động hoá, tác nhân, nhiệm vụ ủy thác, chỉnh sửa bản đồ — bên trong rào chắn được tổ chức định nghĩa, và nền tảng của nó thực thi.

Điều khoản sửa đổi

Một hiến pháp không thể nêu ra những gì sẽ sửa đổi nó chỉ là một tín ngưỡng. Điều khoản 3 dựa trên một giới hạn mà tôi không mong nó bị phá vỡ — việc thực thi chính xác không có độ chênh lệch chấp nhận được ở bất kỳ khả năng mô hình nào. Các điều khoản 8 đến 10 dựa trên cách các tổ chức học hỏi và tự chịu trách nhiệm, điều này thay đổi chậm hơn bất kỳ công nghệ nào. Các điều khoản bị phơi bày nhất là các điều khoản về con người — không phải vì chúng yếu, mà vì áp lực bỏ qua chúng sẽ mạnh nhất ngay khi các số liệu quý thưởng cho phiên bản rỗng. Các sửa đổi sẽ được đạt được bằng bằng chứng, và được công khai.

Vì vậy, hãy tranh luận với nó. Cho tôi biết điều khoản nào trong tổ chức của bạn không thể ký, và lý do — sự phản đối đó chính là cuộc tranh luận mà tài liệu này muốn khởi động. Lý do đằng sau mỗi điều khoản, và những lập luận mạnh mẽ nhất phản đối chúng, sẽ được trình bày ở dạng dài hơn. Nhưng đừng chờ đợi: hãy đưa các quy tắc của tổ chức bạn vào một tài liệu ngắn — những gì nó sẽ luôn làm, và những gì nó sẽ không bao giờ làm — ký chúng, và sửa đổi chúng công khai khi bằng chứng yêu cầu. Khi công nghệ này ổn định — và nó sẽ ổn định — những tổ chức còn tồn tại sẽ là những tổ chức có thể nói, bằng văn bản, những gì chúng sẽ không làm và những gì chúng sẽ không bao giờ ngừng làm, trong khi mọi thứ khác thay đổi.