Lãnh đạo tư tưởng
Sự trỗi dậy của kỹ thuật điều phối AI

Điểm chínhMột nhóm ba người của OpenAI đã vận chuyển một triệu dòng mã thông qua Codex mà không…
Xem thêm
- Một nhóm ba người của OpenAI đã vận chuyển một triệu dòng mã thông qua Codex mà không viết bất kỳ dòng mã nào bằng tay.
- Kỹ thuật Điều phối AI (AI Orchestration Engineering) hợp nhất kiến trúc DevOps và chuyên môn AI thành một vai trò tập trung duy nhất.
- Các tổ chức tập trung hóa quy trình làm việc của tác nhân AI sẽ đạt thông lượng gấp 2 lần, trong khi những tổ chức khác sẽ chững lại ở mức tự động hoàn thành mã.
Kỹ sư 10x đã là một huyền thoại ở Thung Lũng Silicon trong nhiều thập kỷ. Một thiên tài đơn độc, đeo tai nghe, sản xuất code đẹp mắt với tốc độ siêu phàm. Chúng ta đã tranh luận về việc liệu họ có tồn tại, tranh cãi về cách thuê họ và âm thầm khó chịu với bất kỳ ai tuyên bố là một trong số họ.
Nhưng điều gì đó thú vị đã xảy ra trên đường đến tương lai đặt AI lên hàng đầu: kỹ sư 10x đã trở thành hiện thực. Họ chỉ trông không giống như chúng ta tưởng tượng.
OpenAI gần đây đã chia sẻ cách một đội ba người sử dụng Codex để bàn giao 1.500 pull request và khoảng một triệu dòng code, mà không viết một dòng code thủ công. Ba kỹ sư, và không có code viết tay. Một sản phẩm đang vận hành thực tế, được sử dụng bởi hàng trăm người dùng nội bộ.
Đó không phải là 10x; nó gần hơn với 100x. Và kỹ năng làm cho nó trở nên khả thi không phải là gõ nhanh hơn hoặc biết nhiều thuật toán hơn. Đó là xây dựng hệ thống làm cho các tác nhân AI trở nên hiệu quả: các quy trình làm việc, các cơ chế kiểm soát, các vòng lặp xác thực, các giao diện mà tác nhân kết nối vào và con người dùng để xem xét công việc.
Tôi tin rằng đây là sự xuất hiện của một chức năng chính mới trong các tổ chức kỹ thuật. Tôi sẽ gọi nó là Kỹ thuật Điều phối AI.
Ba lĩnh vực cùng bước vào cuộc họp standup
Nếu bạn nhìn vào những gì một kỹ sư điều phối AI thực sự làm, bạn sẽ nhận ra ba lĩnh vực quen thuộc được kết hợp thành một.
Nguyên liệu rõ ràng nhất là DevOps. DevOps tập trung hóa quy trình triển khai. Một đội cấu hình các quy trình làm việc CI/CD mà mọi kỹ sư sử dụng khi bàn giao mã. Kỹ thuật Điều phối AI làm điều tương tự, nhưng cho các quy trình làm việc của tác nhân. Nó định nghĩa cách các nhiệm vụ được giao cho các tác nhân, cách đầu ra được xác thực, cách cơ chế thử lại và phương án dự phòng hoạt động. Đó là cơ sở hạ tầng chung mà các tác nhân chạy trên đó.
Rồi có kiến trúc, chồng chéo với DevOps hơn bạn tưởng. Các kiến trúc sư quyết định những giao diện nào được khóa, những mẫu nào được bắt buộc tuân thủ, những ranh giới nào không thể vượt qua. Trong một thế giới lấy tác nhân làm trung tâm, điều này quan trọng hơn. Các tác nhân cần các cơ sở mã gọn gàng, được lập tài liệu đầy đủ, với các hợp đồng rõ ràng. Kỹ sư điều phối AI xác định những ràng buộc này, không chỉ cho khả năng đọc của con người, mà còn cho khả năng hiểu của tác nhân. Một kho mã lộn xộn không chỉ là nợ kỹ thuật nữa. Đó là trần hiệu suất cho mọi tác nhân chạm vào nó.
Phần ít được hiểu rõ nhất là lớp chuyên biệt cho AI. Kỹ thuật thiết kế prompt, quản lý ngữ cảnh, chọn mô hình, cấu hình tác nhân. Hôm nay, hầu hết các kỹ sư làm điều này theo cách phân tán, từng nhiệm vụ một. Mỗi người tự quyết định phong cách viết prompt của mình, thiết lập tác nhân của mình, cách giải quyết vấn đề của mình. Kỹ sư điều phối AI tập trung hóa công việc này. Họ xây dựng các cẩm nang thực hành dùng chung, các cấu hình có thể tái sử dụng, kiến thức của tổ chức về những gì hoạt động và những gì không hoạt động trên các mô hình và trường hợp sử dụng.
Riêng biệt, ba chức năng này tồn tại trong hầu hết các tổ chức kỹ thuật ngày nay. Lập luận ở đây là kết hợp chúng thành một vai trò tập trung, thống nhất tạo ra điều gì đó khác biệt về chất lượng.
Phép ẩn dụ về showrunner
Một đạo diễn phim không vận hành máy quay, không diễn trong các cảnh, không chỉnh sửa cảnh quay. Nhưng mọi khung hình phản ánh quyết định của họ.
Họ chọn bố cục cảnh, nhịp độ, giọng điệu. Họ quyết định khi nào nên đẩy gần và khi nào nên kéo xa. Họ thiết lập môi trường (ánh sáng, thiết kế bối cảnh, bố trí vị trí và chuyển động của diễn viên) để mọi người trên phim trường có thể làm việc tốt nhất trong một tầm nhìn nhất quán. Đoàn làm phim có tài năng cá nhân, nhưng không có sự phối hợp này, bạn sẽ có một mớ hỗn độn không bao giờ được hoàn thành để bàn giao.
Kỹ thuật Điều phối AI hoạt động theo cách tương tự. Các tác nhân có khả năng. Các mô hình mạnh mẽ. Nhưng không có ai thiết kế hệ thống phối hợp chúng, định nghĩa các ràng buộc, xây dựng các vòng lặp phản hồi, cấu trúc các quy trình làm việc, bạn sẽ có những gì chúng ta đã trải qua: đầu ra không nhất quán, lãng phí tính toán, các tác nhân làm việc cản trở lẫn nhau, và các kỹ sư dành nhiều thời gian hơn để sửa lỗi code do AI tạo ra so với thời gian họ cần để tự viết mã.
Đạo diễn làm cho bộ phim trở nên lớn hơn tổng các phần. Kỹ sư điều phối AI cũng làm như vậy cho đội tác nhân.
Tại Sao Hầu Hết Tổ Chức Đầu Tư Thiếu
Đây là những gì tôi thấy trên toàn ngành: các công ty đang đầu tư rất nhiều vào các công cụ AI nhưng đầu tư còn quá ít vào các hệ thống xung quanh chúng.
Các kỹ sư có quyền truy cập vào Copilot, Claude, Codex. Họ thử nghiệm cá nhân. Một số trở thành người dùng thành thạo. Hầu hết chững lại ở giai đoạn “tự động hoàn thành phức tạp”. 20% lợi ích về năng suất mà các nghiên cứu liên tục báo cáo? Đó là triệu chứng của việc áp dụng công cụ mà không có tư duy hệ thống.
Các tổ chức vượt qua được ngưỡng này, những tổ chức báo cáo khối lượng công việc hoàn tất tăng gấp đôi hoặc hơn, có một điểm chung. Họ đã tập trung hóa công việc điều phối. Một người (hoặc một đội) sở hữu các quy trình làm việc của tác nhân, sự chuẩn bị của kho mã, cơ sở hạ tầng xác thực, ngữ cảnh chung mà mọi tác nhân đều có thể truy cập.
Vai Trò Trông Như Thế Nào
Công việc hàng ngày của một kỹ sư điều phối AI có thể bao gồm:
- Thiết kế quy trình làm việc của tác nhân: định nghĩa cách một yêu cầu tính năng trở thành một thông số kỹ thuật, trở thành một kế hoạch, trở thành các nhiệm vụ song song của tác nhân, trở thành mã được xem xét và hợp nhất.
- Xây dựng cơ sở hạ tầng xác thực: các thử nghiệm tự động, các quy tắc linting, các đợt quét bảo mật và các khuôn khổ đánh giá mà các tác nhân phải vượt qua trước khi công việc của chúng được hợp nhất.
- Duy trì sức khỏe của kho mã để tác nhân sử dụng: tài liệu, giao diện rõ ràng, quản lý phụ thuộc và đơn giản hóa cơ sở mã, tất cả được tối ưu hóa cho sự hiểu biết của tác nhân, không chỉ khả năng đọc của con người.
- Tập trung hóa các chiến lược prompt và ngữ cảnh: các prompt hệ thống được chia sẻ, các quy trình truy xuất thông tin, các quyết định định tuyến mô hình và các mẫu cấu hình mà toàn đội sử dụng.
- Theo dõi và cải thiện hiệu suất của tác nhân: theo dõi tỷ lệ thành công, các dạng thất bại, chi phí mỗi nhiệm vụ và thời gian hợp nhất trên toàn đội tác nhân, sau đó điều chỉnh hệ thống dựa trên dữ liệu.
Người này ngồi ở giao điểm của kỹ thuật nền tảng, kiến trúc phần mềm và chuyên môn AI. Họ không viết các tính năng. Họ xây dựng hệ thống làm cho việc bàn giao tính năng trở nên nhanh chóng, đáng tin cậy và có thể mở rộng.
Mô hình phát triển trong lịch sử
Trong những ngày đầu của điện toán đám mây, việc triển khai là nhiệm vụ phụ của mọi kỹ sư. Mỗi đội có các tập lệnh của riêng họ, các cấu hình máy chủ của riêng họ, cách riêng để đưa mã vào môi trường vận hành thực tế. DevOps xuất hiện để tập trung hóa công việc này, và Kỹ Thuật Nền Tảng đã tiến hóa để xây dựng nó thành cơ sở hạ tầng tự phục vụ được chia sẻ.
AI đang đi theo cùng một quỹ đạo. Hiện tại, việc sử dụng tác nhân là nhiệm vụ phụ của mọi kỹ sư. Mỗi người có phong cách viết prompt riêng, sở thích công cụ riêng, cách nhìn nhận riêng về khi nào AI giúp đỡ và khi nào không. Các tổ chức tập trung hóa công việc này, coi nó là cơ sở hạ tầng chứ không phải là thí nghiệm cá nhân, sẽ vượt lên dẫn đầu theo cách tương tự như các tổ chức có thực hành DevOps trưởng thành đã vượt qua những tổ chức không có.
Sự khác biệt là tốc độ. Chuyển đổi DevOps mất một thập kỷ. Sự chuyển đổi này có thể chỉ mất vài quý, mặc dù tôi thừa nhận rằng dự đoán này giả định rằng các tổ chức nhận ra mô hình này nhanh hơn so với thông thường.
Con Đường Tiếp Theo
Nếu bạn là một nhà lãnh đạo kỹ thuật, đây là những gì tôi đề xuất, mặc dù kết quả của bạn sẽ khác nhau tùy thuộc vào mức độ tiến bộ của đội bạn.
- Xác định ai đang làm công việc này một cách không chính thức. Mỗi tổ chức đều có một người đã tìm ra các quy trình làm việc của tác nhân, người mà các kỹ sư khác đến để được tư vấn về cách viết prompt hoặc thiết lập công cụ. Người đó là kỹ sư điều phối AI ở dạng sơ khai của bạn.
- Làm cho nó rõ ràng. Đặt tên cho chức năng này, trao thẩm quyền và cấp nguồn lực. Đừng để nó vẫn là một dự án phụ gắn liền với “công việc thực sự” của ai đó.
- Bắt đầu với sự sẵn sàng của kho mã. Trước khi đầu tư vào các quy trình làm việc phức tạp cho tác nhân, hãy đảm bảo rằng cơ sở mã của bạn là thứ mà các tác nhân thực sự có thể điều hướng. Các giao diện sạch sẽ, tài liệu tốt, các thử nghiệm toàn diện, kiến trúc đơn giản.
- Tập trung hóa những gì hoạt động. Khi ai đó phát hiện ra một chiến lược prompt hoặc mẫu quy trình làm việc cải thiện đáng kể đầu ra của tác nhân, hãy ghi lại. Hãy làm cho nó trở thành mặc định cho toàn đội, không phải là kiến thức ngầm chỉ nằm trong đầu một người.
- Đo lường ở mức hệ thống. Đừng chỉ theo dõi việc sử dụng công cụ cá nhân. Theo dõi số lượng nhiệm vụ mà các tác nhân hoàn thành từ đầu đến cuối, tỷ lệ xem xét và làm lại ra sao, các nút thắt nằm ở đâu.
10x Mới
Huyền thoại về kỹ sư 10x luôn là về anh hùng cá nhân. Một người, vượt trội so với mọi người khác thông qua tài năng và caffeine thuần túy.
Hiện thực của kỹ sư 10x trong kỷ nguyên AI là về tư duy hệ thống. Người xây dựng hệ thống đúng, các quy trình làm việc đúng, các ràng buộc đúng, làm cho mọi kỹ sư khác (và mọi tác nhân) trở nên hiệu quả hơn.
Họ không viết 10 lần lượng code. Họ xây dựng hệ thống viết ra lượng mã đó.
Tôi không chắc chắn vai trò này sẽ kết tinh chính xác như tôi đã mô tả nó ở đây. Nhưng tôi khá chắc chắn rằng các tổ chức tìm ra cách tổ chức lớp điều phối (dù họ gọi nó là gì) sẽ là những tổ chức thực sự đạt được lợi ích về năng suất mà mọi người khác chỉ đang nói đến.












