Tại sao tất cả các công ty cần một biểu đồ kiến thức trong kỷ nguyên AI

AI đã tăng tốc đáng kể sự phát triển phần mềm, nhưng nó hầu như không thay đổi cách các tổ chức phần mềm hoạt động. Sự không phù hợp này đang trở thành ràng buộc lớn nhất đối với AI doanh nghiệp.

Trong nhiều năm, các nhóm kỹ sư cần nhiều tài nguyên hơn để theo kịp nhu cầu. Ngày nay, các nhóm nhỏ sử dụng AI để tạo mã, kiểm tra và tăng tốc đường đi từ ý tưởng đến triển khai. Các nhà phát triển rõ ràng đang giao mã nhanh hơn, nhưng liệu điều này có nhất quán chuyển thành kết quả tốt hơn vẫn còn mờ hồ.

Tốc độ này tạo ra một nút thắt mới: thuế phối hợp. AI đã tăng tốc thực hiện nhanh hơn nhiều so với cải thiện cách các tổ chức phối hợp công việc của họ. Chia sẻ ngữ cảnh, ưu tiên, ra quyết định vận hành, báo cáo trạng thái và sắp xếp chức năng chéo vẫn còn chủ yếu là thủ công, ngay cả khi phát triển tăng tốc.

Atlassian ước tính chi phí脱 kết này khiến các công ty Fortune 500 mất khoảng 161 tỷ đô la mỗi năm. Nghiên cứu cũng cho thấy rằng trong khi 89% các giám đốc điều hành cho biết AI đã tăng tốc công việc, chỉ 6% có thể chỉ ra kết quả đo lường được trên toàn tổ chức.

Đầu ra nhanh hơn không tự động tạo ra một tổ chức thông minh hơn. Chỉ 17% người dùng đồng ý rằng các tác nhân đã cải thiện sự hợp tác trong nhóm của họ, khiến nó trở thành tác động được đánh giá thấp nhất, để lại vòng lặp phối hợp bị ngắt.

Xây dựng lại ngữ cảnh trên mỗi truy vấn là một khoản thuế khổng lồ

Trong khi một bản demo phát triển mạnh khi sử dụng các nguồn dữ liệu sạch, được kiểm soát, thì môi trường sản xuất lại đưa ra một thách thức: thông tin mơ hồ, lỗi thời và mâu thuẫn được phân tán trên các hệ thống không kết nối. Khi đối mặt với những khoảng trống này, một mô hình ngôn ngữ lớn làm những gì nó được thiết kế để làm: nó dự đoán câu trả lời có khả năng tiếp theo nhất. Điều gì trông giống như lý do trong một bản demo được kiểm soát nhanh chóng trở thành việc đoán tự tin với dữ liệu sản xuất thực sự.

Ngành công nghiệp đã bắt đầu đặt tên cho vấn đề này. “Kỹ thuật ngữ cảnh” đã xuất hiện như một lĩnh vực tập trung vào việc thiết kế thông tin, mối quan hệ, quản lý và chất lượng quyết định liệu AI doanh nghiệp có thành công hay không. Yếu tố hạn chế thường không còn là mô hình bản thân, mà là chất lượng của ngữ cảnh xung quanh nó.

Mỗi lần một hệ thống AI xây dựng lại ngữ cảnh từ đầu, nó phải trả một khoản thuế. Các phản hồi chậm, chi phí token tăng và niềm tin bị xói mòn khi các câu trả lời khác nhau tùy thuộc vào những mảnh kiến thức tổ chức nào được truy xuất. Hai tác nhân AI có thể trả lời cùng một câu hỏi khác nhau vì mỗi tác nhân xây dựng ngữ cảnh từ một lát cắt khác nhau của kiến thức tổ chức.

Hầu hết các tổ chức đã sở hữu kiến thức mà các hệ thống AI của họ cần. Vấn đề là kiến thức này bị phân mảnh trên các vé, kho lưu trữ, tài liệu, cuộc trò chuyện và công cụ lập kế hoạch. Do đó, mỗi lần tương tác bắt đầu bằng việc xây dựng lại ngữ cảnh tổ chức trước khi mô hình có thể bắt đầu suy luận, lặp lại quá trình tốn kém này với mỗi câu hỏi mới.

Truy cập không phải là kiến thức

Một câu hỏi phổ biến là liệu các cửa sổ ngữ cảnh lớn hơn, tìm kiếm tốt hơn hoặc truy xuất cải tiến sẽ giải quyết vấn đề này.

Giao thức ngữ cảnh mô hình giải quyết một vấn đề tích hợp thực sự bằng cách cung cấp cho các tác nhân một cách tiêu chuẩn hóa để truy cập các hệ thống nơi thông tin doanh nghiệp tồn tại. Nhưng truy cập không phải là hiểu. Việc cấp quyền truy cập cho một tác nhân vào một tá hệ thống không giải thích quyết định nào đã thay thế quyết định nào khác, tại sao một yêu cầu đã thay đổi, liệu một tài liệu có còn được ủy quyền hay không, hoặc cách một cuộc trò chuyện của khách hàng cuối cùng đã ảnh hưởng đến những gì đã được vận chuyển. Không có một lớp logic được cấu trúc và xác minh, điều này chỉ cung cấp một tá cơ hội khác để gặp phải các chi tiết mâu thuẫn.

Hầu hết các hệ thống AI doanh nghiệp vẫn giả định rằng ngữ cảnh nên được xây dựng từ đầu mỗi khi ai đó hỏi một câu hỏi. Cách tiếp cận này có thể trả lời các câu hỏi cô lập, nhưng nó gặp khó khăn trong việc hỗ trợ sự suy luận liên tục cần thiết để vận hành một doanh nghiệp. Các nhà lãnh đạo vẫn phải dành hàng giờ mỗi tuần để ráp lại các câu trả lời cho các câu hỏi mà lẽ ra đã tồn tại trong tổ chức:

• Điều gì đã thay đổi?
• Tại sao ưu tiên này đã thay đổi?
• Liệu bản đồ đường vẫn còn chính xác?
• Chúng ta có đang giải quyết vấn đề đúng không?

Đây là nơi một biểu đồ kiến thức kiếm được vị trí của nó. Một biểu đồ lưu trữ các thực thể và mối quan hệ của chúng, cung cấp cơ sở để bảo tồn bộ nhớ tổ chức. Trong một tổ chức phần mềm, những thực thể này có thể bao gồm khách hàng, tính năng, yêu cầu, quyết định, vé, kho lưu trữ, yêu cầu kéo, phát hành và người dùng.

Thay vì truy xuất một bộ sưu tập các đoạn văn bản chứa các từ tương tự, một tác nhân có thể theo dõi các kết nối từ một quyết định đến yêu cầu đã kích hoạt nó, vé đã thực hiện nó, yêu cầu kéo đã thay đổi nó và phản hồi của khách hàng đã thách thức nó sau đó.

Biểu đồ kiến thức vượt ra ngoài việc chỉ là một cách khác để tổ chức dữ liệu. Thay vì xây dựng lại ngữ cảnh từ các hệ thống không kết nối, AI có thể suy luận từ một sự hiểu biết liên tục về cách tổ chức thực sự hoạt động.

Kết quả là một AI có thể suy luận từ các quyết định, cuộc trò chuyện và bằng chứng, chứ không phải xây dựng lại sự hiểu biết từ đầu với mỗi lời nhắc.

Cấu trúc alone không đủ

Xây dựng biểu đồ một lần là khó, và giữ cho nó chính xác là còn khó hơn. Trong một tổ chức chuyển động nhanh, vé thay đổi, kế hoạch thay đổi, mã được vận chuyển, trách nhiệm di chuyển và phản hồi của khách hàng thay đổi ưu tiên. Điều đó có nghĩa là bộ nhớ tổ chức phải cập nhật khi thực tế thay đổi và liên kết lại mỗi thay đổi với nguồn của nó.

Trong khi 82% các nhà phát triển báo cáo rằng AI giúp họ mã hóa nhanh hơn và 71% nói rằng nó cải thiện khả năng giải quyết các vấn đề phức tạp, thì tốc độ này đi kèm với một điều kiện: 96% các nhà phát triển thiếu sự tự tin hoàn toàn rằng mã kết quả là chính xác về mặt chức năng.

Mỗi事 thực mà một tác nhân đưa cho bạn nên truy xuất lại nguồn của nó: commit, vé, luồng. Nếu một hệ thống AI cho một nhà lãnh đạo biết rằng một bản phát hành đang trên đúng tiến độ nhưng không thể hiển thị các tín hiệu đằng sau kết luận đó, một nhà lãnh đạo giàu kinh nghiệm nên do dự khi hành động trên nó.

Tôi đã thấy các nhóm từ bỏ các công cụ tạo ra các câu trả lời hợp lý vì người dùng không thể xác minh làm thế nào những câu trả lời đó được đưa ra. Tôi cũng đã thấy các nhóm tiếp tục sử dụng các hệ thống ít tinh vi hơn vì những hệ thống đó hiển thị công việc của họ. Một bản tóm tắt tự tin với không có hóa đơn chỉ là một cách nhanh hơn để sai, và một khi một công cụ đốt một nhà lãnh đạo với một câu trả lời không có nguồn, niềm tin không trở lại. Việc kết nối mỗi yêu cầu với nguồn của nó biến “tin tôi” thành “đây là lý do”.

Độ chính xác cũng quan trọng với cùng lý do. Khi một hệ thống liên tục theo dõi mối quan hệ giữa kế hoạch và thực tế, khoảng cách giữa những gì một nhóm đã quyết định và những gì thực sự được vận chuyển trở thành một sự trôi dạt có thể nhìn thấy được thay vì bị hấp thụ một cách im lặng vào một câu trả lời tự tin nhưng lỗi thời. Điều này không phải là một mối quan tâm bên lề. Thoughtworks đã đánh dấu sự trôi dạt của mã là một mối nguy hiểm cụ thể cho các tác nhân AI. Nó nhấn mạnh nhu cầu về các vòng lặp xác minh và các cơ chế phản hồi giúp các hệ thống phát hiện và sửa chữa các sai lệch khi công việc tiến triển. Sự trôi dạt mà một tổ chức có thể nhìn thấy là thông tin hữu ích. Sự trôi dạt vẫn còn ẩn là cách một hệ thống AI bắt đầu đánh lừa những người đã tin tưởng nó.

Điều gì cần hỏi trước dự án tác nhân tiếp theo

Khi đánh giá một sáng kiến tác nhân doanh nghiệp, tôi sẽ bắt đầu với bốn câu hỏi:

• Liệu hệ thống có duy trì một biểu diễn ngữ cảnh được tối ưu hóa của nó theo thời gian, hay nó chỉ cung cấp cho AI quyền truy cập vào các nguồn dữ liệu hiện có?
• Liệu mỗi câu trả lời có được truy xuất lại nguồn cụ thể, chẳng hạn như vé hoặc tài liệu?
• Liệu hệ thống có cập nhật tự động khi thông tin của tổ chức thay đổi?
• Liệu tác nhân có hiểu mối quan hệ giữa các điểm dữ liệu hay không, thay vì chỉ có quyền truy cập vào chúng?

Các mô hình nền sẽ tiếp tục cải thiện. Khả năng suy luận sẽ trở nên mạnh mẽ hơn, cửa sổ ngữ cảnh sẽ tăng và những tiến bộ này sẽ trở nên ngày càng có sẵn cho mọi người. Điều không thể bị đồng hóa là sự hiểu biết của tổ chức.

Hơn một nửa số CEO báo cáo thấy rất ít hoặc không có lợi nhuận hoặc lợi ích tiết kiệm từ AI trong năm qua. Tôi sẽ đặt cược rằng hầu hết trong số họ đang bỏ lỡ lớp ngữ cảnh cho phép các mô hình này suy luận trên những gì tổ chức đã biết.

Khi phần mềm trở nên dễ tạo ra một cách đáng kể, sự hiểu biết trở thành tài nguyên khan hiếm. Những người tạo ra giá trị nhất từ AI là những người tốt hơn trong việc bảo tồn, kết nối và liên tục học hỏi từ kiến thức tổ chức. Đó là sự khác biệt giữa AI mà đoán và AI mà biết.