Chi Phí Ẩn Của Trí Tuệ Nhân Tạo Lớn Nhất Không Phải Là Máy Tính. Đó Là Con Người.

Mọi người đều đang nói về chi phí của trí tuệ nhân tạo. Thông thường họ đang nói về GPU, giấy phép mô hình, hoặc tiêu thụ token. Tôi nghĩ họ đang nhìn vào sai nơi.

Chi phí lớn nhất của trí tuệ nhân tạo doanh nghiệp có thể sẽ là những người cần thiết để giám sát nó.

Một nghiên cứu gần đây cho thấy nhân viên tiết kiệm khoảng 11 giờ mỗi tuần khi sử dụng trí tuệ nhân tạo, nhưng lại dành hơn sáu giờ để kiểm tra đầu ra, sửa lỗi, thêm ngữ cảnh缺失 và đảm bảo kết quả thực sự có thể sử dụng được. Một người đã đặt ra thuật ngữ “botsitting” cho nó. Đó là một tên gọi hấp dẫn, nhưng nó chỉ ra một vấn đề lớn hơn.

Trí tuệ nhân tạo được cho là sẽ giảm công việc. Thay vào đó, nhiều tổ chức đang tạo ra một loại công việc hoàn toàn mới xung quanh việc quản lý trí tuệ nhân tạo. Đó không phải là một vấn đề công nghệ. Đó là một vấn đề mô hình hoạt động.

Một Phần Tiếp Theo Nhanh Hơn Của Thời Đại SaaS

Tôi đã xem bộ phim này trước.

15 năm trước, các tổ chức đã chấp nhận SaaS vì nó làm cho phần mềm dễ mua và dễ triển khai hơn. Các đơn vị kinh doanh có thể giải quyết vấn đề mà không cần chờ đợi bộ phận IT. Năng suất tăng lên. Đổi mới được đẩy nhanh. Sau đó, Shadow IT đã xuất hiện.

Bỗng nhiên không ai biết có bao nhiêu ứng dụng nhân viên đang sử dụng, dữ liệu công ty được lưu trữ ở đâu, hoặc ai có quyền truy cập vào nó. Bộ phận IT vẫn chịu trách nhiệm, nhưng nó không còn có tầm nhìn hoặc kiểm soát. Trí tuệ nhân tạo cảm thấy tương tự như vậy, nhưng sự khác biệt là tốc độ.

Một ứng dụng SaaS có thể暴露 một số hệ thống; một tác nhân trí tuệ nhân tạo có thể kết nối với hàng chục hệ thống trong ngày đầu tiên. Nó có thể đọc tài liệu, tóm tắt hợp đồng, tạo mã, cập nhật hồ sơ và kích hoạt quy trình làm việc trước khi hầu hết các tổ chức thậm chí đã ghi lại sự tồn tại của nó.

Công nghệ đang di chuyển nhanh hơn mô hình hoạt động được xây dựng để quản lý nó.

Đó là lý do tại sao tôi không ngạc nhiên khi nghiên cứu gần đây của IBM cho thấy rằng hai phần ba CIO và CTO chịu trách nhiệm về các hệ thống trí tuệ nhân tạo mà họ không hoàn toàn kiểm soát. Hầu hết những người trả lời cũng cho biết rằng trí tuệ nhân tạo đang lan rộng nhanh hơn so với quản lý có thể theo kịp. Điều đó không phải vì CIO đã trở nên kém có khả năng hơn. Đó là vì trí tuệ nhân tạo không phù hợp hoàn hảo với các mô hình sở hữu truyền thống.

Bảo mật sở hữu rủi ro.
Pháp lý sở hữu tuân thủ.
Các nhà phát triển xây dựng tích hợp.
Các đơn vị kinh doanh sở hữu kết quả.
Các nhà cung cấp kiểm soát các phần của cơ sở hạ tầng cơ bản.

Trong khi đó, trí tuệ nhân tạo cắt ngang tất cả chúng. Khi có điều gì đó sai, mọi người đều sở hữu một phần của câu trả lời, nhưng không ai nhất thiết phải sở hữu toàn bộ hệ thống. Điều đó tạo ra một khoảng trống, và các tổ chức gần như luôn luôn lấp đầy khoảng trống đó bằng người.

Người nào đó xem xét các báo cáo được tạo bởi trí tuệ nhân tạo trước khi chúng được gửi đến khách hàng.
Người nào đó kiểm tra mã được viết bởi trí tuệ nhân tạo trước khi nó được triển khai.
Người nào đó xác minh các khuyến nghị trước khi quyết định được đưa ra.
Người nào đó điều tra hành vi không mong muốn.

Một số giám sát như vậy chính xác là những gì chúng ta muốn. Trí tuệ nhân tạo không nên hoạt động mà không có sự phán quyết của con người, đặc biệt là trong các ngành được quản lý hoặc môi trường có hậu quả cao. Vấn đề là khi con người trở thành phương tiện kiểm soát chính.

Từ Chatbot Đến Các Tác Nhân Tự Động

Hãy nghĩ về những gì xảy ra khi các tổ chức vượt qua chatbot.

Hôm nay, một trợ lý trí tuệ nhân tạo giúp một người soạn thảo một email.
Ngày mai, một tác nhân trí tuệ nhân tạo sẽ gửi nó.

Hôm nay, trí tuệ nhân tạo đề xuất một bản cập nhật cho hồ sơ khách hàng.
Ngày mai, nó sẽ thực hiện thay đổi đó.

Hôm nay, trí tuệ nhân tạo đề xuất bước tiếp theo trong một quy trình kinh doanh.
Ngày mai, nó sẽ bắt đầu quy trình làm việc tự động.

Mỗi hành động mới giới thiệu một quyết định khác:

Liệu trí tuệ nhân tạo có nên được phép làm điều này không?

• Liệu nó có nên truy cập hệ thống đó không?
• Liệu nó có nên lấy dữ liệu đó không?
• Liệu có ai cần phê duyệt trước không?

Hầu hết các tổ chức trả lời những câu hỏi đó một cách thủ công, và điều đó hoạt động khi bạn có mười trường hợp sử dụng trí tuệ nhân tạo. Nó không hoạt động khi bạn có hàng trăm trường hợp… hoặc hàng nghìn trường hợp. Sự mỉa mai là các tổ chức đang đầu tư vào trí tuệ nhân tạo để cải thiện năng suất, sau đó lại yêu cầu nhân viên có lương cao dành thời gian của họ để giám sát nó.

Điều đó không phải là mở rộng quy mô trí tuệ nhân tạo. Đó là mở rộng quy mô chi phí.

Microsoft đã đi đến một kết luận tương tự trong Chỉ số Xu Hướng Làm Việc 2026 của họ. Sau khi phân tích hàng nghìn tín hiệu nơi làm việc và khảo sát 20.000 người dùng trí tuệ nhân tạo, công ty đã phát hiện ra rằng rào cản lớn nhất đối với thành công của trí tuệ nhân tạo không phải là công nghệ; đó là tổ chức xung quanh nó.

Nhân viên đang áp dụng trí tuệ nhân tạo nhanh hơn so với các công ty của họ đang thích nghi. Thách thức thực sự bây giờ là thiết kế lại cách công việc được thực hiện: quyết định những gì trí tuệ nhân tạo nên làm, những gì con người nên làm và cách hai bên làm việc cùng nhau. Tôi nghĩ rằng chính xác là cuộc trò chuyện mà các nhà lãnh đạo doanh nghiệp nên có. Trí tuệ nhân tạo không tạo ra giá trị chỉ vì nó được triển khai. Nó tạo ra giá trị khi nó được triển khai với một mô hình hoạt động rõ ràng cho phép con người tập trung vào phán quyết thay vì giám sát.

Tái Nghĩ Quản Lý Trí Tuệ Nhân Tạo: Từ Chính Sách Đến Hoạt Động

Đây là nơi cuộc trò chuyện xung quanh quản lý trí tuệ nhân tạo cần thay đổi. Khi mọi người nghe thấy từ “quản lý”, họ thường nghĩ về các chính sách, ủy ban và tài liệu. Những thứ đó quan trọng, nhưng không ai trong số chúng đưa ra quyết định trong thời gian thực.

Không ai trong số chúng ngăn chặn một tác nhân trí tuệ nhân tạo truy cập dữ liệu mà nó không nên xem hoặc tạm dừng một quy trình làm việc đang hành xử không mong muốn. Không ai trong số chúng giải thích, vào thời điểm một hành động được yêu cầu, liệu hành động đó có phù hợp với chính sách của công ty hay không.

Đó là khoảng trống.

Các tổ chức không cần thêm tài liệu quản lý. Họ cần quản lý hoạt động. Các hành động thường xuyên nên xảy ra tự động khi chúng nằm trong các chính sách được phê duyệt; các hành động có rủi ro cao hơn nên yêu cầu sự phê duyệt của con người, và các hệ thống nhạy cảm nên có ranh giới rõ ràng về những gì trí tuệ nhân tạo có thể và không thể làm.

Và nếu một quy trình trí tuệ nhân tạo bắt đầu hành xử theo những cách mà không ai dự kiến, thì nên có một cách ngay lập tức để dừng nó. Không phải vì trí tuệ nhân tạo không thể được tin cậy, mà vì mọi quy trình kinh doanh đều cần có rào chắn.

Đặt Con Người Ở Vị Trí Quan Trọng

Những công ty nhận được giá trị nhất từ trí tuệ nhân tạo không loại bỏ con người khỏi phương trình. Họ đặt con người ở nơi họ có giá trị nhất.

Không phải xem xét mọi đầu ra.
Không phải kiểm tra mọi lời nhắc.
Không phải trông coi mọi tác nhân.

Họ tập trung con người vào các trường hợp ngoại lệ, các trường hợp biên và các quyết định thực sự yêu cầu phán quyết. Đó là một việc sử dụng tốt hơn chuyên môn của con người.

Câu Hỏi Thật Sự Của Doanh Nghiệp

Trí tuệ nhân tạo đã đạt đến điểm mà công nghệ không còn là câu hỏi lớn nhất. Hầu hết các tổ chức đã chứng minh rằng nó có thể tạo nội dung, viết mã, tóm tắt thông tin và tự động hóa công việc lặp đi lặp lại.

Câu hỏi khó hơn là liệu họ có thể hoạt động trí tuệ nhân tạo một cách tự tin ở quy mô doanh nghiệp hay không:

Liệu họ có thể xem nó đang làm gì không?

• Liệu họ có thể kiểm soát những gì nó có thể truy cập không?
• Liệu họ có thể thực thi chính sách một cách nhất quán không?
• Liệu họ có thể giải thích tại sao một hệ thống trí tuệ nhân tạo đã thực hiện một hành động cụ thể không?

Những câu hỏi đó là các câu hỏi hoạt động, và chúng ngày càng trở thành các câu hỏi kinh tế. Đó là vì mỗi giờ dành để giám sát trí tuệ nhân tạo đều lấy đi những lợi ích về năng suất đã chứng minh cho việc đầu tư ban đầu. Những công ty chiến thắng với trí tuệ nhân tạo sẽ không phải là những công ty chạy nhiều mô hình nhất hoặc triển khai nhiều tác nhân nhất. Họ sẽ là những công ty không cần một đội quân người để theo dõi chúng.

Trí tuệ nhân tạo nên khuếch đại lực lượng lao động của bạn. Nó không nên âm thầm trở thành một lực lượng lao động mới.