Chi phí ẩn của AI: Cách các mô hình “Hộp Đen” đang làm xói mòn Niềm tin, Ngân sách và Môi trường

Ngành công nghiệp AI đang gặp vấn đề về thiết kế mô hình. Các doanh nghiệp đang bắt đầu cảm nhận điều này qua chi phí, hiệu suất và độ tin cậy.

AI có thể nói – nhưng nó có thể lắng nghe không?

Việc lắng nghe không chỉ đơn thuần là xử lý từ ngữ; nó liên quan đến việc giải thích tín hiệu và hiểu ngữ cảnh để đưa ra quyết định trong thời gian thực. Tuy nhiên, hầu hết các mô hình “giọng nói” được xây dựng để chuyển đổi các token, chứ không nhận ra ý nghĩa tinh tế ẩn sau một cuộc trò chuyện. Điều này khiến chúng bỏ lỡ những thông tin quan trọng.

Trong các môi trường như giọng nói, ngữ cảnh, thời gian và đầu vào liên tục đều quan trọng. Khi các hệ thống AI chuyển từ các bản demo sang việc sử dụng thực tế, một vấn đề sâu hơn về cách xây dựng các hệ thống này đang trở nên rõ ràng, và các doanh nghiệp bắt đầu cảm nhận tác động của những khoảng trống này qua chi phí, hiệu suất và độ tin cậy.

Cách tiếp cận chi phối trong AI hiện nay ưu tiên các mô hình lớn hơn, đa năng hơn. Nhưng khi những mô hình này được triển khai ở quy mô lớn, các hạn chế của chúng trở nên khó bỏ qua hơn. Chúng tốn kém khi chạy liên tục, khó giải thích và tin cậy, và thường không hiệu quả đối với các nhiệm vụ mà chúng được áp dụng. Điều trông có vẻ là một bản demo độc đáo tuyệt vời có thể phá vỡ khi được triển khai ở quy mô doanh nghiệp, nơi các hệ thống cần đồng thời đáp ứng, hiệu quả và dễ hiểu.

Động lực này tạo ra một sự đánh đổi: nhiều tùy chọn hơn về những gì mô hình có thể làm trên lý thuyết, nhưng đổi lại là hiệu suất, tính minh bạch và cuối cùng là khả năng sử dụng. Chi phí vận hành các mô hình khổng lồ ở quy mô đang tăng lên, dấu chân năng lượng (đáng chú ý) đang bị xem xét, và các hệ thống tự chúng trở nên khó giải thích hơn. Trước khi chúng ta đạt đến điểm không quay lại, chúng ta nên tự hỏi: liệu đây có thực sự là cách bền vững nhất để xây dựng các hệ thống AI không?

Tại sao các mô hình AI đa năng lại vốn dĩ kém hiệu quả

Sự thúc đẩy của ngành công nghiệp hướng tới AI đa năng đã tạo ra một dạng kém hiệu quả mới: việc sử dụng cùng một mô hình nặng cho mọi vấn đề hoặc nhiệm vụ, bất kể độ phức tạp. Đó là một ý tưởng hấp dẫn – một hệ thống duy nhất có thể xử lý mọi thứ – nhưng trên thực tế, nó là một công cụ thô kệch.

Không phải mọi nhiệm vụ đều cần một mô hình khổng lồ. Thực tế, hầu hết không cần. Khi các tổ chức dựa vào các hệ thống đơn khối, họ phải trả chi phí của sự phức tạp đó cho mỗi tương tác. Các quyết định đơn giản được xử lý với cùng mức chi phí tính toán như các quyết định phức tạp, và kinh tế nhanh chóng không còn hợp lý khi mở rộng quy mô.

Điều này đặc biệt đúng trong các môi trường thời gian thực như giọng nói, nơi các hệ thống cần xử lý luồng dữ liệu liên tục. Việc áp dụng một mô hình lớn, đa năng cho mọi khoảnh khắc của mỗi tương tác vừa tốn kém vừa không cần thiết. Khi các mô hình này được triển khai rộng rãi hơn, sự kém hiệu quả càng tích lũy. Chúng ta cuối cùng có được tệ nhất của cả hai thế giới: các hệ thống quá đắt để chạy ở mọi nơi, và quá hạn chế để hiệu quả ở những nơi chúng được sử dụng.

Một ví dụ rõ ràng của điều này xuất hiện trong các trung tâm liên lạc. Nhiều tổ chức muốn áp dụng AI cho mọi tương tác với khách hàng, nhưng chi phí vận hành các mô hình lớn liên tục khiến điều này không thực tế. Như McKinsey ghi chú trong Global Survey on AI, các tổ chức vẫn gặp khó khăn trong việc mở rộng các trường hợp sử dụng AI rộng rãi do chi phí và độ phức tạp vận hành (để đặt vào bối cảnh, các trung tâm liên lạc doanh nghiệp lớn thường xử lý từ 5.000 đến 15.000 cuộc gọi khách hàng mỗi ngày, cộng lại thành hàng triệu hoặc thậm chí hàng tỷ tương tác mỗi năm). Để quản lý khối lượng này, họ chỉ phân tích một phần nhỏ các cuộc gọi hoặc dựa vào việc xem xét sau sự cố. Tác động hậu quả có thể đo lường được: 39% tổ chức báo cáo khối lượng cuộc gọi tăng do các truy vấn liên quan đến gian lận, 34% báo cáo thời gian xử lý lâu hơn, và 29% báo cáo giảm năng suất nhân viên¹. Kết quả là một hệ thống vừa quá mạnh mẽ vừa chưa được khai thác hết: tốn kém khi vận hành nhưng không thể cung cấp phạm vi bao phủ đầy đủ hoặc thông tin thời gian thực.

Đây là nơi sự tổng quát quá mức trở thành một gánh nặng. Khi một hệ thống được thiết kế để làm mọi thứ, nó thường thực hiện mỗi việc một cách kém hiệu quả. Kết quả là lãng phí tài nguyên tính toán ở quy mô lớn, chạy các mô hình đắt tiền trong khi các phương pháp nhẹ hơn, nhắm mục tiêu cụ thể lại có thể hiệu quả hơn. Khi các tổ chức đẩy mạnh việc áp dụng AI rộng rãi, sự kém hiệu quả này nhanh chóng cộng dồn, khiến việc biện minh cho việc sử dụng liên tục, thời gian thực trở nên khó khăn hơn.

Vấn đề Hộp Đen: Khi AI không thể tự giải thích

Khi các mô hình ngày càng phức tạp, chúng cũng trở nên khó giải thích hơn. Trong nhiều trường hợp, các hệ thống AI có thể cung cấp kết quả “hầu hết” chính xác, nhưng lại cung cấp rất ít thông tin về cách các quyết định đó được đưa ra, hoặc nguyên nhân gây ra các lỗi còn lại. Sự mơ hồ này làm chậm người chịu trách nhiệm hành động dựa trên kết quả của mô hình, mất đi lợi thế thu được từ tốc độ tăng lên ban đầu.

Điều này đặc biệt đúng trong các lĩnh vực như phát hiện gian lận, nơi các quyết định phải được đưa ra trong thời gian thực. Nếu một hệ thống gắn cờ một cuộc gọi là rủi ro cao nhưng không thể giải thích lý do, nó sẽ tạo ra sự do dự ngay tại thời điểm tốc độ quan trọng nhất. Các đội ngũ buộc phải lựa chọn giữa việc tin tưởng vào một hệ thống mà họ không hiểu đầy đủ hoặc phải nghi ngờ lại nó ngay trong thời gian thực. Cả hai lựa chọn đều tiềm ẩn rủi ro. Khi AI thâm nhập sâu hơn vào quy trình vận hành, khả năng hiểu và phản hồi các đầu ra của mô hình trong thời gian thực trở thành yêu cầu cốt lõi, không chỉ là một tính năng phụ.

Đây là nơi các hạn chế của các mô hình lớn, đa năng trở nên rõ ràng hơn. Độ phức tạp của chúng khiến chúng khó truy vấn, khó gỡ lỗi và khó thích nghi. Do đó, các tổ chức không chỉ phải đối mặt với chi phí cao hơn; họ còn phải đối mặt với các hệ thống kém đồng nhất với cách mà các quyết định thực sự được đưa ra.

Nơi mà Điều này Gặp Tranh Trở: AI Thời Gian Thực trong Thực Tiễn

Những thách thức – chi phí, kém hiệu quả, thiếu minh bạch – có thể quản lý được trong các trường hợp sử dụng riêng lẻ. Tuy nhiên, chúng trở nên khó bỏ qua hơn nhiều trong các hệ thống thời gian thực, nơi AI không chỉ tạo ra kết quả mà còn chủ động định hình quyết định ngay khi chúng xảy ra.

Giọng nói là một ví dụ tốt. Khác với xử lý theo lô hoặc phân tích ngoại tuyến, các tương tác giọng nói diễn ra liên tục và nhạy cảm về thời gian. Các hệ thống không thể tạm dừng, xử lý lại hoặc chuyển quyết định sang sau; chúng phải hoạt động ngay trong khoảnh khắc. Một hệ thống AI hiểu sai “Ồ tốt, lại một AI nữa” là tích cực khi câu nói thực ra mang tính châm biếm có thể là yếu tố quyết định giữa việc giữ hay mất khách hàng, và phải được hành động trong vài giây, trước khi con người can thiệp. Điều này đồng nghĩa với việc chạy mô hình liên tục xuyên suốt toàn bộ cuộc hội thoại đồng thời tạo ra các đầu ra mà con người có thể hành động ngay lập tức.

Đây là nơi mô hình hiện tại bắt đầu gãy. Các mô hình lớn, đa năng tốn kém khi chạy ở quy mô đó, và các đầu ra của chúng thường quá mờ để hỗ trợ quyết định thời gian thực. Kết quả là các công ty buộc phải đưa ra những thỏa hiệp: chỉ phân tích một phần nhỏ các tương tác, trì hoãn quyết định cho đến khi có dữ liệu sau này, hoặc dựa vào phán đoán con người không hoàn hảo trong những tình huống mà tốc độ và độ chính xác là yếu tố quyết định.

Nói cách khác, những hạn chế của các mô hình hiện tại không phải là lý thuyết – chúng xuất hiện rõ ràng nhất trong những môi trường mà AI được kỳ vọng mang lại giá trị cao nhất.

Một Con Đường Khác Tiến Lên: AI Thông Minh – Không Phải Lớn Hơn

Nếu cách tiếp cận hiện tại đối với AI được định nghĩa bằng quy mô, giai đoạn tiếp theo sẽ được định nghĩa bằng hiệu suất.

Thay vì định tuyến mọi nhiệm vụ qua một mô hình duy nhất, các hệ thống có thể chia quy trình làm việc thành các giai đoạn, áp dụng các mô hình nhẹ cho các quyết định thường ngày và dành xử lý nặng hơn cho các trường hợp phức tạp.

Sự chuyển đổi tinh tế này trong kiến trúc thay đổi kinh tế học. Khi các hệ thống có thể động thái quyết định mức độ xử lý cần thiết cho một nhiệm vụ cụ thể, chúng tránh được chi phí chạy các mô hình lớn một cách không cần thiết. Điều này làm cho việc áp dụng AI liên tục trở nên thực tế hơn, thay vì chỉ chọn lọc. Nó cũng tạo ra cơ hội cho sự minh bạch cao hơn, vì các quyết định có thể được liên kết với các tín hiệu hoặc thành phần cụ thể trong hệ thống, thay vì xuất hiện từ một mô hình mờ đục duy nhất.

Đối với các doanh nghiệp, đây là yếu tố cho phép việc áp dụng rộng rãi hơn: khả năng phân tích nhiều dữ liệu hơn trong thời gian thực mà không gặp chi phí hoặc độ phức tạp cản trở, mở ra các trường hợp sử dụng mà trước đây chưa thể đạt được.

Ngành công nghiệp đã đạt được tiến bộ đáng kể bằng cách phát triển các mô hình – nhưng một kích thước không phù hợp với tất cả. Khi AI thâm nhập sâu hơn vào các hệ thống vận hành, câu hỏi đang chuyển từ những gì mô hình có thể làm sang cách chúng nên được thiết kế. Tương lai của AI sẽ không được định nghĩa bởi các mô hình lớn nhất, mà bởi các hệ thống có thể cung cấp trí tuệ một cách hiệu quả, minh bạch và ở quy mô.