AI ngày càng thông minh; duy trì sự đồng bộ ngày càng khó

Suốt sự nghiệp của mình, tôi luôn cố gắng tìm hiểu về trí tuệ. Tôi theo học ngành khoa học thần kinh vì quan tâm đến AI và nghĩ rằng tìm hiểu cách bộ não hoạt động trước là một khởi đầu hợp lý. Trí tuệ trước, rồi mới đến trí tuệ “nhân tạo”. Quá trình đào tạo đó đã hình thành cho tôi một thói quen. Khi một năng lực hay công nghệ mới xuất hiện, câu hỏi đầu tiên của tôi luôn mang tính thực tiễn: Nó thực sự làm được gì, và có thể giải quyết những loại vấn đề nào trong đời thực?

Là người làm trong lĩnh vực AI, tôi hiếm khi hào hứng với các dòng tít về AI. Tôi nhìn xa hơn những ồn ào để hiểu không chỉ các đột phá mà cả những giới hạn của các năng lực mới.

Từ công cụ bình thường đến độ tin cậy mang tính hệ trọng

Hồi năm 2020, khi các cuộc thảo luận về an toàn AI đang sôi nổi và tràn ngập sự phấn khích, tôi có một lời khuyên đơn giản: Hãy xem AI là một công cụ—một công cụ mạnh mẽ, nhưng vẫn chỉ là công cụ. Hãy tập trung vào những ứng dụng bình dị. Hãy làm việc ở cấp độ nhiệm vụ, nơi công nghệ đủ đáng tin cậy để hỗ trợ. Kịch bản lạc quan của tôi là một thế giới có những công cụ bình dị nhưng hữu ích.

Vài năm sau, khi làn sóng tác tử AI bắt đầu dâng lên, tôi vẫn nhìn nhận mọi việc qua lăng kính ấy và không bị thuyết phục. Một hệ thống tác tử chỉ mạnh bằng những nhiệm vụ cấu thành nó, mà khi đó tôi vẫn chưa thấy độ tin cậy ở cấp độ nhiệm vụ cần thiết để các hệ thống này hoạt động hiệu quả.

Tuy nhiên, sự thổi phồng ngày càng gia tăng. Đến đầu năm ngoái, khi tôi tham dự RSA, khoảng cách giữa lời nói và thực chất vẫn khó có thể bỏ qua. Thậm chí còn chưa có cách hiểu chung về ý nghĩa của “tính tác tử”; mỗi người lại có một định nghĩa và góc nhìn khác nhau. Tôi cũng lo ngại về một vấn đề mang tính cấu trúc. Hãy lấy mười tác tử, mỗi tác tử có độ chính xác khoảng chín mươi lăm phần trăm. Nối chúng thành chuỗi sao cho đầu ra của tác tử này trở thành đầu vào của tác tử tiếp theo. Đến cuối chuỗi, độ chính xác chỉ còn khoảng sáu mươi phần trăm. Độ tin cậy không thể duy trì khi các tác tử được xếp nối tiếp như vậy. Lúc ấy, tôi bắt đầu nghĩ đến các hệ thống gồm nhiều tác tử, dù mối bận tâm của tôi vẫn là liệu chúng có thể được tin cậy để hoạt động và tạo ra khác biệt đáng kể hay không.

Sau đó, những cải tiến nhanh chóng của các tác tử lập trình đã khiến tôi thay đổi suy nghĩ.

Chỉ vài tháng sau khi bài viết của tôi về chủ đề này được đăng, tốc độ tiến bộ đáng kinh ngạc đã khiến tôi nhận ra một điều: Chỉ còn là vấn đề thời gian trước khi độ tin cậy được cải thiện trong một số nhiệm vụ thực tế. Các mô hình tốt hơn, cùng những bộ công cụ kỹ thuật tốt hơn được xây dựng xung quanh chúng, sẽ thu hẹp khoảng cách mà tôi từng lo ngại. Giới hạn mà tôi quan tâm sẽ được đẩy lùi.

Đó là lúc vấn đề thực sự dần hiện rõ, và nó không phải vấn đề mà tôi từng theo dõi. Một khi có thể tin cậy từng tác tử riêng lẻ, bạn sẽ không dừng lại sau khi triển khai tác tử đầu tiên. Bạn sẽ triển khai nhiều tác tử. Cả đội ngũ tác tử hoạt động trên mọi chức năng, mỗi tác tử đều có năng lực và làm đúng nhiệm vụ của mình. Rồi một câu hỏi mới xuất hiện, hoàn toàn không liên quan đến độ tin cậy: Nếu mọi tác tử trong đội ngũ đều làm đúng việc chúng được tạo ra để làm, liệu cả đội ngũ có cùng hướng tới mục tiêu mà tổ chức đã đề ra hay không?

Nhu cầu về cảm giác bản thể của tổ chức

Một cơ thể có các chi khỏe mạnh vẫn không thể vận động tốt nếu thiếu cảm giác bản thể—nhận biết liên tục từ bên trong về vị trí của từng bộ phận và hoạt động của chúng. Tiểu não không chỉ phản ứng với những tín hiệu phản hồi đó mà còn dự đoán. Khi não phát lệnh vận động, nó hình thành kỳ vọng về cảm giác mà chuyển động ấy sẽ tạo ra, rồi đối chiếu kỳ vọng đó với những gì thực sự xảy ra. Khoảng cách giữa hai điều này là tín hiệu giúp điều chỉnh hành động tiếp theo. Vận động thuần thục là một vòng lặp dự đoán kết quả rồi điều chỉnh theo mức độ sai lệch.

Một tổ chức vận hành đội ngũ tác tử cũng cần có khả năng tự nhận biết tương tự. Tổ chức phải liên tục nắm được các hệ thống của mình đang ở đâu và đã lệch khỏi trạng thái dự kiến đến mức nào. Nếu thiếu nhận thức nội tại đó, các bộ phận dù có năng lực cũng không thể kết hợp thành hành động phối hợp nhịp nhàng. Đây không phải là một cơ chế cảm nhận có thể bổ sung vào cơ thể sau này để cơ thể an toàn hơn. Cơ thể cần có cơ chế ấy thì mới có thể vận động.

Có một trường hợp đã được nghiên cứu kỹ về một người đàn ông tên Ian Waterman, người mất cảm giác này ở phần lớn cơ thể. Ông học cách vận động trở lại, nhưng chỉ bằng cách quan sát chính mình, dùng mắt điều khiển từng bước chân và từng lần với tay. Cách này có hiệu quả. Nhưng nó cũng khiến ông kiệt sức và rất dễ bị gián đoạn. Chỉ cần tắt đèn là ông không thể phối hợp động tác. Một tổ chức quản lý các tác tử bằng cách kiểm toán thủ công và đánh giá định kỳ cũng ở trong tình cảnh tương tự. Tổ chức phải liên tục gắng sức để bù đắp cho khả năng tự nhận biết mà mình chưa từng xây dựng, và cái giá phải trả cho việc bù đắp ấy còn cao hơn giá trị của thứ nó thay thế. Toàn bộ hệ thống sụp đổ ngay khi các điều kiện thay đổi.

Còn một kiểu thất bại khác kỳ lạ hơn cũng đáng được nhắc đến, được mô tả trong một cuốn sách hấp dẫn của nhà thần kinh học V S Ramachandran. Khi một chi bị cắt cụt, não không im lặng. Não vẫn tiếp tục phát tín hiệu đến chi đã mất, và người bệnh cảm nhận chúng rất rõ. Cơ chế quản trị cũng có thể thất bại theo cách tương tự. Nếu chức năng giám sát bị tước mất khả năng phán đoán thực chất do tái cơ cấu hoặc sao nhãng, chức năng ấy sẽ không biến mất. Các cuộc đánh giá vẫn được hoàn tất, các chỉ số vẫn được tạo ra. Tổ chức vẫn có cảm giác mình đang được giám sát, dù khả năng phán đoán bên trong đã bị rút ruột. Lúc này, lời khuyên năm 2020 của tôi về tính minh bạch lại trở nên phù hợp. Không thể có giám sát nếu thiếu minh bạch, và cũng không thể có minh bạch trong một hệ thống chỉ tạo ra vẻ ngoài như thể đang được theo dõi.

Sự đồng bộ—nguồn lực khan hiếm

Trí tuệ ngày càng rẻ. Chẳng bao lâu nữa, nó sẽ hiện diện trong mọi quy trình và mọi công cụ. Trong thế giới đó, nguồn lực khan hiếm là sự gắn kết — mối liên kết sống động giữa những gì mỗi hệ thống tự thực hiện và những gì doanh nghiệp đang hướng tới. Sự gắn kết là mô liên kết giúp trí tuệ phân tán luôn hướng về một mục tiêu chung.

Tôi đã dành nhiều năm nghiên cứu cách bộ não duy trì hoạt động thống nhất giữa các bộ phận. Kỷ nguyên tác tử đặt ra cho doanh nghiệp câu hỏi tương tự. Mục tiêu vẫn không thay đổi kể từ năm 2020. Vẫn nhàm chán nhưng hữu ích. Giờ đây, điều nhàm chán mà hữu ích cần xây dựng chính là sự gắn kết.