Yu Su, Đồng sáng lập và CEO của NeoCognition – Loạt phỏng vấn

Yu Su, Đồng sáng lập và CEO của NeoCognition, là một nhà nghiên cứu trí tuệ nhân tạo lâu năm với sự nghiệp bao gồm cả học thuật, trí tuệ nhân tạo doanh nghiệp và hệ thống đại lý tiên tiến. Ngoài việc lãnh đạo NeoCognition, ông còn là Giáo sư phụ tá và Nhà học giả đổi mới tại Đại học Ohio, nơi công việc của ông tập trung vào các đại lý trí tuệ nhân tạo, hệ thống suy luận và học máy. Kinh nghiệm của ông cũng bao gồm hơn sáu năm làm Nghiên cứu viên cao cấp tại Microsoft, nơi ông đã làm việc cùng với các nhà nghiên cứu hàng đầu như Percy Liang về các hệ thống trí tuệ nhân tạo đối thoại cho Outlook bằng cách sử dụng các kỹ thuật phân tích ngữ nghĩa. Trong các vai trò tại Microsoft, học thuật và các tổ chức nghiên cứu như Trung tâm nghiên cứu T.J. Watson của IBM, Yu Su đã xây dựng được danh tiếng về việc phát triển các hệ thống trí tuệ nhân tạo có thể suy luận, học hỏi và tương tác với các môi trường kỹ thuật số phức tạp, giúp bắc cầu khoảng cách giữa nghiên cứu tiên tiến và ứng dụng thực tế.

NeoCognition là một công ty nghiên cứu đại lý trí tuệ nhân tạo tập trung vào việc phát triển những gì nó mô tả là “trí tuệ chuyên môn hóa” – các hệ thống trí tuệ nhân tạo liên tục học hỏi và cải thiện thông qua kinh nghiệm. Được thành lập bởi các nhà nghiên cứu trí tuệ nhân tạo hàng đầu, công ty đang theo đuổi một tầm nhìn vượt ra ngoài các mô hình ngôn ngữ lớn tĩnh toward các đại lý có thể phát triển chuyên môn sâu trong các lĩnh vực cụ thể. Nghiên cứu của họ tập trung vào các lĩnh vực như học tập liên tục, suy luận, lập kế hoạch, sử dụng công cụ và hợp tác đa đại lý, với mục tiêu tạo ra các hệ thống trí tuệ nhân tạo trở nên có khả năng và đáng tin cậy hơn theo thời gian. Bằng cách kết hợp các tiến bộ trong học máy với suy luận có cấu trúc và các kỹ thuật học tập thích ứng, NeoCognition nhằm mục đích giúp định hình thế hệ tiếp theo của các đại lý trí tuệ nhân tạo có thể giải quyết các nhiệm vụ thực tế phức tạp ngày càng tăng.

Nhiều công ty đã vội vàng phát hành các phi công trí tuệ nhân tạo chung chung, nhưng chúng ta đang ngày càng nghe thấy những lo ngại về độ tin cậy khi những hệ thống này tham gia vào các môi trường sản xuất thực tế. Tại sao bạn tin rằng nhiều đại lý trí tuệ nhân tạo hiện tại gặp khó khăn bên ngoài các bản demo được kiểm soát?

Đa số các đại lý trí tuệ nhân tạo hiện tại gặp khó khăn trong sản xuất vì chúng vẫn là những nhà tổng quát không có hiểu biết bền vững về môi trường chúng đang hoạt động. Chúng có thể hoàn thành một nhiệm vụ một lần trong bản demo, nhưng điều đó rất khác với việc phát triển phán quyết lặp lại trong một hệ thống hoạt động thực sự.

Các mô hình ngày nay rất ấn tượng trong việc khớp mẫu, nhưng chúng vẫn thiếu các cơ chế mà con người sử dụng để trở thành chuyên gia đáng tin cậy. Con người không trở nên đáng tin cậy bằng cách ghi nhớ các nhiệm vụ cô lập. Chúng ta chuyên môn hóa bằng cách học cấu trúc của một thế giới cụ thể: các quy trình làm việc, ràng buộc, mối quan hệ, công cụ, ưu tiên và hậu quả định nghĩa một nghề nghiệp hoặc tổ chức. Theo thời gian, chúng ta xây dựng một mô hình hoạt động nội bộ của môi trường đó, và chính mô hình đó cho phép đưa ra quyết định nhất quán và lặp lại.

Đa số các đại lý trí tuệ nhân tạo hiện nay không xây dựng loại hiểu biết hoạt động như vậy. Chúng phụ thuộc nặng vào các lớp thúc đẩy, thu hồi hoặc điều phối giúp chúng hoàn thành các hành động cô lập, nhưng chúng vẫn chủ yếu là ứng biến mỗi khi chúng gặp một tình huống mới. Đó là lý do tại sao hiệu suất thường bị phá vỡ một lần môi trường thay đổi và nhiều hơn khi nó trở nên phức tạp, động hoặc có rủi ro cao.

Thành phần bị thiếu là chuyên môn hóa. Con người phát triển mạnh vì chúng ta có thể liên tục thích nghi với các môi trường thay đổi và trở thành chuyên gia trong chúng thông qua học tập liên tục. Chúng tôi tin rằng các đại lý trí tuệ nhân tạo cần một khả năng tương tự: khả năng học cấu trúc cục bộ của một lĩnh vực đủ sâu để hoạt động với năng lực thực sự.

NeoCognition đã mô tả tầm nhìn của mình là xây dựng các đại lý có thể học tập và thích nghi liên tục hơn giống như con người. Điều đó thực sự trông như thế nào về mặt kỹ thuật so với các phương pháp tinh chỉnh tĩnh hoặc dựa trên thu hồi mà nhiều doanh nghiệp đang dựa vào ngày nay?

Đa số các hệ thống trí tuệ nhân tạo doanh nghiệp ngày nay cải thiện hiệu suất bằng cách tinh chỉnh mô hình một lần hoặc bằng cách thu hồi thông tin liên quan tại thời điểm suy luận. Những phương pháp đó có thể hữu ích, nhưng chúng không cho phép cơ bản một đại lý phát triển chuyên môn tiến hóa trong một lĩnh vực.

Tinh chỉnh thường là tĩnh sau khi đào tạo. Các hệ thống thu hồi giúp đưa ra thông tin, nhưng việc thu hồi kiến thức không giống như phát triển chuyên môn về lĩnh vực hoặc thích nghi hành vi dựa trên kinh nghiệm theo thời gian. Trong nhiều trường hợp, đại lý vẫn thiếu một mô hình môi trường vĩnh viễn mà nó hoạt động.

Khi một người gia nhập một công ty, họ không trở nên hiệu quả chỉ vì họ có thể tìm kiếm tài liệu. Họ dần dần phát triển phán quyết bằng cách hiểu cách tổ chức thực sự hoạt động và chuyên môn xuất hiện từ việc liên tục tinh chỉnh mô hình nội bộ.

Chúng tôi tin rằng thế hệ tiếp theo của các đại lý cần một cơ chế học tập tương tự. Tại NeoCognition, chúng tôi tập trung vào việc cho phép các đại lý hình thành những mô hình hoạt động như vậy để chúng có thể liên tục chuyên môn hóa và cải thiện trong một lĩnh vực theo thời gian, thay vì bắt đầu lại từ đầu hoặc phụ thuộc vào việc tái kỹ sư của con người.

Dường như có một sự chia rẽ ngày càng tăng giữa thí nghiệm trí tuệ nhân tạo và niềm tin hoạt động. Các doanh nghiệp có thể thành công trong việc tạo mẫu các đại lý nội bộ, nhưng việc triển khai chúng trên quy mô lớn là một thách thức hoàn toàn khác. Những gì các tổ chức đang đánh giá thấp về quá trình chuyển đổi này?

Nhiều tổ chức đang đánh giá thấp mức độ động của các môi trường hoạt động thực sự. Một đại lý thực hiện với độ chính xác 85% có thể nghe có vẻ mạnh trong thử nghiệm, nhưng trên quy mô doanh nghiệp, điều đó vẫn chuyển thành một dòng lỗi và tình huống phục hồi liên tục mà các đội ngũ con người phải quản lý. Thách thức trở nên thậm chí còn đáng kể hơn trong các quy trình làm việc nhiều bước, nơi các lỗi tích lũy trên các hệ thống và nhiệm vụ, khiến việc giám sát, can thiệp và trách nhiệm trở nên khó khăn hơn nhiều so với những gì nhiều tổ chức ban đầu dự kiến.

Các doanh nghiệp vẫn đang đối xử với việc triển khai như một vấn đề về điều phối hoặc thúc đẩy, khi thực tế nó cũng là một vấn đề về học tập. Phần khó không chỉ là việc cho phép một đại lý thực hiện một nhiệm vụ. Đó là việc cho phép hệ thống phát triển năng lực và phán quyết lâu dài trong một môi trường hoạt động động.

Gánh nặng tùy chỉnh, thúc đẩy, giám sát và tái kỹ sư vẫn đặt nặng trên các đội ngũ con người ngày nay. Đó thường là dấu hiệu cho thấy hệ thống vẫn thiếu hiểu biết hoạt động; chúng đang được điều khiển thủ công qua mỗi lần.

Một chủ đề chính xuất hiện trên toàn ngành công nghiệp trí tuệ nhân tạo là quản trị, rào chắn và thực thi chính sách. Tuy nhiên, NeoCognition lập luận rằng quản trị alone không đủ. Tại sao bạn tin rằng độ tin cậy cuối cùng đòi hỏi các hệ thống phải liên tục thích nghi với môi trường của chúng thay vì chỉ tuân theo các quy tắc tĩnh?

Quản trị và rào chắn rất quan trọng, nhưng các quy tắc tĩnh alone không thể giải quyết hoàn toàn độ tin cậy trong các môi trường phức tạp.

Các hệ thống hoạt động sản xuất cấp cao liên tục thay đổi. Các quy trình làm việc tiến hóa, công cụ cập nhật, chính sách thay đổi và tình huống bất ngờ xuất hiện mà không thể luôn được dự đoán trước. Nếu một đại lý chỉ biết cách tuân theo các quy tắc định nghĩa trước mà không hiểu môi trường nó hoạt động, nó sẽ cuối cùng gặp phải các tình huống mà những quy tắc đó không tính đến.

Độ tin cậy của con người đến từ phán quyết, không chỉ từ việc tuân thủ nghiêm ngặt các kịch bản, mà vì chúng ta phát triển phán quyết thông qua việc hiểu cấu trúc và ràng buộc của thế giới xung quanh. Chúng ta học cách khi nào cần nâng cao, khi nào điều gì đó trông bất thường và khi nào bối cảnh thay đổi hành động đúng.

Chúng tôi tin rằng các đại lý trí tuệ nhân tạo cần một khả năng tương tự để thích nghi và hiểu môi trường. Các hệ thống an toàn hơn sẽ đến từ việc làm cho chúng trở nên có năng lực và chuyên môn hóa hơn trong các thế giới hoạt động được định nghĩa rõ ràng. Loại hệ thống này quan sát môi trường của chính nó và đầu ra của chính nó, theo dõi nơi nó thất bại và cập nhật hành vi của nó.

Ngành công nghiệp trí tuệ nhân tạo thường nhấn mạnh vào các mô hình lớn hơn và khả năng rộng hơn, nhưng NeoCognition dường như tập trung vào chuyên môn hóa và học tập ngữ cảnh. Bạn có tin rằng tương lai của các đại lý trí tuệ nhân tạo doanh nghiệp sẽ giống như những người lao động kỹ thuật số chuyên môn hóa cao hơn là các trợ lý phổ quát?

Chúng tôi tin mạnh mẽ rằng tương lai sẽ được thúc đẩy bởi chuyên môn hóa. Ngành công nghiệp đã tập trung vào các mô hình tổng quát hơn vì khả năng rộng là ấn tượng. Nhưng trong các môi trường doanh nghiệp, thách thức thực sự không phải là liệu một đại lý có thể làm được một chút mọi thứ. Đó là liệu nó có thể thực hiện một vai trò cụ thể một cách đáng tin cậy và với phán quyết đúng đắn theo thời gian. Điểm mạnh của chúng tôi không phải là chúng tôi được sinh ra là chuyên gia trong mọi môi trường. Đó là chúng tôi có thể học cấu trúc của một thế giới cụ thể đủ sâu để hoạt động hiệu quả trong đó.

Tại NeoCognition, chúng tôi tin rằng tương lai sẽ không phải là một siêu đại lý làm mọi thứ. Thay vào đó, nó sẽ là một sự phong phú của các đại lý chuyên môn hóa, mỗi đại lý học một thế giới cụ thể đủ sâu để hoạt động với năng lực chuyên gia, độ tin cậy và phán quyết. Mục đích của chúng không phải là thay thế chuyên môn của con người, mà là làm cho nó trở nên phong phú hơn: đặt khả năng hàng đầu vào tay nhiều người hơn và nâng cao tiêu chuẩn về những gì một người hoặc tổ chức có thể làm.

Một trong những lo ngại lớn nhất xung quanh các đại lý tự chủ là cách chúng hành xử khi môi trường thay đổi một cách không dự kiến. Làm thế nào quan trọng là sự thích nghi và nhận thức môi trường thực tế để ngăn chặn các thất bại, ảo giác hoặc hành động không an toàn?

Điều đó tuyệt đối quan trọng. Không có nhận thức về môi trường, các đại lý có thể tiếp tục hành động tự tin ngay cả khi hiểu biết của chúng về tình huống là lỗi thời hoặc không đầy đủ. Đó là nơi các thất bại hoạt động thường xuất hiện.

Chúng tôi tin rằng độ tin cậy đòi hỏi các đại lý phải liên tục học tập cấu trúc cục bộ của môi trường chúng hoạt động và cập nhật hiểu biết của chúng theo thời gian. Độ tin cậy thay đổi và tiến hóa theo thời gian: những gì có vẻ đáng tin cậy vào tháng 9 có thể không giống như vậy vào tháng 5. Càng hiểu sâu về hệ thống, ràng buộc, quy trình làm việc và mối quan hệ xung quanh, đại lý càng trở nên có khả năng nhận ra khi điều kiện đã thay đổi hoặc khi sự không chắc chắn đòi hỏi phải nâng cao.

Làm thế nào gần gũi bạn tin rằng ngành công nghiệp đang triển khai các hệ thống trí tuệ nhân tạo có thể thực sự cải thiện bản thân thông qua sự tương tác liên tục với các môi trường hoạt động thực tế?

Chúng tôi vẫn còn sớm trong việc xây dựng các cơ chế học tập cơ bản cần thiết cho việc học tập liên tục và tự cải thiện đáng tin cậy, nhưng ngành công nghiệp đang gần gũi hơn với sự chuyển đổi này so với nhiều người nhận ra. Chúng tôi đang sống trong một dòng thời gian nén. Các thành phần cho đột phá công nghệ tiếp theo đã sẵn sàng. Nó có thể xảy ra khá sớm.

Điều quan trọng không chỉ là tự cải thiện trong trừu tượng, mà là chuyên môn hóa có cấu trúc trong các môi trường thực sự. Điều đó có nghĩa là học các quy trình làm việc, ràng buộc, mối quan hệ và mẫu hành vi thành công theo cách ổn định, có thể quản lý và chống lại việc quên mất thảm khốc. Đó là vấn đề chúng tôi đang tập trung vào tại NeoCognition.

Nhìn về vài năm tới, bạn nghĩ gì sẽ cuối cùng phân biệt các đại lý trí tuệ nhân tạo doanh nghiệp đáng tin cậy với làn sóng các hệ thống thử nghiệm đang tràn ngập thị trường?

Các hệ thống thành công sẽ là những hệ thống cảm thấy ít giống như các kịch bản đồ chơi và nhiều hơn như các vận hành đáng tin cậy.

Khả năng mô hình thô alone sẽ không đủ. Các doanh nghiệp cuối cùng sẽ quan tâm đến việc liệu các đại lý có thể hoạt động nhất quán trong các môi trường thực tế của chúng, hiểu các quy trình làm việc và ràng buộc địa phương, tôn trọng ranh giới và quyền, thích nghi an toàn theo thời gian và đưa ra kết quả lặp lại.

Các người chiến thắng trong tương lai của trí tuệ nhân tạo doanh nghiệp sẽ không chỉ là các hệ thống có thể trả lời phạm vi rộng nhất của các câu hỏi. Chúng sẽ là các hệ thống có thể học một thế giới hoạt động cụ thể đủ sâu để hành động với năng lực thực sự, phán quyết và độ tin cậy trong đó.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập NeoCognition.