Manuel Romero, Đồng sáng lập và Giám đốc Khoa học tại Maisa – Loạt phỏng vấn

Manuel Romero, Đồng sáng lập và Giám đốc Khoa học tại Maisa, là một nhà nghiên cứu và kỹ sư trí tuệ nhân tạo tập trung vào việc phát triển các hệ thống trí tuệ nhân tạo đáng tin cậy, cấp doanh nghiệp. Ông đã đồng sáng lập Maisa vào năm 2024 để xây dựng trí tuệ nhân tạo có trách nhiệm, có khả năng thực hiện các quy trình kinh doanh phức tạp với tính minh bạch và kiểm soát. Trước khi tham gia Maisa, Romero đã từng giữ các vị trí kỹ sư trí tuệ nhân tạo và học máy cấp cao tại các công ty như Clibrain và Narrativa, nơi ông chuyên về xử lý ngôn ngữ tự nhiên và các hệ thống trí tuệ nhân tạo quy mô lớn. Sớm trong sự nghiệp của mình, ông đã từng làm việc như một kỹ sư phần mềm toàn diện và chuyên gia DevOps trước khi chuyển sang nghiên cứu và phát triển trí tuệ nhân tạo tiên tiến, trở thành một người đóng góp tích cực cho hệ sinh thái mã nguồn mở trí tuệ nhân tạo.

Maisa AI phát triển các “công nhân kỹ thuật số” tự động, các tác nhân trí tuệ nhân tạo được thiết kế để tự động hóa các quy trình công việc doanh nghiệp phức tạp trong khi vẫn duy trì khả năng theo dõi, quản lý và độ tin cậy. Nền tảng này cho phép các tổ chức xây dựng và triển khai các tác nhân trí tuệ nhân tạo bằng ngôn ngữ tự nhiên, cho phép tự động hóa trên các hệ thống và nguồn dữ liệu nội bộ mà không cần mã hóa rộng rãi. Bằng cách tập trung vào lý lẽ có thể kiểm chứng và thực hiện có cấu trúc, Maisa nhằm mục đích vượt qua các hạn chế phổ biến liên quan đến các hệ thống trí tuệ nhân tạo sinh và giúp các doanh nghiệp triển khai trí tuệ nhân tạo tự động một cách an toàn trên quy mô lớn.

Bạn thường tập trung vào việc hiểu rõ “tại sao” sâu sắc hơn về các hệ thống trí tuệ nhân tạo. Từ góc độ kỹ thuật, điều gì đã thúc đẩy bạn đồng sáng lập Maisa vào năm 2024, và khoảng trống nào trong kiến trúc trí tuệ nhân tạo doanh nghiệp bạn tin rằng chưa được giải quyết?

Động lực đằng sau việc thành lập Maisa đến từ việc nhận ra rằng hầu hết các ngăn xếp trí tuệ nhân tạo doanh nghiệp được xây dựng xung quanh các mô hình, chứ không phải các hệ thống.

Trong thời kỳ bùng nổ trí tuệ nhân tạo sinh, nhiều công ty tập trung vào việc tích hợp các mô hình ngôn ngữ lớn vào các quy trình công việc hiện có. Tuy nhiên, các hệ thống này thường dễ bị tổn thương, không minh bạch và khó vận hành trên quy mô lớn. Chúng thiếu:

• thực hiện quyết định có thể dự đoán được nơi nó quan trọng.
• khả năng quan sát, theo dõi
• khả năng tái tạo

Khoảng trống chúng tôi nhận thấy là sự thiếu hụt của cơ sở hạ tầng trí tuệ nhân tạo thực sự cho các doanh nghiệp. Các công ty đang xây dựng các ứng dụng xung quanh các API mô hình ngôn ngữ, nhưng họ thiếu một thứ tương đương như kiến trúc máy tính cho công việc tri thức.

Maisa được tạo ra để giải quyết khoảng trống đó bằng cách thiết kế một kiến trúc tập trung vào Đơn vị Xử lý Kiến thức (KPU), một hệ thống cho phép trí tuệ nhân tạo hoạt động đáng tin cậy bên trong các quy trình công việc doanh nghiệp thực sự.

Bạn đã từng làm việc trên các hệ thống ngôn ngữ tự nhiên và hệ thống sinh tiên tiến trước khi đồng sáng lập Maisa. Những kinh nghiệm đó đã định hình như thế nào các lựa chọn kiến trúc đằng sau nền tảng?

Kinh nghiệm của tôi khi làm việc trong lĩnh vực xử lý ngôn ngữ tự nhiên và sinh, đặc biệt là trong việc đào tạo và tiền đào tạo các mô hình ngôn ngữ và sau đó là các mô hình ngôn ngữ lớn (hàng trăm), đã làm rõ một điều khi cố gắng xây dựng các hệ thống thực sự trên chúng. Kiến trúc biến đổi là cực kỳ mạnh mẽ, nhưng nó đi kèm với ít nhất ba hạn chế cơ bản phải được giải quyết để sử dụng nó một cách đáng tin cậy trong sản xuất.

Thứ nhất là ảo giác. Các mô hình này tạo ra văn bản một cách xác suất và có thể tạo ra các đầu ra nghe có vẻ đúng nhưng không dựa trên thông tin đã được xác minh.

Thứ hai là giới hạn ngữ cảnh. Ngay cả với các cửa sổ ngữ cảnh lớn hơn, các mô hình hoạt động trong một không gian token bị giới hạn, điều này làm cho việc lý lẽ trên các cơ thể kiến thức lớn hoặc phức tạp trở nên khó khăn.

Thứ ba là thông tin cập nhật. Các mô hình được đào tạo trước đại diện cho một bản chụp kiến thức tại thời điểm đào tạo, trong khi môi trường doanh nghiệp đòi hỏi các hệ thống có thể lý lẽ trên thông tin liên tục thay đổi.

Những hạn chế này đã định hình nhiều quyết định kiến trúc đằng sau Maisa. Thay vì dựa vào mô hình alone, chúng tôi tập trung vào việc xây dựng một hệ thống cung cấp quyền truy cập có cấu trúc vào kiến thức, các cơ chế xác thực và thực hiện có kiểm soát để trí tuệ nhân tạo có thể hoạt động đáng tin cậy trong các quy trình công việc doanh nghiệp thực sự.

Nhiều doanh nghiệp thử nghiệm với trí tuệ nhân tạo sinh nhưng gặp khó khăn khi chuyển sang giai đoạn sản xuất. Từ góc độ thiết kế hệ thống, lý do cốt lõi khiến việc mở rộng quy mô thất bại ở nhiều tổ chức là gì?

Nhiều doanh nghiệp gặp khó khăn khi chuyển sang giai đoạn sản xuất vì hầu hết các triển khai được xây dựng như các thí nghiệm chứ không phải là các hệ thống mạnh mẽ. Các nguyên mẫu ban đầu thường dựa vào kỹ thuật nhắc, điều phối nhẹ và đường ống thu hồi đơn giản, điều này có thể chứng minh giá trị nhưng không cung cấp độ tin cậy, khả năng quan sát hoặc kiểm soát cần thiết cho môi trường sản xuất. Khi các tổ chức cố gắng mở rộng quy mô các hệ thống này, họ gặp phải các vấn đề như đầu ra không nhất quán, thiếu khả năng theo dõi, khó tích hợp với các quy trình công việc doanh nghiệp và quản lý hạn chế về cách trí tuệ nhân tạo hoạt động. Ở cốt lõi, vấn đề là các mô hình ngôn ngữ lớn là các nhà sinh xác suất, trong khi các quy trình doanh nghiệp đòi hỏi hành vi có thể dự đoán và có thể kiểm toán. Không có kiến trúc thêm cấu trúc xung quanh lý lẽ, xác thực, thực hiện và giám sát, các hệ thống trí tuệ nhân tạo sinh vẫn khó mở rộng quy mô ngoài các trường hợp sử dụng bị cô lập.

Các Công nhân Kỹ thuật số của Maisa được thiết kế để có thể kiểm toán và có cấu trúc chứ không chỉ là xác suất thuần túy. Điều đó có nghĩa là gì trong thực tế đối với các doanh nghiệp đánh giá trí tuệ nhân tạo cho sử dụng sản xuất?

Khi chúng tôi nói rằng các Công nhân Kỹ thuật số của Maisa có thể kiểm toán và có cấu trúc chứ không chỉ là xác suất thuần túy, chúng tôi có nghĩa là trí tuệ nhân tạo hoạt động trong một hệ thống được kiểm soát nơi các hành động và lý lẽ của nó có thể được theo dõi và quản lý. Thay vì cho phép một mô hình tự do tạo ra đầu ra và quyết định, hệ thống cấu trúc cách trí tuệ nhân tạo tương tác với dữ liệu, công cụ và quy trình công việc. Mỗi bước trong quy trình có thể được ghi nhật ký, kiểm tra và xác thực, và các hành động được thực hiện thông qua các giao diện đã định nghĩa chứ không phải trực tiếp từ đầu ra mô hình. Đối với các doanh nghiệp, điều này có nghĩa là các hệ thống trí tuệ nhân tạo có thể được giám sát, kiểm toán và tích hợp vào các quy trình quan trọng với sự tự tin lớn hơn. Nó chuyển đổi trí tuệ nhân tạo từ một trợ lý hộp đen thành một hệ thống có thể hiểu, kiểm soát và tin cậy được trong môi trường sản xuất.

Là kiến trúc sư của Đơn vị Xử lý Kiến thức, nó khác với một lớp điều phối điển hình hoặc động cơ quy trình được xây dựng xung quanh các mô hình ngôn ngữ lớn như thế nào?

Đơn vị Xử lý Kiến thức khác với các lớp điều phối điển hình vì nó được thiết kế để quản lý toàn bộ vòng đời của lý lẽ trí tuệ nhân tạo chứ không chỉ là phối hợp các bước như nhắc, gọi mô hình và thực hiện công cụ. Hầu hết các khung điều phối hoạt động như các quản lý quy trình, nối các bước lại với nhau như thu hồi, nhắc và thực hiện công cụ. Đơn vị Xử lý Kiến thức hoạt động ở mức kiến trúc sâu hơn bằng cách cấu trúc cách kiến thức được truy cập, cách lý lẽ được thực hiện và cách các hành động được thực hiện trong hệ thống. Nó coi xử lý kiến thức như một lớp tính toán cốt lõi, tích hợp bộ nhớ, xác thực và thực hiện có kiểm soát để trí tuệ nhân tạo có thể hoạt động đáng tin cậy bên trong các quy trình công việc doanh nghiệp phức tạp chứ không chỉ tạo ra các phản hồi.

Trong các ngành được quản lý, sự chấp nhận rủi ro là thấp. Bạn đã đưa ra những quyết định thiết kế cụ thể nào để đảm bảo rằng đầu ra trí tuệ nhân tạo vẫn đáng tin cậy và không lan truyền lỗi trên các quy trình công việc phức tạp?

Trong các ngành được quản lý, độ tin cậy và kiểm soát là thiết yếu, vì vậy chúng tôi đã thiết kế hệ thống với một số biện pháp an toàn để đảm bảo rằng đầu ra trí tuệ nhân tạo vẫn đáng tin cậy. Một nguyên tắc quan trọng là thực hiện có cấu trúc, nơi trí tuệ nhân tạo không thể kích hoạt các hành động quan trọng mà không đi qua các giao diện được kiểm soát. Chúng tôi cũng tích hợp các lớp xác thực để kiểm tra đầu ra mô hình so với các lược đồ, quy tắc hoặc cơ chế thứ cấp trước khi chúng được chấp nhận. Ngoài ra, hệ thống duy trì khả năng quan sát đầy đủ, ghi lại các bước lý lẽ, tương tác công cụ và quyết định để chúng có thể được theo dõi và kiểm toán. Cùng nhau, những lựa chọn thiết kế này giúp ngăn chặn các lỗi lan truyền qua các quy trình công việc và cho phép các tổ chức vận hành các hệ thống trí tuệ nhân tạo với mức độ tin cậy và quản lý cần thiết trong các môi trường được quản lý.

Các trường hợp sử dụng đầu tiên hấp dẫn nhất mà bạn đã thấy Công nhân Kỹ thuật số chuyển từ hỗ trợ hướng dẫn đến thực hiện trí tuệ nhân tạo đầy đủ là gì?

Các trường hợp sử dụng đầu tiên hấp dẫn nhất xuất hiện trong các quy trình công việc đòi hỏi kiến thức cao mà các quy trình đã được định nghĩa rõ ràng nhưng vẫn đòi hỏi phân tích và quyết định đáng kể. Trong các lĩnh vực như xem xét tuân thủ, hoạt động hỗ trợ kỹ thuật và quản lý kiến thức nội bộ, Công nhân Kỹ thuật số có thể chuyển từ hỗ trợ con người sang thực hiện các nhiệm vụ có cấu trúc từ đầu đến cuối. Họ có thể thu thập và phân tích các lượng lớn thông tin nội bộ, áp dụng các thủ tục đã định nghĩa, tương tác với các hệ thống doanh nghiệp thông qua các công cụ được kiểm soát và tạo ra các đầu ra mà trực tiếp nuôi vào các quy trình công việc vận hành. Sự thay đổi chính xảy ra khi trí tuệ nhân tạo không chỉ tạo ra các đề xuất mà còn có thể thực hiện các hành động có cấu trúc một cách đáng tin cậy trong một hệ thống được quản lý, cho phép các tổ chức tự động hóa một phần của công việc tri thức phức tạp thay vì chỉ tăng cường nó.

Là kiến trúc sư của Đơn vị Xử lý Kiến thức, bạn khác với một lớp điều phối điển hình hoặc động cơ quy trình được xây dựng xung quanh các mô hình ngôn ngữ lớn như thế nào?

Đơn vị Xử lý Kiến thức khác với các lớp điều phối điển hình vì nó được thiết kế để quản lý toàn bộ vòng đời của lý lẽ trí tuệ nhân tạo chứ không chỉ là phối hợp các bước như nhắc, gọi mô hình và thực hiện công cụ. Hầu hết các khung điều phối hoạt động như các quản lý quy trình, nối các bước lại với nhau như thu hồi, nhắc và thực hiện công cụ. Đơn vị Xử lý Kiến thức hoạt động ở mức kiến trúc sâu hơn bằng cách cấu trúc cách kiến thức được truy cập, cách lý lẽ được thực hiện và cách các hành động được thực hiện trong hệ thống. Nó coi xử lý kiến thức như một lớp tính toán cốt lõi, tích hợp bộ nhớ, xác thực và thực hiện có kiểm soát để trí tuệ nhân tạo có thể hoạt động đáng tin cậy bên trong các quy trình công việc doanh nghiệp phức tạp chứ không chỉ tạo ra các phản hồi.

Khi sự giám sát của các quy định xung quanh trí tuệ nhân tạo tăng cường trên toàn cầu, bạn nhìn thấy cơ sở hạ tầng trí tuệ nhân tạo cốt lõi sẽ phát triển như thế nào để đáp ứng các yêu cầu tuân thủ mà không hạn chế sự đổi mới?

Khi sự giám sát của các quy định xung quanh trí tuệ nhân tạo tăng cường, tôi tin rằng chúng ta sẽ thấy một sự thay đổi khỏi các kiến trúc chỉ đơn giản gọi các API của nhà cung cấp mô hình và tin tưởng đầu ra một cách mù quáng. Các doanh nghiệp và cơ quan quản lý sẽ ngày càng đòi hỏi các hệ thống trong đó hành vi của trí tuệ nhân tạo có thể quan sát được, kiểm toán và quản lý. Đây là nơi các kiến trúc như Đơn vị Xử lý Kiến thức trở nên quan trọng. Loại kiến trúc này cho phép các tổ chức thực thi các kiểm soát, theo dõi quyết định và đảm bảo rằng đầu ra trí tuệ nhân tạo đáng tin cậy trước khi chúng ảnh hưởng đến các quy trình thực sự. Theo thời gian, tôi dự đoán rằng những loại hệ thống này sẽ trở thành nền tảng tiêu chuẩn cho cơ sở hạ tầng trí tuệ nhân tạo đáng tin cậy.

Bạn đã nói về đạo đức và trách nhiệm cùng với công việc kỹ thuật của mình. Những quan điểm đó ảnh hưởng như thế nào đến cách bạn tiếp cận việc xây dựng các hệ thống trí tuệ nhân tạo minh bạch?

Đạo đức và trách nhiệm, đối với tôi, dịch trực tiếp thành các lựa chọn thiết kế hệ thống. Nếu các hệ thống trí tuệ nhân tạo sẽ tham gia vào các quy trình công việc vận hành thực sự, chúng không thể hoạt động như các hộp đen không minh bạch mà hành vi của chúng không thể được kiểm tra hoặc hiểu. Quan điểm đó đã ảnh hưởng mạnh mẽ đến cách tôi tiếp cận việc xây dựng các hệ thống trí tuệ nhân tạo. Minh bạch, khả năng theo dõi và giám sát của con người cần được tích hợp vào kiến trúc từ đầu. Điều này có nghĩa là đảm bảo rằng các bước lý lẽ có thể được quan sát, quyết định có thể được kiểm toán và các hành động được thực hiện thông qua các cơ chế được kiểm soát. Khi những nguyên tắc này được nhúng vào cấp độ cơ sở hạ tầng, các hệ thống trí tuệ nhân tạo trở nên không chỉ đáng tin cậy hơn mà còn dễ dàng hơn cho các tổ chức quản lý một cách có trách nhiệm.

Nhìn về tương lai, bạn có tin rằng cơ sở hạ tầng trí tuệ nhân tạo có chủ thể sẽ trở nên cơ bản như cơ sở hạ tầng đám mây đã làm trong thập kỷ trước — và điều gì cần xảy ra về mặt kỹ thuật để sự thay đổi đó trở thành hiện thực?

Tôi tin rằng cơ sở hạ tầng trí tuệ nhân tạo có chủ thể có tiềm năng trở nên cơ bản như cơ sở hạ tầng đám mây đã trở thành trong thập kỷ trước. Khi các tổ chức tìm cách tự động hóa ngày càng nhiều công việc tri thức phức tạp, họ sẽ cần các hệ thống có thể phối hợp đáng tin cậy lý lẽ, bộ nhớ và thực hiện trên nhiều nhiệm vụ và nguồn dữ liệu. Tuy nhiên, để sự thay đổi đó trở thành hiện thực, kiến trúc cơ bản phải trưởng thành vượt ra ngoài việc tích hợp mô hình đơn giản. Chúng ta cần cơ sở hạ tầng cung cấp lý lẽ có cấu trúc, truy cập đáng tin cậy vào kiến thức doanh nghiệp, khả năng quan sát mạnh mẽ và thực hiện có kiểm soát. Khi những khả năng này được tích hợp vào hệ thống cốt lõi, trí tuệ nhân tạo có chủ thể có thể phát triển từ các công cụ thí nghiệm thành cơ sở hạ tầng đáng tin cậy mà các tổ chức dựa vào để vận hành các hoạt động quan trọng.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập Maisa AI.