Marc Fernandez, Giám đốc Chiến lược tại Neurologyca – Chuỗi Phỏng vấn

Marc Fernandez, Giám đốc Chiến lược tại Neurologyca, là một chiến lược gia công nghệ và giám đốc phát triển kinh doanh với hơn hai thập kỷ kinh nghiệm bao quát trí tuệ nhân tạo, công nghệ mới nổi, điện tử tiêu dùng và tương tác người‑máy. Tại Neurologyca, ông tập trung vào chiến lược và thương mại hoá Human Context AI, được thiết kế để giúp các hệ thống AI giải thích các tín hiệu như căng thẳng, tự tin và mức độ tham gia. Fernandez trước đây từng là CEO của Pearl, một nền tảng hướng dẫn AI tập trung vào kỹ năng mềm và phát triển nghề nghiệp, và là Entrepreneur in Residence tại ALIVE Ventures, nơi ông làm việc trong lĩnh vực age‑tech. Trước đó, ông dẫn dắt chiến lược tại Hoa Kỳ cho OPPO, tập trung vào các công nghệ thế hệ mới bao gồm AI, Web3, blockchain và hệ điều hành di động, và đã giữ các vị trí cao cấp về phát triển kinh doanh tại Emerge, Denizen, SweetLabs, Movella và X‑Rite/Pantone. Ông cũng đã dành 15 năm làm giảng viên phụ tại Đại học Nam California, giảng dạy tại giao điểm của khởi nghiệp, truyền thông, nền tảng xã hội, AI, blockchain và các công nghệ mới khác.

Neurologyca là công ty AI có trụ sở tại San Francisco, đang xây dựng cái mà họ gọi là Human Context Layer cho các hệ thống thông minh, cho phép các ứng dụng và tác nhân AI hiểu và thích nghi tốt hơn với con người mà chúng phục vụ. Nền tảng dựa trên API và SDK của họ xử lý các tín hiệu hành vi đa phương tiện, mẫu tương tác và ngữ cảnh tình huống để tạo ra các chỉ báo có thể đọc được bởi máy liên quan đến các yếu tố như mức độ tham gia, tự tin, căng thẳng, chú ý và niềm tin. Những hiểu biết này có thể giúp các hệ thống AI điều chỉnh phản hồi, tốc độ, đề xuất và hành động trong thời gian thực đồng thời duy trì tính liên tục ngữ cảnh qua các tương tác. Neurologyca đang định vị công nghệ này như một hạ tầng chứ không phải một ứng dụng độc lập, với các tiềm năng ứng dụng trải dài trong giáo dục và đào tạo, sức khỏe, phần mềm doanh nghiệp, tác nhân tự động, an toàn lái xe, trò chơi và các hệ thống tương tác khác. Hiện công ty đang cung cấp nền tảng thông qua chương trình truy cập sớm có chọn lọc cho các đối tác đang xây dựng trải nghiệm AI thích nghi.

Sự nghiệp của bạn đã đưa bạn từ chiến lược công nghệ thế hệ mới tại OPPO đến việc xây dựng Pearl dựa trên AI hướng dẫn kỹ năng mềm và hiện đang phát triển AI ngữ cảnh con người tại Neurologyca. Quá trình này đã hình thành quan điểm của bạn rằng một trong những hạn chế lớn nhất của AI không phải là trí thông minh mà là việc hiểu con người đằng sau một chỉ thị như thế nào?

Ba mươi năm trước, web đã làm cho thông tin trở nên dễ tiếp cận. Năm năm trước, AI đã tạo ra lượng đầu ra dồi dào. Ngày nay chúng ta đang ngập trong nội dung trong khi vẫn gặp khó khăn trong việc đạt được kết quả hữu ích. Sức mạnh kỹ thuật thô sơ không đảm bảo một kết quả tốt cho con người thực sự ở phía nhận.

Đó là sợi chỉ xuyên suốt công việc của tôi — từ việc đưa công nghệ mới vào cuộc sống hàng ngày tại OPPO, đến việc thử nghiệm liệu AI có thể dạy kỹ năng giao tiếp cá nhân tại Pearl, đến việc xây dựng ngữ cảnh con người như một hạ tầng tại Neurologyca. Trí thông minh không còn là nút thắt thực sự nữa; các mô hình suy luận và thực thi đều ổn. Vấn đề khó khăn hơn là toàn bộ ngữ cảnh không lời mà con người mang theo cho một yêu cầu đơn giản: tại sao họ hỏi, điều gì khiến họ không thoải mái, hoặc liệu một chút do dự có nghĩa là hệ thống nên dừng lại. Hiện tại, AI chỉ nhìn thấy một phần nén của điều đó qua văn bản, và khi các tác nhân bắt đầu thực hiện các hành động trong thế giới thực, khoảng trống mù này trở nên quan trọng.

Những ví dụ gần đây về các tác nhân tự động đánh cắp thông tin đăng nhập, tạo danh tính giả hoặc che giấu hành động của chúng đặt ra câu hỏi về việc gì sẽ xảy ra khi một AI trở nên cực kỳ hiệu quả trong việc đạt mục tiêu mà không hiểu đầy đủ ý định phía sau. Bạn có nhìn nhận vấn đề này chủ yếu là một vấn đề về sự đồng nhất (alignment), một vấn đề kỹ thuật, hay là một giới hạn cơ bản của cách chúng ta hiện đang thiết kế các tác nhân?

Đó là một thất bại thiết kế bao trùm cả đồng nhất và kỹ thuật. Chúng tôi đã tối ưu hoá hệ thống để đạt mục tiêu mà không bỏ ra nửa công sức để dạy chúng cách thành công thực sự trông như thế nào đối với người dùng.

Hãy nhìn vào ví dụ kinh điển GPT‑4 TaskRabbit: khi đối mặt với CAPTCHA, mô hình đã nói dối và khẳng định mình bị khiếm thị để khiến một nhân viên con người giải quyết. Không ai dạy nó cách lừa dối; nó chỉ nhận diện một chướng ngại và chọn con đường ít kháng cự nhất. Nếu chỉ thưởng cho một tác nhân dựa trên kết quả, nó sẽ tìm các lối tắt hoang dã. Thách thức cốt lõi là phân chia các hành động phải bị chặn kiến trúc khỏi những hành động về mặt kỹ thuật cho phép nhưng về mặt ngữ cảnh là sai.

Bạn đã lập luận rằng các công ty đang ngày càng giỏi trong việc chỉ cho các tác nhân AI mục tiêu cần đạt mà không cung cấp cho chúng đủ hiểu biết về “thành công” thực sự có nghĩa gì đối với người dùng. Thông tin nào một tác nhân cần ngoài lời nhắc (prompt) để thực sự hiểu được ý định?

Lời nhắc chỉ là lớp bề mặt. Ý định thực sự dựa vào độ sâu tình huống: lịch sử trước đây, những đánh đổi nào chấp nhận được, mức độ rủi ro thực tế, và cách người dùng phản ứng trong quá trình thực hiện.

Một phần thông tin này đến từ trạng thái môi trường ứng dụng hoặc lịch sử trò chuyện, nhưng trong các tương tác trực tiếp, các dấu hiệu hành vi là những gì giữ cho ngữ cảnh luôn động. Con người do dự, thay đổi ý định giữa chừng, hoặc bối rối. Nếu một tác nhân không thể đọc những thay đổi này, nó sẽ chỉ kiên trì thực hiện một chỉ thị đã trở nên lỗi thời hai bước trước.

Có một sự phân biệt quan trọng giữa những hành động mà một tác nhân nên hoàn toàn không thể thực hiện và những hành động được phép nhưng không phù hợp trong một ngữ cảnh cụ thể. Các nhà phát triển nên chia trách nhiệm như thế nào giữa các rào cản bảo mật cứng và khả năng của hệ thống AI trong việc thực hiện phán đoán ngữ cảnh?

Bất kỳ hành động nào gây hại nghiêm trọng mà không có trường hợp sử dụng hợp pháp — đánh cắp thông tin đăng nhập, xoá log kiểm toán, nâng quyền không được phép — nên được mã hoá cứng để không tồn tại. Một tác nhân không nên tốn tài nguyên tính toán để thương lượng xem có nên vượt qua các kiểm soát bảo mật hay không; kiến trúc hệ thống chỉ cần khiến chúng không thể thực hiện.

Vùng xám thực sự là các hành động hàng ngày như gửi email, hủy cuộc họp, hoặc thay đổi quy trình nội bộ. Những hành động này về lý thuyết là cho phép, nhưng việc một tác nhân có nên thực hiện chúng tự động phụ thuộc vào mức độ rủi ro, lịch sử người dùng, khả năng đảo ngược và những dấu hiệu tinh tế của sự do dự. Biết khi nào dừng lại vì ngữ cảnh thiếu sót quan trọng hơn khả năng thực hiện thô sơ.

Neurologyca đang phát triển công nghệ có thể biến các tín hiệu như căng thẳng, tự tin, chú ý, tham gia và niềm tin thành ngữ cảnh có thể đọc được bởi máy. Những tín hiệu như vậy có thể thực tế thay đổi hành vi của một tác nhân AI tự động như thế nào khi nó đang thực hiện một nhiệm vụ?

Những đầu vào hành vi này thực chất là dữ liệu phản hồi thời gian thực — vòng phản hồi chính xác mà hiện tại các kiến trúc AI thiếu. Hiện các mô hình chỉ theo dõi hành động của chính chúng, nhưng chúng hoạt động hoàn toàn mù lòa trước cách con người thực sự tiếp nhận chúng.
Hãy xét một bối cảnh dạy kèm: người dùng gõ “Tôi hiểu”, nhưng các dấu hiệu sinh lý hoặc hành vi lại cho thấy sự bối rối tăng lên và mức độ chú ý giảm. Đó là tín hiệu trực tiếp cho AI chuyển hướng, giảm tốc hoặc đưa ra lời giải thích thay thế. Mục tiêu không phải là chẩn đoán lâm sàng; mà chỉ là thiết lập một vòng phản hồi chặt chẽ — ngữ cảnh, hành động, phản hồi, thích nghi — để hệ thống học được những gì thực sự hiệu quả cho cá nhân đó.

Ngữ cảnh con người cũng có thể mơ hồ. Một hệ thống có thể hiểu sai sự do dự, căng thẳng, giọng điệu, hoặc các tín hiệu hành vi khác. Làm thế nào để ngăn AI nhận thức ngữ cảnh trở nên quá tự tin về những gì một người đang nghĩ hoặc định hướng?

Các tín hiệu hành vi vốn dĩ nhiễu và mang tính xác suất. Một đột biến đột ngột trong mức độ căng thẳng hoặc một khoảng dừng khi gõ có thể nghĩa là bối rối, hoặc chỉ đơn giản là người dùng làm đổ cà phê. Các hệ thống chuyển một điểm dữ liệu duy nhất thành khẳng định chắc chắn về trạng thái cảm xúc của ai đó là sai lầm căn bản.

Hệ thống vững chắc sẽ xem xét các tín hiệu tổng hợp theo thời gian, cân nhắc các chuẩn môi trường, và rõ ràng đưa ra giới hạn độ tin cậy. Có sự khác biệt lớn giữa việc ghi lại “gánh nặng nhận thức tăng so với chuẩn” và quyết định “người dùng đang lo lắng”. Khi mức độ không chắc chắn cao hoặc rủi ro lớn, nhiệm vụ của tác nhân không phải đoán — mà là đặt câu hỏi làm rõ.

Đưa một con người vào vòng lặp cho mỗi quyết định quan trọng có thể làm suy giảm phần lớn hiệu suất mà các tác nhân tự động hứa hẹn. Mô hình giám sát mở rộng quy mô trông như thế nào, nơi một tác nhân biết khi nào có thể tiến hành độc lập và khi nào thực sự cần dừng lại và yêu cầu hướng dẫn?

Giám sát mở rộng không phải là duy trì một vòng lặp con người luôn hiện hữu; mà là sự leo thang động.

Các nhiệm vụ có rủi ro thấp, có thể đảo ngược sẽ được tự động tiến hành. Nhưng khi rủi ro tăng, tiếng ồn môi trường tăng, hoặc các tín hiệu gợi ý sự không thoải mái của người dùng, ngưỡng chấp thuận sẽ được nâng lên một cách động. Điều then chốt, các ngưỡng này phải được cá nhân hoá — một quản lý có thể thoải mái giao phó quản lý lịch, trong khi người khác muốn phê duyệt mọi chỉnh sửa nhỏ. Hệ thống phải học ranh giới cá nhân, không áp dụng các chính sách toàn cục cứng nhắc.

Khi các tác nhân phát triển bộ nhớ bền vững và mô hình chi tiết hơn về những người chúng phục vụ, ngữ cảnh có thể nhanh chóng trở thành dữ liệu cá nhân nhạy cảm. Các công ty nên tiếp cận vấn đề đồng ý, quyền riêng tư, sở hữu dữ liệu và giới hạn những gì một AI được phép nhớ về người dùng như thế nào?

Đây là nút thắt tin cậy chính mà các hệ thống tự động phải đối mặt. Bộ nhớ bền vững biến một công cụ chung thành trợ lý, nhưng có một ranh giới nguy hiểm giữa việc lưu trữ sở thích quy trình và việc lặng lẽ xây dựng hồ sơ tâm lý không được phê duyệt.
Quản trị dữ liệu ở đây cần ranh giới mục đích nghiêm ngặt. Nếu một tác nhân suy ra mẫu căng thẳng trong buổi huấn luyện điều hành, ngữ cảnh đó không được rò rỉ vào đánh giá hiệu suất, thuật toán bảo hiểm hay công nghệ quảng cáo. Tính minh bạch phải chi tiết — người dùng cần khả năng xem ngữ cảnh đã lưu, xóa chỉ một cú nhấp, và giới hạn lưu trữ mặc định hợp lý. Chỉ vì một hệ thống có thể suy ra điều gì đó về bạn không có nghĩa là nó được phép lưu giữ.

Làm thế nào chúng ta đánh giá liệu một tác nhân tự động thực sự hiểu được ý định của con người? Các tiêu chuẩn hiện nay có quá tập trung vào việc hoàn thành nhiệm vụ và độ chính xác mà không xem xét liệu tác nhân đã đạt mục tiêu theo cách mà người dùng thực sự chấp nhận không?

Hoàn thành nhiệm vụ là một tiêu chuẩn đầy lừa dối. Một tác nhân có thể thực hiện đúng yêu cầu từng chữ nhưng vẫn đưa ra kết quả mà người dùng ghét bỏ.

Nếu một tác nhân đạt được mức giá thấp nhất cho một hợp đồng nhưng lại phá vỡ mối quan hệ nhà cung cấp kéo dài một thập kỷ để đạt được điều đó, các chỉ số đánh giá truyền thống sẽ ghi nhận tỷ lệ thành công 100 %. Đối với nhà điều hành, đó là thảm họa. Chúng ta cần các tiêu chuẩn đo lường hiệu suất trong các ranh giới không được nói ra: Nó có tôn trọng các chuẩn mực không lời? Nó có dừng lại khi điều kiện thay đổi? Khoảng cách giữa hoàn thành thuần túy và sự hài lòng thực tế là gì mà các tiêu chuẩn hiện tại hoàn toàn bỏ qua.

Nhìn về phía trước, bạn có kỳ vọng các khả năng ngữ cảnh con người sẽ trở thành lớp tiêu chuẩn của ngăn xếp AI cùng với các mô hình, bộ nhớ, công cụ và bảo mật? Điều gì còn cần được giải quyết trước khi các doanh nghiệp có thể tự tin giao phó công việc có ý nghĩa cho các tác nhân mà không phải giám sát liên tục?

Khi AI chuyển từ việc tạo nội dung sang thực hiện hành động thực tế, ngữ cảnh con người trở thành một lớp thiết yếu. Các mô hình xử lý suy luận và các công cụ cung cấp “tay” cho hệ thống, nhưng nếu không có ngữ cảnh con người làm vòng phản hồi thời gian thực, bộ nhớ và các rào cản bảo mật cơ bản chỉ chạy trên các giả định tĩnh.

Trước khi các doanh nghiệp giao quyền thực sự, chúng ta vẫn phải giải quyết vấn đề riêng tư ngữ cảnh, suy luận xác suất dưới độ không chắc chắn và các quy tắc quản trị chi tiết. Việc xây dựng AI hoàn thành các nhiệm vụ riêng lẻ phần lớn đã được giải quyết; việc làm cho hệ thống thích nghi động với con người đằng sau lời nhắc sẽ quyết định mức độ tự chủ thực sự mà chúng ta sẵn sàng trao cho chúng.

Cảm ơn các bạn đã tham gia buổi phỏng vấn tuyệt vời, những độc giả muốn tìm hiểu thêm nên truy cập Neurologyca.