Daniel Ciolek, Trưởng phòng Nghiên cứu và Phát triển tại InvGate – Phỏng vấn Series

Daniel là một chuyên gia IT đam mê với hơn 15 năm kinh nghiệm trong ngành. Ông có bằng tiến sĩ về Khoa học Máy tính và một sự nghiệp lâu dài trong nghiên cứu công nghệ. Các lĩnh vực quan tâm của ông bao gồm Trí tuệ Nhân tạo, Kỹ thuật Phần mềm và Máy tính Hiệu suất Cao.

Daniel là Trưởng phòng Nghiên cứu và Phát triển tại InvGate, nơi ông lãnh đạo các sáng kiến R&D. Ông làm việc cùng với các đội Phát triển Sản phẩm và Kinh doanh để thiết kế, thực hiện và theo dõi chiến lược R&D của công ty. Khi ông không nghiên cứu, ông dạy học.

InvGate cung cấp cho các tổ chức công cụ để cung cấp dịch vụ không gián đoạn trên các bộ phận, từ IT đến Cơ sở vật chất.

Khi và làm thế nào bạn ban đầu trở nên quan tâm đến khoa học máy tính?

Sự quan tâm của tôi đến khoa học máy tính bắt đầu từ thời thơ ấu. Tôi luôn bị thu hút bởi các thiết bị điện tử, thường tìm mình đang khám phá và cố gắng hiểu cách chúng hoạt động. Khi tôi lớn hơn, sự tò mò này dẫn tôi đến việc lập trình. Tôi vẫn nhớ sự thú vị khi viết chương trình đầu tiên của mình. Từ đó, không có sự nghi ngờ nào trong tâm trí tôi rằng tôi muốn theo đuổi sự nghiệp trong khoa học máy tính.

Bạn hiện đang lãnh đạo các sáng kiến R&D và triển khai các ứng dụng Trí tuệ Nhân tạo sinh (Generative AI) mới. Bạn có thể thảo luận về một số công việc của mình?

Tất nhiên. Trong bộ phận R&D của chúng tôi, chúng tôi giải quyết các vấn đề phức tạp có thể khó đại diện và giải quyết hiệu quả. Công việc của chúng tôi không chỉ giới hạn trong các ứng dụng Trí tuệ Nhân tạo sinh, nhưng những tiến bộ gần đây trong lĩnh vực này đã tạo ra nhiều cơ hội mà chúng tôi muốn khai thác.

Một trong những mục tiêu chính của chúng tôi tại InvGate đã luôn là tối ưu hóa khả năng sử dụng của phần mềm. Chúng tôi làm điều này bằng cách theo dõi cách nó được sử dụng, xác định các nút thắt và làm việc chăm chỉ để loại bỏ chúng. Một trong những nút thắt mà chúng tôi thường gặp phải là liên quan đến việc hiểu và sử dụng ngôn ngữ tự nhiên. Đây là một vấn đề đặc biệt khó khăn để giải quyết mà không sử dụng các Mô hình Ngôn ngữ Lớn (LLM).

Tuy nhiên, với sự xuất hiện gần đây của các LLM tiết kiệm chi phí, chúng tôi đã có thể简化 các trường hợp sử dụng này. Các khả năng của chúng tôi hiện bao gồm cung cấp các khuyến nghị viết, tự động soạn thảo các bài viết trong cơ sở kiến thức và tóm tắt các văn bản dài, trong số nhiều tính năng ngôn ngữ khác.

Tại InvGate, nhóm của bạn áp dụng một chiến lược được gọi là “Trí tuệ Nhân tạo trung lập”. Bạn có thể định nghĩa điều này và tại sao nó lại quan trọng?

Trí tuệ Nhân tạo trung lập cơ bản là về sự linh hoạt và thích nghi. Về cơ bản, nó là về việc không cam kết với một mô hình Trí tuệ Nhân tạo hoặc nhà cung cấp duy nhất. Thay vào đó, chúng tôi nhằm mục đích giữ các lựa chọn của mình mở, tận dụng những gì tốt nhất mà mỗi nhà cung cấp Trí tuệ Nhân tạo cung cấp, đồng thời tránh rủi ro bị khóa vào một hệ thống.

Bạn có thể nghĩ về nó như thế này: chúng tôi nên sử dụng GPT của OpenAI, Gemini của Google hay Llama-2 của Meta cho các tính năng Trí tuệ Nhân tạo sinh của mình? Chúng tôi nên chọn triển khai đám mây trả tiền theo từng lần sử dụng, một phiên bản được quản lý hay một phiên bản tự lưu trữ? Những quyết định này không đơn giản và có thể thay đổi theo thời gian khi các mô hình mới được phát hành và các nhà cung cấp mới tham gia thị trường.

Cách tiếp cận Trí tuệ Nhân tạo trung lập đảm bảo rằng hệ thống của chúng tôi luôn sẵn sàng thích nghi. Việc triển khai của chúng tôi có ba thành phần chính: giao diện, bộ định tuyến và các mô hình Trí tuệ Nhân tạo chính nó. Giao diện trừu tượng hóa các chi tiết triển khai của hệ thống Trí tuệ Nhân tạo, làm cho nó dễ dàng hơn cho các phần khác của phần mềm tương tác với nó. Bộ định tuyến quyết định nơi gửi từng yêu cầu dựa trên các yếu tố như loại yêu cầu và khả năng của các mô hình Trí tuệ Nhân tạo có sẵn. Cuối cùng, các mô hình thực hiện các nhiệm vụ Trí tuệ Nhân tạo thực tế, có thể yêu cầu các quy trình tiền xử lý dữ liệu và định dạng kết quả tùy chỉnh.

Bạn có thể mô tả các khía cạnh phương pháp luận hướng dẫn quá trình ra quyết định của bạn khi chọn các mô hình Trí tuệ Nhân tạo và nhà cung cấp phù hợp cho các nhiệm vụ cụ thể?

Đối với mỗi tính năng mới chúng tôi phát triển, chúng tôi bắt đầu bằng cách tạo một điểm chuẩn đánh giá. Điểm chuẩn này được thiết kế để đánh giá hiệu quả của các mô hình Trí tuệ Nhân tạo khác nhau trong việc giải quyết nhiệm vụ tại hand. Nhưng chúng tôi không chỉ tập trung vào hiệu suất, chúng tôi cũng xem xét tốc độ và chi phí của mỗi mô hình. Điều này cung cấp cho chúng tôi một cái nhìn toàn diện về giá trị của mỗi mô hình, cho phép chúng tôi chọn lựa chọn tiết kiệm chi phí nhất để định tuyến yêu cầu.

Tuy nhiên, quá trình của chúng tôi không kết thúc ở đó. Trong lĩnh vực Trí tuệ Nhân tạo đang phát triển nhanh chóng, các mô hình mới不断 được phát hành và các mô hình hiện có được cập nhật thường xuyên. Vì vậy, mỗi khi một mô hình mới hoặc cập nhật trở nên có sẵn, chúng tôi chạy lại điểm chuẩn đánh giá của mình. Điều này cho phép chúng tôi so sánh hiệu suất của mô hình mới hoặc cập nhật với hiệu suất của lựa chọn hiện tại của chúng tôi. Nếu một mô hình mới vượt trội so với mô hình hiện tại, chúng tôi sau đó cập nhật mô-đun bộ định tuyến của mình để phản ánh sự thay đổi này.

Các thách thức của việc chuyển đổi liền mạch giữa các mô hình Trí tuệ Nhân tạo và nhà cung cấp khác nhau là gì?

Việc chuyển đổi liền mạch giữa các mô hình Trí tuệ Nhân tạo và nhà cung cấp khác nhau thực sự đưa ra một tập hợp các thách thức độc đáo.

Trước hết, mỗi nhà cung cấp Trí tuệ Nhân tạo yêu cầu đầu vào được định dạng theo các cách cụ thể, và các mô hình Trí tuệ Nhân tạo có thể phản ứng khác nhau với cùng một yêu cầu. Điều này có nghĩa là chúng tôi cần tối ưu hóa riêng cho từng mô hình, điều này có thể khá phức tạp khi xem xét sự đa dạng của các lựa chọn.

Thứ hai, các mô hình Trí tuệ Nhân tạo có các khả năng khác nhau. Ví dụ, một số mô hình có thể tạo ra đầu ra ở định dạng JSON, một tính năng chứng minh hữu ích trong nhiều triển khai của chúng tôi. Những mô hình khác có thể xử lý lượng văn bản lớn, cho phép chúng tôi sử dụng một ngữ cảnh toàn diện hơn cho một số nhiệm vụ. Quản lý các khả năng này để tối đa hóa tiềm năng của từng mô hình là một phần quan trọng của công việc của chúng tôi.

Cuối cùng, chúng tôi cần đảm bảo rằng các phản hồi được tạo bởi Trí tuệ Nhân tạo an toàn để sử dụng. Các mô hình Trí tuệ Nhân tạo sinh có thể đôi khi tạo ra “ảo giác”, hoặc tạo ra phản hồi sai, không phù hợp hoặc thậm chí có hại. Để giảm thiểu điều này, chúng tôi triển khai các bộ lọc khử trùng nghiêm ngặt sau xử lý để phát hiện và lọc ra các phản hồi không phù hợp.

Làm thế nào giao diện được thiết kế trong hệ thống Trí tuệ Nhân tạo trung lập của bạn để đảm bảo nó trừu tượng hóa hiệu quả các phức tạp của công nghệ Trí tuệ Nhân tạo cơ bản cho các tương tác thân thiện với người dùng?

Thiết kế giao diện của chúng tôi là một nỗ lực hợp tác giữa các nhóm R&D và kỹ thuật. Chúng tôi làm việc trên cơ sở tính năng theo tính năng, xác định các yêu cầu và dữ liệu có sẵn cho từng tính năng. Sau đó, chúng tôi thiết kế một API tích hợp liền mạch với sản phẩm, triển khai nó trong Dịch vụ Trí tuệ Nhân tạo nội bộ của chúng tôi. Điều này cho phép các nhóm kỹ thuật tập trung vào logic kinh doanh, trong khi Dịch vụ Trí tuệ Nhân tạo của chúng tôi xử lý các phức tạp của việc tương tác với các nhà cung cấp Trí tuệ Nhân tạo khác nhau.

Quá trình này không dựa trên nghiên cứu tiên tiến, mà thay vào đó dựa trên việc áp dụng các thực hành kỹ thuật phần mềm đã được chứng minh.

Xem xét hoạt động toàn cầu, InvGate xử lý thách thức về tính sẵn có khu vực và tuân thủ các quy định dữ liệu địa phương như thế nào?

Đảm bảo tính sẵn có khu vực và tuân thủ các quy định dữ liệu địa phương là một phần quan trọng của hoạt động của chúng tôi tại InvGate. Chúng tôi chọn lọc các nhà cung cấp Trí tuệ Nhân tạo có thể không chỉ hoạt động ở quy mô lớn mà còn duy trì các tiêu chuẩn bảo mật hàng đầu và tuân thủ các quy định khu vực.

Ví dụ, chúng tôi chỉ xem xét các nhà cung cấp tuân thủ các quy định như Quy định Bảo vệ Dữ liệu Tổng quát (GDPR) của EU. Điều này đảm bảo rằng chúng tôi có thể triển khai dịch vụ của mình ở các khu vực khác nhau, với sự tự tin rằng chúng tôi đang hoạt động trong khuôn khổ pháp lý địa phương.

Các nhà cung cấp đám mây lớn như AWS, Azure và Google Cloud đáp ứng các yêu cầu này và cung cấp một loạt các chức năng Trí tuệ Nhân tạo, khiến chúng trở thành đối tác phù hợp cho hoạt động toàn cầu của chúng tôi. Hơn nữa, chúng tôi liên tục theo dõi các thay đổi trong các quy định dữ liệu địa phương để đảm bảo tuân thủ liên tục, điều chỉnh các thực hành của mình khi cần.

Làm thế nào cách tiếp cận của InvGate trong việc phát triển các giải pháp IT đã thay đổi trong thập kỷ qua, đặc biệt là với việc tích hợp Trí tuệ Nhân tạo Sinh?

Trong thập kỷ qua, cách tiếp cận của InvGate trong việc phát triển các giải pháp IT đã thay đổi đáng kể. Chúng tôi đã mở rộng cơ sở tính năng của mình với các khả năng tiên tiến như các quy trình tự động hóa, khám phá thiết bị và Cơ sở Dữ liệu Quản lý Cấu hình (CMDB). Những tính năng này đã đơn giản hóa đáng kể hoạt động IT cho người dùng của chúng tôi.

Gần đây, chúng tôi đã bắt đầu tích hợp Trí tuệ Nhân tạo Sinh vào các sản phẩm của mình. Điều này đã được thực hiện có thể nhờ vào những tiến bộ gần đây trong các nhà cung cấp LLM, những người đã bắt đầu cung cấp các giải pháp tiết kiệm chi phí. Việc tích hợp Trí tuệ Nhân tạo Sinh đã cho phép chúng tôi nâng cao sản phẩm của mình với sự hỗ trợ được tăng cường bởi Trí tuệ Nhân tạo, làm cho các giải pháp của chúng tôi trở nên hiệu quả và thân thiện với người dùng hơn.

Mặc dù vẫn còn trong giai đoạn đầu, chúng tôi dự đoán rằng Trí tuệ Nhân tạo sẽ trở thành một công cụ phổ biến trong hoạt động IT. Vì vậy, chúng tôi dự định sẽ tiếp tục phát triển sản phẩm của mình bằng cách tích hợp thêm các công nghệ Trí tuệ Nhân tạo.

Bạn có thể giải thích cách Trí tuệ Nhân tạo sinh trong Trung tâm Trí tuệ Nhân tạo tăng cường tốc độ và chất lượng của phản hồi đối với các sự cố IT phổ biến?

Trí tuệ Nhân tạo sinh trong Trung tâm Trí tuệ Nhân tạo của chúng tôi tăng cường đáng kể cả tốc độ và chất lượng của phản hồi đối với các sự cố IT phổ biến. Nó làm điều này thông qua một quá trình nhiều bước:

Liên hệ ban đầu: Khi người dùng gặp phải một vấn đề, họ có thể mở một cuộc trò chuyện với Trợ lý ảo (VA) được tăng cường bởi Trí tuệ Nhân tạo của chúng tôi và mô tả vấn đề. VA tự động tìm kiếm trong Cơ sở Kiến thức (KB) của công ty và một cơ sở dữ liệu công khai về hướng dẫn khắc phục sự cố IT, cung cấp hướng dẫn trong một cách trò chuyện. Điều này thường giải quyết vấn đề một cách nhanh chóng và hiệu quả.

Tạo vé: Nếu vấn đề phức tạp hơn, VA có thể tạo một vé, tự động trích xuất thông tin liên quan từ cuộc trò chuyện.

Phân bổ vé: Hệ thống phân bổ vé cho một đại lý hỗ trợ dựa trên loại vé, mức độ ưu tiên và kinh nghiệm của đại lý với các vấn đề tương tự.

Tương tác của đại lý: Đại lý có thể liên hệ với người dùng để thu thập thêm thông tin hoặc thông báo cho họ rằng vấn đề đã được giải quyết. Tương tác được tăng cường bởi Trí tuệ Nhân tạo, cung cấp các khuyến nghị viết để cải thiện giao tiếp.

Đẩy lên cấp cao hơn: Nếu vấn đề yêu cầu đẩy lên cấp cao hơn, các tính năng tóm tắt tự động giúp các quản lý nhanh chóng hiểu vấn đề.

Phân tích hậu sự: Sau khi vé được đóng, Trí tuệ Nhân tạo thực hiện phân tích nguyên nhân gốc rễ, giúp trong phân tích và báo cáo hậu sự. Đại lý cũng có thể sử dụng Trí tuệ Nhân tạo để soạn thảo một bài viết trong cơ sở kiến thức, giúp giải quyết các vấn đề tương tự trong tương lai.

Mặc dù chúng tôi đã triển khai hầu hết các tính năng này, chúng tôi vẫn tiếp tục làm việc trên các cải tiến và nâng cấp hơn nữa.

Với các tính năng sắp tới như Trợ lý ảo MS Teams thông minh hơn, những cải tiến nào được dự kiến trong trải nghiệm hỗ trợ trò chuyện?

Một con đường tiến triển đầy hứa hẹn là mở rộng trải nghiệm trò chuyện thành một “đồng pilot”, không chỉ có khả năng trả lời các câu hỏi và thực hiện các hành động đơn giản, mà còn thực hiện các hành động phức tạp thay mặt người dùng. Điều này có thể hữu ích để cải thiện khả năng tự phục vụ của người dùng, cũng như cung cấp các công cụ mạnh mẽ hơn cho các đại lý. Cuối cùng, những giao diện trò chuyện mạnh mẽ này sẽ làm cho Trí tuệ Nhân tạo trở thành một người bạn đồng hành phổ biến.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập InvGate.