Zahra Timsah, Đồng sáng lập và CEO của I-GENTIC AI – Loạt phỏng vấn

Zahra Timsah, Đồng sáng lập và CEO của I-GENTIC AI, là một nhà lãnh đạo nổi bật tại giao điểm của công nghệ và kinh doanh, được công nhận vì chuyên môn của cô trong đổi mới và chuyển đổi số được thúc đẩy bởi AI. Với sự nghiệp bao gồm các vai trò điều hành tại MassMutual và IQVIA (IQV ), cô đã lãnh đạo các sáng kiến quy mô lớn trong lĩnh vực trí tuệ nhân tạo, quản trị và chuyển đổi dữ liệu, đặc biệt trong lĩnh vực chăm sóc sức khỏe và dịch vụ tài chính. Ngoài vai trò lãnh đạo tại I-GENTIC AI, Tiến sĩ Timsah cũng đóng góp vào quản trị và chính sách AI toàn cầu thông qua Diễn đàn Kinh tế Thế giới và là thành viên điều hành của Chief, nhấn mạnh ảnh hưởng của cô trong việc định hình việc áp dụng AI có trách nhiệm trên các ngành công nghiệp.

i-GENTIC AI là một nền tảng quản trị doanh nghiệp cung cấp thực thi chính sách thời gian thực trên các lĩnh vực AI, dữ liệu, quyền riêng tư và an ninh mạng bằng cách sử dụng các tác nhân thông minh. Hệ thống cốt lõi của họ, GENIE™, dịch các quy tắc phức tạp thành các hành động có thể giải thích và kiểm toán – đảm bảo rằng mọi quyết định đều minh bạch và tuân thủ. Được thiết kế cho các lĩnh vực có mức độ rủi ro cao như chăm sóc sức khỏe, tài chính, bảo hiểm và khu vực công, i-GENTIC cho phép quản trị tự động hóa và có thể mở rộng với sự giám sát của con người tại các điểm quan trọng.

Bạn đã từng giữ các vai trò lãnh đạo tại MassMutual, IQVIA và Diễn đàn Kinh tế Thế giới – làm thế nào kinh nghiệm đó định hình quyết định của bạn trong việc thành lập i-GENTIC và tạo ra GENIE™?

Mỗi vai trò đã mang lại cho tôi một góc nhìn khác nhau về cùng một thách thức: làm thế nào để chúng ta đổi mới một cách có trách nhiệm trong các môi trường được quản lý chặt chẽ?

Tại MassMutual, tôi đã thấy cách các tổ chức tài chính thường bị chia rẽ giữa việc di chuyển nhanh với các sản phẩm dựa trên dữ liệu và việc tuân thủ các quy định nghiêm ngặt. Tại IQVIA, tôi đã thấy sự phức tạp của chăm sóc sức khỏe và khoa học đời sống toàn cầu, nơi mỗi quốc gia có quy định riêng và cuộc sống của bệnh nhân phụ thuộc vào quản trị dữ liệu đáng tin cậy. Tại Diễn đàn Kinh tế Thế giới, tôi đã có một chỗ ngồi tại bàn với các nhà quản lý, nhà hoạch định chính sách và các CEO, và tôi nhận ra rằng không phụ thuộc vào địa lý hay ngành công nghiệp, nỗi sợ hãi luôn xuất hiện: “Chúng ta có thể tin tưởng công nghệ này không?”

Những kinh nghiệm đó đã dạy tôi hai điều. Đầu tiên, việc tuân thủ không phải là một nút thắt, mà là nền tảng của sự tin tưởng. Thứ hai, nếu không thay đổi cách quản lý việc tuân thủ, đổi mới sẽ luôn bị tụt lại phía sau so với quy định. i-GENTIC được sinh ra từ niềm tin rằng chúng ta có thể đảo ngược kịch bản đó. Sản phẩm mới nhất của chúng tôi, GENIE™, tồn tại để biến việc tuân thủ từ phanh thành chân ga thúc đẩy đổi mới – vì vậy các doanh nghiệp có thể di chuyển nhanh hơn và an toàn hơn.

Thử thách lớn nhất trong giai đoạn đầu của việc biến ý tưởng về tuân thủ tự động thành một sản phẩm thực sự là gì?

Thử thách khó khăn nhất không phải là công nghệ. Đó là thuyết phục các công ty rằng công nghệ đó là không thể tránh khỏi. Khi tôi lần đầu chia sẻ ý tưởng rằng các quy định có thể được dịch thành logic máy và thực thi trong thời gian thực, hầu hết mọi người đã bác bỏ nó. Một số người đã cười. Tôi được nói, “Đó là khoa học viễn tưởng, có lẽ trong 50 năm tới.”

Họ không thể thấy những gì tôi thấy: rằng AI sẽ sớm va chạm với việc tuân thủ hơn bất kỳ ai dự đoán. Các hội đồng và cơ quan quản lý không chỉ hỏi, “AI có thể làm gì?” Họ sẽ hỏi, “Chúng ta có thể tin tưởng nó tuân theo các quy tắc không?”

Tôi bắt đầu như một nhà sinh học với một bàn thí nghiệm, pipettes và bảng tính Excel. Tôi đã thấy các mẫu ẩn trong dữ liệu lâu trước khi AI trở thành chủ đạo. Việc rời bỏ sự an toàn của học thuật là rủi ro, nhưng tôi biết thế giới đang hướng tới một thời điểm mà sự tin tưởng vào AI sẽ không thể thương lượng.

Niềm tin đó đã giúp tôi vượt qua những năm hoài nghi cho đến khi các cơ quan quản lý bắt đầu yêu cầu chính công nghệ mà mọi người đã cười: một sản phẩm có thể mã hóa và thực thi các quy tắc trong thời gian thực.

Vì vậy, thử thách sớm không phải là chứng minh công nghệ. Đó là chứng minh tầm nhìn. Một khi mọi người bắt đầu tin tưởng, việc xây dựng sản phẩm trở nên không thể tránh khỏi.

GENIE™ đọc và dịch các tài liệu quy định thành logic có thể thực thi mà không cần mã hóa của con người như thế nào?

GENIE™ sử dụng một phương pháp phân lớp. Đầu tiên, nó tiêu thụ các tài liệu quy định như luật, chính sách và SOP, sau đó chia chúng thành các nghĩa vụ, ngoại lệ và câu lệnh có điều kiện riêng biệt.

Thay vì đối xử với các quy định như các khối văn bản pháp lý, GENIE™ phân hủy chúng thành những gì chúng tôi gọi là các chính sách vi mô. Đây là các quy tắc nguyên tử đủ nhỏ để có thể đọc được bởi máy nhưng đủ phong phú để nắm bắt ý định.

Tiếp theo, GENIE™ áp dụng xử lý ngôn ngữ tự nhiên và phân tích ngữ nghĩa để ánh xạ các chính sách vi mô này thành logic có thể thực thi. Nó không yêu cầu các nhà phát triển phải viết mã. Thay vào đó, nền tảng biên dịch các quy tắc thành logic cấu trúc có thể được thực thi trực tiếp trong các hệ thống doanh nghiệp. Hãy nghĩ về nó như một trình biên dịch cho việc tuân thủ. Nó lấy ngôn ngữ của quy định và chuyển nó thành các lệnh có thể thực thi nằm trong các quy trình làm việc.

Quy định thường không rõ ràng hoặc có thể giải thích – GENIE™ xử lý sự mơ hồ và đảm bảo hành động của nó là chính xác như thế nào?

Sự mơ hồ là thực tế của quy định, và không có lượng AI nào có thể xóa bỏ sự thật đó. GENIE™ làm cho sự mơ hồ trở nên rõ ràng, có thể đo lường và có thể hành động. Khi GENIE™ gặp phải ngôn ngữ không rõ ràng như “biện pháp bảo vệ hợp lý” hoặc “truy cập phù hợp”, nó gán một điểm số tin cậy, đặt ngữ cảnh giải thích chống lại các tiền lệ và chuẩn mực ngành, và đánh dấu liệu quyết định nên được tự động hóa hay nâng cấp. Doanh nghiệp có thể cấu hình các ngưỡng này.

Đây là một ví dụ đơn giản: giả sử một công ty fintech muốn gửi một email nói rằng một khoản đầu tư cung cấp “sự tăng trưởng được đảm bảo”. GENIE™ đánh dấu cách diễn đạt đó là rủi ro và gửi nó đến một nhân viên tuân thủ thay vì phê duyệt nó.

Cùng công ty fintech đó sử dụng xác thực đa yếu tố cho đăng nhập. GENIE™ nhìn thấy điều này như là đáp ứng “biện pháp bảo vệ hợp lý” với mức độ tin cậy cao, vì vậy nó phê duyệt mà không cần xem xét của con người.

Nếu GENIE™ dưới ngưỡng, nó sẽ định tuyến đến một nhân viên tuân thủ. Nếu trên, nó hoạt động tự động. Như vậy, GENIE™ không loại bỏ phán quyết của con người. Nó tăng cường nó. Nó đảm bảo rằng các khu vực xám được quản lý một cách nhất quán, minh bạch và có khả năng theo dõi đầy đủ. Theo thời gian, khi GENIE™ tiêu thụ các bản cập nhật quy định và phản hồi của doanh nghiệp, việc xử lý sự mơ hồ của nó sẽ được cải thiện, thu hẹp khoảng cách giữa các quy tắc trên giấy và việc thực thi trong thực tế.

Làm thế nào bạn đảm bảo rằng các doanh nghiệp có thể xem và kiểm tra chính xác lý do tại sao GENIE™ đã thực hiện một hành động cụ thể?

Minh bạch là không thể thương lượng. Mỗi hành động GENIE™ thực hiện tạo ra một dấu vết tại sao: một nhật ký cấu trúc hiển thị chính sách được thực thi, dữ liệu được truy cập, đường dẫn quyết định được theo dõi và kết quả được áp dụng.

Dấu vết kiểm toán này là không thể thay đổi và có thể xuất khẩu. Một nhân viên tuân thủ hoặc cơ quan quản lý có thể đi qua từng bước như thể họ đang ngồi trong quá trình suy nghĩ của tác nhân. Nó không chỉ là một hộp đen nói “được phê duyệt” hoặc “từ chối”. Đó là một bản đồ đầy đủ về ‘tại sao’.

Điều đó có nghĩa là các doanh nghiệp không chỉ tin tưởng GENIE™. Họ có thể xác minh nó, bảo vệ nó và sử dụng nó để tăng cường tư thế tuân thủ của họ trước bất kỳ cơ quan quản lý, hội đồng hoặc kiểm toán viên nào.

Các biện pháp bảo vệ nào được thực hiện để đảm bảo rằng dữ liệu doanh nghiệp nhạy cảm vẫn riêng tư và an toàn khi sử dụng nền tảng của bạn?

GENIE™ được thiết kế để hoạt động bên trong môi trường doanh nghiệp. Dữ liệu nhạy cảm không bao giờ cần phải rời khỏi cơ sở hạ tầng của khách hàng. Thay vào đó, GENIE™ triển khai logic thực thi tại điểm cuối, nơi dữ liệu tồn tại.

Ngoài ra, chúng tôi sử dụng nhiều lớp bảo vệ: mã hóa từ đầu đến cuối cho dữ liệu trong quá trình truyền và nghỉ; kiểm soát truy cập dựa trên vai trò để hạn chế ai có thể cấu hình, xem hoặc ghi đè hành động GENIE™; nhật ký kiểm toán không thể thay đổi để theo dõi mọi tương tác; nguyên tắc tối thiểu hóa dữ liệu để chỉ chạm vào dữ liệu cần thiết.

GENIE™ không chỉ tuân thủ các tiêu chuẩn bảo mật và quyền riêng tư. Nó được xây dựng với những tiêu chuẩn đó như DNA hoạt động của nó.

Các ngành công nghiệp hoặc loại khách hàng nào đã thể hiện sự quan tâm lớn nhất cho đến nay, và tại sao?

Chăm sóc sức khỏe và dịch vụ tài chính đã là những người áp dụng sớm. Cả hai ngành đều sống dưới áp lực quản lý liên tục, cả hai đều xử lý dữ liệu nhạy cảm và cả hai đều đang áp dụng AI một cách tích cực.

Trong chăm sóc sức khỏe, các tổ chức đang vật lộn để cân bằng giữa HIPAA, yêu cầu của FDA và các hướng dẫn AI mới nổi trong khi vẫn đổi mới trong y học chính xác và sức khỏe kỹ thuật số. Trong tài chính, các tổ chức đang đối mặt với thách thức kép khi triển khai AI cho đánh giá tín dụng, phát hiện gian lận và giao dịch đồng thời chứng minh cho các cơ quan quản lý rằng các mô hình là có thể giải thích, công bằng và đáng tin cậy.

Điều gì đoàn kết cả hai là chi phí của việc không tuân thủ. Nó được đo lường không chỉ bằng tiền phạt mà còn bằng thiệt hại về danh tiếng và trong một số trường hợp, rủi ro tồn tại. Đó là lý do tại sao các ngành này không chỉ quan tâm đến GENIE™, họ đang khát khao nó. Một nhân viên tuân thủ kỹ thuật số tại mọi bước của đổi mới có nghĩa là ít lo lắng rằng mỗi bước có thể vi phạm các tiêu chuẩn tuân thủ.

Làm thế nào bạn phân biệt i-GENTIC với các công cụ quản trị và tuân thủ hiện có trên thị trường?

Hầu hết các công cụ quản trị hiện nay là phản ứng. Họ chạy các cuộc kiểm toán sau khi sự kiện, tạo ra các bảng điều khiển hoặc cung cấp các kiểm soát tĩnh mà không thể theo kịp với sự thay đổi. GENIE™, mặt khác, là chủ động.

Chúng tôi ngồi trong các quy trình làm việc của doanh nghiệp và thực thi tuân thủ một cách động, trong thời gian thực. Thay vì nói, “Đây là những gì đã sai trong quý trước,” GENIE™ ngăn chặn các vi phạm trước khi chúng xảy ra. Chúng tôi cũng thống nhất quản trị AI, dữ liệu, quyền riêng tư và an ninh mạng dưới một nền tảng thay vì đối xử với chúng như các silo.

Điều này không chỉ là một cải tiến tăng dần. Đó là một sự thay đổi mô hình. Chúng tôi đang chuyển từ việc tuân thủ như một cái nhìn lại sang việc tuân thủ như một cái nhìn về phía trước. Và đó là điều làm cho i-GENTIC trở nên độc đáo.

Nếu GENIE™ thực hiện một thay đổi tự động mà các cơ quan quản lý sau đó thách thức, bạn giúp khách hàng quản lý rủi ro đó như thế nào?

Chúng tôi nhận ra rằng quy định không phải là tĩnh. Nó phát triển, và đôi khi các giải thích thay đổi. Đó là lý do tại sao GENIE™ luôn giữ một bản ghi đầy đủ và có thể giải thích về các hành động của nó.

Nếu một cơ quan quản lý thách thức một thay đổi, khách hàng có thể trình bày chính xác logic GENIE™ đã sử dụng, phiên bản quy định tại thời điểm đó và lý do cho quyết định. Nếu quy định đã thay đổi kể từ đó, GENIE™ có thể cập nhật ngay lập tức logic thực thi trên toàn doanh nghiệp.

Trong thực tế, điều này có nghĩa là GENIE™ không chỉ hành động. Nó cung cấp bằng chứng, khả năng theo dõi và khả năng thích ứng mà khách hàng cần để đứng sau những hành động đó một cách tự tin, ngay cả khi đối mặt với các kỳ vọng quản lý thay đổi.

Nhìn năm năm tới, bạn thấy AI tác nhân sẽ biến đổi quản trị và tuân thủ trên các ngành công nghiệp như thế nào?

Năm năm từ nay, tôi dự đoán AI tác nhân sẽ trở nên quan trọng đối với các doanh nghiệp như các hệ thống ERP ngày nay. Mỗi triển khai AI doanh nghiệp sẽ đi kèm với các tác nhân quản trị bên cạnh nó.

Tuân thủ sẽ không còn là một danh sách kiểm tra hàng quý. Nó sẽ liên tục, theo ngữ cảnh và thích ứng. AI tác nhân sẽ cho phép các doanh nghiệp hoạt động trong thời gian thực với các cơ quan quản lý thay vì luôn đuổi theo.

Quan trọng nhất, tuân thủ sẽ chuyển từ gánh nặng thành nguồn lợi thế cạnh tranh. Các công ty có thể chứng minh, trong thời gian thực, rằng hệ thống của họ đáng tin cậy sẽ di chuyển nhanh hơn, hợp tác tốt hơn và giành chiến thắng trên thị trường sớm hơn. Trong tương lai đó, quản trị không phải là một chướng ngại vật. Nó là người kích hoạt đổi mới. Đó là thế giới mà i-GENTIC và GENIE™ đang xây dựng.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập i-GENTIC.