Vinay Kumar Sankarapu, Đồng sáng lập & CEO của Arya.ai – Loạt phỏng vấn

Vinay Kumar Sankarapu, là Đồng sáng lập & CEO của Arya.ai, một nền tảng cung cấp ‘AI’ cloud cho các tổ chức Ngân hàng, Bảo hiểm và Dịch vụ Tài chính (BFSI) để tìm kiếm các API AI phù hợp, các giải pháp AI chuyên gia và các công cụ quản trị AI toàn diện cần thiết để triển khai các động cơ AI đáng tin cậy và tự học.

Nền tảng của bạn là toán học, vật lý, hóa học và kỹ thuật cơ khí, bạn có thể thảo luận về hành trình chuyển đổi sang khoa học máy tính và AI?

Ở IIT Bombay, chúng tôi có chương trình ‘Dual Degree’ cung cấp một khóa học 5 năm để bao gồm cả Cử nhân Công nghệ và Thạc sĩ Công nghệ. Tôi đã học Kỹ thuật Cơ khí với chuyên ngành ‘Thiết kế và Sản xuất Hỗ trợ Máy tính’, nơi Khoa học Máy tính là một phần của chương trình học. Đối với nghiên cứu sau đại học, tôi đã chọn làm việc về Học sâu. Trong khi tôi bắt đầu sử dụng DL để xây dựng một khuôn khổ dự đoán thất bại cho sản xuất liên tục, tôi đã hoàn thành nghiên cứu của mình về việc sử dụng CNN cho dự đoán RUL. Điều này diễn ra vào khoảng năm 2013/14.

Bạn đã ra mắt Arya.ai trong khi vẫn còn là sinh viên, bạn có thể chia sẻ câu chuyện về sự ra đời của startup này?

Trong quá trình nghiên cứu học thuật, chúng tôi phải dành 3-4 tháng để xem xét tài liệu và tạo ra một nghiên cứu chi tiết về chủ đề quan tâm, phạm vi công việc đã được thực hiện và những gì có thể là một lĩnh vực tập trung cho nghiên cứu của chúng tôi. Trong năm 2012/13, các công cụ chúng tôi sử dụng khá cơ bản. Các công cụ tìm kiếm như Google Scholar và Scopus chỉ thực hiện tìm kiếm từ khóa. Thực sự rất khó để hiểu được khối lượng kiến thức có sẵn. Tôi nghĩ vấn đề này sẽ chỉ trở nên tồi tệ hơn. Vào năm 2013, tôi nghĩ rằng ít nhất 30+ bài báo được xuất bản mỗi phút. Hiện nay, con số đó đã tăng lên ít nhất 10-20 lần so với trước.

Chúng tôi muốn xây dựng một trợ lý ‘AI’ như một ‘giáo sư’ cho các nhà nghiên cứu để giúp họ đề xuất chủ đề nghiên cứu, tìm kiếm một bài báo phù hợp và cập nhật nhất và bất cứ điều gì liên quan đến nghiên cứu STEM. Với kinh nghiệm của chúng tôi trong học sâu, chúng tôi nghĩ rằng chúng tôi có thể giải quyết vấn đề này. Vào năm 2013, chúng tôi đã bắt đầu Arya.ai với một đội gồm 3 người, và sau đó nó đã mở rộng lên 7 người vào năm 2014 trong khi tôi vẫn còn là sinh viên.

Phiên bản đầu tiên của sản phẩm được xây dựng bằng cách thu thập hơn 30 triệu bài báo và tóm tắt. Chúng tôi đã sử dụng các kỹ thuật học sâu tiên tiến tại thời điểm đó để xây dựng một trợ lý nghiên cứu STEM AI và một công cụ tìm kiếm ngữ cảnh cho STEM. Nhưng khi chúng tôi trình bày trợ lý AI cho một số giáo sư và đồng nghiệp, chúng tôi nhận ra rằng chúng tôi đã quá sớm. Lưu lượng đối话 bị hạn chế, và người dùng đang mong đợi một dòng chảy tự do và liên tục. Các kỳ vọng rất không thực tế tại thời điểm đó (2014/15) mặc dù nó đã trả lời các câu hỏi phức tạp.

Sau đó, chúng tôi đã chuyển sang sử dụng nghiên cứu của mình và tập trung vào các công cụ ML cho các nhà nghiên cứu và doanh nghiệp như một môi trường làm việc để dân chủ hóa học sâu. Nhưng lại, rất ít nhà khoa học dữ liệu đã sử dụng DL vào năm 2016. Vì vậy, chúng tôi đã bắt đầu định hướng theo chiều dọc cho một chiều dọc và tập trung vào xây dựng các lớp sản phẩm chuyên dụng cho một chiều dọc, tức là các tổ chức Dịch vụ Tài chính (FSIs). Chúng tôi biết điều này sẽ hiệu quả vì trong khi các công ty lớn tập trung vào việc chơi ngang, các công ty định hướng theo chiều dọc có thể tạo ra một điểm độc nhất vô nhị lớn cho các startup. Lần này, chúng tôi đã đúng!

Chúng tôi đang xây dựng AI cloud cho các Ngân hàng, Bảo hiểm và Dịch vụ Tài chính với các lớp chiều dọc chuyên dụng nhất để cung cấp các giải pháp AI có thể mở rộng và có trách nhiệm.

Problem của ‘hộp đen AI’ trong tài chính lớn đến mức nào?

Rất quan trọng! Chỉ 30% các tổ chức tài chính đang sử dụng ‘AI’ đến mức tối đa. Trong khi một trong những lý do là khả năng tiếp cận, thì một lý do khác là thiếu sự tin tưởng và kiểm toán ‘AI’. Các quy định hiện nay rõ ràng ở một số khu vực địa lý về tính hợp pháp khi sử dụng AI cho các trường hợp sử dụng thấp, trung bình và cao. Ở EU, luật yêu cầu sử dụng các mô hình minh bạch cho các trường hợp sử dụng ‘nguy cơ cao’. Nhiều trường hợp sử dụng trong các tổ chức tài chính là các trường hợp sử dụng ‘nguy cơ cao’. Vì vậy, họ được yêu cầu sử dụng các mô hình ‘hộp trắng’.

Chu kỳ hype cũng đang lắng xuống do những kinh nghiệm sớm với các giải pháp AI. Có một số ví dụ gần đây về tác động của việc sử dụng ‘AI’ hộp đen, thất bại của ‘AI’ do không giám sát chúng và thách thức với các nhà quản lý pháp lý và rủi ro do tính minh bạch hạn chế.

Bạn có thể thảo luận về sự khác biệt giữa giám sát ML và quan sát ML?

 Công việc của một công cụ giám sát đơn giản là giám sát và cảnh báo. Và công việc của một công cụ quan sát không chỉ là giám sát và báo cáo mà quan trọng nhất là cung cấp đủ bằng chứng để tìm ra lý do cho thất bại hoặc dự đoán những thất bại này theo thời gian.

Trong AI/ML, những công cụ này đóng vai trò quan trọng. Trong khi những công cụ này có thể thực hiện các vai trò cần thiết hoặc giám sát, phạm vi quan sát ML

Tại sao cần có các nền tảng chuyên ngành cho quan sát ML so với các nền tảng chung?

Các nền tảng chung được thiết kế cho mọi người và mọi trường hợp sử dụng, bất kể ngành – bất kỳ người dùng nào cũng có thể tham gia và bắt đầu sử dụng nền tảng. Khách hàng của những nền tảng này thường là các nhà phát triển, nhà khoa học dữ liệu, v.v. Những nền tảng này tạo ra nhiều thách thức cho các bên liên quan do tính chất phức tạp và cách tiếp cận ‘một kích cỡ phù hợp với tất cả’.

Thật không may, hầu hết các doanh nghiệp ngày nay yêu cầu chuyên gia khoa học dữ liệu để sử dụng các nền tảng chung và cần các giải pháp/sản phẩm bổ sung để làm cho các mô hình này ‘có thể sử dụng’ bởi người dùng cuối trong bất kỳ chiều dọc nào. Điều này bao gồm khả năng giải thích, kiểm toán, phân khúc/kịch bản, quy trình con người trong vòng lặp, ghi nhãn phản hồi, kiểm toán, đường ống công cụ cụ thể, v.v.

Đây là nơi các nền tảng AI chuyên ngành tham gia như một lợi thế. Một nền tảng AI chuyên ngành sở hữu toàn bộ quy trình làm việc để giải quyết nhu cầu hoặc trường hợp sử dụng mục tiêu của khách hàng và được phát triển để cung cấp một sản phẩm hoàn chỉnh từ đầu đến cuối, từ việc hiểu nhu cầu kinh doanh đến giám sát hiệu suất sản phẩm. Có nhiều rào cản chuyên ngành, chẳng hạn như khuôn khổ quy định và tuân thủ, yêu cầu bảo mật dữ liệu, yêu cầu kiểm toán và kiểm soát, v.v. Các nền tảng và dịch vụ AI chuyên ngành giúp tăng tốc việc áp dụng AI và rút ngắn con đường đến sản xuất bằng cách giảm thời gian phát triển và rủi ro liên quan đến việc triển khai AI. Hơn nữa, điều này cũng sẽ giúp đưa chuyên môn AI trong ngành lại với nhau như một lớp sản phẩm giúp cải thiện việc chấp nhận ‘AI’, thúc đẩy nỗ lực tuân thủ và tìm ra các cách tiếp cận chung để các vấn đề về đạo đức, tin cậy và danh tiếng.

Bạn có thể chia sẻ một số chi tiết về nền tảng Quan sát ML được cung cấp bởi Arya.ai?

Chúng tôi đã làm việc trong các tổ chức dịch vụ tài chính trong hơn 6 năm. Kể từ năm 2016. Điều này đã mang lại cho chúng tôi sự tiếp xúc sớm với những thách thức độc đáo khi triển khai AI phức tạp trong các tổ chức Dịch vụ Tài chính. Một trong những thách thức quan trọng là ‘chấp nhận AI’. Không giống như trong các chiều dọc khác, có nhiều quy định về việc sử dụng bất kỳ phần mềm nào (cũng áp dụng cho các giải pháp ‘AI’), bảo mật dữ liệu, đạo đức và quan trọng nhất, tác động tài chính đến doanh nghiệp. Để giải quyết những thách thức này theo quy mô, chúng tôi phải liên tục sáng tạo và thêm các lớp giải thích, kiểm toán, rủi ro sử dụng và trách nhiệm vào các giải pháp của mình – xử lý yêu cầu, cấp phép, giám sát gian lận, v.v. Theo thời gian, chúng tôi đã tạo ra một khuôn khổ Quan sát ML có thể chấp nhận và có thể mở rộng cho các bên liên quan khác nhau trong ngành Dịch vụ Tài chính.

Chúng tôi hiện đang phát hành một phiên bản DIY của khuôn khổ này dưới dạng AryaXAI (xai.arya.ai). Bất kỳ đội ML hoặc kinh doanh nào cũng có thể sử dụng AryaXAI để tạo ra một quản trị AI toàn diện cho các trường hợp sử dụng quan trọng. Nền tảng này mang lại tính minh bạch và khả năng kiểm toán cho các giải pháp AI của bạn mà mọi bên liên quan đều có thể chấp nhận. AryaXAI giúp AI an toàn hơn và có thể chấp nhận được cho các trường hợp sử dụng quan trọng bằng cách cung cấp khả năng giải thích đáng tin cậy, cung cấp bằng chứng có thể hỗ trợ việc thẩm định pháp lý, quản lý sự không chắc chắn của AI bằng cách cung cấp các kiểm soát chính sách tiên tiến và đảm bảo tính nhất quán trong sản xuất bằng cách theo dõi sự thay đổi dữ liệu hoặc mô hình và cảnh báo người dùng với phân tích nguyên nhân gốc rễ.

AryaXAI cũng đóng vai trò như một quy trình làm việc chung và cung cấp thông tin có thể chấp nhận được bởi tất cả các bên liên quan – Khoa học Dữ liệu, IT, Rủi ro, Hoạt động và Tuân thủ, giúp việc triển khai và bảo trì các mô hình AI/ML trở nên liền mạch và không bị lộn xộn.

Một giải pháp khác được cung cấp là một nền tảng tăng cường khả năng áp dụng của mô hình ML với việc triển khai chính sách ngữ cảnh. Bạn có thể mô tả cụ thể điều này là gì?

Thật khó để theo dõi và kiểm soát các mô hình ML trong sản xuất, do khối lượng lớn các tính năng và dự đoán. Hơn nữa, sự không chắc chắn về hành vi của mô hình khiến việc quản lý và tiêu chuẩn hóa quản trị, rủi ro và tuân thủ trở nên thách thức. Những thất bại của mô hình như vậy có thể dẫn đến tổn thất danh tiếng và tài chính nặng nề.

AryaXAI cung cấp ‘Kiểm soát Chính sách/Rủi ro’, một thành phần quan trọng giúp bảo tồn lợi ích kinh doanh và đạo đức bằng cách thực thi các chính sách trên AI. Người dùng có thể dễ dàng thêm/sửa đổi các chính sách để quản lý các kiểm soát chính sách. Điều này cho phép các đội chức năng chéo định nghĩa các rào cản chính sách để đảm bảo đánh giá rủi ro liên tục, bảo vệ doanh nghiệp khỏi sự không chắc chắn của AI.

Có những ví dụ nào về các trường hợp sử dụng cho các sản phẩm này?

AryaXAI có thể được triển khai cho các quy trình quan trọng của nhiệm vụ trên nhiều ngành. Các ví dụ phổ biến nhất là:

BFSI: Trong một môi trường nghiêm ngặt về quy định, AryaXAI giúp ngành BFSI dễ dàng tuân thủ các yêu cầu và thu thập bằng chứng cần thiết để quản lý rủi ro và đảm bảo tuân thủ.

• Xử lý tín dụng cho các khoản vay có bảo đảm/chưa bảo đảm
• Xác định gian lận/giao dịch đáng ngờ
• Kiểm toán
• Quản lý vòng đời khách hàng
• Quyết định tín dụng

Xe tự hành: Xe tự hành cần tuân thủ các quy định nghiêm ngặt, an toàn hoạt động và khả năng giải thích trong thời gian thực. AryaXAI cho phép hiểu cách hệ thống AI tương tác với xe

• Phân tích quyết định
• Hoạt động xe tự hành
• Dữ liệu sức khỏe xe
• Giám sát hệ thống lái xe tự hành

Chăm sóc sức khỏe: AryaXAI cung cấp thông tin chi tiết từ góc độ y tế, công nghệ, pháp lý và bệnh nhân. Từ việc khám phá thuốc đến sản xuất, bán hàng và tiếp thị, Arya-xAI thúc đẩy sự hợp tác đa ngành

• Khám phá thuốc
• Nghiên cứu lâm sàng
• Valid hóa dữ liệu thử nghiệm lâm sàng
• Chăm sóc chất lượng cao

Ứng dụng AI trong tương lai của bạn cho lĩnh vực tài chính là gì?

Trong thập kỷ qua, đã có một lượng lớn giáo dục và tiếp thị xung quanh ‘AI’. Chúng tôi đã chứng kiến nhiều chu kỳ hype trong thời gian này. Chúng tôi có thể đang ở chu kỳ hype thứ 4 hoặc thứ 6 hiện tại. Chu kỳ đầu tiên là khi Học sâu giành được ImageNet vào năm 2011/12, tiếp theo là công việc xung quanh phân loại hình ảnh/văn bản, nhận dạng giọng nói, xe tự hành, AI tạo sinh và hiện tại với các mô hình ngôn ngữ lớn. Khoảng cách giữa đỉnh hype và sử dụng hàng loạt đang giảm với mỗi chu kỳ hype do các lần lặp lại xung quanh sản phẩm, nhu cầu và tài trợ.

Ba điều sau đã xảy ra:

1. Tôi nghĩ chúng ta đã tìm ra khuôn khổ của quy mô cho các giải pháp AI, ít nhất là bởi một số chuyên gia. Ví dụ, Open AI hiện là một tổ chức không tạo ra doanh thu, nhưng họ dự kiến sẽ tạo ra 1 tỷ đô la doanh thu trong vòng 2 năm. Mặc dù không mọi công ty AI đều có thể đạt được quy mô tương tự, nhưng khuôn khổ về khả năng mở rộng đã rõ ràng hơn.
2.  Định nghĩa về các giải pháp AI lý tưởng gần như rõ ràng đối với tất cả các chiều dọc: Không giống như trước đây, khi sản phẩm được xây dựng thông qua các thí nghiệm lặp đi lặp lại cho mỗi trường hợp sử dụng và mỗi tổ chức, các bên liên quan đang ngày càng được giáo dục để hiểu những gì họ cần từ các giải pháp AI.
3.  Các quy định hiện đang bắt kịp: Nhu cầu về các quy định rõ ràng xung quanh bảo mật dữ liệu và sử dụng AI đang ngày càng được quan tâm. Các cơ quan quản lý và quy định đang có thể xuất bản hoặc đang trong quá trình xuất bản các khuôn khổ cần thiết cho việc sử dụng an toàn, đạo đức và có trách nhiệm AI.

Còn gì nữa?

Sự bùng nổ của ‘Model-as-a-service (MaaS)’:

Chúng ta sẽ thấy nhu cầu ngày càng tăng về các đề xuất ‘Model-as-a-service’ không chỉ theo chiều ngang mà còn theo chiều dọc. Trong khi ‘OpenAI’ đại diện cho một ví dụ tốt về ‘MaaS’ chiều ngang, Arya.ai là một ví dụ về ‘MaaS’ chiều dọc. Với kinh nghiệm về các lần triển khai và tập dữ liệu, Arya.ai đã thu thập các tập dữ liệu dọc quan trọng được sử dụng để đào tạo các mô hình và cung cấp chúng dưới dạng mô hình sẵn sàng sử dụng hoặc mô hình được đào tạo trước.

Định hướng theo chiều dọc là chiều ngang mới: Chúng ta đã thấy xu hướng này trong việc áp dụng ‘Đám mây’. Trong khi các công ty đám mây ngang tập trung vào ‘nền tảng cho mọi người’, các công ty dọc tập trung vào nhu cầu của người dùng cuối và cung cấp chúng dưới dạng một lớp sản phẩm chuyên dụng. Điều này cũng đúng đối với các dịch vụ MaaS.

XAI và quản trị AI sẽ trở thành chuẩn mực trong các doanh nghiệp: Tùy thuộc vào mức độ nhạy cảm của các quy định, mỗi chiều dọc sẽ đạt được một khuôn khổ XAI và quản trị có thể chấp nhận được mà sẽ được triển khai như một phần của thiết kế, không giống như hiện tại, khi nó được coi là một phụ kiện.

AI tạo sinh trên dữ liệu bảng có thể sẽ thấy các chu kỳ hype trong các doanh nghiệp: Tạo các tập dữ liệu tổng hợp được cho là một trong những giải pháp dễ triển khai để giải quyết các thách thức liên quan đến dữ liệu trong các doanh nghiệp. Các đội khoa học dữ liệu sẽ rất thích điều này vì vấn đề nằm trong tầm kiểm soát của họ, không giống như việc dựa vào kinh doanh, vì họ có thể mất thời gian, tốn kém và không được đảm bảo tuân theo tất cả các bước khi thu thập dữ liệu. Dữ liệu tổng hợp giải quyết các vấn đề về thiên vị, mất cân bằng dữ liệu, bảo mật dữ liệu và thiếu dữ liệu. Tất nhiên, hiệu quả của cách tiếp cận này vẫn chưa được chứng minh. Tuy nhiên, với sự trưởng thành hơn trong các kỹ thuật mới như biến đổi, chúng ta có thể sẽ thấy nhiều thí nghiệm hơn trên các tập dữ liệu truyền thống như bảng và dữ liệu đa chiều. Khi thành công, cách tiếp cận này có thể có tác động lớn đến các doanh nghiệp và dịch vụ MaaS.

Có điều gì khác bạn muốn chia sẻ về Arya.ai?

Mục tiêu của Arya.ai là giải quyết ‘AI’ cho các Ngân hàng, Bảo hiểm và Dịch vụ Tài chính. Cách tiếp cận của chúng tôi là định hướng theo chiều dọc công nghệ đến lớp cuối cùng và làm cho nó có thể sử dụng được và có thể chấp nhận được bởi mọi tổ chức và bên liên quan.

AryaXAI (xai.arya.ai) sẽ đóng một vai trò quan trọng trong việc cung cấp nó cho đại chúng trong chiều dọc FSI. Nghiên cứu của chúng tôi về dữ liệu tổng hợp đã thành công trong một số trường hợp sử dụng, nhưng chúng tôi nhằm mục đích làm cho nó trở thành một lựa chọn khả thi và có thể chấp nhận được hơn. Chúng tôi sẽ tiếp tục thêm nhiều lớp hơn vào ‘đám mây AI’ của chúng tôi để phục vụ sứ mệnh của mình.

Tôi nghĩ chúng ta sẽ thấy nhiều startup như Arya.ai, không chỉ trong chiều dọc FSI mà còn trong mọi chiều dọc.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Arya.ai.