Liran Hason, Đồng sáng lập & CEO của Aporia – Loạt phỏng vấn

Liran Hason là Đồng sáng lập và CEO của Aporia, một nền tảng quan sát ML toàn diện được các công ty Fortune 500 và các đội khoa học dữ liệu trên toàn thế giới sử dụng để đảm bảo AI có trách nhiệm. Aporia tích hợp liền mạch với bất kỳ cơ sở hạ tầng ML nào. Cho dù đó là máy chủ FastAPI trên Kubernetes, công cụ triển khai mã nguồn mở như MLFlow hay nền tảng học máy như AWS Sagemaker

Trước khi thành lập Aporia, Liran từng là Kiến trúc sư ML tại Adallom (được Microsoft (MSFT ) mua lại) và sau đó là nhà đầu tư tại Vertex Ventures.

Bạn bắt đầu lập trình khi mới 10 tuổi, điều gì ban đầu thu hút bạn đến với máy tính, và bạn đang làm việc trên những dự án gì?

Đó là năm 1999, và một người bạn của tôi gọi cho tôi và nói rằng anh ấy đã xây dựng một trang web. Sau khi nhập địa chỉ dài 200 ký tự vào trình duyệt của tôi, tôi thấy một trang web với tên của anh ấy trên đó. Tôi rất ngạc nhiên khi anh ấy tạo ra một thứ gì đó trên máy tính của mình và tôi có thể xem nó trên máy tính của mình. Điều này khiến tôi rất tò mò về cách nó hoạt động và làm thế nào tôi có thể làm điều tương tự. Tôi yêu cầu mẹ tôi mua cho tôi một cuốn sách về HTML, đó là bước đầu tiên của tôi vào lập trình.

Tôi tìm thấy niềm vui lớn khi đối mặt với các thách thức công nghệ, và khi thời gian trôi qua, sự tò mò của tôi chỉ tăng lên. Tôi đã học ASP, PHP và Visual Basic, và thực sự tiêu thụ mọi thứ tôi có thể.

Khi tôi 13 tuổi, tôi đã bắt đầu nhận một số công việc tự do, xây dựng trang web và ứng dụng máy tính để bàn.

Khi tôi không có công việc nào, tôi đang làm việc trên các dự án của riêng mình – thường là các trang web và ứng dụng khác nhau nhằm giúp mọi người đạt được mục tiêu của họ:

Lập trình Xanh-Trắng – là một ngôn ngữ lập trình tiếng Hebrew, tương tự như HTML, mà tôi đã xây dựng sau khi nhận ra rằng trẻ em ở Israel không có trình độ tiếng Anh cao bị hạn chế hoặc bị đẩy ra khỏi thế giới lập trình.

Blinky – Ông bà của tôi bị điếc và sử dụng ngôn ngữ ký hiệu để giao tiếp với bạn bè. Khi phần mềm hội nghị video như Skype và ooVoo xuất hiện, nó đã cho phép họ lần đầu tiên nói chuyện với bạn bè ngay cả khi họ không ở trong cùng một phòng (như chúng ta đều làm với điện thoại di động). Tuy nhiên, vì họ không thể nghe, họ không thể biết khi nào họ có cuộc gọi đến. Để giúp họ, tôi đã viết phần mềm xác định cuộc gọi video đến và cảnh báo họ bằng cách nhấp nháy một mảng đèn LED trong một thiết bị phần cứng nhỏ mà tôi đã xây dựng và kết nối với máy tính của họ.

Đây chỉ là một vài dự án mà tôi đã xây dựng khi còn là một thiếu niên. Sự tò mò của tôi không bao giờ ngừng và tôi thấy mình đang học C, C++, Assembly, và cách các hệ điều hành hoạt động, và thực sự cố gắng học càng nhiều càng tốt.

Có thể bạn chia sẻ câu chuyện về hành trình của bạn với tư cách là Kiến trúc sư máy học tại Adallom được Microsoft mua lại?

Tôi bắt đầu hành trình của mình tại Adallom sau khi hoàn thành nghĩa vụ quân sự. Sau 5 năm trong quân đội với tư cách là Đại úy, tôi thấy một cơ hội tuyệt vời để tham gia một công ty và thị trường mới nổi – như một trong những nhân viên đầu tiên. Công ty được dẫn dắt bởi những người sáng lập tuyệt vời, mà tôi đã quen biết từ thời gian phục vụ quân sự, và được hỗ trợ bởi các nhà đầu tư hàng đầu – như Sequoia. Sự bùng nổ của công nghệ đám mây trên thị trường vẫn còn trong giai đoạn sơ khai, và chúng tôi đang xây dựng một trong những giải pháp bảo mật đám mây đầu tiên tại thời điểm đó. Các doanh nghiệp đang bắt đầu chuyển từ trên cơ sở đến đám mây, và chúng tôi thấy các tiêu chuẩn ngành mới xuất hiện – như Office 365, Dropbox (DBX ), Marketo, Salesforce , và các khác.

Trong vài tuần đầu tiên, tôi đã biết rằng tôi muốn bắt đầu công ty của riêng mình một ngày nào đó. Tôi thực sự cảm thấy, từ góc độ công nghệ, rằng tôi đã sẵn sàng cho bất kỳ thách thức nào được ném vào tôi, và nếu không phải tôi, thì tôi biết những người đúng để giúp tôi vượt qua bất cứ điều gì.

Adallom cần một người có kiến thức sâu về công nghệ nhưng cũng có thể đối mặt với khách hàng. Chuyển tiếp như một tháng, và tôi đang trên một chuyến bay đến Mỹ, lần đầu tiên trong đời, để gặp gỡ những người từ LinkedIn (trước khi được Microsoft mua lại). Một vài tuần sau và họ trở thành khách hàng trả tiền đầu tiên của chúng tôi ở Mỹ. Đây chỉ là một trong những tập đoàn lớn – Netflix , Disney, và Safeway – mà tôi đã giúp giải quyết các vấn đề đám mây quan trọng.

Đối với tôi, việc tham gia Adallom thực sự là về việc tham gia một nơi mà tôi tin vào thị trường, tôi tin vào đội ngũ, và tôi tin vào tầm nhìn. Tôi vô cùng biết ơn cơ hội mà tôi đã được trao tại đó.

Mục đích của những gì tôi đang làm là rất quan trọng. Đối với tôi, nó luôn quan trọng. Tôi có thể dễ dàng thấy cách tiếp cận của Adallom để kết nối với các giải pháp SaaS, sau đó theo dõi hoạt động của người dùng, tài nguyên, tìm kiếm các anomal, v.v., là cách mọi thứ sẽ được thực hiện. Tôi nhận ra rằng đây sẽ là cách tiếp cận của tương lai. Vì vậy, tôi chắc chắn thấy Adallom là một công ty sẽ thành công.

Tôi chịu trách nhiệm về toàn bộ kiến trúc của cơ sở hạ tầng ML của chúng tôi. Và tôi đã thấy và trải nghiệm trực tiếp sự thiếu hụt công cụ phù hợp cho hệ sinh thái. Vâng, rõ ràng với tôi rằng phải có một giải pháp chuyên dụng ở một nơi tập trung nơi bạn có thể xem tất cả các mô hình của mình; nơi bạn có thể xem quyết định mà chúng đưa ra cho doanh nghiệp của bạn; nơi bạn có thể theo dõi và trở nên chủ động với các mục tiêu ML của mình. Ví dụ, chúng tôi đã có những lần học về các vấn đề trong mô hình học máy của chúng tôi quá muộn, và điều đó không tốt cho người dùng và chắc chắn không tốt cho doanh nghiệp. Đây là nơi ý tưởng về Aporia bắt đầu hình thành.

Có thể bạn chia sẻ câu chuyện về sự ra đời của Aporia?

Trải nghiệm cá nhân của tôi với máy học bắt đầu từ năm 2008, như một phần của dự án hợp tác tại Viện Weizmann, cùng với Đại học Bath và một trung tâm nghiên cứu Trung Quốc. Tại đó, tôi đã xây dựng một hệ thống nhận dạng sinh trắc học bằng cách phân tích hình ảnh của mống mắt. Tôi đã đạt được độ chính xác 94%. Dự án là một thành công và được hoan nghênh từ góc độ nghiên cứu. Nhưng đối với tôi, tôi đã xây dựng phần mềm từ khi tôi 10 tuổi, và có một cái gì đó cảm thấy không thực sự. Bạn không thể thực sự sử dụng hệ thống nhận dạng sinh trắc học mà tôi đã xây dựng trong đời thực vì nó chỉ hoạt động tốt cho tập dữ liệu cụ thể mà tôi đã sử dụng. Nó không đủ quyết đoán.

Đây chỉ là một chút nền tảng. Khi bạn xây dựng một hệ thống máy học, ví dụ như nhận dạng sinh trắc học, bạn muốn dự đoán là quyết đoán – bạn muốn biết rằng hệ thống chính xác xác định một người nhất định, đúng? Giống như cách iPhone của bạn không mở khóa nếu nó không nhận ra người đúng ở góc độ đúng, đây là kết quả mong muốn. Nhưng điều này thực sự không phải là trường hợp với máy học khi tôi lần đầu tiên tham gia vào lĩnh vực này.

Khoảng bảy năm sau và tôi đã trải nghiệm trực tiếp tại Adallom, thực tế của việc chạy các mô hình sản xuất mà không có rào cản đáng tin cậy, vì chúng đưa ra quyết định cho doanh nghiệp của chúng tôi ảnh hưởng đến khách hàng của chúng tôi. Sau đó, tôi đã có may mắn được làm việc như một nhà đầu tư tại Vertex Ventures, trong ba năm. Tôi đã thấy làm thế nào ngày càng nhiều tổ chức sử dụng ML, và làm thế nào các công ty chuyển từ chỉ nói về ML sang thực sự làm máy học. Tuy nhiên, những công ty này đã áp dụng ML chỉ để bị thách thức bởi cùng những vấn đề mà chúng tôi đang đối mặt tại Adallom.

Mọi người đã vội vàng sử dụng ML, và họ đang cố gắng xây dựng các hệ thống giám sát trong nhà. Đương nhiên, đó không phải là cốt lõi kinh doanh của họ, và những thách thức này khá phức tạp. Đây là nơi tôi cũng nhận ra rằng đây là cơ hội của tôi để tạo ra một tác động lớn.

AI đang được áp dụng trên gần như mọi ngành công nghiệp, bao gồm chăm sóc sức khỏe, dịch vụ tài chính, ô tô, và các khác, và nó sẽ chạm vào cuộc sống của mọi người và ảnh hưởng đến chúng tôi tất cả. Đây là nơi Aporia thể hiện giá trị thực sự của nó – cho phép tất cả các trường hợp sử dụng thay đổi cuộc sống này hoạt động như dự định và giúp cải thiện xã hội của chúng tôi. Bởi vì, giống như với bất kỳ phần mềm nào, bạn sẽ có những lỗi, và máy học không khác. Nếu không được kiểm tra, những vấn đề ML này có thể thực sự ảnh hưởng đến tính liên tục kinh doanh và ảnh hưởng đến xã hội với kết quả thiên vị không chủ ý. Hãy lấy nỗ lực của Amazon trong việc triển khai một công cụ tuyển dụng AI (AMZN ) – thiên vị không chủ ý đã khiến mô hình máy học đề xuất mạnh mẽ các ứng viên nam hơn nữ. Đây rõ ràng là một kết quả không mong muốn. Vì vậy, cần phải có một giải pháp chuyên dụng để phát hiện thiên vị không chủ ý trước khi nó trở thành tin tức và ảnh hưởng đến người dùng cuối.

Để các tổ chức có thể dựa vào và tận hưởng lợi ích của máy học, họ cần biết khi nào nó không hoạt động đúng, và bây giờ với các quy định mới, thường thì người dùng ML sẽ cần cách giải thích dự đoán của mô hình. Cuối cùng, điều quan trọng là phải nghiên cứu và phát triển các mô hình và dự án sáng tạo mới, nhưng một khi những mô hình đó gặp thế giới thực và đưa ra quyết định thực sự cho người dùng, doanh nghiệp và xã hội, thì có một nhu cầu rõ ràng về một giải pháp quan sát toàn diện để đảm bảo rằng họ có thể tin tưởng AI.

Có thể bạn giải thích tầm quan trọng của AI minh bạch và giải thích được?

Mặc dù nó có thể giống nhau, nhưng có một sự khác biệt quan trọng cần được thực hiện giữa phần mềm truyền thống và máy học. Trong phần mềm, bạn có một kỹ sư phần mềm, viết mã, định nghĩa logic của ứng dụng, chúng tôi biết chính xác những gì sẽ xảy ra trong mỗi luồng mã. Đó là quyết đoán. Đó là cách phần mềm thường được xây dựng, các kỹ sư tạo ra các trường hợp kiểm tra, kiểm tra các trường hợp biên, đạt được 70% – 80% phạm vi – bạn cảm thấy đủ tốt để phát hành sản phẩm. Nếu bất kỳ cảnh báo nào xuất hiện, bạn có thể dễ dàng gỡ lỗi và hiểu những gì đã đi sai, và sửa chữa nó.

Điều này không phải là trường hợp với máy học. Thay vào đó, nếu một con người định nghĩa logic, nó được định nghĩa như một phần của quá trình đào tạo mô hình. Khi nói về logic, không giống như phần mềm truyền thống, nó không phải là một tập hợp các quy tắc, mà là một ma trận gồm hàng triệu và hàng tỷ số đại diện cho tâm trí, não bộ của mô hình máy học. Và đây là một hộp đen, chúng tôi không thực sự biết ý nghĩa của mỗi và mọi số trong ma trận này. Nhưng chúng tôi biết thống kê, vì vậy đây là xác suất, và không phải là quyết đoán. Nó có thể chính xác trong 83% hoặc 93% thời gian. Điều này đặt ra nhiều câu hỏi, đúng? Đầu tiên, làm thế nào chúng tôi có thể tin tưởng một hệ thống mà chúng tôi không thể giải thích cách nó đưa ra dự đoán? Thứ hai, làm thế nào chúng tôi có thể giải thích dự đoán cho các ngành công nghiệp có quy định cao – như lĩnh vực tài chính. Ví dụ, tại Mỹ, các công ty tài chính có nghĩa vụ theo luật phải giải thích cho khách hàng của họ tại sao họ bị từ chối cho một ứng dụng vay.

Khả năng không giải thích được dự đoán của máy học bằng văn bản có thể đọc được của con người có thể là một chướng ngại vật lớn cho việc áp dụng rộng rãi ML trên các ngành công nghiệp. Chúng tôi muốn biết, như một xã hội, rằng mô hình không đưa ra quyết định thiên vị. Chúng tôi muốn đảm bảo rằng chúng tôi hiểu những gì dẫn đến quyết định cụ thể của mô hình. Đây là nơi giải thích và minh bạch là cực kỳ quan trọng.

Làm thế nào để giải pháp hộp công cụ AI minh bạch và giải thích được của Aporia hoạt động?

Giải pháp hộp công cụ AI minh bạch và giải thích được của Aporia hoạt động như một phần của hệ thống quan sát máy học thống nhất. Không có tầm nhìn sâu sắc về các mô hình sản xuất và một giải pháp giám sát và cảnh báo đáng tin cậy, thì rất khó để tin tưởng vào các thông tin AI giải thích được – không có nhu cầu giải thích dự đoán nếu đầu ra không đáng tin cậy. Và đó là nơi Aporia tham gia, cung cấp một cửa sổ duy nhất với tầm nhìn trên tất cả các mô hình đang chạy, khả năng giám sát và cảnh báo tùy chỉnh, công cụ gỡ lỗi, điều tra nguyên nhân gốc rễ, và AI giải thích được. Một giải pháp quan sát toàn diện chuyên dụng cho mọi vấn đề phát sinh trong sản xuất.

Nền tảng Aporia là trung lập và trang bị cho các doanh nghiệp định hướng AI, các đội khoa học dữ liệu và ML với một bảng điều khiển tập trung và tầm nhìn hoàn chỉnh vào sức khỏe của mô hình, dự đoán và quyết định của họ – cho phép họ tin tưởng AI của mình. Bằng cách sử dụng AI giải thích được của Aporia, các tổ chức có thể giữ mọi bên liên quan quan trọng trong vòng lặp bằng cách giải thích quyết định máy học với một cú nhấp chuột – nhận được thông tin có thể đọc được của con người về dự đoán mô hình cụ thể hoặc mô phỏng các tình huống “What if?”. Ngoài ra, Aporia liên tục theo dõi dữ liệu được đưa vào mô hình cũng như dự đoán, và chủ động gửi cảnh báo cho bạn về các sự kiện quan trọng, bao gồm sự suy giảm hiệu suất, thiên vị không chủ ý, trôi dữ liệu và thậm chí cả cơ hội để cải thiện mô hình của bạn. Cuối cùng, với hộp công cụ điều tra của Aporia, bạn có thể đến được nguyên nhân gốc rễ của bất kỳ sự kiện nào để khắc phục và cải thiện bất kỳ mô hình nào trong sản xuất.

Một số chức năng được cung cấp bao gồm Công cụ Điều tra Điểm dữ liệu và Thời gian, làm thế nào những công cụ này giúp ngăn chặn thiên vị và trôi AI?

Công cụ Điều tra Điểm dữ liệu cung cấp một cái nhìn trực tiếp về dữ liệu mà mô hình đang nhận và dự đoán mà nó đang đưa ra cho doanh nghiệp. Bạn có thể nhận được một luồng trực tiếp về điều đó và hiểu chính xác những gì đang xảy ra trong doanh nghiệp của bạn. Vì vậy, khả năng hiển thị này là rất quan trọng cho tính minh bạch. Đôi khi, mọi thứ thay đổi theo thời gian và có mối tương quan giữa nhiều thay đổi theo thời gian – đây là vai trò của công cụ điều tra thời gian.

Gần đây, các nhà bán lẻ lớn đã có tất cả các công cụ dự đoán AI của họ thất bại khi dự đoán các vấn đề về chuỗi cung ứng, làm thế nào nền tảng Aporia sẽ giải quyết vấn đề này?

Thử thách chính trong việc xác định những vấn đề này nằm ở thực tế rằng chúng tôi đang nói về dự đoán trong tương lai. Điều đó có nghĩa là, chúng tôi dự đoán một điều gì đó sẽ xảy ra hoặc không xảy ra trong tương lai. Ví dụ, bao nhiêu người sẽ mua một chiếc áo cụ thể hoặc sẽ mua một chiếc PlayStation mới.

Sau đó, nó sẽ mất một số thời gian để thu thập tất cả các kết quả thực tế – hơn một vài tuần. Sau đó, chúng tôi có thể tóm tắt và nói, ổn, đây là nhu cầu thực tế mà chúng tôi đã thấy. Khung thời gian này, chúng tôi đang nói về vài tháng. Đây là những gì đưa chúng tôi từ thời điểm mô hình đưa ra dự đoán cho đến khi doanh nghiệp biết chính xác liệu nó có đúng hay không. Và vào thời điểm đó, nó thường quá muộn, doanh nghiệp đã mất doanh thu tiềm năng hoặc biên đã bị siết chặt, vì họ phải bán hàng tồn kho với chiết khấu lớn.

Đây là một thách thức. Và đây chính xác là nơi Aporia tham gia và trở nên rất hữu ích cho các tổ chức này. Đầu tiên, nó cho phép các tổ chức dễ dàng nhận được tính minh bạch và tầm nhìn vào những quyết định đang được đưa ra – Có những biến động không? Có điều gì đó không hợp lý? Thứ hai, vì chúng tôi đang nói về các nhà bán lẻ lớn, chúng tôi đang nói về hàng tồn kho khổng lồ, và theo dõi chúng theo cách thủ công là gần như không thể. Đây là nơi các doanh nghiệp và các đội máy học đánh giá cao Aporia nhất, như một hệ thống giám sát và cảnh báo tự động và tùy chỉnh 24/7. Aporia liên tục theo dõi dữ liệu và dự đoán, nó phân tích hành vi thống kê của những dự đoán này, và nó có thể dự đoán và xác định thay đổi trong hành vi của người tiêu dùng và thay đổi trong hành vi của dữ liệu ngay khi nó xảy ra. Thay vì chờ đợi sáu tháng để nhận ra rằng dự đoán nhu cầu là sai, bạn có thể trong vài ngày xác định rằng chúng tôi đang đi sai hướng với dự đoán nhu cầu của mình. Vì vậy, Aporia rút ngắn khung thời gian này từ vài tháng xuống vài ngày. Đây là một sự thay đổi lớn cho bất kỳ nhà thực hành ML nào.

Có điều gì khác mà bạn muốn chia sẻ về Aporia?

Chúng tôi đang不断 phát triển và tìm kiếm những người tuyệt vời với tâm trí xuất sắc để tham gia hành trình của Aporia. Hãy xem các vị trí mở của chúng tôi.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Aporia.