Liran Hason, Đồng sáng lập & CEO của Aporia – Loạt phỏng vấn

Liran Hason là Đồng sáng lập và CEO của Aporia, một nền tảng quan sát khả năng học máy toàn diện được các công ty Fortune 500 và các đội khoa học dữ liệu trên toàn thế giới sử dụng để đảm bảo AI có trách nhiệm. Aporia tích hợp liền mạch với bất kỳ cơ sở hạ tầng học máy nào. Cho dù đó là máy chủ FastAPI trên Kubernetes, một công cụ triển khai mã nguồn mở như MLFlow hay một nền tảng học máy như AWS Sagemaker

Trước khi đồng sáng lập Aporia, Liran là Kiến trúc sư Học máy tại Adallom (được Microsoft mua lại) và sau đó là nhà đầu tư tại Vertex Ventures.

Bạn bắt đầu lập trình khi bạn 10 tuổi, điều gì ban đầu thu hút bạn đến máy tính, và bạn đang làm việc trên gì?

Đó là năm 1999, và một người bạn của tôi gọi cho tôi và nói rằng anh ấy đã xây dựng một trang web. Sau khi nhập địa chỉ dài 200 ký tự vào trình duyệt của tôi, tôi thấy một trang web với tên của anh ấy trên đó. Tôi rất ngạc nhiên khi anh ấy tạo ra một thứ gì đó trên máy tính của mình và tôi có thể xem nó trên máy tính của riêng tôi. Điều này làm cho tôi rất tò mò về cách nó hoạt động và làm thế nào tôi có thể làm điều tương tự. Tôi yêu cầu mẹ tôi mua cho tôi một cuốn sách về HTML, đó là bước đầu tiên của tôi vào lập trình.

Tôi tìm thấy niềm vui lớn khi đối mặt với các thách thức công nghệ, và khi thời gian trôi qua, sự tò mò của tôi chỉ tăng lên. Tôi đã học ASP, PHP và Visual Basic, và thực sự tiêu thụ mọi thứ tôi có thể.

Khi tôi 13 tuổi, tôi đã bắt đầu nhận một số công việc tự do, xây dựng trang web và ứng dụng máy tính để bàn.

Khi tôi không có công việc nào đang hoạt động, tôi đang làm việc trên các dự án của riêng mình – thường là các trang web và ứng dụng khác nhau nhằm giúp mọi người đạt được mục tiêu của họ:

Blue-White Programming – là một ngôn ngữ lập trình tiếng Hebrew, tương tự như HTML, mà tôi đã xây dựng sau khi nhận ra rằng trẻ em ở Israel không có trình độ tiếng Anh cao bị giới hạn hoặc bị đẩy ra khỏi thế giới lập trình.

Blinky – Ông bà của tôi bị điếc và sử dụng ngôn ngữ ký hiệu để giao tiếp với bạn bè. Khi phần mềm hội nghị video như Skype và ooVoo xuất hiện, nó cho phép họ lần đầu tiên nói chuyện với bạn bè ngay cả khi họ không ở trong cùng một phòng (giống như chúng ta làm với điện thoại di động). Tuy nhiên, vì họ không thể nghe, họ không thể biết khi nào họ có cuộc gọi đến. Để giúp họ, tôi đã viết phần mềm xác định cuộc gọi video đến và cảnh báo họ bằng cách nhấp nháy một mảng đèn LED trong một thiết bị phần cứng nhỏ mà tôi đã xây dựng và kết nối với máy tính của họ.

Đây chỉ là một vài dự án mà tôi đã xây dựng khi còn là một thiếu niên. Sự tò mò của tôi không bao giờ ngừng và tôi thấy mình đang học C, C++, Assembly và cách hoạt động của hệ điều hành, và thực sự cố gắng học càng nhiều càng tốt.

Có thể bạn chia sẻ câu chuyện về hành trình của mình với tư cách là kiến trúc sư học máy tại Adallom được Microsoft mua lại?

Tôi bắt đầu hành trình của mình tại Adallom sau khi phục vụ quân đội. Sau 5 năm trong quân đội với tư cách là Đại úy, tôi thấy một cơ hội tuyệt vời để tham gia một công ty mới nổi và thị trường – như một trong những nhân viên đầu tiên. Công ty được dẫn dắt bởi những người sáng lập tuyệt vời, những người mà tôi biết từ thời gian phục vụ quân đội của mình, và được hỗ trợ bởi các nhà đầu tư hàng đầu – như Sequoia. Sự bùng nổ của công nghệ đám mây trên thị trường vẫn còn trong giai đoạn sơ sinh, và chúng tôi đang xây dựng một trong những giải pháp bảo mật đám mây đầu tiên vào thời điểm đó. Các doanh nghiệp đang bắt đầu chuyển từ trên cơ sở để chuyển sang đám mây, và chúng tôi đã thấy các tiêu chuẩn ngành mới xuất hiện – như Office 365, Dropbox, Marketo, Salesforce và các khác.

Trong vài tuần đầu tiên, tôi đã biết rằng tôi muốn bắt đầu công ty của riêng mình một ngày nào đó. Tôi thực sự cảm thấy, từ góc độ công nghệ, rằng tôi đã sẵn sàng cho bất kỳ thách thức nào được ném vào tôi, và nếu không phải tôi, thì tôi biết những người phù hợp để giúp tôi vượt qua bất cứ điều gì.

Adallom cần một người có kiến thức sâu về công nghệ nhưng cũng có thể đối mặt với khách hàng. Chuyển tiếp như một tháng, và tôi đang trên một chuyến bay đến Mỹ, lần đầu tiên trong đời, để gặp gỡ những người từ LinkedIn (trước khi được Microsoft mua lại). Một vài tuần sau và họ trở thành khách hàng trả tiền đầu tiên của chúng tôi ở Mỹ. Đây chỉ là một trong nhiều tập đoàn lớn – Netflix, Disney, Safeway – mà tôi đã giúp giải quyết các vấn đề đám mây quan trọng.

Đối với tôi, tham gia Adallom thực sự là về việc tham gia một nơi mà tôi tin vào thị trường, tôi tin vào đội ngũ, và tôi tin vào tầm nhìn. Tôi vô cùng biết ơn cơ hội mà tôi đã được trao tại đó.

Mục đích của những gì tôi đang làm là rất quan trọng. Đối với tôi, nó giống như khi tôi còn trong quân đội, nó luôn quan trọng. Tôi có thể dễ dàng thấy cách tiếp cận của Adallom trong việc kết nối với các giải pháp SaaS, sau đó theo dõi hoạt động của người dùng, tìm kiếm các bất thường, v.v., là cách mọi thứ sẽ được thực hiện. Tôi nhận ra rằng đây sẽ là cách tiếp cận của tương lai. Vì vậy, tôi chắc chắn thấy Adallom là một công ty sẽ thành công.

Tôi chịu trách nhiệm về toàn bộ kiến trúc của cơ sở hạ tầng học máy của chúng tôi. Và tôi đã thấy và trải nghiệm trực tiếp sự thiếu hụt các công cụ phù hợp cho hệ sinh thái. Vâng, rõ ràng với tôi rằng cần phải có một giải pháp chuyên dụng ở một nơi tập trung nơi bạn có thể xem tất cả các mô hình của mình; nơi bạn có thể xem các quyết định mà chúng đang đưa ra cho doanh nghiệp của bạn; nơi bạn có thể theo dõi và trở nên chủ động với các mục tiêu học máy của mình. Ví dụ, chúng tôi đã có những lần học về các vấn đề trong các mô hình học máy của chúng tôi quá muộn, và điều đó không tốt cho người dùng và chắc chắn không tốt cho doanh nghiệp. Đây là nơi ý tưởng về Aporia bắt đầu hình thành.

Có thể bạn chia sẻ câu chuyện về sự ra đời của Aporia?

Kinh nghiệm học máy cá nhân của tôi bắt đầu từ năm 2008, như một phần của dự án hợp tác tại Viện Weizmann, cùng với Đại học Bath và một Trung tâm Nghiên cứu Trung Quốc. Tại đó, tôi đã xây dựng một hệ thống nhận dạng sinh trắc học bằng cách phân tích hình ảnh của mống mắt. Tôi đã đạt được độ chính xác 94%. Dự án là một thành công và được hoan nghênh từ góc độ nghiên cứu. Nhưng đối với tôi, tôi đã xây dựng phần mềm từ khi tôi 10 tuổi, và có điều gì đó cảm thấy không thực sự.

Đây chỉ là một chút nền tảng. Khi bạn xây dựng một hệ thống học máy, ví dụ như nhận dạng sinh trắc học, bạn muốn dự đoán là quyết định – bạn muốn biết rằng hệ thống xác định chính xác một người nhất định, đúng không? Giống như cách iPhone của bạn không mở khóa nếu nó không nhận ra người đúng ở góc độ đúng, đây là kết quả mong muốn. Nhưng điều này thực sự không phải là trường hợp với học máy khi tôi lần đầu tiên tham gia vào lĩnh vực này.

Khoảng bảy năm sau và tôi đã trải nghiệm trực tiếp tại Adallom, thực tế của việc chạy các mô hình sản xuất mà không có rào cản đáng tin cậy, vì chúng đưa ra quyết định cho doanh nghiệp của chúng tôi ảnh hưởng đến khách hàng của chúng tôi. Sau đó, tôi may mắn được làm việc như một nhà đầu tư tại Vertex Ventures, trong ba năm. Tôi đã thấy nhiều tổ chức hơn sử dụng học máy, và cách các công ty chuyển từ chỉ nói về học máy sang thực sự thực hiện học máy. Tuy nhiên, những công ty này đã áp dụng học máy chỉ để đối mặt với cùng một vấn đề mà chúng tôi đang gặp phải tại Adallom.

Mọi người đã vội vàng sử dụng học máy, và họ đang cố gắng xây dựng các hệ thống giám sát trong nhà. Đương nhiên, đó không phải là cốt lõi kinh doanh của họ, và những thách thức này khá phức tạp. Đây là nơi tôi cũng nhận ra rằng đây là cơ hội của tôi để tạo ra tác động lớn.

Trí tuệ nhân tạo đang được áp dụng trên gần như mọi ngành công nghiệp, bao gồm chăm sóc sức khỏe, dịch vụ tài chính, ô tô và các ngành khác, và nó sẽ chạm vào cuộc sống của mọi người và ảnh hưởng đến tất cả chúng ta. Đây là nơi Aporia thể hiện giá trị thực sự của mình – cho phép tất cả các trường hợp sử dụng thay đổi cuộc sống này hoạt động như dự định và giúp cải thiện xã hội của chúng ta. Bởi vì, giống như bất kỳ phần mềm nào, bạn sẽ có lỗi, và học máy không khác. Nếu không được kiểm tra, những vấn đề học máy này có thể thực sự làm tổn hại đến tính liên tục của doanh nghiệp và ảnh hưởng đến xã hội với các kết quả thiên vị không mong muốn. Hãy lấy nỗ lực của Amazon trong việc triển khai một công cụ tuyển dụng AI – thiên vị không mong muốn khiến mô hình học máy khuyên bạn nên tuyển dụng ứng viên nam hơn ứng viên nữ. Đây rõ ràng là một kết quả không mong muốn. Vì vậy, cần phải có một giải pháp chuyên dụng để phát hiện thiên vị không mong muốn trước khi nó trở thành tin tức và ảnh hưởng đến người dùng cuối.

Đối với các tổ chức để thực sự dựa vào và tận hưởng lợi ích của học máy, họ cần biết khi nào nó không hoạt động đúng, và bây giờ với các quy định mới, thường người dùng học máy sẽ cần cách giải thích dự đoán của mô hình. Cuối cùng, điều quan trọng là nghiên cứu và phát triển các mô hình và dự án mới, nhưng một khi những mô hình đó gặp thế giới thực và đưa ra quyết định thực sự cho người dân, doanh nghiệp và xã hội, có một nhu cầu rõ ràng về một giải pháp quan sát toàn diện để đảm bảo rằng họ có thể tin tưởng AI.

Có thể bạn giải thích tầm quan trọng của AI minh bạch và giải thích được?

Mặc dù nó có thể giống nhau, nhưng có một sự khác biệt quan trọng cần được thực hiện giữa phần mềm truyền thống và học máy. Trong phần mềm, bạn có một kỹ sư phần mềm, viết mã, định nghĩa logic của ứng dụng, chúng tôi biết chính xác những gì sẽ xảy ra trong mỗi luồng mã. Đó là quyết định. Đó là cách phần mềm thường được xây dựng, các kỹ sư tạo ra các trường hợp kiểm tra, kiểm tra các trường hợp biên, đạt được độ phủ khoảng 70% – 80% – bạn cảm thấy đủ tốt để phát hành sản phẩm. Nếu bất kỳ cảnh báo nào xuất hiện, bạn có thể dễ dàng gỡ lỗi và hiểu những gì đã đi sai, và sửa nó.

Điều này không phải là trường hợp với học máy. Thay vào đó, nếu một con người định nghĩa logic, nó được định nghĩa như một phần của quá trình đào tạo mô hình. Khi nói về logic, không giống như phần mềm truyền thống, nó không phải là một tập hợp các quy tắc, mà là một ma trận của hàng triệu và hàng tỷ số đại diện cho tâm trí, não của mô hình học máy. Và đây là một hộp đen, chúng tôi không thực sự biết ý nghĩa của từng số trong ma trận này. Nhưng chúng tôi biết thống kê, vì vậy đây là xác suất, và không phải là quyết định. Nó có thể chính xác trong 83% hoặc 93% thời gian. Điều này đặt ra nhiều câu hỏi, đúng không? Đầu tiên, làm thế nào chúng ta có thể tin tưởng một hệ thống mà chúng ta không thể giải thích cách nó đưa ra dự đoán của mình? Thứ hai, làm thế nào chúng ta có thể giải thích dự đoán cho các ngành công nghiệp có quy định cao – như lĩnh vực tài chính. Ví dụ, ở Mỹ, các công ty tài chính có nghĩa vụ theo luật phải giải thích cho khách hàng của họ tại sao họ bị từ chối cho vay.

Khả năng không giải thích dự đoán học máy bằng văn bản có thể đọc được của con người có thể là một chướng ngại vật lớn cho việc áp dụng rộng rãi học máy trên các ngành công nghiệp. Chúng tôi muốn biết, như một xã hội, rằng mô hình không đưa ra quyết định thiên vị. Chúng tôi muốn đảm bảo rằng chúng tôi hiểu những gì dẫn đến quyết định cụ thể của mô hình. Đây là nơi tính minh bạch và giải thích được cực kỳ quan trọng.

Làm thế nào công cụ giải pháp AI minh bạch và giải thích được của Aporia hoạt động?

Công cụ AI giải thích được của Aporia hoạt động như một phần của hệ thống quan sát học máy thống nhất. Không có tầm nhìn sâu sắc về các mô hình sản xuất và một giải pháp giám sát và cảnh báo đáng tin cậy, thì rất khó để tin tưởng vào các thông tin giải thích được của AI – không có nhu cầu giải thích dự đoán nếu đầu ra không đáng tin cậy. Và đó là nơi Aporia xuất hiện, cung cấp một kính nhìn thống nhất trên tất cả các mô hình đang chạy, giám sát và cảnh báo tùy chỉnh, công cụ gỡ lỗi, điều tra nguyên nhân gốc rễ và AI giải thích được. Một giải pháp quan sát toàn diện chuyên dụng cho mọi vấn đề phát sinh trong sản xuất.

Nền tảng Aporia không phụ thuộc và trang bị cho các doanh nghiệp hướng đến AI, các đội khoa học dữ liệu và học máy với một bảng điều khiển tập trung và tầm nhìn đầy đủ vào sức khỏe của mô hình, dự đoán và quyết định của họ – cho phép họ tin tưởng AI của mình. Bằng cách sử dụng AI giải thích được của Aporia, các tổ chức có thể giữ tất cả các bên liên quan phù hợp trong vòng lặp bằng cách giải thích quyết định học máy bằng một cú nhấp chuột – nhận được thông tin có thể đọc được của con người về dự đoán mô hình cụ thể hoặc mô phỏng các tình huống “Giả sử?”. Ngoài ra, Aporia liên tục theo dõi dữ liệu được cung cấp cho mô hình cũng như dự đoán, và chủ động gửi cảnh báo cho bạn về các sự kiện quan trọng, bao gồm sự suy giảm hiệu suất, thiên vị không mong muốn, sự thay đổi dữ liệu và thậm chí cả cơ hội để cải thiện mô hình của bạn. Cuối cùng, với công cụ điều tra của Aporia, bạn có thể đến nguyên nhân gốc rễ của bất kỳ sự kiện nào để khắc phục và cải thiện bất kỳ mô hình nào trong sản xuất.

Một số chức năng được cung cấp bao gồm Công cụ Điều tra Điểm dữ liệu và Thời gian, làm thế nào các công cụ này giúp ngăn chặn thiên vị AI và trôi?

Điểm dữ liệu cung cấp một cái nhìn trực tiếp về dữ liệu mà mô hình đang nhận được và dự đoán mà nó đang thực hiện cho doanh nghiệp. Bạn có thể nhận được luồng trực tiếp của điều đó và hiểu chính xác những gì đang xảy ra trong doanh nghiệp của bạn. Vì vậy, khả năng hiển thị này rất quan trọng đối với tính minh bạch. Đôi khi mọi thứ thay đổi theo thời gian và có mối tương quan giữa nhiều thay đổi theo thời gian – đây là vai trò của công cụ điều tra thời gian.

Gần đây, các nhà bán lẻ lớn đã có tất cả các công cụ dự đoán AI của họ thất bại khi dự đoán các vấn đề về chuỗi cung ứng, làm thế nào nền tảng Aporia sẽ giải quyết vấn đề này?

Thử thách chính trong việc xác định những vấn đề này nằm ở thực tế rằng chúng tôi đang nói về dự đoán trong tương lai. Điều đó có nghĩa là, chúng tôi dự đoán một điều gì đó sẽ xảy ra hoặc không xảy ra trong tương lai. Ví dụ, bao nhiêu người sẽ mua một chiếc áo cụ thể hoặc mua một chiếc PlayStation mới.

Sau đó, nó mất một thời gian để thu thập tất cả các kết quả thực tế – hơn vài tuần. Sau đó, chúng tôi có thể tóm tắt và nói, ổn, đây là nhu cầu thực tế mà chúng tôi đã thấy. Thời gian này, chúng tôi đang nói về vài tháng tất cả. Đây là những gì đưa chúng tôi từ thời điểm mô hình đưa ra dự đoán cho đến khi doanh nghiệp biết chính xác liệu nó có đúng hay không. Và vào thời điểm đó, nó thường quá muộn, doanh nghiệp đã mất doanh thu tiềm năng hoặc lợi nhuận đã bị siết chặt, vì họ phải bán hàng tồn kho với giá giảm lớn.

Đây là một thách thức. Và đây chính xác là nơi Aporia xuất hiện và trở nên rất hữu ích cho các tổ chức này. Đầu tiên, nó cho phép các tổ chức dễ dàng nhận được tính minh bạch và tầm nhìn vào những quyết định đang được đưa ra – Có những sự thay đổi nào? Có điều gì đó không hợp lý? Thứ hai, vì chúng tôi đang nói về các nhà bán lẻ lớn, chúng tôi đang nói về số lượng hàng tồn kho khổng lồ, và theo dõi chúng một cách thủ công là gần như không thể. Đây là nơi các doanh nghiệp và các đội học máy đánh giá cao Aporia nhất, như một hệ thống giám sát tự động và tùy chỉnh 24/7. Aporia liên tục theo dõi dữ liệu và dự đoán, nó phân tích hành vi thống kê của những dự đoán này, và nó có thể dự đoán và xác định các thay đổi trong hành vi của người tiêu dùng và thay đổi trong dữ liệu ngay khi nó xảy ra. Thay vì chờ đợi sáu tháng để nhận ra rằng dự báo nhu cầu là sai, bạn có thể trong vài ngày xác định rằng chúng tôi đang trên con đường sai lầm với dự báo nhu cầu của mình. Vì vậy, Aporia rút ngắn thời gian này từ vài tháng đến vài ngày. Đây là một sự thay đổi lớn cho bất kỳ nhà thực hành học máy nào.

Có điều gì khác mà bạn muốn chia sẻ về Aporia?

Chúng tôi đang不断 phát triển và tìm kiếm những người tuyệt vời với tâm trí xuất sắc để tham gia hành trình của Aporia. Hãy xem các vị trí mở của chúng tôi.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Aporia.