Yotam Oren, CEO & Cofounder của Mona Labs – Loạt Phỏng Vấn

Yotam Oren, là CEO & Cofounder của Mona Labs, một nền tảng cho phép các doanh nghiệp chuyển đổi các sáng kiến AI từ các thí nghiệm trong phòng thí nghiệm thành các hoạt động kinh doanh có thể mở rộng bằng cách thực sự hiểu cách các mô hình ML hoạt động trong các quy trình kinh doanh và ứng dụng thực tế.

Mona tự động phân tích hành vi của các mô hình học máy của bạn trên các phân khúc dữ liệu được bảo vệ và trong ngữ cảnh của các chức năng kinh doanh, để phát hiện các thiên vị AI tiềm năng. Mona cung cấp khả năng tạo báo cáo công bằng hoàn chỉnh đáp ứng các tiêu chuẩn và quy định của ngành, và cung cấp sự tự tin rằng ứng dụng AI tuân thủ và không bị thiên vị.

Điều gì ban đầu thu hút bạn đến với khoa học máy tính?

Khoa học máy tính là một con đường sự nghiệp phổ biến trong gia đình tôi, vì vậy nó luôn là một lựa chọn khả thi. Tất nhiên, văn hóa Israel rất ủng hộ công nghệ. Chúng tôi tôn vinh các nhà công nghệ sáng tạo và tôi luôn có ấn tượng rằng CS sẽ cung cấp cho tôi một cơ hội để phát triển và thành công.

Mặc dù vậy, nó chỉ trở thành một niềm đam mê cá nhân khi tôi đến tuổi đại học. Tôi không phải là một trong những đứa trẻ bắt đầu lập trình từ trung học. Trong tuổi trẻ, tôi quá bận rộn chơi bóng rổ để chú ý đến máy tính. Sau trung học, tôi đã dành gần 5 năm trong quân đội, trong các vai trò lãnh đạo hoạt động / chiến đấu. Vì vậy, theo một cách nào đó, tôi thực sự chỉ bắt đầu tìm hiểu về khoa học máy tính nhiều hơn khi tôi cần chọn một chuyên ngành học tại đại học. Điều gì thu hút sự chú ý của tôi ngay lập tức là khoa học máy tính kết hợp giải quyết vấn đề và học một ngôn ngữ (hoặc nhiều ngôn ngữ). Hai điều mà tôi đặc biệt quan tâm. Từ đó, tôi đã bị thu hút.

Từ năm 2006 đến 2008, bạn đã làm việc về lập bản đồ và điều hướng cho một công ty khởi nghiệp nhỏ, những kiến thức chính bạn đã thu được từ thời kỳ này?

Vai trò của tôi tại Telmap là xây dựng một công cụ tìm kiếm trên dữ liệu bản đồ và vị trí.

Đây là những ngày đầu tiên của “dữ liệu lớn” trong doanh nghiệp. Chúng tôi thậm chí không gọi nó là như vậy, nhưng chúng tôi đã thu thập được một lượng lớn dữ liệu và cố gắng rút ra những thông tin có tác động và liên quan nhất để展示 cho người dùng cuối.

Một trong những nhận thức đáng chú ý mà tôi có được là các công ty (bao gồm cả chúng tôi) chỉ sử dụng rất ít dữ liệu của họ (không nói đến dữ liệu công khai bên ngoài). Có rất nhiều tiềm năng cho những thông tin mới, các quy trình và trải nghiệm tốt hơn.

Điều khác là việc có thể thu thập được nhiều dữ liệu hơn phụ thuộc vào việc có kiến trúc tốt hơn, cơ sở hạ tầng tốt hơn và như vậy.

Có thể bạn chia sẻ câu chuyện về sự ra đời của Mona Labs?

Ba chúng tôi, các đồng sáng lập, đã gắn bó với các sản phẩm dữ liệu trong suốt sự nghiệp của mình.

Nemo, giám đốc công nghệ, là bạn cùng lớp và người bạn cùng lớp của tôi, và là một trong những nhân viên đầu tiên của Google (GOOGL ) Tel Aviv. Anh ấy đã bắt đầu một sản phẩm tại đó gọi là Google Trends, có nhiều phân tích và học máy tiên tiến dựa trên dữ liệu tìm kiếm. Itai, người đồng sáng lập khác và giám đốc sản phẩm, đã làm việc trong nhóm của Nemo tại Google (và anh ấy và tôi đã gặp nhau thông qua Nemo). Hai người họ luôn cảm thấy khó chịu vì các hệ thống AI không được giám sát sau khi phát triển và thử nghiệm ban đầu. Mặc dù khó khăn trong việc thử nghiệm các hệ thống này trước khi sản xuất, các nhóm vẫn không biết rõ làm thế nào các mô hình dự đoán của họ hoạt động theo thời gian. Ngoài ra, dường như họ chỉ nhận được phản hồi về các hệ thống AI khi mọi thứ diễn ra không tốt và nhóm phát triển được gọi để “đánh lửa” để sửa các vấn đề thảm khốc.

Vào khoảng thời gian đó, tôi là một nhà tư vấn tại McKinsey & Co, và một trong những rào cản lớn nhất tôi thấy đối với các chương trình AI và Dữ liệu lớn trong các doanh nghiệp lớn là sự thiếu tin tưởng mà các bên liên quan kinh doanh có đối với các chương trình này.

Chủ đề chung ở đây đã trở nên rõ ràng đối với Nemo, Itai và tôi trong các cuộc trò chuyện. Ngành cần có cơ sở hạ tầng để giám sát các hệ thống AI / ML trong sản xuất. Chúng tôi đã hình thành tầm nhìn để cung cấp khả năng hiển thị này nhằm tăng cường sự tin tưởng của các bên liên quan kinh doanh và cho phép các nhóm AI luôn có tay trong việc kiểm soát hệ thống của họ và lặp lại hiệu quả hơn.

Và đó là khi Mona được thành lập.

Có thể bạn chia sẻ một số vấn đề hiện tại về sự thiếu minh bạch của AI?

Trong nhiều ngành, các tổ chức đã chi hàng chục triệu đô la vào các chương trình AI của họ và đã thấy một số thành công ban đầu trong phòng thí nghiệm và trong các triển khai nhỏ. Nhưng việc mở rộng quy mô, đạt được sự áp dụng rộng rãi và khiến kinh doanh thực sự dựa vào AI đã trở thành một thách thức lớn đối với hầu hết mọi người.

Tại sao điều này lại xảy ra? Nó bắt đầu từ việc nghiên cứu tuyệt vời không tự động chuyển thành sản phẩm tuyệt vời (một khách hàng đã từng nói với chúng tôi: “Các mô hình ML giống như ô tô, ngay khi chúng rời khỏi phòng thí nghiệm, chúng mất 20% giá trị”). Các sản phẩm tuyệt vời có các hệ thống hỗ trợ. Có các công cụ và quy trình để đảm bảo chất lượng được duy trì theo thời gian và các vấn đề được phát hiện sớm và giải quyết hiệu quả. Các sản phẩm tuyệt vời cũng có một vòng phản hồi liên tục, chúng có một chu kỳ cải tiến và một bản đồ đường. Do đó, các sản phẩm tuyệt vời đòi hỏi sự minh bạch về hiệu suất liên tục.

Khi không có sự minh bạch, bạn sẽ kết thúc với:

• Các vấn đề vẫn còn ẩn cho một thời gian và sau đó bùng nổ lên bề mặt gây ra “đánh lửa”
• Các cuộc điều tra và giảm thiểu thủ công dài dòng
• Một chương trình AI không được các người dùng và nhà tài trợ kinh doanh tin tưởng và cuối cùng không thể mở rộng quy mô

Có thể bạn chia sẻ một số thách thức đằng sau việc làm cho các mô hình dự đoán minh bạch và đáng tin cậy?

Minh bạch là một yếu tố quan trọng trong việc đạt được sự tin tưởng,当然. Minh bạch có thể đến trong nhiều hình thức. Có minh bạch dự đoán đơn lẻ có thể bao gồm hiển thị mức độ tin cậy cho người dùng hoặc cung cấp một lời giải thích / lý do cho dự đoán. Minh bạch dự đoán đơn lẻ chủ yếu nhằm giúp người dùng cảm thấy thoải mái với dự đoán. Và sau đó, có minh bạch tổng thể có thể bao gồm thông tin về độ chính xác dự đoán, kết quả không mong muốn và các vấn đề tiềm ẩn. Minh bạch tổng thể là cần thiết cho nhóm AI.

Phần khó khăn nhất của minh bạch tổng thể là phát hiện các vấn đề sớm, cảnh báo thành viên nhóm liên quan để họ có thể thực hiện hành động khắc phục trước khi xảy ra thảm họa.

Tại sao việc phát hiện vấn đề sớm lại khó khăn:

• Các vấn đề thường bắt đầu nhỏ và âm ỉ, trước khi cuối cùng bùng nổ lên bề mặt.
• Các vấn đề thường bắt đầu do các yếu tố không thể kiểm soát hoặc bên ngoài, chẳng hạn như nguồn dữ liệu.
• Có nhiều cách để “chia thế giới” và tìm kiếm các vấn đề trong các túi nhỏ có thể dẫn đến nhiều tiếng ồn (mệt mỏi cảnh báo), ít nhất khi điều này được thực hiện theo cách tiếp cận đơn giản.

Một khía cạnh khó khăn khác của việc cung cấp minh bạch là sự phổ biến của các trường hợp sử dụng AI. Điều này khiến cho việc tiếp cận “một kích cỡ phù hợp với tất cả” gần như không thể. Mỗi trường hợp sử dụng AI có thể bao gồm các cấu trúc dữ liệu khác nhau, các chu kỳ kinh doanh khác nhau, các chỉ số thành công khác nhau và thường các phương pháp kỹ thuật và thậm chí các ngăn xếp khác nhau.

Vì vậy, đó là một nhiệm vụ khổng lồ, nhưng minh bạch là rất cơ bản cho sự thành công của các chương trình AI, vì vậy bạn phải làm điều đó.

Có thể bạn chia sẻ một số chi tiết về các giải pháp cho các mô hình NLU / NLP và Trò chuyện?

Trí tuệ đối thoại là một trong những lĩnh vực cốt lõi của Mona. Chúng tôi tự hào hỗ trợ các công ty sáng tạo với nhiều trường hợp sử dụng trí tuệ đối thoại, bao gồm mô hình ngôn ngữ, trò chuyện và nhiều hơn nữa.

Một yếu tố chung trên tất cả các trường hợp sử dụng này là các mô hình hoạt động gần (và đôi khi có thể nhìn thấy) với khách hàng, vì vậy rủi ro của hiệu suất không nhất quán hoặc hành vi xấu là cao hơn. Điều này trở nên rất quan trọng đối với các nhóm trí tuệ đối thoại để hiểu hành vi của hệ thống ở mức độ chi tiết, đây là một lĩnh vực mạnh của giải pháp giám sát của Mona.

Điều mà giải pháp của Mona thực hiện một cách độc đáo là sàng lọc hệ thống các cuộc trò chuyện và tìm kiếm các túi trong đó các mô hình (hoặc bot) hành xử không đúng. Điều này cho phép các nhóm trí tuệ đối thoại xác định vấn đề sớm và trước khi khách hàng nhận thấy chúng. Khả năng này là một yếu tố quyết định quan trọng cho các nhóm trí tuệ đối thoại khi chọn giải pháp giám sát.

Tóm lại, Mona cung cấp một giải pháp giám sát toàn diện cho trí tuệ đối thoại. Nó bắt đầu bằng cách đảm bảo có một nguồn thông tin duy nhất cho hành vi của hệ thống theo thời gian, và tiếp tục với việc theo dõi liên tục các chỉ số hiệu suất chính và cung cấp thông tin sâu sắc về các túi hành vi không đúng – cho phép các nhóm thực hiện các biện pháp khắc phục hiệu quả và kịp thời.

Có thể bạn chia sẻ một số chi tiết về động cơ cảm hứng của Mona?

Tất nhiên. Hãy bắt đầu với động lực. Mục tiêu của động cơ cảm hứng là đưa ra các bất thường cho người dùng, với đúng lượng thông tin ngữ cảnh và không tạo ra tiếng ồn hoặc dẫn đến mệt mỏi cảnh báo.

Động cơ cảm hứng là một quy trình phân tích độc đáo. Trong quy trình này, động cơ tìm kiếm các bất thường trong tất cả các phân khúc của dữ liệu, cho phép phát hiện sớm các vấn đề khi chúng vẫn còn “nhỏ”, và trước khi chúng ảnh hưởng đến toàn bộ tập dữ liệu và các chỉ số kinh doanh KPI. Sau đó, nó sử dụng một thuật toán độc quyền để phát hiện nguyên nhân gốc rễ của các bất thường và đảm bảo rằng mỗi bất thường chỉ được cảnh báo một lần để tránh tiếng ồn. Các loại bất thường được hỗ trợ bao gồm: bất thường chuỗi thời gian, trôi, ngoại lệ, suy giảm mô hình và nhiều hơn nữa.

Động cơ cảm hứng rất tùy chỉnh thông qua cấu hình không mã / mã thấp của Mona. Tính tùy chỉnh của động cơ làm cho Mona trở thành giải pháp linh hoạt nhất trên thị trường, bao gồm nhiều trường hợp sử dụng (ví dụ:批 và luồng, với / không có phản hồi kinh doanh / sự thật cơ bản, trên các phiên bản mô hình hoặc giữa huấn luyện và suy luận, và nhiều hơn nữa).

Cuối cùng, động cơ cảm hứng này được hỗ trợ bởi một bảng điều khiển trực quan, trong đó các thông tin có thể được xem và một tập hợp các công cụ điều tra để cho phép phân tích nguyên nhân gốc rễ và khám phá thêm thông tin ngữ cảnh. Động cơ cảm hứng cũng được tích hợp hoàn toàn với một động cơ thông báo cho phép cung cấp thông tin cho môi trường làm việc của người dùng, bao gồm email, nền tảng cộng tác và nhiều hơn nữa.

Vào ngày 31 tháng 1, Mona đã ra mắt giải pháp công bằng AI mới, có thể bạn chia sẻ với chúng tôi chi tiết về tính năng này và tại sao nó lại quan trọng?

Công bằng AI là về việc đảm bảo rằng các thuật toán và hệ thống AI nói chung đưa ra quyết định không thiên vị và công bằng. Xử lý và ngăn chặn các thiên vị trong các hệ thống AI là rất quan trọng, vì chúng có thể dẫn đến các hậu quả thực tế đáng kể. Với sự nổi bật ngày càng tăng của AI, tác động của nó đối với cuộc sống hàng ngày của mọi người sẽ trở nên rõ ràng hơn trong nhiều lĩnh vực, bao gồm tự động hóa việc lái xe, phát hiện bệnh chính xác hơn, cải thiện sự hiểu biết của chúng tôi về thế giới và thậm chí tạo ra nghệ thuật. Nếu chúng tôi không thể tin tưởng rằng nó là công bằng và không thiên vị, làm thế nào chúng tôi có thể cho phép nó tiếp tục lan rộng?

Một trong những nguyên nhân chính của thiên vị trong AI là khả năng của dữ liệu huấn luyện mô hình để đại diện cho thế giới thực một cách đầy đủ. Điều này có thể bắt nguồn từ sự phân biệt đối xử lịch sử, sự đại diện không đầy đủ của các nhóm nhất định hoặc thậm chí là sự thao túng dữ liệu có chủ ý. Ví dụ, một hệ thống nhận dạng khuôn mặt được đào tạo trên các cá nhân chủ yếu có làn da sáng có thể có tỷ lệ lỗi cao hơn trong việc nhận dạng các cá nhân có làn da sẫm màu hơn. Tương tự, một mô hình ngôn ngữ được đào tạo trên dữ liệu văn bản từ một tập hợp nguồn hạn chế có thể phát triển thiên vị nếu dữ liệu bị thiên vị về các quan điểm thế giới nhất định, về các chủ đề như tôn giáo, văn hóa và nhiều hơn nữa.

Giải pháp công bằng AI của Mona cung cấp cho các nhóm AI và kinh doanh sự tự tin rằng AI của họ không bị thiên vị. Trong các lĩnh vực được quy định, giải pháp của Mona có thể chuẩn bị cho các nhóm sẵn sàng tuân thủ.

Giải pháp công bằng của Mona đặc biệt vì nó nằm trên nền tảng Mona – một cầu nối giữa dữ liệu AI và mô hình và các ý nghĩa thực tế của chúng trong sản xuất. Mona xem xét tất cả các phần của quy trình kinh doanh mà mô hình AI phục vụ trong sản xuất, để tương quan giữa dữ liệu huấn luyện, hành vi mô hình và kết quả thực tế trong thế giới thực để cung cấp đánh giá công bằng toàn diện nhất.

Thứ hai, nó có một động cơ phân tích độc đáo cho phép phân khúc dữ liệu linh hoạt để kiểm soát các tham số liên quan. Điều này cho phép đánh giá tương quan chính xác trong đúng ngữ cảnh, tránh nghịch lý Simpson và cung cấp một điểm số thiên vị thực “thực” cho bất kỳ chỉ số hiệu suất nào và trên bất kỳ tính năng được bảo vệ nào.

Vì vậy, tổng thể tôi sẽ nói rằng Mona là một yếu tố cơ bản cho các nhóm cần xây dựng và mở rộng quy mô AI có trách nhiệm.

Có thể bạn chia sẻ tầm nhìn của mình về tương lai của AI?

Đây là một câu hỏi lớn.

Tôi nghĩ rằng việc dự đoán AI sẽ tiếp tục phát triển và ảnh hưởng đến nhiều lĩnh vực và khía cạnh của cuộc sống con người là điều dễ dàng. Tuy nhiên, việc dự đoán một tầm nhìn chi tiết và đồng thời cố gắng bao gồm tất cả các trường hợp sử dụng và ý nghĩa của AI trong tương lai là điều không thể. Bởi vì không ai thực sự biết đủ để vẽ ra bức tranh đó một cách đáng tin cậy.

Điều mà chúng tôi biết chắc chắn là AI sẽ nằm trong tay nhiều người hơn và phục vụ nhiều mục đích hơn. Do đó, nhu cầu về quản trị và minh bạch sẽ tăng lên đáng kể.

Minh bạch thực sự về AI và cách nó hoạt động sẽ đóng hai vai trò chính. Đầu tiên, nó sẽ giúp tạo dựng niềm tin cho mọi người và loại bỏ các rào cản kháng cự để áp dụng nhanh hơn. Thứ hai, nó sẽ giúp bất kỳ ai vận hành AI đảm bảo rằng nó không vượt quá tầm kiểm soát.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập Mona Labs.