Nick Romano, Đồng sáng lập & CEO của Deeplite – Loạt phỏng vấn

Nick Romano là Đồng sáng lập & CEO của Deeplite một giải pháp Tối ưu hóa AI để làm cho Mạng nơ-ron sâu nhanh hơn, nhỏ hơn và tiết kiệm năng lượng từ đám mây đến tính toán biên.

Nick là một doanh nhân连 tiếp & một CEO thành đạt với hơn 20 năm kinh nghiệm trong việc đưa ra các kết quả thành công. Gần đây, ông đã đồng sáng lập & mở rộng một nền tảng SaaS doanh nghiệp với doanh thu định kỳ hàng triệu đô la & hơn 100 nhân viên. Ông đã được vinh danh bởi Trường Kỹ thuật McMaster là một trong 150 cựu sinh viên hàng đầu.

Điều gì ban đầu thu hút bạn đến với AI?

Tôi đã hoạt động trong lĩnh vực công nghệ trong hơn 25 năm và đã chứng kiến nhiều chu kỳ và xu hướng, một số trong đó là sự cường điệu và một số là thực sự. AI là một lĩnh vực năng động và đang phát triển, và điều tôi yêu thích về nó là cách công nghệ có thể được sử dụng một cách thực sự trong nhiều cách khác nhau để cải thiện cách sống và làm việc của con người. Tôi muốn trở thành một phần của phong trào này. Tuy nhiên, có những thách thức khi đưa AI vào môi trường thực tế. Nó đòi hỏi rất nhiều khả năng tính toán và năng lượng để AI hoạt động đúng cách – nó đòi hỏi tính toán mạnh mẽ. Điều đó ổn trong một phòng thí nghiệm, nhưng nếu nó quá lớn hoặc quá chậm hoặc tiêu thụ quá nhiều năng lượng, thì rất khó để đưa AI vào các kịch bản thực tế. Đó là nhiệm vụ và sự thu hút thực sự đối với tôi – cho phép AI trong cuộc sống hàng ngày.

Có thể bạn chia sẻ câu chuyện về sự ra đời của Deeplite?

Ý tưởng về Deeplite bắt đầu tại TandemLaunch incubator ở Montreal. Davis Sawyer, người hiện là giám đốc sản phẩm của chúng tôi và là một chuyên gia về lĩnh vực AI, và Ehsan Saboori, người hiện là giám đốc công nghệ của chúng tôi và thực sự là người đứng sau trí tuệ của chúng tôi, đã bắt đầu phát triển công nghệ tại đó. Tôi đã tham gia cùng họ vào năm 2019, mang lại kinh nghiệm lãnh đạo và mở rộng công ty của tôi, và chúng tôi đã chính thức ra mắt Deeplite như một công ty vào giữa năm 2019. Hiện tại, chúng tôi có hơn 20 nhân viên với văn phòng tại Montreal và Toronto, và chúng tôi đã công bố một vòng hạt giống Series Seed trị giá 6 triệu đô la vào tháng 4 năm 2021.

Tại sao việc nhúng xử lý AI trực tiếp vào phần cứng thay vì đám mây lại quan trọng trong một số trường hợp như xe tự hành và máy bay không người lái?

Có nhiều lý do tại sao bạn muốn chạy quá trình ra quyết định AI, quá trình quyết định AI, tại điểm thu thập dữ liệu thay vì đám mây. Có lẽ lý do lớn nhất trong các ứng dụng quan trọng như xe tự hành là sự chậm trễ, về cơ bản là thời gian AI cần để đưa ra quyết định. Nếu bạn cần thu thập dữ liệu, gửi nó đến đám mây để phân tích, sau đó trả về kết quả, thì rõ ràng sẽ mất nhiều thời gian hơn so với việc thực hiện nó cục bộ trong thời gian thực. Trong lái xe tự hành, những mili giây rất quan trọng.

Các lý do khác bao gồm quyền riêng tư, giữ dữ liệu nhạy cảm cục bộ thay vì gửi đến đám mây và, tất nhiên, kết nối mà trong sự vắng mặt của nó sẽ làm cho phân tích đám mây trở nên vô nghĩa. Các mạng nơ-ron sâu phức tạp đòi hỏi rất nhiều khả năng tính toán để chạy, chúng sử dụng nhiều bộ nhớ và tiêu thụ nhiều năng lượng, vì vậy các giải pháp AI đã buộc phải sử dụng đám mây. Vì vậy, để thoát khỏi đám mây và chạy AI cục bộ tại biên trong một xe hoặc máy bay không người lái, ví dụ, bạn cần tìm cách giảm kích thước và hồ sơ năng lượng tổng thể của mô hình, cho phép nó chạy trực tiếp trên thiết bị – thiết bị – với ít tài nguyên hơn. Điều đó rất quan trọng để phá vỡ rào cản này và đưa AI đến nhiều thiết bị hơn phục vụ con người hàng ngày. Đó là nơi Deeplite tham gia.

Có thể bạn cho chúng tôi biết Deeplite Neutrino là gì cụ thể?

Nền tảng Neutrino của chúng tôi biến đổi AI, cụ thể là mạng nơ-ron sâu hoặc DNN, thành một hình thức mới nhỏ hơn, nhanh hơn và ít tiêu thụ năng lượng hơn so với hình thức ban đầu. Với Deeplite Neutrino, các nhóm AI có thể tập trung vào việc đào tạo mô hình của họ để đạt được độ chính xác và sử dụng nền tảng của chúng tôi để tối ưu hóa mô hình AI để nó có thể được triển khai vào phần cứng bị giới hạn tại biên. Deeplite Neutrino thực hiện việc này mà không ảnh hưởng đến độ chính xác ban đầu của AI. Về cơ bản, chúng tôi lấy các mô hình AI lớn và làm cho chúng nhỏ hơn, nhanh hơn và tiết kiệm năng lượng hơn. Mục tiêu cuối cùng là đưa AI ra khỏi phòng thí nghiệm và vào thế giới thực trong những thứ chúng ta sử dụng hàng ngày.

Làm thế nào Deeplite Neutrino có thể làm cho AI hiệu quả hơn, nhanh hơn, nhỏ hơn và mạnh mẽ hơn mà không ảnh hưởng đến độ chính xác của mô hình ban đầu?

Chúng tôi sử dụng một phương pháp khám phá không gian thiết kế đa mục tiêu mới. Chúng tôi sử dụng mô hình ban đầu như một mô hình “giáo viên” và sau đó khám phá kiến trúc của mô hình để tìm mô hình “học sinh” tốt nhất đáp ứng các ràng buộc thiết kế do người dùng Deeplite chỉ định để tự động tối ưu hóa mô hình DNN và làm cho chúng nhanh hơn, nhỏ hơn và tiết kiệm năng lượng hơn mà không hy sinh hiệu suất.

Có những trường hợp sử dụng hàng đầu nào cho loại AI này?

Mặc dù chúng tôi không giới hạn ở đó, nhưng hiện tại chúng tôi tập trung vào tầm nhìn máy tính và AI dựa trên nhận thức. Công nghệ AI của chúng tôi đang được sử dụng trong xe tự hành, máy bay không người lái, máy ảnh, điện thoại di động, cảm biến và các thiết bị IoT khác. Chúng tôi cũng đang thấy các ứng dụng mới cho nó, bao gồm một chiếc bàn chải đánh răng thông minh và một chiếc máy pha cà phê thông minh. Chúng tôi thậm chí đang làm việc với một công ty đồ chơi hàng đầu quốc tế đang sử dụng nó để phát triển trò chơi. Điều gì thực sự thú vị và đáng khích lệ về những gì chúng tôi làm là sự đa dạng của các ứng dụng mà chúng tôi đang thấy được đưa ra thị trường nơi chúng tôi có thể giúp nó trở nên sống động.

Quan điểm của bạn về học liên kết và cách nó sẽ ảnh hưởng đến tương lai của học máy?

Đào tạo mô hình đòi hỏi rất nhiều dữ liệu và rất nhiều khả năng tính toán. Sự đa dạng của các trường hợp sử dụng càng lớn, thì càng đòi hỏi nhiều dữ liệu và thời gian tính toán cần thiết để đào tạo mô hình đến mức độ chính xác hài lòng. Với học liên kết, đào tạo được điều phối tại biên trong mỗi thiết bị dựa trên điều kiện dữ liệu cục bộ. Điều này có thể làm cho đào tạo trở nên hiệu quả hơn (tại sao đào tạo cho một con kangaroo băng qua đường ở Alaska) và cũng là một chiến thắng lớn cho quyền riêng tư vì dữ liệu đào tạo – ví dụ, khuôn mặt của một người – không được gửi đến máy chủ trung tâm.

Đưa ra mục tiêu cuối cùng của chúng tôi sẽ là có những gì chúng tôi đang làm trở thành một phần của quá trình đào tạo ban đầu thay vì một lần vượt qua. Hiện tại, điều này là khát vọng, nhưng đó là một phần của mục tiêu dài hạn của chúng tôi.

Làm thế nào một công ty khởi nghiệp như bạn thu hút được nhân tài và trí tuệ cần thiết?

Điều đó là một thách thức lớn để thu hút nhân tài AI phù hợp ngày nay – có quá ít người ở đó và cạnh tranh để tuyển dụng là rất cao. Đội ngũ của chúng tôi rất tuyệt vời. Họ là một nam châm cho nhân tài. Chúng tôi có những người được tuyển dụng nói chuyện và phỏng vấn với đội ngũ của chúng tôi. Một khi họ thấy chất lượng của những người tại Deeplite, họ muốn ở đây. Là một công ty khởi nghiệp, chúng tôi cung cấp một văn hóa tuyệt vời và cơ hội để làm việc trên điều gì đó mới và nổi bật có thể là một yếu tố thay đổi trò chơi cho nhiều ngành công nghiệp và sản phẩm khác nhau. Tôi nghĩ rằng cơ hội đó, cùng với đội ngũ, là chìa khóa để chúng tôi thu hút được nhân tài hàng đầu. Chúng tôi cũng nằm ở hai trung tâm AI hàng đầu của Bắc Mỹ, Montreal và Toronto, điều này giúp chúng tôi. Là một công ty Canada, chúng tôi tận dụng chương trình Global Talent Stream của chính phủ. Chúng tôi có thể tuyển dụng ở bất kỳ nơi nào trên thế giới, tài trợ cho những người mới được tuyển dụng và nhanh chóng đưa họ vào Canada.

Bạn có bất kỳ lời khuyên nào cho các doanh nhân khác trong lĩnh vực AI?

Điều này vượt ra ngoài AI nhưng như một doanh nhân lặp lại, tôi đã học được rằng điều quan trọng là phải có sự hỗ trợ của gia đình, vì quyết định trở thành một doanh nhân không phải là một quyết định cá nhân – nó ảnh hưởng đến mọi người – vợ, chồng và con cái. Mọi người đều là một phần của hành trình cùng bạn, và mọi người đều hy sinh. Bạn phải nhận ra và đánh giá cao điều đó, và đó là cách các gia đình có thể ở bên nhau trong suốt hành trình.

Có điều gì khác mà bạn muốn chia sẻ về Deeplite?

Một trong những khía cạnh độc đáo của Deeplite là các đồng sáng lập của chúng tôi. Davis đang ở độ tuổi 20 và là một chuyên gia về lĩnh vực AI. Ehsan là một người nhập cư Iran với bằng tiến sĩ, và như đã đề cập trước đó, là người đứng sau trí tuệ của chúng tôi. Và tôi là một người đàn ông 50 tuổi đã xây dựng các công ty trước đây. Ba chúng tôi là một sự kết hợp thú vị mang lại những điểm mạnh và kinh nghiệm khác nhau đến bàn. Tôi rất biết ơn vì tôi có những đối tác tuyệt vời và được bao quanh bởi một đội ngũ tuyệt vời.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, tôi mong đợi theo dõi tiến trình của Deeplite và đây là một công ty sẽ nằm trong tầm ngắm của tôi. Những người đọc muốn tìm hiểu thêm nên truy cập Deeplite.