Omri Geller, CEO & Co-Founder của Run:AI – Loạt Phỏng Vấn

Omri Geller là CEO và Co-Founder tại Run:AI

Run:AI ảo hóa và tăng tốc AI bằng cách tập hợp tài nguyên tính toán GPU để đảm bảo khả năng hiển thị và kiểm soát cuối cùng đối với việc ưu tiên và phân bổ tài nguyên. Điều này đảm bảo rằng các dự án AI được ánh xạ đến các mục tiêu kinh doanh và mang lại sự cải thiện đáng kể về năng suất của các nhóm khoa học dữ liệu, cho phép họ xây dựng và đào tạo các mô hình đồng thời mà không bị giới hạn bởi tài nguyên.

Điều gì đã thu hút bạn đến với Trí tuệ Nhân tạo?

Khi tôi bắt đầu bằng cấp Cử nhân về Kỹ thuật Điện và Điện tử tại Đại học Tel Aviv, tôi đã khám phá ra những điều thú vị về AI mà tôi biết sẽ giúp chúng ta tiến đến bước tiếp theo trong các khả năng tính toán. Từ đó, tôi biết tôi muốn đầu tư vào không gian AI. Cho dù đó là nghiên cứu AI, hay mở một công ty sẽ giúp giới thiệu các cách mới để áp dụng AI vào thế giới.

Bạn đã luôn quan tâm đến phần cứng máy tính?

Khi tôi nhận được máy tính đầu tiên của mình với bộ xử lý Intel (INTC ) 486 khi tôi sáu hoặc bảy tuổi, tôi đã ngay lập tức quan tâm đến việc tìm hiểu cách mọi thứ hoạt động, mặc dù tôi có thể quá trẻ để thực sự hiểu nó. Ngoài thể thao, máy tính trở thành một trong những sở thích lớn nhất của tôi khi lớn lên. Kể từ đó, tôi đã xây dựng máy tính, làm việc với chúng và học trong lĩnh vực này vì đam mê tôi có khi còn là một đứa trẻ.

Cảm hứng của bạn đằng sau việc ra mắt Run:AI là gì?

Tôi biết từ rất sớm rằng tôi muốn đầu tư vào không gian AI. Trong những năm gần đây, ngành công nghiệp đã chứng kiến sự tăng trưởng đáng kể trong AI, và nhiều sự tăng trưởng đó đến từ cả các nhà khoa học máy tính như tôi và phần cứng có thể hỗ trợ nhiều ứng dụng hơn. Điều đó trở nên rõ ràng hơn với tôi rằng tôi sẽ bắt đầu một công ty – và cùng với người đồng sáng lập của tôi, Ronen Dar – để tiếp tục đổi mới và giúp đưa AI đến nhiều công ty doanh nghiệp hơn.

Run:AI cho phép các chuyên gia học máy có được sự kiểm soát mới đối với việc phân bổ tài nguyên GPU đắt tiền. Bạn có thể giải thích cách nó hoạt động không?

Điều chúng ta cần hiểu là các kỹ sư học máy, như các nhà nghiên cứu và nhà khoa học dữ liệu, cần tiêu thụ sức tính toán một cách linh hoạt. Không chỉ các tính toán mới nhất rất đòi hỏi tính toán, mà còn có các quy trình làm việc mới đang được sử dụng trong khoa học dữ liệu. Các quy trình làm việc này dựa trên thực tế rằng khoa học dữ liệu dựa trên thử nghiệm và chạy thử nghiệm.

Để phát triển các giải pháp mới để chạy các thử nghiệm hiệu quả hơn, chúng ta cần nghiên cứu các xu hướng quy trình làm việc này theo thời gian. Ví dụ: Một nhà khoa học dữ liệu sử dụng tám GPU trong một ngày, nhưng ngày tiếp theo họ có thể sử dụng không hoặc họ có thể sử dụng một GPU trong một khoảng thời gian dài, nhưng sau đó họ cần sử dụng 100 GPU vì họ muốn chạy 100 thử nghiệm song song. Một khi chúng ta hiểu được quy trình làm việc này để tối ưu hóa sức tính toán của một người dùng, chúng ta có thể bắt đầu mở rộng quy mô cho nhiều người dùng.

Với tính toán truyền thống, một số GPU cụ thể được phân bổ cho mỗi người dùng, không tính đến việc chúng có đang được sử dụng hay không. Với phương pháp này, thường thì các GPU đắt tiền nằm không mà không ai khác có thể truy cập, dẫn đến ROI thấp cho GPU. Chúng ta hiểu được các ưu tiên tài chính của một công ty và cung cấp các giải pháp cho phép phân bổ động các tài nguyên đó theo nhu cầu của người dùng. Bằng cách cung cấp một hệ thống linh hoạt, chúng ta có thể phân bổ thêm sức mạnh cho một người dùng cụ thể khi cần, bằng cách sử dụng các GPU không được sử dụng bởi người dùng khác, tạo ra ROI tối đa cho tài nguyên tính toán của công ty và tăng tốc đổi mới và thời gian đưa ra thị trường của các giải pháp AI.

Một trong những chức năng của Run:AI là giảm thiểu các điểm mù được tạo ra bởi việc phân bổ tĩnh GPU. Làm thế nào để đạt được điều này?

Chúng tôi có một công cụ cung cấp cho chúng tôi cái nhìn tổng quan về cụm tài nguyên. Bằng cách sử dụng công cụ này, chúng ta có thể quan sát và hiểu nếu có điểm mù và sau đó sử dụng các GPU không hoạt động cho những người dùng cần phân bổ. Công cụ cung cấp khả năng hiển thị vào cụm và kiểm soát cụm cũng giúp loại bỏ các điểm mù đó.

Trong một bài phát biểu gần đây, bạn đã nhấn mạnh một số sự khác biệt giữa các quy trình xây dựng và đào tạo, bạn có thể giải thích cách Run:AI sử dụng cơ chế quản lý hàng đợi GPU để phân bổ quản lý tài nguyên cho cả hai không?

Một mô hình AI được xây dựng trong hai giai đoạn. Đầu tiên là giai đoạn xây dựng, nơi một nhà khoa học dữ liệu đang viết mã để xây dựng mô hình thực tế, giống như một kỹ sư xây dựng một chiếc xe hơi. Giai đoạn thứ hai là giai đoạn đào tạo, nơi mô hình hoàn chỉnh bắt đầu học và được “đào tạo” để tối ưu hóa một nhiệm vụ cụ thể. Tương tự như một người học cách lái xe sau khi chiếc xe đã được lắp ráp.

Để xây dựng mô hình chính nó, không cần nhiều sức tính toán. Tuy nhiên, cuối cùng, nó có thể cần sức tính toán mạnh hơn để bắt đầu các thử nghiệm nhỏ, nội bộ. Ví dụ, cách một kỹ sư muốn thử nghiệm động cơ trước khi lắp đặt nó. Vì những nhu cầu khác nhau này trong từng giai đoạn, Run.AI cho phép phân bổ GPU bất kể họ đang xây dựng hay đào tạo mô hình, tuy nhiên, như đã đề cập trước đó, việc sử dụng GPU cao hơn thường được yêu cầu cho việc đào tạo mô hình trong khi ít hơn được yêu cầu cho việc xây dựng nó.

Làm thế nào nhiều thời gian tính toán thô/tài nguyên có thể được tiết kiệm bởi các nhà phát triển AI muốn tích hợp Run.AI vào hệ thống của họ?

Giải pháp của chúng tôi tại Run.ai có thể cải thiện việc số hóa tài nguyên, khoảng hai đến ba lần, nghĩa là 2-3 lần năng suất tổng thể tốt hơn.

Cảm ơn vì cuộc phỏng vấn, những người đọc muốn tìm hiểu thêm có thể truy cập Run:AI.