Modele i platformy AI
Skok Apple’a w świat sztucznej inteligencji: Poznajemy framework MLX i jego wpływ na doświadczenia z AI w następnych MacBookach
Dziedzina sztucznej inteligencji przechodzi obecnie znaczącą transformację, napędzaną powszechną integracją i dostępnością generatywnej sztucznej inteligencji w otwartych ekosystemach. Ta transformacyjna fala nie tylko zwiększa produktywność i efektywność, ale także pobudza innowacje, zapewniając istotne narzędzie do utrzymania konkurencyjności we współczesnej erze. Odstępując od swojego tradycyjnego zamkniętego ekosystemu, Apple (AAPL ) niedawno przyjął tę zmianę paradygmatu, wprowadzając MLX, framework open-source zaprojektowany do umożliwienia deweloperom AI efektywnego wykorzystania możliwości chipów Apple Silicon. W tym artykule zagłębimy się w framework MLX, rozplątując jego implikacje dla Apple i potencjalny wpływ, jaki może on mieć na szerszy ekosystem sztucznej inteligencji.
Przedstawienie MLX
Zaprojektowany przez zespół badawczy sztucznej inteligencji Apple, MLX jest frameworkiem na najwyższym poziomie, dostosowanym do badań i rozwoju sztucznej inteligencji na chipach Apple Silicon. Framework obejmuje zestaw narzędzi, które umożliwiają deweloperom AI tworzenie zaawansowanych modeli, obejmujących chatboty, generację tekstu, rozpoznawanie mowy i generację obrazów. MLX idzie dalej, zawierając pre-trenowane podstawowe modele, takie jak LlaMA Metas do generacji tekstu, Stable Diffusion Stability AI do generacji obrazów i Whisper OpenAI do rozpoznawania mowy.
Zainspirowany dobrze ugruntowanymi frameworkami, takimi jak NumPy, PyTorch, Jax i ArrayFire, MLX kładzie silny nacisk na przyjazny dla użytkownika design i wydajne szkolenie modeli oraz wdrożenie. Godne uwagi funkcje obejmują przyjazne dla użytkownika API, w tym API Pythona przypominające NumPy, oraz szczegółowe API C++. Specjalistyczne pakiety, takie jak mlx.nn i mlx.optimizers, ułatwiają budowę złożonych modeli, przyjmując styl PyTorch.
MLX wykorzystuje podejście opóźnionego obliczania, generując tablice tylko wtedy, gdy jest to konieczne. Jego dynamiczna konstrukcja grafu obliczeniowego umożliwia spontaniczną generację grafów obliczeniowych, gwarantując, że zmiany w argumentach funkcji nie utrudniają wydajności, jednocześnie utrzymując proces debugowania prosty i intuicyjny. MLX oferuje szeroką kompatybilność z urządzeniami, wykonując operacje na procesorach CPU i GPU. Kluczowym aspektem MLX jest jego zunifikowany model pamięci, zachowujący tablice w pamięci współdzielonej. Ta unikalna funkcja ułatwia operacje na tablicach MLX na różnych obsługiwanych urządzeniach, eliminując potrzebę transferu danych.
Różnicowanie CoreML i MLX
Apple opracował zarówno CoreML, jak i framework MLX, aby pomóc deweloperom AI w systemach Apple, ale każdy framework ma swoje unikalne funkcje. CoreML jest zaprojektowany do łatwej integracji pre-trenowanych modeli sztucznej inteligencji z otwartymi narzędziami, takimi jak TensorFlow, do aplikacji na urządzeniach Apple, w tym iOS, macOS, watchOS i tvOS. Optymalizuje wykonanie modelu przy użyciu specjalistycznych komponentów sprzętowych, takich jak GPU i Neural Engine, zapewniając przyspieszone i efektywne przetwarzanie. CoreML obsługuje popularne formaty modeli, takie jak TensorFlow i ONNX, co sprawia, że jest on wszechstronny dla aplikacji, takich jak rozpoznawanie obrazów i przetwarzanie języka naturalnego. Niezwykle ważną funkcją CoreML jest wykonanie na urządzeniu, zapewniające, że modele są uruchamiane bezpośrednio na urządzeniu użytkownika, bez polegania na zewnętrznych serwerach. Podczas gdy CoreML ułatwia integrację pre-trenowanych modeli sztucznej inteligencji z systemami Apple, MLX służy jako framework rozwojowy specjalnie zaprojektowany do ułatwienia rozwoju modeli AI na chipach Apple Silicon.
Analiza motywów Apple za MLX
Wprowadzenie MLX wskazuje, że Apple wkracza na rosnący rynek generatywnej sztucznej inteligencji, obszar obecnie dominowany przez gigantów technologicznych, takich jak Microsoft (MSFT ) i Google. Chociaż Apple zintegrował technologię sztucznej inteligencji, taką jak Siri, w swoich produktach, firma tradycyjnie powstrzymywała się od wejścia na rynek generatywnej sztucznej inteligencji. Jednak znaczny wzrost wysiłków Apple w zakresie rozwoju sztucznej inteligencji we wrześniu 2023 r., ze szczególnym naciskiem na ocenę podstawowych modeli do szerszych zastosowań i wprowadzenie MLX, sugeruje potencjalną zmianę w kierunku eksploracji generatywnej sztucznej inteligencji. Analitycy sugerują, że Apple może wykorzystać frameworki MLX, aby wprowadzić kreatywne funkcje generatywnej sztucznej inteligencji do swoich usług i urządzeń. Jednak zgodnie z silnym zaangażowaniem Apple w ochronę prywatności, można oczekiwać starannej oceny consideracji etycznych przed podjęciem jakichkolwiek znaczących postępów. Obecnie Apple nie udostępnił dodatkowych informacji ani komentarzy na temat swoich konkretnych zamiarów dotyczących MLX, danych MLX i generatywnej sztucznej inteligencji.
Wpływ MLX poza Apple
Poza światem Apple, zunifikowany model pamięci MLX oferuje praktyczną przewagę, wyróżniając go spośród frameworków, takich jak PyTorch i Jax. Ta funkcja pozwala tablicom dzielić pamięć, ułatwiając operacje na różnych urządzeniach bez niepotrzebnych duplikatów danych. Staje się to szczególnie istotne, gdy sztuczna inteligencja coraz bardziej zależy od wydajnych GPU. Zamiast typowego układu składającego się z potężnych komputerów i dedykowanych GPU z dużą ilością VRAM, MLX pozwala GPU dzielić VRAM z pamięcią RAM komputera. Ta subtelna zmiana ma potencjał, aby cicho zdefiniować potrzeby sprzętowe sztucznej inteligencji, czyniąc je bardziej dostępnymi i efektywnymi. Ma to również wpływ na sztuczną inteligencję na urządzeniach brzegowych, proponując bardziej adaptacyjne i świadome zasobów podejście niż to, do którego jesteśmy przyzwyczajeni.
Podsumowanie
Przygoda Apple w świecie generatywnej sztucznej inteligencji z frameworkiem MLX oznacza znaczącą zmianę w krajobrazie sztucznej inteligencji. Przyjmując praktyki open-source, Apple nie tylko demokratyzuje zaawansowaną sztuczną inteligencję, ale także pozycjonuje się jako konkurent w dziedzinie dominowanej przez gigantów technologicznych, takich jak Microsoft i Google. Przyjazny dla użytkownika design MLX, dynamiczna konstrukcja grafu i zunifikowany model pamięci oferują praktyczną przewagę poza ekosystemem Apple, szczególnie gdy sztuczna inteligencja coraz bardziej zależy od wydajnych GPU. Potencjalny wpływ frameworku na wymagania sprzętowe i jego adaptacyjność dla sztucznej inteligencji na urządzeniach brzegowych sugerują przyszłość przełomu. Podczas gdy Apple nawiguje w tym nowym środowisku, nacisk na prywatność i consideracje etyczne pozostają najważniejsze, kształtując trajektorię roli MLX w szerszym ekosystemie sztucznej inteligencji.






