Pipeshift ottiene 2,5 milioni di dollari per semplificare la distribuzione di AI open-source

Pipeshift ha annunciato un round di seed di 2,5 milioni di dollari finalizzato a fornire alle imprese l’infrastruttura necessaria per costruire, distribuire e gestire efficientemente modelli di intelligenza artificiale open-source. Poiché più dell’80% delle aziende si sta muovendo verso l’open-source GenAI, la soluzione di Pipeshift rimuove i collo di bottiglia comuni legati alla privacy, al controllo e all’onere ingegneristico di cucire insieme più componenti.

Rivoluzionando MLOps per GenAI

La piattaforma di Pipeshift come servizio (PaaS) di nuova generazione accelera l’orchestrazione dell’AI offrendo uno stack MLOps modulare che funziona in qualsiasi ambiente, cloud o on-premises. Questo servizio end-to-end copre una vasta gamma di carichi di lavoro, tra cui LLM, modelli di visione, modelli audio e molto altro. Invece di agire come un broker di GPU, Pipeshift consegna alle imprese il controllo diretto della loro infrastruttura, consentendo loro di:

• Scalare dal primo giorno con autoscaler, load balancer e scheduler incorporati
• Perfezionare o distillare modelli open-source in parallelo con la tracciabilità in tempo reale delle metriche di formazione
• Risparmiare sui costi della GPU sostituendo i modelli perfezionati senza frazionamento della memoria della GPU
• Mantenere la sicurezza di livello aziendale per tenere i dati e la proprietà intellettuale completamente in casa

Consolidando queste capacità in una sola piattaforma, Pipeshift semplifica i flussi di lavoro di distribuzione e riduce drasticamente il tempo di produzione.

Forti sostegni dell’industria

Il round di seed di 2,5 milioni di dollari è stato guidato da Y Combinator e SenseAI Ventures, con ulteriore supporto da Arka Venture Labs, Good News Ventures, Nivesha Ventures, Astir VC, GradCapital e MyAsiaVC. Anche angeli di spicco come Kulveer Taggar (CEO di Zuess), Umur Cubukcu (CEO di Ubicloud e ex capo di PostgreSQL ad Azure) e Krishna Mehra (ex capo dell’ingegneria a Meta e co-fondatore di Capillary Technologies) hanno partecipato.

Arko Chattopadhyay, co-fondatore e CEO di Pipeshift, ha affermato: “Il 2025 segna l’anno in cui il GenAI transita in produzione e i team di ingegneria stanno assistendo ai benefici dell’utilizzo di modelli open-source in casa. Ciò offre alti livelli di privacy e controllo, oltre a prestazioni migliorate e costi inferiori. Tuttavia, questo è un processo complesso e costoso che coinvolge più componenti cucite insieme. La piattaforma di orchestrazione di livello aziendale di Pipeshift elimina la necessità di tali ingenti investimenti ingegneristici, semplificando non solo la distribuzione, ma anche massimizzando la produzione.”

Rahul Agarwalla, managing partner di SenseAI Ventures, ha osservato: “Le imprese preferiscono l’open-source GenAI per i benefici della privacy, della proprietà del modello e dei costi inferiori. Tuttavia, il passaggio del GenAI alla produzione rimane un processo complesso e costoso che richiede più componenti da cucire insieme.” Ha continuato: “La piattaforma di orchestrazione di livello aziendale di Pipeshift elimina la necessità di tali ingenti investimenti ingegneristici, semplificando non solo la distribuzione, ma anche massimizzando la produzione.”

Yash Hemaraj, socio fondatore di Arka Venture Labs e socio generale di BGV, ha commentato: “Abbiamo investito in Pipeshift perché la loro piattaforma innovativa risponde a una necessità critica nell’adozione dell’AI aziendale, consentendo una distribuzione senza soluzione di continuità dei modelli di linguaggio open-source. La profonda competenza tecnica e la storia di scalabilità delle soluzioni di AI del team di fondazione ci ha colpito enormemente. La visione di Pipeshift si allinea perfettamente con il nostro focus su aziende di AI trasformative, in particolare quelle che collegano il corridoio tecnologico tra Stati Uniti e India, rendendole un fit ideale per il nostro portafoglio.”

Perché Pipeshift si distingue

Fondata da Arko Chattopadhyay, Enrique Ferrao, e Pranav Reddy, il team centrale di Pipeshift ha affrontato le sfide dell’orchestrazione dell’AI molto prima di questo finanziamento. La loro esperienza include la scalabilità di un’app di ricerca aziendale alimentata da Llama2 per 1.000+ dipendenti on-premises, evidenziando quanto sia difficile e risorsivo-intensivo la distribuzione privata dell’AI.

I punti di differenziazione includono:

• Orchestrazione multi-cloud: Pipeshift gestisce in modo trasparente una miscela di cloud e GPU on-premises, garantendo l’ottimizzazione dei costi e il failover rapido.
• Gestione del cluster Kubernetes: un pannello di controllo end-to-end consente alle imprese di creare, scalare e sovraintendere ai cluster Kubernetes senza dover gestire più strumenti.
• Perfezionamento e distribuzione del modello: gli ingegneri possono perfezionare o distillare modelli open-source utilizzando set di dati personalizzati o log di LLM, con metriche di formazione visualizzabili in tempo reale.
• Osservabilità a 360°: i dashboard integrati tracciano le prestazioni, consentendo una rapida risoluzione dei problemi e una scalabilità efficiente.

Costruito per la produzione, non solo per l’esperimentazione

Le aziende spesso affrontano limitazioni con soluzioni API generiche che non sono state costruite per la privacy in casa. Pipeshift capovolge questo modello concentrandosi su distribuzioni sicure, on-premises o multi-cloud. La piattaforma supporta oltre 100 grandi modelli di linguaggio, tra cui Llama 3.1, Mistral e offerte specializzate come Deepseek Coder. Questa selezione diversificata aiuta a soddisfare le esigenze specifiche di prestazioni, costi e conformità di ogni progetto.

Alcuni benefici notevoli includono:

• Risparmio fino al 60% sui costi dell’infrastruttura della GPU
• Tempo di produzione 30 volte più veloce
• Costo 6 volte inferiore rispetto a GPT/Claude
• Riduzione del 55% delle risorse ingegneristiche

Guardando avanti

Avendo già collaborato con oltre 30 aziende, tra cui NetApp (NTAP ), Pipeshift intende proseguire la sua missione di fornire potenti soluzioni di AI open-source senza la complessità abituale. Il suo approccio a una sola vetrina per MLOps, combinato con un’assistenza dedicata e una gestione del conto continua, garantisce alle imprese di poter concentrarsi sull’utilizzo dell’AI per i risultati aziendali piuttosto che lottare con l’infrastruttura.

Con protezioni dei dati privati, compatibilità cloud ibrida e flessibilità modulare al suo cuore, Pipeshift è pronta a soddisfare le esigenze diverse dei progetti di AI aziendali. Colmando il divario tra l’innovazione open-source e le esigenze di livello aziendale, l’azienda sta aprendo la strada a una nuova era di distribuzioni di AI agili, sicure e convenienti.

Pipeshift offre un’orchestrazione MLOps end-to-end per carichi di lavoro di GenAI open-source – incorporamenti, database di vettori, LLM, modelli di visione e modelli audio – su qualsiasi cloud o GPU on-premises..