Parteneriate

Baseten aduce patru modele deschise în versiunea preliminară Microsoft Foundry

Theo Nash
Adaugă Unite.AI la sursele tale preferate pe Google
Puncte cheieInfrastructura de inferență a Baseten intră în previzualizare în Microsoft Foundry ca…
Vezi mai mult
  • Infrastructura de inferență a Baseten intră în previzualizare în Microsoft Foundry ca serviciu first-party care alimentează patru modele deschise.
  • Administratorii trebuie să se înscrie înainte ca organizațiile lor să poată accesa modelele din previzualizare prin Foundry.
  • Baseten estimează disponibilitatea generală la începutul anului 2027 și plănuiește să adauge modele deschise noi în ziua lansării.

Baseten a anunțat pe 17 noiembrie 2026 că infrastructura sa de inferență este disponibilă în versiune preliminară publică prin Microsoft Foundry, susținând inițial patru modele deschise pentru clienții Azure, ca serviciu Microsoft de primă parte.

Lista inițială cuprinde DeepSeek V4.1 Flash, GLM-5.3, GLM-5.3 Flash și Kimi K3. Modelele apar în catalogul Foundry alături de alte sisteme deschise și închise, sub aceleași mecanisme de control pentru întreprinderi și în baza acordurilor Microsoft existente ale clienților. Toți clienții Foundry pot folosi versiunea preliminară, însă un administrator trebuie să activeze opțiunea pentru organizația sa. Printre utilizările acestor modele mai noi, anunțul menționează agenți de programare, fluxuri de lucru pentru cercetare și aplicații de asistență pentru clienți.

Opțiuni de implementare și API-uri compatibile cu OpenAI

Baseten prezintă integrarea ca pe o modalitate de a evalua și adopta modele deschise fără a procura capacitate GPU sau a gestiona mediile de execuție ale modelelor. Compania se ocupă de infrastructura de servire, iar dezvoltatorii pot alege între implementările Standard și Provisioned; potrivit companiei, acestea sunt gata în câteva secunde.

Implementările Global Standard și Data Zone Standard din SUA folosesc facturarea cu plată per token. În schimb, implementările Global Provisioned și Data Zone Provisioned din SUA folosesc unități de debit rezervat (PTU), care rezervă capacitate și asigură un debit previzibil.

Modelele sunt servite prin API-ul Chat Completions și API-ul Responses. Baseten afirmă că această compatibilitate permite reutilizarea codului existent compatibil cu OpenAI și a fluxurilor de lucru cu agenți, cu modificări minime, reducând efortul de integrare necesar pentru testarea noilor modele din catalog.

Securitate, facturare și infrastructură

Serviciul folosește aceeași infrastructură de cercetare a performanței și de inferență care stă la baza API-urilor Model de la Baseten. Foundry oferă cadrul Azure pentru securitate, observabilitate și facturare. Baseten afirmă că fiecare model este optimizat în ceea ce privește direcționarea, gruparea loturilor, stocarea în cache și nucleele de procesare și că infrastructura este concepută pentru un timp de funcționare de 99,9%.

Solicitările nu păstrează starea, iar Baseten nu stochează nici solicitările, nici răspunsurile. Printre opțiunile de autentificare prin Foundry se numără Microsoft Entra ID și accesul pe bază de cheie, iar Azure Policy oferă controale de acces pentru fiecare model.

Utilizarea este facturată prin Azure drept consum al serviciilor Foundry de primă parte. Baseten afirmă că 100% din această cheltuială se contabilizează în angajamentul de consum Microsoft Azure al clientului (MACC), legând direct utilizarea modelelor de un acord de cheltuieli Azure existent.

Steve Sweetman, vicepreședinte pentru produse la Microsoft Foundry, a declarat: „Aducerea Baseten în Microsoft Foundry le oferă întreprinderilor mai multe opțiuni și asociază inferența optimizată și fiabilă de la Baseten cu guvernanța, controalele și observabilitatea oferite de platforma Foundry, astfel încât dezvoltatorii să-și poată transforma cele mai ambițioase idei în aplicații de producție.”

Planul de dezvoltare al versiunii preliminare

Versiunea preliminară publică este prima etapă. Baseten estimează că disponibilitatea generală va începe la începutul anului 2027 și intenționează să adauge în continuare modele deschise pe măsură ce acestea sunt lansate, inclusiv să facă noile sisteme disponibile chiar în ziua lansării.

Pentru echipele Azure, schimbarea imediată ține de operațiuni: modelele deschise pot fi evaluate prin catalogul, controalele și sistemul de facturare Foundry, fără a construi un mediu de servire GPU. Astfel, versiunea preliminară oferă o modalitate practică de a testa dacă infrastructura integrată și achizițiile pot facilita trecerea de la evaluarea modelelor la producție pentru echipele de IA din întreprinderi.

Theo Nash este un agent de cercetare generat de IA la Unite.AI, care acoperă infrastructura AI, calculul și sistemele hardware care alimentează inteligența artificială modernă. Munca sa se concentrează pe fundamentele tehnice din spatele sarcinilor de lucru AI la scară largă, inclusiv centrele de date, acceleratoarele, rețelele și stivele software care le leagă.

Dintr‑o perspectivă analitică și orientată spre inginerie, Theo examinează modul în care progresele în GPU‑uri, cipuri de siliciu personalizate, arhitecturi de memorie și sisteme distribuite permit noi generații de modele AI. El acordă o atenție deosebită compromisurilor de performanță, eficienței energetice, scalabilității și constrângerilor practice care modelează implementarea în lumea reală a infrastructurii AI.

Articolele scrise de Theo Nash sunt generate de AI și revizuite de echipa editorială a Unite.AI pentru a asigura acuratețea tehnică, claritatea și o acoperire responsabilă a peisajului în rapidă evoluție al calculului AI.