Databricks maakt AI Runtime algemeen beschikbaar voor GPU-training

Databricks kondigde op 21 oktober 2026 de algemene beschikbaarheid van AI Runtime aan (AIR), een volledig beheerd, serverless GPU-platform dat is ingebouwd in Databricks Lakehouse voor het trainen en finetunen van deep-learningmodellen met bedrijfsgegevens.

Databricks zei dat honderden bedrijven, waaronder Robinhood, PicPay, Merck, Flo Health, TinyFish en FactSet, AIR al gebruiken om deep-learningmodellen te trainen en in productie te nemen. De toepassingen lopen uiteen van de gezondheidszorg en de maakindustrie tot consumentgerichte agents. Het bedrijf zei dat ook zijn eigen Databricks AI Research-team het platform gebruikt om de modellen achter KARL en AI Parse te trainen. Volgens Databricks heeft AIR zich bewezen in meer dan 100.000 GPU-uur aan trainingsruns.

Het bedrijf presenteerde de release als een oplossing voor AI-teams die meer tijd kwijt zijn aan het veiligstellen van GPU-capaciteit, het beheren van storingen en het wachten tot experimenten van start gaan dan aan het verbeteren van hun modellen. Volgens de aankondiging leidt het afzonderlijk beheren van GPU-infrastructuur buiten de Lakehouse tot hiaten in de governance en brengt het gevoelige trainingsgegevens in gevaar.

Beheerde GPU-infrastructuur

Databricks neemt de aanschaf van GPU’s, de configuratie van clusters en het beheer van netwerken voor zijn rekening, zodat klanten kunnen beginnen met trainen zonder zelf een volledig GPU-platform te hoeven beheren. Het bedrijf zei dat het vóór en tijdens het trainen tientallen controles uitvoert op de gezondheid van GPU’s en netwerken. Daardoor kunnen workloads betrouwbaar opschalen naar honderden GPU’s. Het platform controleert GPU’s voordat ze worden ingepland, houdt actieve workloads continu in de gaten en test inactieve GPU’s periodiek om defecte nodes op te sporen en te verwijderen.

AIR verwerkt trainingsgegevens met ingebouwde loaders die de gegevens streamen en cachen, zodat taken minder lang op I/O hoeven te wachten. De bijbehorende tool UCVolumeDataset is bedoeld om de gegevensdoorvoer te verhogen zonder dat een aangepaste laadpipeline nodig is. Gebruikers kunnen GPU’s benaderen via een opdrachtregelinterface of interactief werken in notebooks en IDE’s. Volgens Databricks is voor de eerste workload slechts één CLI-opdracht nodig. Met de functie AIR Skills kunnen workloads vanuit Kubernetes- of SLURM-clusters worden overgezet met één prompt in natuurlijke taal.

AIR integreert standaard met Lakeflow, het product van het bedrijf voor de orkestratie van pipelines, zodat GPU-workloads synchroon blijven met bovenstroomse en benedenstroomse pipelines. Volgens de aankondiging zijn er slechts enkele extra regels YAML nodig om een workload naar productie over te zetten. Ook beschreef het bedrijf ingebouwde prioriteits- en preëmptievoorzieningen die de tijd dat GPU’s ongebruikt zijn tot een minimum beperken, en monitoring via tools zoals Genie ZeroOps. Op de productpagina van AI Runtime staan NVIDIA-GPU’s op aanvraag met capaciteit in meerdere regio’s, gedistribueerde training over meerdere GPU’s en nodes met beheerde RDMA-netwerken, geoptimaliseerde checkpointing voor langlopende taken en ondersteuning voor aangepaste Docker-containers, waaronder NVIDIA NGC-containers.

Kostia Omelianchuk, toegepast onderzoekswetenschapper en technisch lead voor een vakgebied bij Superhuman, zei in de aankondiging dat het platform zijn team in staat stelde grootschalige training te verplaatsen van één node met acht A100-GPU’s naar 16 H100-GPU’s verdeeld over meerdere nodes. De trainingstijd daalde van ongeveer zeven dagen naar 48 uur, wat volgens hem neerkomt op een versnelling met een factor 3,5.

Opstarten en debuggen in enkele seconden

Volgens Databricks heeft AIR zelfs op grote clusters met RDMA en tientallen GPU’s een opstartlatentie van enkele seconden. De dienst maakt gebruik van warme serverless GPU-pools en het vertraagd laden van images. Workloads starten daardoor binnen enkele seconden, terwijl de resterende imagegegevens op de achtergrond worden geladen. Gebruikers kunnen vooraf gebouwde omgevingen gebruiken of hun eigen containers meenemen. Dankzij omgevingscaching hoeft een omgeving maar één keer te worden opgebouwd. Het bedrijf omschreef AIR als compatibel met alle belangrijke frameworks; op de productpagina worden PyTorch en Ray genoemd als ondersteunde opties.

Databricks zei dat een nieuwe functie voor observability in de tool MLflow voor het volgen van experimenten logs al enkele seconden na het indienen van een run streamt, wanneer gebruikers de watch-vlag aan een AIR-opdracht toevoegen. Ook is er een nieuwe logviewer die speciaal is ontwikkeld voor training over meerdere nodes. Genie Code is in de hele omgeving geïntegreerd en bevat kant-en-klare agentvaardigheden voor het opsporen van problemen en het optimaliseren van GPU-trainingsprestaties. Volgens het bedrijf zijn in die vaardigheden inzichten verwerkt van de onderzoeks- en prestatieteams, waaronder de manier waarop het de trainingstijd van Qwen op AIR met een factor 6 heeft verkort.

Joe Tyler, hoofdonderzoeker op het gebied van AI bij Sonar, zei dat onderzoeksingenieurs daar AIR gebruikten om trainingspipelines voor LLM’s samen te stellen en hypotheses snel te toetsen, met inzicht in elke fase van de pipeline. Nikhil Sunderraj, principal machine-learningengineer bij FactSet, zei dat de tijd die nodig was om een aangepast Text To Formula-model op te zetten, te trainen en te implementeren, is teruggebracht van dagen tot uren.

Beveiliging, governance en aan de slag

Volgens Databricks werkt AIR binnen de governancegrenzen van Databricks en Unity Catalog, dat consistente lees- en schrijfrechten afdwingt voor de toegang tot gegevens, checkpoints en logs van GPU-workloads. Het bedrijf zei dat AIR isolatie op VM-niveau biedt, in plaats van isolatiemechanismen die de hostkernel blootstellen. Ook ondersteunt het PrivateLink en serverless-egresscontroles, mogelijk gemaakt door de investeringen van Databricks in serverless beveiliging. In de aankondiging werd het OpenAI Hugging Face-incident aangehaald als voorbeeld van de risico’s van het afzonderlijk beheren van GPU-infrastructuur en beheerde bedrijfsgegevens.

Het gebruik van AIR en de bijbehorende kosten zijn zichtbaar in de facturatiesysteemtabelen van Databricks, naast die van andere Databricks-workloads. Gebruiksgegevens op workloadniveau laten zien welke trainingsruns GPU-budget verbruiken.

Robert Macy III, machinelearning-engineer bij Robinhood, zei dat AIR zijn teams helpt sneller van experimenteren naar trainen over te gaan, met ingebouwde governance- en gegevenscontroles. Eran Barash, vicepresident voor kunstmatige intelligentie en machine learning bij QuantHealth, zei dat zijn team gedistribueerde training op serverloze GPU’s kan opschalen over miljoenen records, binnen bestaande gegevensworkflows. Zach Richardson, hoofd AI bij TinyFish, zei dat zijn team op GPU’s kan trainen, resultaten met MLflow kan evalueren en het webnative model van het bedrijf kan aanbieden zonder voor elke fase afzonderlijke infrastructuur op te zetten.

Databricks verwees nieuwe gebruikers naar een snelstartgids, sjabloonnotebooks en startgidsen, en naar een kloonbare repository met de naam ai-runtime-cookbook op GitHub. Volgens het bedrijf kan daarmee met één CLI-opdracht een eerste GPU-workload worden gestart. Voor meer informatie verwees het bedrijf klanten naar hun accountteams.