Yapay zeka modelleri ve platformları
Vertex AI’ye giriş

Öne çıkan noktalarVertex AI, dağınık verileri ve yapay zeka araçlarını tek bir kurumsal hazır platformda…
Daha fazla göster
- Vertex AI, dağınık verileri ve yapay zeka araçlarını tek bir kurumsal hazır platformda birleştirir.
- Model Bahçesi, 200'den fazla özenle seçilmiş temel modele merkezi erişim sağlar.
- Platformun dinamik orkestrasyon ve temellendirme özellikleri, üretim yapay zeka hataları ve halüsinasyonlarıyla başa çıkar.
Yapay zekânın hızla değişen dünyasında teknoloji liderlerinin karşılaştığı en büyük engellerden biri, deneysel çözümlerden kurumsal kullanıma hazır sistemlere geçiştir. Tüketici sohbet botları ve etkileşimli platformlar kamuoyunun hayal gücünü harekete geçirse de işletmeler yalnızca bir sohbet arayüzüyle başarılı olamaz. Rekabetin her zamankinden daha yoğun olduğu bir dönemde işletmeler sağlam, ölçeklenebilir ve güvenli bir ekosisteme ihtiyaç duyar. Google (GOOGL ) bunu Vertex AI ile sunmaya çalışıyor. Vertex AI, Google Cloud’un birleşik yapay zekâ ve makine öğrenimi platformudur.
Vertex AI, ham temel modeller ile üretime hazır uygulamalar arasındaki boşluğu kapatan kapsamlı özellikleriyle üretken yapay zekânın modern bulut altyapısına entegrasyonunun omurgası olmayı amaçlıyor. Yalnızca büyük dil modellerini (LLM) sarmalayan bir katman değil; üretken yapay zekâyı modern bulut altyapısının tam kapsamlı bir bileşeni olarak ele alan birleşik bir makine öğrenimi ve yapay zekâ (ML/AI) ekosistemidir.
Vertex AI’nin merkezinde Model Garden bulunur. Bu merkezi pazar yeri, iki milyon tokenlik etkileyici bağlam penceresine sahip güçlü çok modlu model Gemini 2.5 Pro dâhil, özenle seçilmiş 200’den fazla temel modele erişim sağlar. Bu yazıda Vertex AI’nin mimarisini, Model Garden’ın zekâ için sektörün «Uygulama Mağazası» işlevini nasıl gördüğünü ve platformu yeni nesil kurumsal yazılımın omurgası yapan teknik temelleri inceleyeceğiz.
Çekirdek mimari: birleşik bir platform

Vertex AI, birbirine gevşek biçimde bağlanmış araçlar topluluğu değil; makine öğrenimini hâlâ zorlaştıran veri, araç ve ekip parçalanmasını aşmak için tasarlanmış birleşik bir veri ve yapay zekâ ekosistemidir. Yapay zekâ geliştirme geleneksel olarak yalıtılmış ortamlarda gerçekleşir; veriler de bazen birden fazla depoya dağılır ve orada sıkışıp kalır. Örneğin müşteri verileri SQL veri ambarlarında, yapılandırılmamış belgeler ise bir veri gölünde tutulabilir. Veriler silolara ayrıldığında yapay zekâ yalnızca «gerçeğin bir bölümünü» görür. Kurumun tüm bağlamına sahip olmadığı için yanlı sonuçlar veya yüksek halüsinasyon oranları ortaya çıkar.
Vertex AI, BigQuery ve Cloud Storage’a ham veri alımından üretim ortamının izlenmesine kadar tüm yaşam döngüsünü bütünleştirmeyi hedefler ve bu silolar arasında bir «bağ dokusu» işlevi görür. Cloud Storage ve BigQuery ile yerel entegrasyon sayesinde yapay zekâ modelleri karmaşık çıkarma, dönüştürme ve yükleme (ETL) işlem hatları olmadan verileri alabilir.
Temel: Google AI Hypercomputer
Üretken yapay zekâ katmanı bakımından Vertex AI , Google’ın aşağıdaki bileşenlerden oluşan bütünleşik süper bilgisayar sistemi AI Hypercomputer mimarisine dayanır:
TPU v5p ve v5e (Tensor Processing Units)
Google’ın Tensor İşleme Birimleri , derin öğrenimin temelindeki matris çarpımı için özel olarak tasarlanmış ASIC’lerdir (uygulamaya özgü tümleşik devreler).
- TPU v5p (performans): Çok büyük ölçekli eğitim için amiral gemisi hızlandırıcıdır. Her TPU v5p podu, Google’ın en yüksek bant genişliğine sahip Inter-Chip Interconnect (ICI) bağlantısıyla 4.800 Gbps hızında birbirine bağlanan 8.960 çipe kadar ölçeklenebilir. Teknoloji liderleri açısından bu, önceki nesle göre GPT-3 boyutunda bir modelin (175 milyar parametre) 2,8 kat daha hızlı eğitilmesi ve pazara çıkış süresinin önemli ölçüde kısalması anlamına gelir.
- TPU v5e (verimlilik): Maliyet açısından optimize edilmiş performans için tasarlanan v5e, orta ölçekli eğitim ve yüksek işlem hacimli çıkarımın iş yükünü üstlenir. Fiyat-performans oranını 2,5 kata kadar iyileştirir; bu da onu büyük bir bütçe olmadan 7/24 çıkarım çalıştırması gereken işletmeler için ideal kılar.
Esneklik için NVIDIA H100/A100 GPU’ları
TPU’lar özel amaçlı olsa da birçok geliştirme ekibi NVIDIA CUDA ekosistemine dayanır. Vertex AI, NVIDIA’nın en yeni donanımı için tam kapsamlı destek sunar:
- NVIDIA H100 (Hopper): Llama 3.1 405B gibi çok büyük bellek bant genişliği gerektiren en büyük açık kaynaklı modellere ince ayar yapmak için idealdir.
- Jupiter ağı: Google, ağın darboğaz hâline gelmesini önlemek için Jupiter veri merkezi ağ dokusunu kullanır. Böylece veriler GPU’lar arasında yıldırım hızında taşınır. RDMA (uzaktan doğrudan bellek erişimi) desteği, CPU ek yükünü atlayarak dağıtılmış düğümler arasında neredeyse yerel performans sağlar.
Dinamik orkestrasyon
Vertex AI’deki en kritik teknik değişim dinamik orkestrasyondur. Eski bir ortamda, üç haftalık eğitim sırasında bir GPU düğümünün arızalanması tüm işin çökmesine yol açabilir.
- Otomatik dayanıklılık: Vertex AI, arka planda çoğunlukla Google Kubernetes Engine (GKE) ile çalışır ve kendini onaran düğümlere sahiptir. Donanım arızası algılanırsa platform iş yükünü otomatik olarak sağlıklı bir düğüme taşır.
- Dinamik iş yükü zamanlayıcısı: Bu araç, ekiplerin aciliyete göre kapasite istemesine olanak tanır. Flex Start (daha ucuzdur, kapasite uygun olduğunda başlar) veya iş açısından kritik sürümler için garantili kapasite seçilebilir.
- Sunucusuz eğitim: Altyapı yönetimiyle hiç uğraşmak istemeyen ekipler kod ve verilerini Vertex AI Serverless Training’e gönderir. Platform kümeyi sağlar, işi çalıştırır ve kümeyi kaldırır; yalnızca kullanılan işlem saniyelerini ücretlendirir.
Üç giriş noktası: keşif, deney ve otomasyon
Veri bilimcilerden uygulama geliştiricilere kadar farklı teknik kullanıcı grupları için Vertex AI üç ana giriş noktası sunar:
- Model Garden: Keşif için pazar yeri.
- Vertex AI Studio: Deneyler için çalışma alanı.
- Vertex AI Agent Builder: Otomasyon fabrikası.
Model Garden: keşif için pazar yeri
Google Cloud’un Vertex AI Model Garden’ı, farklı iş ihtiyaçları için Google’ın kendi modellerini, açık kaynaklı modelleri ve üçüncü taraf yapay zekâ modellerini keşfetmeye, test etmeye, özelleştirmeye ve dağıtmaya yönelik merkezi bir platformdur. Görüntü, metin ve kodu kapsayan çok modlu modelleri içerir; makine öğrenimi operasyonlarını (MLOps) kolaylaştırmak için Vertex AI araçlarıyla sorunsuz bütünleşir. Kapsamlı bir kütüphane olarak geliştiricilerin ve işletmelerin, büyük temel modellerden uzmanlaşmış modellere kadar görevlerine uygun modeli seçmesine yardımcı olur. Metin üretimi, görüntü analizi veya kod tamamlama için seçilen modeller kendi Google Cloud ortamlarında verimli biçimde dağıtılabilir.

Model Garden, 200’den fazla modelini üç ayrı katmana ayırarak mimarların performans, maliyet ve denetimi dengelemesini sağlar:
- Google’ın kendi modelleri: Bunlar Vertex AI’deki amiral gemisi çok modlu modellerdir. Google, karmaşık akıl yürütme için Pro’dan düşük gecikme ve yüksek işlem hacmi için Flash’a kadar farklı boyutlar sunarak geliştiricilerin modelleri kullanım senaryolarına göre optimize etmesini sağlar.
- Üçüncü taraf özel mülkiyetli modeller: Stratejik ortaklıklar sayesinde Vertex AI, Anthropic (Claude 3.5) ve Mistral AI gibi büyük sağlayıcılara «Hizmet Olarak Model» (MaaS) erişimi sunar. Ekipler beş farklı yapay zekâ sağlayıcısı için ayrı faturalandırma ve güvenlik kimlik bilgileri yönetmek yerine, birleşik bir API biçimiyle mevcut Google Cloud projelerinden hepsine erişebilir.
- Açık kaynaklı ve açık ağırlıklı modeller: Bu katman Meta’nın Llama 3.2 modelini, Mistral ve Google’ın kendi Gemma modelini içerir. Maksimum veri yalıtımı için modelleri kendi VPC’lerinde (sanal özel bulut) kendileri dağıtmak isteyen kuruluşlara uygundur.
Birleşik olmayan bir ortamda Llama gibi açık kaynaklı bir modeli dağıtmak, bir PyTorch ortamı kurmayı, CUDA sürücülerini yapılandırmayı ve bir Flask veya FastAPI sarmalayıcısını yönetmeyi gerektirir.
Model Garden, bu veri ve araç hazırlama aşamasını Birleşik Yönetilen Uç Noktalar aracılığıyla ortadan kaldırır:
- Tek tıkla dağıtım: Birçok modelde «Dağıt»a tıklamak gerekli TPU/GPU kaynaklarını otomatik olarak sağlar, modeli üretime hazır bir konteynere paketler ve bir REST API uç noktası oluşturur.
- Hugging Face entegrasyonu: Vertex AI artık geliştiricilerin modelleri doğrudan Hugging Face Hub’dan bir Vertex uç noktasına dağıtmasına olanak tanır; böylece mevcut zekânın kapsamı neredeyse sınırsız genişler.
- Private Service Connect (PSC): Yoğun düzenlemeye tabi sektörlerde modeller Private Service Connect kullanılarak dağıtılabilir. Bu, model uç noktasının hiçbir zaman genel internete açılmamasını ve veri trafiğinin kesinlikle kurumsal ağ içinde kalmasını sağlar.
Vertex AI Studio: deneyler için çalışma alanı
Seçim söz konusu olduğunda Model Garden öne çıkarken, Vertex AI Studio şuna odaklanır: hassasiyet. Vertex AI Studio, geleneksel yazılım dünyasındaki derleyiciler ve hata ayıklayıcılarla karşılaştırılabilir. Ham modellerin istem mühendisliği, çok modlu test ve gelişmiş hiperparametre ayarlamasıyla belirli iş araçlarına dönüştürüldüğü çalışma alanıdır.

Çok modlu prototipleme: metnin ötesinde
Studio’nun öne çıkan özelliklerinden biri yerel olarak çok modluluğu desteklemesidir. Diğer platformlar metin dışı verileri işlemek için karmaşık kodlama gerektirirken Vertex AI Studio, dosyaları doğrudan arayüze bırakarak Gemini 2.5 modelinin akıl yürütme yeteneklerini test etmenizi sağlar.
- Video zekâsı: 45 dakikalık bir teknik açılış konuşmasını yükleyebilir ve modelden «belirli bir API’nin anıldığı her anı belirlemesini ve zaman damgalı bir özet sunmasını» isteyebilirsiniz.
- Belge analizi: Model yalnızca metni okumak yerine 1.000 sayfalık bir PDF’nin görsel düzenini inceleyerek grafikler, tablolar ve çevrelerindeki metin arasındaki ilişkileri anlayabilir.
- Kod yürütme: Studio artık deney alanında kod yürütmeyi destekler. Modelden karmaşık bir matematik problemi çözmesini veya bir CSV’yi analiz etmesini isterseniz, doğrulanmış bir yanıt sağlamak için güvenli bir yalıtılmış ortamda Python kodu yazıp çalıştırabilir.
Gelişmiş özelleştirme: ince ayar yolu

İstem mühendisliği (zero-shot veya few-shot) sınırına ulaştığında Vertex AI Studio ağır araçları sunar: Model ayarlaması.
- Denetimli ince ayar (SFT): Geliştiriciler «İstem/Yanıt» çiftlerinden oluşan bir veri seti sunar; ideal olarak en az 100 örnek bulunur. Böylece model belirli bir marka sesini, özel JSON gibi bir çıktı biçimini veya alana özgü jargonu öğrenir.
- Bağlam önbellekleme: Hukuk kütüphanesi veya kod tabanı gibi büyük, statik veri setleriyle çalışan işletmeler için Studio bağlam önbellekleme olanağı sağlar. Bir milyon tokenlik veriyi modelin belleğine önceden yükleyerek sonraki sorguların gecikmesini ve maliyetini ciddi ölçüde azaltabilirsiniz.
- Damıtma (öğretmen-öğrenci): Bu, üst düzey bir mimari karardır. Büyük bir model (Gemini 2.5 Pro) ile daha küçük ve hızlı bir modeli (Gemini 2.0 Flash) eğitebilirsiniz. Sonuç, «Pro» düzeyinde performans gösterirken «Flash» hızı ve maliyetiyle çalışan hafif bir modeldir.
Vertex AI Agent Builder: otomasyon fabrikası
Vertex AI Agent Builder , temel modelleri kurumsal veriler ve dış API’lerle birleştirerek bu ajanları oluşturmayı sağlayan üst düzey bir orkestrasyon çerçevesidir.
«Doğruluk» mimarisi: kaynaklara dayandırma ve RAG
Kurumsal yapay zekânın önündeki başlıca teknik engel halüsinasyondur. Agent Builder bunu gelişmiş bir kaynaklara dayandırma motoruyla çözer.
- Google Search ile kaynaklara dayandırma: Güncel dünya bilgisi gerektiren sorgularda (örneğin «New York’ta güncel konut kredisi faiz oranları nelerdir?») ajan Google’da arama yapabilir, olguları çıkarabilir ve kaynaklarını gösterebilir.
- Vertex AI Search (Hizmet Olarak RAG): Geliştiriciler elle bir vektör veritabanı (Pinecone, Weaviate) oluşturmak yerine Vertex AI Search ile kendi belgelerini (PDF, HTML, BigQuery) indeksleyebilir. Hizmet, parçalama, vektör temsilleri oluşturma ve bilgi getirme adımlarını otomatik işler; böylece ajan yalnızca kurum içi «doğruluk kaynağına» dayanarak yanıt verir.
- Vertex AI RAG Engine: Büyük ölçekli, özel uygulamalarda bu yönetilen hizmet, vektör ve anahtar kelime tabanlı sonuçları birleştiren hibrit aramayla doğruluğu standart LLM çıktılarına kıyasla %30’a kadar artırabilir.
Çoklu ajan orkestrasyonu (A2A protokolü)
Gelişmiş kurumsal iş akışları çoğunlukla birlikte çalışan birden fazla uzman ajan gerektirir. Vertex AI şu açık standardı sunar: Ajanlar Arası (A2A) Protokol. Bu protokol şu etkileşimlere olanak tanır:
- «Seyahat Ajanı», «Finans Ajanı» ile konuşarak uçuş rezervasyonunun kurumsal bütçeye uygun olmasını sağlayabilir.
- Birlikte çalışabilirlik: Açık bir protokol kullanıldığı için Vertex üzerinde oluşturulan ajanlar, LangChain veya CrewAI gibi başka çerçevelerde oluşturulanlarla iletişim kurabilir.
Geliştirici yığını: ADK ve Agent Engine
«Teknoloji platformu» kitlesi için Agent Builder iki ayrı yol sunar:
- Kodsuz konsol: Hızlı prototipleme ve iş kullanıcılarının yapılandırma yapması için görsel sürükle-bırak arayüzü.
- Agent Development Kit (ADK): Mühendisler için kod odaklı bir Python araç setidir. «Kod Olarak İstem» kullanımını, sürüm kontrolü entegrasyonunu ve şu ortama dağıtımı sağlar: Vertex AI Agent Engine; oturum kalıcılığını, ölçeklemeyi ve durum yönetimini otomatik yürüten yönetilen bir çalışma ortamıdır.
Sonuç: «Ya şöyle olsaydı?»dan «Sırada ne var?»a
Gösterişli bir yapay zekâ demosundan üretime hazır bir kurumsal uygulamaya geçiş, dijital dönüşüm projelerinin uzun süredir «ölüm vadisi» olmuştur. Gördüğümüz gibi Vertex AI bu boşluğu kapatmak için özel olarak tasarlanmıştır. Google Cloud, veri, altyapı ve model orkestrasyonunun parçalanmış silolarını birleştirerek tartışmayı büyük dil modellerinin ham gücünden yapay zekâ yaşam döngüsünün operasyonel olgunluğuna taşımıştır.












