Pengenalan Vertex AI

Dengan lanskap Artificial Intelligence yang terus berkembang, salah satu hambatan terbesar yang dihadapi oleh pemimpin teknologi adalah transisi dari “eksperimental” ke “siap untuk perusahaan”. Sementara chatbot konsumen dan platform interaktif membantu dengan imajinasi publik, bisnis tidak dapat berhasil hanya dengan antarmuka chat. Di era di mana persaingan lebih agresif dari sebelumnya, bisnis memerlukan ekosistem yang kuat, scalable, dan aman, dan ini adalah apa yang Google (GOOGL ) coba tawarkan dengan Vertex AI, platform Artificial Intelligence & Machine Learning yang terintegrasi dari Google Cloud.

Vertex AI berusaha untuk memantapkan dirinya sebagai tulang punggung untuk integrasi Generative AI dengan infrastruktur cloud modern, menawarkan suite fitur yang komprehensif yang menghubungkan kesenjangan antara model dasar, dan aplikasi produksi. Vertex AI bukan hanya sebuah wrapper untuk model bahasa besar (LLM), melainkan sebuah ekosistem Machine Learning dan Artificial Intelligence (ML/AI) yang terintegrasi yang memperlakukan Generative AI sebagai warga kelas satu dari infrastruktur cloud modern.

Di jantung Vertex AI terdapat Model Garden, sebuah marketplace sentral yang menyediakan akses ke lebih dari 200 model dasar yang dikurasi, termasuk multimodal powerhouse Gemini 2.5 Pro, yang menampilkan jendela konteks token 2-juta. Dalam artikel ini, kita akan membongkar arsitektur Vertex AI, menjelajahi bagaimana Model Garden berfungsi sebagai “App Store” untuk kecerdasan, dan melihat tiang teknis yang membuat platform ini menjadi tulang punggung generasi berikutnya dari perangkat lunak perusahaan.

Arsitektur Inti: Platform Terintegrasi

Vertex AI bukanlah sekumpulan alat yang longgar, melainkan sebuah ekosistem data dan AI yang terintegrasi yang dirancang untuk menghubungkan fragmentasi data, alat, dan tim yang mempengaruhi machine learning hingga saat ini. Secara tradisional, pengembangan AI dilakukan dalam lingkungan yang terisolasi, dan terkadang data tersebar dan terjebak di beberapa repositori. Misalnya, organisasi mungkin menyimpan data pelanggan di gudang SQL sementara dokumen tidak terstruktur dibuang ke Data Lake. Ketika data terisolasi, AI hanya melihat “kebenaran sebagian”, yang mengarah ke hasil yang bias atau tingkat hallucinasi yang tinggi karena kekurangan konteks perusahaan.

Vertex AI berusaha untuk mengintegrasikan seluruh siklus hidup, dari penggunaan data mentah di BigQuery dan Cloud Storage ke pemantauan produksi, yang pada dasarnya berfungsi sebagai “jaringan penghubung” antara silo-silo ini. Vertex AI terintegrasi secara asli dengan Cloud Storage dan BigQuery, yang memungkinkan model AI untuk mengambil data tanpa pipa ETL yang kompleks.

Dasar: AI Hypercomputer Google

Lapisan GenAI dari Vertex AI berada di atas arsitektur AI Hypercomputer Google, sebuah sistem superkomputing terintegrasi yang terdiri dari:

TPU v5p & v5e (Tensor Processing Units)

Tensor Processing Units Google adalah ASIC (Application-Specific Integrated Circuits) yang dirancang khusus untuk perkalian matriks yang mendefinisikan deep learning.

• TPU v5p (Kinerja): Ini adalah akselerator bintang untuk pelatihan skala besar. Setiap pod TPU v5p dapat diskalakan hingga 8.960 chip yang dihubungkan oleh Inter-Chip Interconnect (ICI) Google dengan bandwidth tertinggi sebesar 4.800 Gbps. Untuk seorang pemimpin teknis, ini berarti pelatihan 2,8 kali lebih cepat untuk model GPT-3 berukuran (175B parameter) dibandingkan dengan generasi sebelumnya, yang secara signifikan mengurangi waktu ke pasar.
• TPU v5e (Efisiensi): Dirancang untuk “kinerja yang dioptimalkan biaya”, v5e adalah kuda kerja untuk pelatihan skala menengah dan inferensi throughput tinggi. Ini menawarkan hingga 2,5 kali kinerja harga yang lebih baik, membuatnya menjadi pilihan ideal untuk bisnis yang perlu menjalankan inferensi 24/7 tanpa anggaran besar.

NVIDIA H100/A100 GPUs untuk Fleksibilitas

Sementara TPU khusus, banyak tim pengembangan mengandalkan ekosistem NVIDIA CUDA. Vertex AI menyediakan dukungan kelas satu untuk perangkat keras NVIDIA terbaru:

• NVIDIA H100 (Hopper): Ideal untuk fine-tuning model open-source terbesar (seperti Llama 3.1 405B) yang memerlukan bandwidth memori yang besar.
• Jupiter Networking: Untuk mencegah “Bottleneck Jaringan”, Google menggunakan kain jaringan pusat data Jupiter. Ini memastikan bahwa data bergerak antara GPU dengan kecepatan kilat, mendukung RDMA (Remote Direct Memory Access) untuk melewati overhead CPU dan memberikan kinerja hampir lokal di seluruh node yang terdistribusi.

Orkestrasi Dinamis

Perubahan teknis paling kritis di Vertex AI adalah Orkestrasi Dinamis. Di lingkungan warisan, jika node GPU gagal selama pelatihan 3 minggu, pekerjaan tersebut mungkin gagal.

• Resiliensi Otomatis: Vertex AI, yang sering didukung oleh Google Kubernetes Engine (GKE) di bawah tenda, menampilkan “node self-healing”. Jika kesalahan perangkat keras terdeteksi, platform secara otomatis bermigrasi beban kerja ke node yang sehat.
• Pengaturan Beban Kerja Dinamis: Alat ini memungkinkan tim untuk meminta kapasitas berdasarkan urgensi. Anda dapat memilih Flex Start (lebih murah, dimulai ketika kapasitas tersedia) atau Kapasitas yang Dijamin untuk rilis misi-kritis.
• Pelatihan Serverless: Untuk tim yang ingin mengelola infrastruktur nol, Vertex AI Serverless Training memungkinkan Anda untuk mengirimkan kode dan data; platform menyediakan klaster, menjalankan pekerjaan, dan merobeknya—mengenakan biaya hanya untuk detik komputasi yang digunakan.

Tiga Titik Masuk: Penemuan, Eksperimen, dan Otomatisasi

Untuk mengakomodasi berbagai persona teknis—dari ilmuwan data ke pengembang aplikasi—Vertex AI menyediakan tiga titik masuk utama:

• Model Garden: Marketplace untuk Penemuan.
• Vertex AI Studio: Playground untuk Eksperimen.
• Vertex AI Agent Builder: Pabrik untuk Otomatisasi.

Model Garden: Marketplace untuk Penemuan

Model Garden Google Cloud Vertex AI adalah platform terpusat di Google Cloud untuk menemukan, menguji, mengkustomisasi, dan mengirimkan berbagai model AI, termasuk multimodal, untuk berbagai kebutuhan bisnis, menawarkan integrasi yang mulus dengan alat Vertex AI untuk MLOps yang terstruktur. Ini berfungsi sebagai perpustakaan komprehensif, membantu pengembang dan bisnis memilih model yang tepat (dari model dasar besar hingga khusus) untuk tugas mereka, apakah itu untuk generasi teks, analisis gambar, atau penyelesaian kode, dan mengirimkannya secara efisien dalam lingkungan Google Cloud mereka.

Model Garden mengategorikan modelnya lebih dari 200 ke dalam tiga tingkat yang berbeda, yang memungkinkan arsitek untuk menyeimbangkan kinerja, biaya, dan kontrol:

1. Model Pertama (Google): Ini adalah model multimodal bintang yang tersedia dalam Vertex AI, dan Google menawarkannya dalam berbagai ukuran, mulai dari Pro dengan alasan yang kompleks hingga Flash dengan latency rendah dan volume tinggi, sehingga memungkinkan pengembang untuk mengoptimalkan model mereka sesuai dengan kasus penggunaan mereka.
2. Model Pihak Ketiga (Proprietary): Melalui kemitraan strategis, Vertex AI menawarkan akses “Model-as-a-Service” (MaaS) ke raksasa seperti Anthropic (Claude 3.5) dan Mistral AI. Daripada mengelola billing dan kredensial keamanan yang terpisah untuk lima penyedia AI yang berbeda, tim teknis dapat mengakses semua melalui proyek Google Cloud yang ada, menggunakan format API yang seragam.
3. Model Open-Source & Open-Weight: Tingkat ini termasuk Meta’s Llama 3.2, Mistral, dan Gemma milik Google. Model-model ini ideal untuk organisasi yang ingin mengirimkan model dalam VPC (Virtual Private Cloud) mereka sendiri untuk memastikan isolasi data maksimal.

Dalam lingkungan yang tidak terintegrasi, mengirimkan model open-source seperti Llama memerlukan pengaturan lingkungan PyTorch, mengkonfigurasi driver CUDA, dan mengelola wrapper Flask atau FastAPI.

Model Garden menghilangkan fase “Munging” ini melalui Titik Akhir Terkelola yang Terintegrasi:

• Pengiriman dengan Satu Klik: Untuk banyak model, mengklik “Deploy” secara otomatis menyediakan sumber daya TPU/GPU yang diperlukan, membungkus model dalam wadah yang siap produksi, dan menyediakan titik akhir API.
• Integrasi Hugging Face: Vertex AI sekarang memungkinkan pengembang untuk mengirimkan model langsung dari Hugging Face Hub ke titik akhir Vertex, menyediakan ekspansi kecerdasan yang hampir tak terbatas.
• Private Service Connect (PSC): Untuk industri yang sangat diatur, model dapat diirimkan menggunakan Private Service Connect, memastikan titik akhir model tidak pernah terkena internet publik—menjaga lalu lintas data secara ketat dalam jaringan perusahaan.

Vertex AI Studio: Playground untuk Eksperimen

Sementara Model Garden adalah tentang seleksi, Vertex AI Studio adalah tentang presisi. Vertex AI Studio dapat dibandingkan dengan compiler dan debugger yang Anda temukan di dunia perangkat lunak tradisional. Vertex AI Studio adalah ruang kerja di mana model mentah diukir menjadi alat bisnis khusus melalui kombinasi rekayasa prompt, pengujian multimodal, dan pengaturan hiperparameter lanjutan.

Prototipe Multimodal: Melampaui Teks

Salah satu fitur unggulan Studio adalah dukungan asli untuk multimodality. Sementara platform lain memerlukan coding yang kompleks untuk menangani data non-teks, Vertex AI Studio memungkinkan Anda untuk langsung mengunggah file ke antarmuka untuk menguji kemampuan alasan Gemini 2.5.

• Inteligensi Video: Anda dapat mengunggah keynote teknis 45 menit dan meminta model untuk “mengidentifikasi setiap kali API tertentu disebutkan dan memberikan ringkasan dengan timestamp.”
• Analisis Dokumen: Daripada hanya membaca teks, model dapat menganalisis tata letak visual dari PDF 1.000 halaman, memahami hubungan antara bagan, tabel, dan prosa sekitarnya.
• Eksesi Kode: Studio sekarang mendukung eksesi kode dalam playground. Jika Anda meminta model untuk menyelesaikan masalah matematika kompleks atau menganalisis CSV, model dapat menulis dan menjalankan kode Python dalam lingkungan sandbox yang aman untuk memberikan jawaban yang diverifikasi.

Kustomisasi Lanjutan: Jalur Pengaturan

Ketika rekayasa prompt (Zero-shot atau Few-shot) mencapai batas, Vertex AI Studio menyediakan mesin berat: Pengaturan Model.

1. Penghalusan Terarah (SFT): Pengembang menyediakan dataset “Prompt/Respon” (idealnya 100+ contoh). Ini mengajarkan model untuk mengadopsi suara merek tertentu, format output (seperti JSON khusus), atau jargon domain khusus.
2. Penyimpanan Konteks: Untuk perusahaan yang menangani dataset statis besar (seperti perpustakaan hukum atau basis kode), Studio memungkinkan Penyimpanan Konteks. Ini memungkinkan Anda untuk “mengisi awal” satu juta token data ke memori model, yang secara signifikan mengurangi latency dan biaya untuk kueri berikutnya.
3. Destilasi (Guru-Murid): Ini adalah langkah arsitektur tingkat tinggi. Anda dapat menggunakan model besar (Gemini 2.5 Pro) untuk “mengajar” model yang lebih kecil dan lebih cepat (Gemini 2.0 Flash). Hasilnya adalah model ringan yang berkinerja pada tingkat “Pro” tetapi berjalan pada kecepatan dan biaya “Flash”.

Vertex AI Agent Builder: Pabrik untuk Otomatisasi

Vertex AI Agent Builder adalah kerangka orkestrasi tingkat tinggi yang memungkinkan pengembang untuk membuat agen dengan menggabungkan model dasar dengan data perusahaan dan API eksternal.

Arsitektur “Kebenaran”: Grounding & RAG

Hambatan teknis utama untuk AI perusahaan adalah halusinasi. Pembangun Agen menyelesaikannya melalui mesin Grounding yang canggih.

• Grounding dengan Google Search: Untuk kueri yang memerlukan pengetahuan dunia nyata (misalnya, “Apa tingkat bunga hipotek saat ini di New York?”), agen dapat melakukan pencarian Google, mengekstrak fakta, dan menyebutkan sumbernya.
• Vertex AI Search (RAG-as-a-Service): Sebagai gantinya, pengembang dapat menggunakan Vertex AI Search untuk mengindeks dokumen mereka sendiri (PDF, HTML, BigQuery). Ini menangani “chunking”, “embedding”, dan “retrieval” secara otomatis, memastikan agen hanya menjawab berdasarkan “Sumber Kebenaran” internal Anda.
• Vertex AI RAG Engine: Untuk implementasi kustom skala besar, layanan ini memungkinkan pencarian hibrida (menggabungkan hasil berbasis vektor dan berbasis kata kunci) untuk meningkatkan akurasi hingga 30% lebih baik dari output LLM standar.

Orkestrasi Multi-Agen (Protokol A2A)

Alur kerja perusahaan lanjutan sering memerlukan beberapa agen khusus yang bekerja sama. Vertex AI memperkenalkan Protokol Agen-ke-Agen (A2A), sebuah standar terbuka yang memungkinkan:

• Agen “Perjalanan” untuk berbicara dengan “Agen Keuangan” untuk memastikan pemesanan penerbangan berada dalam anggaran perusahaan.
• Interoperabilitas: Karena menggunakan protokol terbuka, agen yang dibangun di Vertex dapat berkomunikasi dengan yang dibangun di kerangka lain seperti LangChain atau CrewAI.

Tumpukan Pengembang: ADK dan Mesin Agen

Untuk audiens “platform teknis”, Pembangun Agen menawarkan dua jalur yang berbeda:

1. Konsol Tanpa Kode: Antarmuka drag-and-drop visual untuk prototipe cepat dan konfigurasi pengguna bisnis.
2. Kit Pengembangan Agen (ADK): Sebuah toolkit Python yang berorientasi pada kode untuk insinyur. Ini memungkinkan “Prompt-as-Code”, integrasi kontrol versi, dan kemampuan untuk mengirimkan ke Vertex AI Agent Engine—sebuah runtime yang dikelola yang menangani persistensi sesi, penskalaan, dan manajemen status secara otomatis.

Kesimpulan: Dari “Apa Jika” ke “Apa yang Berikutnya”

Transisi dari demo AI yang mencolok ke aplikasi perusahaan yang siap produksi telah lama menjadi “lembah kematian” untuk proyek transformasi digital. Seperti yang telah kita jelajahi, Vertex AI dirancang khusus untuk menjembatani kesenjangan ini. Dengan mengintegrasikan silo-silo data, infrastruktur, dan orkestrasi model yang terfragmentasi, Google Cloud telah memindahkan percakapan dari kekuatan mentah Model Bahasa Besar ke kedewasaan operasional dari siklus hidup AI.