āđ‚āļĄāđ€āļ”āļĨāđāļĨāļ°āđāļžāļĨāļ•āļŸāļ­āļĢāđŒāļĄ AI

āļāļēāļĢāđāļ™āļ°āļ™āļģ Vertex AI

mm
āđ€āļžāļīāđˆāļĄ Unite.AI āļĨāļ‡āđƒāļ™āđāļŦāļĨāđˆāļ‡āļ‚āđ‰āļ­āļĄāļđāļĨāļ—āļĩāđˆāļ„āļļāļ“āļ•āđ‰āļ­āļ‡āļāļēāļĢāļšāļ™ Google

āđ€āļĄāļ·āđˆāļ­āļžāļ·āđ‰āļ™āļ—āļĩāđˆāļ‚āļ­āļ‡āļ›āļąāļāļāļēāļ›āļĢāļ°āļ”āļīāļĐāļāđŒ (AI) āļāļģāļĨāļąāļ‡āļžāļąāļ’āļ™āļēāļ­āļĒāđˆāļēāļ‡āļĢāļ§āļ”āđ€āļĢāđ‡āļ§ āļŦāļ™āļķāđˆāļ‡āđƒāļ™āļ­āļļāļ›āļŠāļĢāļĢāļ„āļ—āļĩāđˆāļœāļđāđ‰āļ™āļģāļ”āđ‰āļēāļ™āđ€āļ—āļ„āđ‚āļ™āđ‚āļĨāļĒāļĩ thưáŧngāļžāļšāļ„āļ·āļ­āļāļēāļĢāđ€āļ›āļĨāļĩāđˆāļĒāļ™āđāļ›āļĨāļ‡āļˆāļēāļ â€œāļāļēāļĢāļ—āļ”āļĨāļ­āļ‡â€ āđ€āļ›āđ‡āļ™ â€œāļāļēāļĢāđ€āļ•āļĢāļĩāļĒāļĄāļžāļĢāđ‰āļ­āļĄāļŠāļģāļŦāļĢāļąāļšāļ­āļ‡āļ„āđŒāļāļĢ” āđƒāļ™āļ‚āļ“āļ°āļ—āļĩāđˆāđāļŠāļ—āļšāļ­āļ—āļŠāļģāļŦāļĢāļąāļšāļœāļđāđ‰āļšāļĢāļīāđ‚āļ āļ„āđāļĨāļ°āđāļžāļĨāļ•āļŸāļ­āļĢāđŒāļĄāđāļšāļšāđ‚āļ•āđ‰āļ•āļ­āļšāļŠāđˆāļ§āļĒāđƒāļŦāđ‰āļ„āļ™āļŠāļēāļĄāļēāļĢāļ–āļˆāļīāļ™āļ•āļ™āļēāļāļēāļĢāđ„āļ”āđ‰ āđāļ•āđˆāļ˜āļļāļĢāļāļīāļˆāđ„āļĄāđˆāļŠāļēāļĄāļēāļĢāļ–āļ›āļĢāļ°āļŠāļšāļ„āļ§āļēāļĄāļŠāļģāđ€āļĢāđ‡āļˆāđ„āļ”āđ‰āļ”āđ‰āļ§āļĒāđ€āļžāļĩāļĒāļ‡āļ­āļīāļ™āđ€āļ—āļ­āļĢāđŒāđ€āļŸāļ‹āđāļŠāļ—āđ€āļ—āđˆāļēāļ™āļąāđ‰āļ™ āđƒāļ™āļĒāļļāļ„āļ—āļĩāđˆāļāļēāļĢāđāļ‚āđˆāļ‡āļ‚āļąāļ™āļĢāļļāļ™āđāļĢāļ‡āļāļ§āđˆāļēāđ€āļ”āļīāļĄ āļ˜āļļāļĢāļāļīāļˆāļ•āđ‰āļ­āļ‡āļāļēāļĢāļĢāļ°āļšāļšāļ™āļīāđ€āļ§āļĻāļ—āļĩāđˆāļĄāļĩāļ„āļ§āļēāļĄāļŠāļēāļĄāļēāļĢāļ–āđƒāļ™āļāļēāļĢāļ›āļĢāļąāļšāļ‚āļ™āļēāļ”āđāļĨāļ°āļ„āļ§āļēāļĄāļ›āļĨāļ­āļ”āļ āļąāļĒ āđāļĨāļ°āļ™āļĩāđˆāļ„āļ·āļ­āļŠāļīāđˆāļ‡āļ—āļĩāđˆ Google (GOOGL ) āļžāļĒāļēāļĒāļēāļĄāļ—āļĩāđˆāļˆāļ°āļ™āļģāđ€āļŠāļ™āļ­āļ”āđ‰āļ§āļĒ Vertex AI āļ‹āļķāđˆāļ‡āđ€āļ›āđ‡āļ™āđāļžāļĨāļ•āļŸāļ­āļĢāđŒāļĄ AI āđāļĨāļ° Machine Learning āļ—āļĩāđˆāļĢāļ§āļĄāđ€āļ›āđ‡āļ™āļŦāļ™āļķāđˆāļ‡āļ‚āļ­āļ‡ Google Cloud

Vertex AI āļžāļĒāļēāļĒāļēāļĄāļ—āļĩāđˆāļˆāļ°āļŠāļĢāđ‰āļēāļ‡āļ•āļąāļ§āđ€āļ­āļ‡āđƒāļŦāđ‰āđ€āļ›āđ‡āļ™āļāļĢāļ°āļ”āļđāļāļŠāļąāļ™āļŦāļĨāļąāļ‡āļ‚āļ­āļ‡āļāļēāļĢāļĢāļ§āļĄ AI āļ—āļĩāđˆāļŠāļĢāđ‰āļēāļ‡āļ‚āļķāđ‰āļ™ (Generative AI) āļāļąāļšāđ‚āļ„āļĢāļ‡āļŠāļĢāđ‰āļēāļ‡āļ„āļĨāļēāļ§āļ”āđŒāļŠāļĄāļąāļĒāđƒāļŦāļĄāđˆ āđ‚āļ”āļĒāļāļēāļĢāļ™āļģāđ€āļŠāļ™āļ­āļŠāļļāļ”āļ„āļļāļ“āļŠāļĄāļšāļąāļ•āļīāļ—āļĩāđˆāļ„āļĢāļ­āļšāļ„āļĨāļļāļĄāļ‹āļķāđˆāļ‡āđ€āļŠāļ·āđˆāļ­āļĄāļŠāđˆāļ­āļ‡āļ§āđˆāļēāļ‡āļĢāļ°āļŦāļ§āđˆāļēāļ‡āđ‚āļĄāđ€āļ”āļĨāļžāļ·āđ‰āļ™āļāļēāļ™āđāļĨāļ°āđāļ­āļ›āļžāļĨāļīāđ€āļ„āļŠāļąāļ™āļĢāļ°āļ”āļąāļšāļœāļĨāļīāļ• Vertex AI āđ„āļĄāđˆāđƒāļŠāđˆāđ€āļžāļĩāļĒāļ‡āđāļ„āđˆāļŠāļąāđ‰āļ™āļŦāļļāđ‰āļĄāļŠāļģāļŦāļĢāļąāļšāđ‚āļĄāđ€āļ”āļĨāļ āļēāļĐāļēāļ‚āļ™āļēāļ”āđƒāļŦāļāđˆ (LLM) āđāļ•āđˆāđ€āļ›āđ‡āļ™āļĢāļ°āļšāļšāļ™āļīāđ€āļ§āļĻ AI āđāļĨāļ° Machine Learning āļ—āļĩāđˆāļĢāļ§āļĄāļ–āļķāļ‡ Generative AI āđ€āļ›āđ‡āļ™āļžāļĨāđ€āļĄāļ·āļ­āļ‡āļŠāļąāđ‰āļ™āļŦāļ™āļķāđˆāļ‡āļ‚āļ­āļ‡āđ‚āļ„āļĢāļ‡āļŠāļĢāđ‰āļēāļ‡āļ„āļĨāļēāļ§āļ”āđŒāļŠāļĄāļąāļĒāđƒāļŦāļĄāđˆ

āļ—āļĩāđˆāđƒāļˆāļāļĨāļēāļ‡āļ‚āļ­āļ‡ Vertex AI āļ„āļ·āļ­ Model Garden āļ‹āļķāđˆāļ‡āđ€āļ›āđ‡āļ™āļ•āļĨāļēāļ”āļāļĨāļēāļ‡āļ—āļĩāđˆāđƒāļŦāđ‰āđ€āļ‚āđ‰āļēāļ–āļķāļ‡āđ‚āļĄāđ€āļ”āļĨāļžāļ·āđ‰āļ™āļāļēāļ™āļĄāļēāļāļāļ§āđˆāļē 200 āđ‚āļĄāđ€āļ”āļĨ āļĢāļ§āļĄāļ–āļķāļ‡ Gemini 2.5 Pro āļ‹āļķāđˆāļ‡āđ€āļ›āđ‡āļ™āđ‚āļĄāđ€āļ”āļĨāļ—āļĩāđˆāļĄāļĩāļŦāļ™āđ‰āļēāļ•āđˆāļēāļ‡āļšāļĢāļīāļšāļ— 2 āļĨāđ‰āļēāļ™āđ‚āļ—āđ€āļ„āļ™ āđƒāļ™āļšāļ—āļ„āļ§āļēāļĄāļ™āļĩāđ‰ āđ€āļĢāļēāļˆāļ°āļ§āļīāđ€āļ„āļĢāļēāļ°āļŦāđŒāļŠāļ–āļēāļ›āļąāļ•āļĒāļāļĢāļĢāļĄāļ‚āļ­āļ‡ Vertex AI āđāļĨāļ°āļŠāļģāļĢāļ§āļˆāļ§āđˆāļē Model Garden āļ—āļģāļŦāļ™āđ‰āļēāļ—āļĩāđˆāđ€āļ›āđ‡āļ™ â€œApp Store” āļŠāļģāļŦāļĢāļąāļšāļ­āļļāļ•āļŠāļēāļŦāļāļĢāļĢāļĄ āđāļĨāļ°āļ”āļđāļ–āļķāļ‡āļŦāļĨāļąāļāļāļēāļĢāļ—āļēāļ‡āđ€āļ—āļ„āļ™āļīāļ„āļ—āļĩāđˆāļ—āļģāđƒāļŦāđ‰āđāļžāļĨāļ•āļŸāļ­āļĢāđŒāļĄāļ™āļĩāđ‰āđ€āļ›āđ‡āļ™āļāļĢāļ°āļ”āļđāļāļŠāļąāļ™āļŦāļĨāļąāļ‡āļ‚āļ­āļ‡āļ‹āļ­āļŸāļ•āđŒāđāļ§āļĢāđŒāļ­āļ‡āļ„āđŒāļāļĢāļĢāļļāđˆāļ™āļ•āđˆāļ­āđ„āļ›

āļŠāļ–āļēāļ›āļąāļ•āļĒāļāļĢāļĢāļĄāļŦāļĨāļąāļ: āđāļžāļĨāļ•āļŸāļ­āļĢāđŒāļĄāļ—āļĩāđˆāļĢāļ§āļĄāđ€āļ›āđ‡āļ™āļŦāļ™āļķāđˆāļ‡

Vertex AI āđ„āļĄāđˆāđƒāļŠāđˆāļāļēāļĢāļĢāļ§āļšāļĢāļ§āļĄāđ€āļ„āļĢāļ·āđˆāļ­āļ‡āļĄāļ·āļ­āļ—āļĩāđˆāđ„āļĄāđˆāđ€āļŠāļ·āđˆāļ­āļĄāļ•āđˆāļ­āļāļąāļ™ āđāļ•āđˆāđ€āļ›āđ‡āļ™āļĢāļ°āļšāļšāļ™āļīāđ€āļ§āļĻ AI āđāļĨāļ°āļ‚āđ‰āļ­āļĄāļđāļĨāļ—āļĩāđˆāļ­āļ­āļāđāļšāļšāļĄāļēāđ€āļžāļ·āđˆāļ­āđ€āļŠāļ·āđˆāļ­āļĄāļŠāđˆāļ­āļ‡āļ§āđˆāļēāļ‡āļ‚āļ­āļ‡āļ‚āđ‰āļ­āļĄāļđāļĨ āđ€āļ„āļĢāļ·āđˆāļ­āļ‡āļĄāļ·āļ­ āđāļĨāļ°āļ—āļĩāļĄāļ—āļĩāđˆāļ—āļģāđƒāļŦāđ‰āļāļēāļĢāđ€āļĢāļĩāļĒāļ™āļĢāļđāđ‰āļ‚āļ­āļ‡āđ€āļ„āļĢāļ·āđˆāļ­āļ‡āļĄāļĩāļ›āļąāļāļŦāļē āđƒāļ™āļāļēāļĢāļžāļąāļ’āļ™āļē AI āđāļšāļšāļ”āļąāđ‰āļ‡āđ€āļ”āļīāļĄ āļˆāļ°āđ€āļāļīāļ”āļ‚āļķāđ‰āļ™āđƒāļ™āļŠāļ āļēāļžāđāļ§āļ”āļĨāđ‰āļ­āļĄāļ—āļĩāđˆāđāļĒāļāļˆāļēāļāļāļąāļ™ āđāļĨāļ°āļšāļēāļ‡āļ„āļĢāļąāđ‰āļ‡āļ‚āđ‰āļ­āļĄāļđāļĨāļˆāļ°āļāļĢāļ°āļˆāļēāļĒāđāļĨāļ°āļ–āļđāļāļāļąāļāļ‚āļąāļ‡āđƒāļ™āļŦāļĨāļēāļĒāđ† āļ—āļĩāđˆāđ€āļāđ‡āļšāļ‚āđ‰āļ­āļĄāļđāļĨ āđ€āļŠāđˆāļ™ āļ­āļ‡āļ„āđŒāļāļĢāļ­āļēāļˆāđ€āļāđ‡āļšāļ‚āđ‰āļ­āļĄāļđāļĨāļĨāļđāļāļ„āđ‰āļēāđƒāļ™āļ„āļĨāļąāļ‡āļ‚āđ‰āļ­āļĄāļđāļĨ SQL āđƒāļ™āļ‚āļ“āļ°āļ—āļĩāđˆāđ€āļ­āļāļŠāļēāļĢāļ—āļĩāđˆāđ„āļĄāđˆāļĄāļĩāđ‚āļ„āļĢāļ‡āļŠāļĢāđ‰āļēāļ‡āļ–āļđāļāļ—āļīāđ‰āļ‡āđƒāļ™ Data Lake āđ€āļĄāļ·āđˆāļ­āļ‚āđ‰āļ­āļĄāļđāļĨāļ–āļđāļāļāļąāļāļ‚āļąāļ‡ AI āļˆāļ°āđ€āļŦāđ‡āļ™āđ€āļžāļĩāļĒāļ‡ â€œāļ„āļ§āļēāļĄāļˆāļĢāļīāļ‡āļ—āļĩāđˆāđ„āļĄāđˆāļŠāļĄāļšāļđāļĢāļ“āđŒâ€ āļ‹āļķāđˆāļ‡āļ™āļģāđ„āļ›āļŠāļđāđˆāļœāļĨāļĨāļąāļžāļ˜āđŒāļ—āļĩāđˆāļĄāļĩāļ­āļ„āļ•āļīāļŦāļĢāļ·āļ­āļ­āļąāļ•āļĢāļēāļāļēāļĢāļŦāļĨāļ­āļāļĨāļ§āļ‡āļŠāļđāļ‡āđ€āļ™āļ·āđˆāļ­āļ‡āļˆāļēāļāļ‚āļēāļ”āļšāļĢāļīāļšāļ—āļ‚āļ­āļ‡āļ­āļ‡āļ„āđŒāļāļĢ

Vertex AI āļžāļĒāļēāļĒāļēāļĄāļ—āļĩāđˆāļˆāļ°āļĢāļ§āļĄāļŠāļĩāļ§āļīāļ•āļ›āļĢāļ°āļˆāļģāļ§āļąāļ™āļ‚āļ­āļ‡ AI āļ•āļąāđ‰āļ‡āđāļ•āđˆāļāļēāļĢāļ™āļģāđ€āļ‚āđ‰āļēāļ‚āđ‰āļ­āļĄāļđāļĨāļ”āļīāļšāđƒāļ™ BigQuery āđāļĨāļ° Cloud Storage āđ„āļ›āļˆāļ™āļ–āļķāļ‡āļāļēāļĢāļ•āļĢāļ§āļˆāļŠāļ­āļšāļāļēāļĢāļœāļĨāļīāļ• āļ‹āļķāđˆāļ‡āļ—āļģāļŦāļ™āđ‰āļēāļ—āļĩāđˆāđ€āļ›āđ‡āļ™ â€œāđ€āļ™āļ·āđ‰āļ­āđ€āļĒāļ·āđˆāļ­āđ€āļŠāļ·āđˆāļ­āļĄâ€ āļĢāļ°āļŦāļ§āđˆāļēāļ‡āļŠāđˆāļ­āļ‡āļ§āđˆāļēāļ‡āđ€āļŦāļĨāđˆāļēāļ™āļĩāđ‰ Vertex AI āļĢāļ§āļĄāđ€āļ‚āđ‰āļēāļāļąāļš Cloud Storage āđāļĨāļ° BigQuery āđ‚āļ”āļĒāļ•āļĢāļ‡ āļ—āļģāđƒāļŦāđ‰āđ‚āļĄāđ€āļ”āļĨ AI āļŠāļēāļĄāļēāļĢāļ–āļ”āļķāļ‡āļ‚āđ‰āļ­āļĄāļđāļĨāđ„āļ”āđ‰āđ‚āļ”āļĒāđ„āļĄāđˆāļ•āđ‰āļ­āļ‡āđƒāļŠāđ‰āļāļĢāļ°āļšāļ§āļ™āļāļēāļĢ Extraction, Transformation āđāļĨāļ° Load āļ—āļĩāđˆāļ‹āļąāļšāļ‹āđ‰āļ­āļ™

āļžāļ·āđ‰āļ™āļāļēāļ™: AI Hypercomputer āļ‚āļ­āļ‡ Google

āļŠāļąāđ‰āļ™ GenAI āļ‚āļ­āļ‡ Vertex AI āļ™āļąāđ‰āļ™āļ•āļąāđ‰āļ‡āļ­āļĒāļđāđˆāļšāļ™āđ‚āļ„āļĢāļ‡āļŠāļĢāđ‰āļēāļ‡ AI Hypercomputer āļ‚āļ­āļ‡ Google āļ‹āļķāđˆāļ‡āđ€āļ›āđ‡āļ™āļĢāļ°āļšāļšāļ‹āļđāđ€āļ›āļ­āļĢāđŒāļ„āļ­āļĄāļžāļīāļ§āđ€āļ•āļ­āļĢāđŒāļ—āļĩāđˆāļĢāļ§āļĄāļ–āļķāļ‡

TPU v5p āđāļĨāļ° v5e (Tensor Processing Units)

Tensor Processing Units āļ‚āļ­āļ‡ Google āđ€āļ›āđ‡āļ™ ASIC (Application-Specific Integrated Circuits) āļ—āļĩāđˆāļ­āļ­āļāđāļšāļšāļĄāļēāđ‚āļ”āļĒāđ€āļ‰āļžāļēāļ°āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļ„āļđāļ“āđ€āļĄāļ—āļĢāļīāļāļ‹āđŒāļ—āļĩāđˆāļāļģāļŦāļ™āļ”āļāļēāļĢāđ€āļĢāļĩāļĒāļ™āļĢāļđāđ‰āļĨāļķāļ

  • TPU v5p (Performance): āļ™āļĩāđˆāļ„āļ·āļ­āđ€āļ„āļĢāļ·āđˆāļ­āļ‡āđ€āļĢāđˆāļ‡āļ„āļ§āļēāļĄāđ€āļĢāđ‡āļ§āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļāļķāļāļ­āļšāļĢāļĄāļ‚āļ™āļēāļ”āđƒāļŦāļāđˆ āđāļ•āđˆāļĨāļ° TPU v5p pod āļŠāļēāļĄāļēāļĢāļ–āļ‚āļĒāļēāļĒāđ„āļ”āđ‰āļ–āļķāļ‡ 8,960 āļŠāļīāļ›āļ—āļĩāđˆāđ€āļŠāļ·āđˆāļ­āļĄāļ•āđˆāļ­āļāļąāļ™āļ”āđ‰āļ§āļĒ Inter-Chip Interconnect (ICI) āļ‚āļ­āļ‡ Google āļ—āļĩāđˆāļĄāļĩāļ„āļ§āļēāļĄāļāļ§āđ‰āļēāļ‡āđāļšāļ™āļ”āđŒāļ§āļīāļ˜āļŠāļđāļ‡āļŠāļļāļ” 4,800 Gbps āļŠāļģāļŦāļĢāļąāļšāļœāļđāđ‰āļ™āļģāļ”āđ‰āļēāļ™āđ€āļ—āļ„āļ™āļīāļ„ āļŠāļīāđˆāļ‡āļ™āļĩāđ‰āļŦāļĄāļēāļĒāļ–āļķāļ‡āļāļēāļĢāļāļķāļāļ­āļšāļĢāļĄāļ—āļĩāđˆāđ€āļĢāđ‡āļ§āļ‚āļķāđ‰āļ™ 2.8 āđ€āļ—āđˆāļēāļŠāļģāļŦāļĢāļąāļšāđ‚āļĄāđ€āļ”āļĨ GPT-3 āļ‚āļ™āļēāļ” 175B āļžāļēāļĢāļēāļĄāļīāđ€āļ•āļ­āļĢāđŒ āđ€āļĄāļ·āđˆāļ­āđ€āļ—āļĩāļĒāļšāļāļąāļšāļĢāļļāđˆāļ™āļāđˆāļ­āļ™āļŦāļ™āđ‰āļē āļ—āļģāđƒāļŦāđ‰āļŠāļēāļĄāļēāļĢāļ–āļĨāļ”āđ€āļ§āļĨāļēāđƒāļ™āļāļēāļĢāđ€āļ‚āđ‰āļēāļ–āļķāļ‡āļ•āļĨāļēāļ”āđ„āļ”āđ‰
  • TPU v5e (Efficiency): āļ­āļ­āļāđāļšāļšāļĄāļēāđ€āļžāļ·āđˆāļ­āļ›āļĢāļ°āļŠāļīāļ—āļ˜āļīāļ āļēāļžāļ—āļĩāđˆāļĄāļĩāļ•āđ‰āļ™āļ—āļļāļ™āļ•āđˆāļģ v5e āđ€āļ›āđ‡āļ™āđ€āļ„āļĢāļ·āđˆāļ­āļ‡āļĄāļ·āļ­āļŦāļĨāļąāļāļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļāļķāļāļ­āļšāļĢāļĄāļ‚āļ™āļēāļ”āļāļĨāļēāļ‡āđāļĨāļ°āļ­āļīāļ™āđ€āļŸāļ­āļĢāđŒāđ€āļĢāļ™āļ‹āđŒāļ—āļĩāđˆāļĄāļĩāļāļēāļĢāđƒāļŠāđ‰āļ‡āļēāļ™āļŠāļđāļ‡ āļĄāļąāļ™āđƒāļŦāđ‰āļ›āļĢāļ°āļŠāļīāļ—āļ˜āļīāļ āļēāļžāļ—āļĩāđˆāļ”āļĩāļ‚āļķāđ‰āļ™ 2.5 āđ€āļ—āđˆāļē āļ—āļģāđƒāļŦāđ‰āđ€āļ›āđ‡āļ™āļ•āļąāļ§āđ€āļĨāļ·āļ­āļāļ—āļĩāđˆāđ€āļŦāļĄāļēāļ°āļŠāļģāļŦāļĢāļąāļšāļ˜āļļāļĢāļāļīāļˆāļ—āļĩāđˆāļ•āđ‰āļ­āļ‡āļāļēāļĢāļĢāļąāļ™āļāļēāļĢāļ­āļīāļ™āđ€āļŸāļ­āļĢāđŒāđ€āļĢāļ™āļ‹āđŒ 24/7 āđ‚āļ”āļĒāđ„āļĄāđˆāļ•āđ‰āļ­āļ‡āļĄāļĩāļ‡āļšāļ›āļĢāļ°āļĄāļēāļ“āļ‚āļ™āļēāļ”āđƒāļŦāļāđˆ

NVIDIA H100/A100 GPUs āļŠāļģāļŦāļĢāļąāļšāļ„āļ§āļēāļĄāļĒāļ·āļ”āļŦāļĒāļļāđˆāļ™

āđƒāļ™āļ‚āļ“āļ°āļ—āļĩāđˆ TPU āđ€āļ›āđ‡āļ™āđāļšāļšāđ€āļ‰āļžāļēāļ°āđ€āļˆāļēāļ°āļˆāļ‡ āļ—āļĩāļĄāļžāļąāļ’āļ™āļēāļĄāļēāļāļĄāļēāļĒāļžāļķāđˆāļ‡āļžāļēāđ€āļ­āļāļ­āļŠÐļҁ҂ÐĩОāđŒ CUDA āļ‚āļ­āļ‡ NVIDIA (NVDA ) Vertex AI āđƒāļŦāđ‰āļāļēāļĢāļŠāļ™āļąāļšāļŠāļ™āļļāļ™āđāļšāļš first-class āļŠāļģāļŦāļĢāļąāļšāļŪāļēāļĢāđŒāļ”āđāļ§āļĢāđŒāđƒāļŦāļĄāđˆāļĨāđˆāļēāļŠāļļāļ”āļ‚āļ­āļ‡ NVIDIA:

  • NVIDIA H100 (Hopper): āđ€āļŦāļĄāļēāļ°āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļ›āļĢāļąāļšāđāļ•āđˆāļ‡āđ‚āļĄāđ€āļ”āļĨāļ—āļĩāđˆāđƒāļŦāļāđˆāļ—āļĩāđˆāļŠāļļāļ” āđ€āļŠāđˆāļ™ Llama 3.1 405B āļ—āļĩāđˆāļ•āđ‰āļ­āļ‡āļāļēāļĢāđāļšāļ™āļ”āđŒāļ§āļīāļ˜āđ€āļĄāļĄāđ‚āļĄāļĢāļĩāđˆāļ‚āļ™āļēāļ”āđƒāļŦāļāđˆ
  • āļˆāļđāļ›āļīāđ€āļ•āļ­āļĢāđŒ āđ€āļ™āđ‡āļ•āđ€āļ§āļīāļĢāđŒāļ: āđ€āļžāļ·āđˆāļ­āļ›āđ‰āļ­āļ‡āļāļąāļ™ â€œāļ›āļąāļāļŦāļēāļāļēāļĢāļ‚āļēāļ”āđāļ„āļĨāļ™āđ€āļ„āļĢāļ·āļ­āļ‚āđˆāļēāļĒ” Google āđƒāļŠāđ‰āđ€āļ™āđ‡āļ•āđ€āļ§āļīāļĢāđŒāļāļˆāļđāļ›āļīāđ€āļ•āļ­āļĢāđŒ āļ‹āļķāđˆāļ‡āđ€āļ›āđ‡āļ™āđ€āļ™āđ‡āļ•āđ€āļ§āļīāļĢāđŒāļāđāļŸāļšāļĢāļīāļāļ‚āļ­āļ‡āļĻāļđāļ™āļĒāđŒāļ‚āđ‰āļ­āļĄāļđāļĨ āļ—āļģāđƒāļŦāđ‰āļ‚āđ‰āļ­āļĄāļđāļĨāđ€āļ„āļĨāļ·āđˆāļ­āļ™āļœāđˆāļēāļ™ GPU āđ„āļ”āđ‰āļ”āđ‰āļ§āļĒāļ„āļ§āļēāļĄāđ€āļĢāđ‡āļ§āļŠāļđāļ‡ āđ‚āļ”āļĒāļāļēāļĢāļŠāļ™āļąāļšāļŠāļ™āļļāļ™ RDMA (Remote Direct Memory Access) āđ€āļžāļ·āđˆāļ­āļŦāļĨāļĩāļāđ€āļĨāļĩāđˆāļĒāļ‡āļāļēāļĢāđ‚āļ­āđ€āļ§āļ­āļĢāđŒāđ€āļŪāļ”āļ‚āļ­āļ‡ CPU āđāļĨāļ°āđƒāļŦāđ‰āļ›āļĢāļ°āļŠāļīāļ—āļ˜āļīāļ āļēāļžāļ—āļĩāđˆāđƒāļāļĨāđ‰āđ€āļ„āļĩāļĒāļ‡āļāļąāļšāļāļēāļĢāđƒāļŠāđ‰āļ‡āļēāļ™āđƒāļ™āđ‚āļŦāļ™āļ”āļ—āļĩāđˆāļāļĢāļ°āļˆāļēāļĒ

āļāļēāļĢāļ­āļ­āļĢāđŒāđ€āļ„āļŠāļ•āļĢāļēāđāļšāļšāđ„āļ”āļ™āļēāļĄāļīāļ

āļāļēāļĢāđ€āļ›āļĨāļĩāđˆāļĒāļ™āđāļ›āļĨāļ‡āļ—āļēāļ‡āđ€āļ—āļ„āļ™āļīāļ„āļ—āļĩāđˆāļŠāļģāļ„āļąāļāļ—āļĩāđˆāļŠāļļāļ”āđƒāļ™ Vertex AI āļ„āļ·āļ­ āļāļēāļĢāļ­āļ­āļĢāđŒāđ€āļ„āļŠāļ•āļĢāļēāđāļšāļšāđ„āļ”āļ™āļēāļĄāļīāļ āđƒāļ™āļŠāļ āļēāļžāđāļ§āļ”āļĨāđ‰āļ­āļĄāđāļšāļšāļ”āļąāđ‰āļ‡āđ€āļ”āļīāļĄ āļŦāļēāļāđ‚āļŦāļ™āļ” GPU āļĨāđ‰āļĄāđ€āļŦāļĨāļ§āļĢāļ°āļŦāļ§āđˆāļēāļ‡āļāļēāļĢāļāļķāļāļ­āļšāļĢāļĄ 3 āļŠāļąāļ›āļ”āļēāļŦāđŒ āļ‡āļēāļ™āļ—āļąāđ‰āļ‡āļŦāļĄāļ”āļ­āļēāļˆāļĨāđ‰āļĄāđ€āļŦāļĨāļ§

  • āļ„āļ§āļēāļĄāļ—āļ™āļ—āļēāļ™āđāļšāļšāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļī: Vertex AI āļ‹āļķāđˆāļ‡āļĄāļąāļāļˆāļ°āļ–āļđāļāļ‚āļąāļšāđ€āļ„āļĨāļ·āđˆāļ­āļ™āđ‚āļ”āļĒ Google Kubernetes Engine (GKE) āļ āļēāļĒāđƒāļ•āđ‰āļžāļ·āđ‰āļ™āļœāļīāļ§ āļĄāļĩ “āđ‚āļŦāļ™āļ”āļ—āļĩāđˆāļŠāļēāļĄāļēāļĢāļ–āļŸāļ·āđ‰āļ™āļ•āļąāļ§āđ„āļ”āđ‰â€ āļŦāļēāļāļĄāļĩāļāļēāļĢāļ•āļĢāļ§āļˆāļžāļšāļ‚āđ‰āļ­āļœāļīāļ”āļžāļĨāļēāļ”āļ‚āļ­āļ‡āļŪāļēāļĢāđŒāļ”āđāļ§āļĢāđŒ āđāļžāļĨāļ•āļŸāļ­āļĢāđŒāļĄāļˆāļ°āļĒāđ‰āļēāļĒāđ‚āļŦāļĨāļ”āļ‡āļēāļ™āđ„āļ›āļĒāļąāļ‡āđ‚āļŦāļ™āļ”āļ—āļĩāđˆāļĄāļĩāļŠāļļāļ‚āļ āļēāļžāļ”āļĩāđ‚āļ”āļĒāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļī
  • āļ•āļąāļ§āļˆāļąāļ”āļ•āļēāļĢāļēāļ‡āļ‡āļēāļ™āđāļšāļšāđ„āļ”āļ™āļēāļĄāļīāļ: āđ€āļ„āļĢāļ·āđˆāļ­āļ‡āļĄāļ·āļ­āļ™āļĩāđ‰āļŠāđˆāļ§āļĒāđƒāļŦāđ‰āļ—āļĩāļĄāļŠāļēāļĄāļēāļĢāļ–āļ‚āļ­āļ„āļ§āļēāļĄāļˆāļļāļ•āļēāļĄāļ„āļ§āļēāļĄāđ€āļĢāđˆāļ‡āļ”āđˆāļ§āļ™āđ„āļ”āđ‰ āļ„āļļāļ“āļŠāļēāļĄāļēāļĢāļ–āđ€āļĨāļ·āļ­āļ Flex Start (āļĢāļēāļ„āļēāļ–āļđāļāļāļ§āđˆāļē āđ€āļĢāļīāđˆāļĄāļ•āđ‰āļ™āļ—āļąāļ™āļ—āļĩāļ—āļĩāđˆāļĄāļĩāļ„āļ§āļēāļĄāļˆāļļ) āļŦāļĢāļ·āļ­āļ„āļ§āļēāļĄāļˆāļļāļ—āļĩāđˆāļĢāļąāļšāļ›āļĢāļ°āļāļąāļ™āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāđ€āļ›āļīāļ”āļ•āļąāļ§āļ—āļĩāđˆāļŠāļģāļ„āļąāļ
  • āļāļēāļĢāļāļķāļāļ­āļšāļĢāļĄāđāļšāļšāđ€āļ‹āļīāļĢāđŒāļŸāđ€āļ§āļ­āļĢāđŒāđ€āļĨāļŠ: āļŠāļģāļŦāļĢāļąāļšāļ—āļĩāļĄāļ—āļĩāđˆāļ•āđ‰āļ­āļ‡āļāļēāļĢāļāļēāļĢāļˆāļąāļ”āļāļēāļĢāđ‚āļ„āļĢāļ‡āļŠāļĢāđ‰āļēāļ‡āļžāļ·āđ‰āļ™āļāļēāļ™āđ€āļ›āđ‡āļ™āļĻāļđāļ™āļĒāđŒ āļāļēāļĢāļāļķāļāļ­āļšāļĢāļĄāđāļšāļšāđ€āļ‹āļīāļĢāđŒāļŸāđ€āļ§āļ­āļĢāđŒāđ€āļĨāļŠāļ‚āļ­āļ‡ Vertex AI āļŠāđˆāļ§āļĒāđƒāļŦāđ‰āļ„āļļāļ“āļŠāļēāļĄāļēāļĢāļ–āļŠāđˆāļ‡āđ‚āļ„āđ‰āļ”āđāļĨāļ°āļ‚āđ‰āļ­āļĄāļđāļĨāļ‚āļ­āļ‡āļ„āļļāļ“āđ„āļ”āđ‰ āđāļžāļĨāļ•āļŸāļ­āļĢāđŒāļĄāļˆāļ°āļˆāļąāļ”āđ€āļ•āļĢāļĩāļĒāļĄāļ„āļĨāļąāļŠāđ€āļ•āļ­āļĢāđŒ āļĢāļąāļ™āļ‡āļēāļ™ āđāļĨāļ°āļ—āļģāļĨāļēāļĒāļ„āļĨāļąāļŠāđ€āļ•āļ­āļĢāđŒāđ‚āļ”āļĒāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļī āđ‚āļ”āļĒāļ„āļīāļ”āļ„āđˆāļēāļšāļĢāļīāļāļēāļĢāļ•āļēāļĄāļ§āļīāļ™āļēāļ—āļĩāļāļēāļĢāļ›āļĢāļ°āļĄāļ§āļĨāļœāļĨāļ—āļĩāđˆāđƒāļŠāđ‰āļˆāļĢāļīāļ‡

āļŠāļēāļĄāļˆāļļāļ”āđ€āļ‚āđ‰āļēāļ–āļķāļ‡: āļāļēāļĢāļ„āđ‰āļ™āļžāļš āļāļēāļĢāļ—āļ”āļĨāļ­āļ‡ āđāļĨāļ°āļāļēāļĢāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļī

āđ€āļžāļ·āđˆāļ­āđƒāļŦāđ‰āđ€āļŦāļĄāļēāļ°āļŠāļĄāļāļąāļšāļšāļļāļ„āļĨāļīāļāļ—āļēāļ‡āđ€āļ—āļ„āļ™āļīāļ„āļ•āđˆāļēāļ‡āđ† āļ•āļąāđ‰āļ‡āđāļ•āđˆāļ™āļąāļāļ§āļīāļ—āļĒāļēāļĻāļēāļŠāļ•āļĢāđŒāļ‚āđ‰āļ­āļĄāļđāļĨāđ„āļ›āļˆāļ™āļ–āļķāļ‡āļ™āļąāļāļžāļąāļ’āļ™āļēāđāļ­āļ›āļžāļĨāļīāđ€āļ„āļŠāļąāļ™ Vertex AI āļĄāļĩāļŠāļēāļĄāļˆāļļāļ”āđ€āļ‚āđ‰āļēāļ–āļķāļ‡āļŦāļĨāļąāļ:

  • Model Garden: āļ•āļĨāļēāļ”āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļ„āđ‰āļ™āļžāļš
  • Vertex AI Studio: āļŠāļ™āļēāļĄāļ—āļ”āļĨāļ­āļ‡āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļ—āļ”āļĨāļ­āļ‡
  • Vertex AI Agent Builder: āđ‚āļĢāļ‡āļ‡āļēāļ™āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļī

Model Garden: āļ•āļĨāļēāļ”āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļ„āđ‰āļ™āļžāļš

Model Garden āļ‚āļ­āļ‡ Google Cloud āļ„āļ·āļ­āđāļžāļĨāļ•āļŸāļ­āļĢāđŒāļĄāļāļĨāļēāļ‡āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļ„āđ‰āļ™āļžāļš āļāļēāļĢāļ—āļ”āļŠāļ­āļš āļāļēāļĢāļ›āļĢāļąāļšāđāļ•āđˆāļ‡ āđāļĨāļ°āļāļēāļĢāļ™āļģāđ„āļ›āđƒāļŠāđ‰āļ‚āļ­āļ‡āđ‚āļĄāđ€āļ”āļĨ AI āļŦāļĨāļēāļāļŦāļĨāļēāļĒ āļĢāļ§āļĄāļ–āļķāļ‡āđ‚āļĄāđ€āļ”āļĨāļŦāļĨāļēāļĒāļĢāļđāļ›āđāļšāļš (āļāļēāļĢāļĄāļ­āļ‡āđ€āļŦāđ‡āļ™ āļ‚āđ‰āļ­āļ„āļ§āļēāļĄ āļĢāļŦāļąāļŠ) āļŠāļģāļŦāļĢāļąāļšāļ„āļ§āļēāļĄāļ•āđ‰āļ­āļ‡āļāļēāļĢāļ—āļēāļ‡āļ˜āļļāļĢāļāļīāļˆāļ•āđˆāļēāļ‡āđ† āđ‚āļ”āļĒāđƒāļŦāđ‰āļāļēāļĢāļœāļŠāļēāļ™āļĢāļ§āļĄāļ­āļĒāđˆāļēāļ‡āļĢāļēāļšāļĢāļ·āđˆāļ™āļāļąāļšāđ€āļ„āļĢāļ·āđˆāļ­āļ‡āļĄāļ·āļ­āļ‚āļ­āļ‡ Vertex AI āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļˆāļąāļ”āļāļēāļĢāļŠāļĩāļ§āļīāļ•āļ§āļ‡āļˆāļĢ AI āļ—āļĩāđˆāļŠāļ•āļĢāļĩāļĄāđ„āļĨāļ™āđŒ

Model Garden āļˆāļąāļ”āļŦāļĄāļ§āļ”āļŦāļĄāļđāđˆāđ‚āļĄāđ€āļ”āļĨāļĄāļēāļāļāļ§āđˆāļē 200 āđ‚āļĄāđ€āļ”āļĨāļ­āļ­āļāđ€āļ›āđ‡āļ™āļŠāļēāļĄāļĢāļ°āļ”āļąāļš āļ—āļģāđƒāļŦāđ‰ kiášŋn trÚcāļŠāļēāļĄāļēāļĢāļ–āļŠāļĢāđ‰āļēāļ‡āļŠāļĄāļ”āļļāļĨāļĢāļ°āļŦāļ§āđˆāļēāļ‡āļ›āļĢāļ°āļŠāļīāļ—āļ˜āļīāļ āļēāļž āļ•āđ‰āļ™āļ—āļļāļ™ āđāļĨāļ°āļāļēāļĢāļ„āļ§āļšāļ„āļļāļĄ:

  1. āđ‚āļĄāđ€āļ”āļĨāļ‚āļ­āļ‡ Google: āđ‚āļĄāđ€āļ”āļĨāļŦāļĨāļēāļĒāļĢāļđāļ›āđāļšāļšāļ—āļĩāđˆāļŠāļģāļ„āļąāļāļ‚āļ­āļ‡ Vertex AI āļĄāļĩāđƒāļŦāđ‰āđ€āļĨāļ·āļ­āļāļŦāļĨāļēāļĒāļ‚āļ™āļēāļ” āļ•āļąāđ‰āļ‡āđāļ•āđˆ Pro āļ—āļĩāđˆāļĄāļĩāļāļēāļĢāđƒāļŦāđ‰āđ€āļŦāļ•āļļāļœāļĨāļ—āļĩāđˆāļ‹āļąāļšāļ‹āđ‰āļ­āļ™āđ„āļ›āļˆāļ™āļ–āļķāļ‡ Flash āļ—āļĩāđˆāļĄāļĩāļ„āļ§āļēāļĄāļŦāļ™āđˆāļ§āļ‡āļ•āđˆāļģāđāļĨāļ°āļ›āļĢāļīāļĄāļēāļ“āļŠāļđāļ‡ āļ—āļģāđƒāļŦāđ‰āļ™āļąāļāļžāļąāļ’āļ™āļēāļŠāļēāļĄāļēāļĢāļ–āļ›āļĢāļąāļšāđ‚āļĄāđ€āļ”āļĨāđƒāļŦāđ‰āđ€āļŦāļĄāļēāļ°āļāļąāļšāļāļēāļĢāđƒāļŠāđ‰āļ‡āļēāļ™āļ‚āļ­āļ‡āļ•āļ™āđ„āļ”āđ‰
  2. āđ‚āļĄāđ€āļ”āļĨāļ‚āļ­āļ‡āļšāļļāļ„āļ„āļĨāļ—āļĩāđˆāļŠāļēāļĄ (Proprietary): āļœāđˆāļēāļ™āļāļēāļĢāļĢāđˆāļ§āļĄāļĄāļ·āļ­āđ€āļŠāļīāļ‡āļāļĨāļĒāļļāļ—āļ˜āđŒ Vertex AI āļ™āļģāđ€āļŠāļ™āļ­ â€œModel-as-a-Service” (MaaS) āļŠāļģāļŦāļĢāļąāļšāļĒāļąāļāļĐāđŒāđƒāļŦāļāđˆāļ”āđ‰āļēāļ™ AI āđ€āļŠāđˆāļ™ Anthropic (Claude 3.5) āđāļĨāļ° Mistral AI āđāļ—āļ™āļ—āļĩāđˆāļˆāļ°āļˆāļąāļ”āļāļēāļĢāļāļēāļĢāđ€āļĢāļĩāļĒāļāđ€āļāđ‡āļšāđ€āļ‡āļīāļ™āđāļĨāļ°āļ‚āđ‰āļ­āļĄāļđāļĨāļĢāļąāļšāļĢāļ­āļ‡āļ„āļ§āļēāļĄāļ›āļĨāļ­āļ”āļ āļąāļĒāđāļĒāļāļāļąāļ™āļŠāļģāļŦāļĢāļąāļšāļœāļđāđ‰āđƒāļŦāđ‰āļšāļĢāļīāļāļēāļĢ AI āļŦāđ‰āļēāļĢāļēāļĒ āļ—āļĩāļĄāđ€āļ—āļ„āļ™āļīāļ„āļŠāļēāļĄāļēāļĢāļ–āđ€āļ‚āđ‰āļēāļ–āļķāļ‡āļ—āļąāđ‰āļ‡āļŦāļĄāļ”āļœāđˆāļēāļ™āđ‚āļ„āļĢāļ‡āļāļēāļĢ Google Cloud āļ—āļĩāđˆāļĄāļĩāļ­āļĒāļđāđˆ āđ‚āļ”āļĒāđƒāļŠāđ‰āļĢāļđāļ›āđāļšāļš API āļ—āļĩāđˆāđ€āļ›āđ‡āļ™āļĄāļēāļ•āļĢāļāļēāļ™
  3. āđ‚āļĄāđ€āļ”āļĨāđ‚āļ­āđ€āļžāđˆāļ™āļ‹āļ­āļĢāđŒāļŠāđāļĨāļ°āđ‚āļ­āđ€āļžāđˆāļ™āđ€āļ§āļ—: āļĢāļ°āļ”āļąāļšāļ™āļĩāđ‰āļĢāļ§āļĄ Meta’s Llama 3.2, Mistral āđāļĨāļ° Gemma āļ‚āļ­āļ‡ Google āļ‹āļķāđˆāļ‡āđ€āļŦāļĄāļēāļ°āļŠāļģāļŦāļĢāļąāļšāļ­āļ‡āļ„āđŒāļāļĢāļ—āļĩāđˆāļ•āđ‰āļ­āļ‡āļāļēāļĢāļ•āļīāļ”āļ•āļąāđ‰āļ‡āđ‚āļĄāđ€āļ”āļĨāļ āļēāļĒāđƒāļ™ VPC (Virtual Private Cloud) āļ‚āļ­āļ‡āļ•āļ™āđ€āļ­āļ‡āđ€āļžāļ·āđˆāļ­āđƒāļŦāđ‰āđāļ™āđˆāđƒāļˆāļ–āļķāļ‡āļāļēāļĢāđāļĒāļāļ‚āđ‰āļ­āļĄāļđāļĨāļŠāļđāļ‡āļŠāļļāļ”

āđƒāļ™į’°åǃāļ—āļĩāđˆāđ„āļĄāđˆāļĢāļ§āļĄāđ€āļ›āđ‡āļ™āļŦāļ™āļķāđˆāļ‡ āļāļēāļĢāļ™āļģāđ‚āļĄāđ€āļ”āļĨāđ‚āļ­āđ€āļžāđˆāļ™āļ‹āļ­āļĢāđŒāļŠāļĄāļēāđƒāļŠāđ‰ āđ€āļŠāđˆāļ™ Llama āļˆāļ°āļ•āđ‰āļ­āļ‡āļ•āļąāđ‰āļ‡āļ„āđˆāļēāļŠāļ āļēāļžāđāļ§āļ”āļĨāđ‰āļ­āļĄ PyTorch āļ„āļ­āļ™āļŸāļīāļāļ•āļąāļ§āļ‚āļąāļš CUDA āđāļĨāļ°āļˆāļąāļ”āļāļēāļĢāļĢāļēāļžāđ€āļ›āļ­āļĢāđŒ Flask āļŦāļĢāļ·āļ­ FastAPI

Model Garden āļĨāļ”āļĢāļ°āļĒāļ°āđ€āļ§āļĨāļēāļ™āļĩāđ‰āļœāđˆāļēāļ™ āļˆāļļāļ”āļŠāļīāđ‰āļ™āļŠāļļāļ”āđāļšāļšāļˆāļąāļ”āļāļēāļĢ āļ‹āļķāđˆāļ‡āļŦāļĄāļēāļĒāļ–āļķāļ‡:

  • āļāļēāļĢāļ™āļģāđ„āļ›āđƒāļŠāđ‰āđāļšāļšāļ„āļĨāļīāļāđ€āļ”āļĩāļĒāļ§: āļŠāļģāļŦāļĢāļąāļšāļŦāļĨāļēāļĒāđ† āđ‚āļĄāđ€āļ”āļĨ āļāļēāļĢāļ„āļĨāļīāļ â€œDeploy” āļˆāļ°āļˆāļąāļ”āđ€āļ•āļĢāļĩāļĒāļĄāļ—āļĢāļąāļžāļĒāļēāļāļĢ TPU/GPU āļ—āļĩāđˆāļˆāļģāđ€āļ›āđ‡āļ™ āļŦāđˆāļ­āđ‚āļĄāđ€āļ”āļĨāđƒāļ™āļ„āļ­āļ™āđ€āļ—āļ™āđ€āļ™āļ­āļĢāđŒāļ—āļĩāđˆāļžāļĢāđ‰āļ­āļĄāļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļœāļĨāļīāļ• āđāļĨāļ°āđƒāļŦāđ‰āļˆāļļāļ”āļŠāļīāđ‰āļ™āļŠāļļāļ” API āđāļšāļš REST
  • āļāļēāļĢāļœāļŠāļēāļ™āļĢāļ§āļĄ Hugging Face: Vertex AI āļ­āļ™āļļāļāļēāļ•āđƒāļŦāđ‰āļ™āļąāļāļžāļąāļ’āļ™āļēāļ™āļģāđ‚āļĄāđ€āļ”āļĨāļĄāļēāļˆāļēāļ Hugging Face Hub āđāļĨāļ°āļ•āļīāļ”āļ•āļąāđ‰āļ‡āļĨāļ‡āđƒāļ™āļˆāļļāļ”āļŠāļīāđ‰āļ™āļŠāļļāļ”āļ‚āļ­āļ‡ Vertex āđ‚āļ”āļĒāđƒāļŦāđ‰āļāļēāļĢāļ‚āļĒāļēāļĒāļ„āļ§āļēāļĄāļ‰āļĨāļēāļ”āļ—āļĩāđˆāđ€āļāļ·āļ­āļšāļˆāļ°āđ„āļĄāđˆāļĄāļĩāļ‚āļ­āļšāđ€āļ‚āļ•
  • āļāļēāļĢāđ€āļŠāļ·āđˆāļ­āļĄāļ•āđˆāļ­āđāļšāļšāļŠāđˆāļ§āļ™āļ•āļąāļ§ (PSC): āļŠāļģāļŦāļĢāļąāļšāļ­āļļāļ•āļŠāļēāļŦāļāļĢāļĢāļĄāļ—āļĩāđˆāļĄāļĩāļāļēāļĢāļ„āļ§āļšāļ„āļļāļĄāļ­āļĒāđˆāļēāļ‡āđ€āļ‚āđ‰āļĄāļ‡āļ§āļ” āđ‚āļĄāđ€āļ”āļĨāļŠāļēāļĄāļēāļĢāļ–āļ–āļđāļāļ™āļģāđ„āļ›āđƒāļŠāđ‰āđ‚āļ”āļĒāđƒāļŠāđ‰ Private Service Connect āļ‹āļķāđˆāļ‡āļĢāļąāļšāļ›āļĢāļ°āļāļąāļ™āļ§āđˆāļēāļˆāļļāļ”āļŠāļīāđ‰āļ™āļŠāļļāļ”āļ‚āļ­āļ‡āđ‚āļĄāđ€āļ”āļĨāļˆāļ°āđ„āļĄāđˆāļ–āļđāļāđ€āļ›āļīāļ”āđ€āļœāļĒāļ•āđˆāļ­āļ­āļīāļ™āđ€āļ—āļ­āļĢāđŒāđ€āļ™āđ‡āļ•āļŠāļēāļ˜āļēāļĢāļ“āļ° āļ—āļģāđƒāļŦāđ‰āļāļēāļĢāļĢāļąāļšāļŠāđˆāļ‡āļ‚āđ‰āļ­āļĄāļđāļĨāļ­āļĒāļđāđˆāļ āļēāļĒāđƒāļ™āđ€āļ„āļĢāļ·āļ­āļ‚āđˆāļēāļĒāļ­āļ‡āļ„āđŒāļāļĢāđ€āļ—āđˆāļēāļ™āļąāđ‰āļ™

Vertex AI Studio: āļŠāļ™āļēāļĄāļ—āļ”āļĨāļ­āļ‡āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļ—āļ”āļĨāļ­āļ‡

āđƒāļ™āļ‚āļ“āļ°āļ—āļĩāđˆ Model Garden āļĄāļļāđˆāļ‡āđ€āļ™āđ‰āļ™āđ„āļ›āļ—āļĩāđˆāļāļēāļĢāļ„āđ‰āļ™āļŦāļē Vertex AI Studio āļĄāļļāđˆāļ‡āđ€āļ™āđ‰āļ™āđ„āļ›āļ—āļĩāđˆ āļ„āļ§āļēāļĄāđāļĄāđˆāļ™āļĒāļģ Vertex AI Studio āđ€āļ›āļĢāļĩāļĒāļšāđ„āļ”āđ‰āļāļąāļšāļ„āļ­āļĄāđ„āļžāļĨāđŒāđ€āļĨāļ­āļĢāđŒāđāļĨāļ°āļ”āļĩāļšāļąāđŠāļāđ€āļāļ­āļĢāđŒāđƒāļ™āđ‚āļĨāļāļ‹āļ­āļŸāļ•āđŒāđāļ§āļĢāđŒāđāļšāļšāļ”āļąāđ‰āļ‡āđ€āļ”āļīāļĄ āļŠāļ•āļđāļ”āļīāđ‚āļ­āļ™āļĩāđ‰āđ€āļ›āđ‡āļ™āļžāļ·āđ‰āļ™āļ—āļĩāđˆāļ—āļģāļ‡āļēāļ™āļ—āļĩāđˆāđ‚āļĄāđ€āļ”āļĨāļ”āļīāļšāļ–āļđāļāļŦāļĨāđˆāļ­āļŦāļĨāļ­āļĄāđƒāļŦāđ‰āđ€āļ›āđ‡āļ™āđ€āļ„āļĢāļ·āđˆāļ­āļ‡āļĄāļ·āļ­āļ—āļēāļ‡āļ˜āļļāļĢāļāļīāļˆāđ€āļ‰āļžāļēāļ°āļœāđˆāļēāļ™āļāļēāļĢāļœāļŠāļĄāļœāļŠāļēāļ™āļĢāļ°āļŦāļ§āđˆāļēāļ‡āļ§āļīāļĻāļ§āļāļĢāļĢāļĄāļžāļĢāļ­āļĄāļ•āđŒ āļāļēāļĢāļ—āļ”āļŠāļ­āļšāļŦāļĨāļēāļĒāļĢāļđāļ›āđāļšāļš āđāļĨāļ°āļāļēāļĢāļ›āļĢāļąāļšāđ„āļŪāđ€āļ›āļ­āļĢāđŒāļžāļēāļĢāļēāļĄāļīāđ€āļ•āļ­āļĢāđŒāļ—āļĩāđˆāļ‹āļąāļšāļ‹āđ‰āļ­āļ™

āļāļēāļĢāļŠāļĢāđ‰āļēāļ‡āđāļšāļšāļˆāļģāļĨāļ­āļ‡āļŦāļĨāļēāļĒāļĢāļđāļ›āđāļšāļš: āļ™āļ­āļāđ€āļŦāļ™āļ·āļ­āļˆāļēāļāļ‚āđ‰āļ­āļ„āļ§āļēāļĄ

āļ„āļļāļ“āļĨāļąāļāļĐāļ“āļ°āđ€āļ”āđˆāļ™āļ‚āļ­āļ‡ Studio āļ„āļ·āļ­āļāļēāļĢāļŠāļ™āļąāļšāļŠāļ™āļļāļ™ āļāļēāļĢāļ—āļģāļ‡āļēāļ™āļŦāļĨāļēāļĒāļĢāļđāļ›āđāļšāļš āđ‚āļ”āļĒāļ˜āļĢāļĢāļĄāļŠāļēāļ•āļī āđƒāļ™āļ‚āļ“āļ°āļ—āļĩāđˆāđāļžāļĨāļ•āļŸāļ­āļĢāđŒāļĄāļ­āļ·āđˆāļ™āđ† āļ•āđ‰āļ­āļ‡āļāļēāļĢāļāļēāļĢāđ€āļ‚āļĩāļĒāļ™āđ‚āļ„āđ‰āļ”āļ—āļĩāđˆāļ‹āļąāļšāļ‹āđ‰āļ­āļ™āđ€āļžāļ·āđˆāļ­āļˆāļąāļ”āļāļēāļĢāļāļąāļšāļ‚āđ‰āļ­āļĄāļđāļĨāļ—āļĩāđˆāđ„āļĄāđˆāđƒāļŠāđˆāļ‚āđ‰āļ­āļ„āļ§āļēāļĄ Vertex AI Studio āļ­āļ™āļļāļāļēāļ•āđƒāļŦāđ‰āļ„āļļāļ“āļĨāļēāļāđāļĨāļ°āļ§āļēāļ‡āđ„āļŸāļĨāđŒāđ‚āļ”āļĒāļ•āļĢāļ‡āđ€āļ‚āđ‰āļēāđ„āļ›āđƒāļ™āļ­āļīāļ™āđ€āļ—āļ­āļĢāđŒāđ€āļŸāļ‹āđ€āļžāļ·āđˆāļ­āļ—āļ”āļŠāļ­āļšāļ„āļ§āļēāļĄāļŠāļēāļĄāļēāļĢāļ–āđƒāļ™āļāļēāļĢāđƒāļŦāđ‰āđ€āļŦāļ•āļļāļœāļĨāļ‚āļ­āļ‡ Gemini 2.5

  • āļ„āļ§āļēāļĄāļ‰āļĨāļēāļ”āļ”āđ‰āļēāļ™āļ§āļīāļ”āļĩāđ‚āļ­: āļ„āļļāļ“āļŠāļēāļĄāļēāļĢāļ–āļ­āļąāļ›āđ‚āļŦāļĨāļ”āļ§āļīāļ”āļĩāđ‚āļ­āļšāļ—āļŠāļąāļĄāļ āļēāļĐāļ“āđŒāļ—āļēāļ‡āđ€āļ—āļ„āļ™āļīāļ„āļ—āļĩāđˆāļĄāļĩāļ„āļ§āļēāļĄāļĒāļēāļ§ 45 āļ™āļēāļ—āļĩāđāļĨāļ°āļ‚āļ­āđƒāļŦāđ‰āđ‚āļĄāđ€āļ”āļĨ “āļĢāļ°āļšāļļāđ€āļ§āļĨāļēāļ—āļĩāđˆ API āļ–āļđāļāļāļĨāđˆāļēāļ§āļ–āļķāļ‡āđāļĨāļ°āđƒāļŦāđ‰āļŠāļĢāļļāļ›āļ—āļĩāđˆāļĄāļĩāđ€āļ§āļĨāļēāđ€āļĢāļīāđˆāļĄāļ•āđ‰āļ™â€
  • āļāļēāļĢāļ§āļīāđ€āļ„āļĢāļēāļ°āļŦāđŒāđ€āļ­āļāļŠāļēāļĢ: āđāļ—āļ™āļ—āļĩāđˆāļˆāļ°āļ­āđˆāļēāļ™āļ‚āđ‰āļ­āļ„āļ§āļēāļĄāđ€āļžāļĩāļĒāļ‡āļ­āļĒāđˆāļēāļ‡āđ€āļ”āļĩāļĒāļ§ āđ‚āļĄāđ€āļ”āļĨāļŠāļēāļĄāļēāļĢāļ–āļ§āļīāđ€āļ„āļĢāļēāļ°āļŦāđŒ āļāļēāļĢāļ§āļēāļ‡āļœāļąāļ‡āļ āļēāļž āļ‚āļ­āļ‡ PDF āļ—āļĩāđˆāļĄāļĩ 1,000 āļŦāļ™āđ‰āļē āđ‚āļ”āļĒāđ€āļ‚āđ‰āļēāđƒāļˆāļ„āļ§āļēāļĄāļŠāļąāļĄāļžāļąāļ™āļ˜āđŒāļĢāļ°āļŦāļ§āđˆāļēāļ‡āđāļœāļ™āļ āļđāļĄāļī āļ•āļēāļĢāļēāļ‡ āđāļĨāļ°āļ‚āđ‰āļ­āļ„āļ§āļēāļĄāļ—āļĩāđˆāļ­āļĒāļđāđˆāļĢāļ­āļšāđ†
  • āļāļēāļĢāļ”āļģāđ€āļ™āļīāļ™āļāļēāļĢāđ‚āļ„āđ‰āļ”: āļŠāļ•āļđāļ”āļīāđ‚āļ­āļŠāļ™āļąāļšāļŠāļ™āļļāļ™ āļāļēāļĢāļ”āļģāđ€āļ™āļīāļ™āļāļēāļĢāđ‚āļ„āđ‰āļ” āđƒāļ™āļžāļ·āđ‰āļ™āļ—āļĩāđˆāđ€āļĨāđˆāļ™ āļŦāļēāļāļ„āļļāļ“āļ‚āļ­āđƒāļŦāđ‰āđ‚āļĄāđ€āļ”āļĨāđāļāđ‰āļ›āļąāļāļŦāļēāļ—āļēāļ‡āļ„āļ“āļīāļ•āļĻāļēāļŠāļ•āļĢāđŒāļ—āļĩāđˆāļ‹āļąāļšāļ‹āđ‰āļ­āļ™āļŦāļĢāļ·āļ­āļ§āļīāđ€āļ„āļĢāļēāļ°āļŦāđŒ CSV āđ‚āļĄāđ€āļ”āļĨāļŠāļēāļĄāļēāļĢāļ–āđ€āļ‚āļĩāļĒāļ™āđāļĨāļ°āļ”āļģāđ€āļ™āļīāļ™āļāļēāļĢāđ‚āļ„āđ‰āļ” Python āđƒāļ™āļŠāļ āļēāļžāđāļ§āļ”āļĨāđ‰āļ­āļĄāļ—āļĩāđˆāļ›āļĨāļ­āļ”āļ āļąāļĒāđāļĨāļ°āđāļĒāļāļˆāļēāļāļāļąāļ™āđ€āļžāļ·āđˆāļ­āđƒāļŦāđ‰āđ„āļ”āđ‰āļ„āļģāļ•āļ­āļšāļ—āļĩāđˆāļ–āļđāļāļ•āļĢāļ§āļˆāļŠāļ­āļšāđāļĨāđ‰āļ§

āļāļēāļĢāļ›āļĢāļąāļšāđāļ•āđˆāļ‡āļ‚āļąāđ‰āļ™āļŠāļđāļ‡: āđ€āļŠāđ‰āļ™āļ—āļēāļ‡āļāļēāļĢāļ›āļĢāļąāļšāđāļ•āđˆāļ‡

āđ€āļĄāļ·āđˆāļ­āļāļēāļĢāļ›āļĢāļąāļšāđāļ•āđˆāļ‡āļžāļĢāļ­āļĄāļ•āđŒ (Zero-shot āļŦāļĢāļ·āļ­ Few-shot) āļ–āļķāļ‡āļ‚āļĩāļ”āļˆāļģāļāļąāļ” Vertex AI Studio āļ™āļģāđ€āļŠāļ™āļ­āđ€āļ„āļĢāļ·āđˆāļ­āļ‡āļĄāļ·āļ­āļŦāļ™āļąāļ: āļāļēāļĢāļ›āļĢāļąāļšāđāļ•āđˆāļ‡āđ‚āļĄāđ€āļ”āļĨ

  1. āļāļēāļĢāļ›āļĢāļąāļšāđāļ•āđˆāļ‡āđāļšāļšāļĄāļĩāļœāļđāđ‰āļ”āļđāđāļĨ (SFT): āļ™āļąāļāļžāļąāļ’āļ™āļēāļŠāļēāļĄāļēāļĢāļ–āđƒāļŦāđ‰āđ€āļ‹āļ•āļ‚āđ‰āļ­āļĄāļđāļĨ “āļžāļĢāļ­āļĄāļ•āđŒ/āļ„āļģāļ•āļ­āļšâ€ (āđ‚āļ”āļĒāļ—āļąāđˆāļ§āđ„āļ› 100+ āļ•āļąāļ§āļ­āļĒāđˆāļēāļ‡) āđ€āļžāļ·āđˆāļ­āļŠāļ­āļ™āđ‚āļĄāđ€āļ”āļĨāđƒāļŦāđ‰āđƒāļŠāđ‰āđ€āļŠāļĩāļĒāļ‡āđāļšāļĢāļ™āļ”āđŒāđ€āļ‰āļžāļēāļ° āļĢāļđāļ›āđāļšāļšāđ€āļ­āļēāļ•āđŒāļžāļļāļ• (āđ€āļŠāđˆāļ™ JSON āļ—āļĩāđˆāļāļģāļŦāļ™āļ”āđ€āļ­āļ‡) āļŦāļĢāļ·āļ­āļ āļēāļĐāļēāđ€āļ‰āļžāļēāļ°āđ‚āļ”āđ€āļĄāļ™
  2. āļāļēāļĢāđāļ„āļŠāļšāļĢāļīāļšāļ—: āļŠāļģāļŦāļĢāļąāļšāļ­āļ‡āļ„āđŒāļāļĢāļ—āļĩāđˆāļ•āđ‰āļ­āļ‡āļˆāļąāļ”āļāļēāļĢāļāļąāļšāđ€āļ‹āļ•āļ‚āđ‰āļ­āļĄāļđāļĨāļ‚āļ™āļēāļ”āđƒāļŦāļāđˆāđāļĨāļ°āļ„āļ‡āļ—āļĩāđˆ (āđ€āļŠāđˆāļ™ āļŦāđ‰āļ­āļ‡āļŠāļĄāļļāļ”āļ—āļēāļ‡āļāļŽāļŦāļĄāļēāļĒāļŦāļĢāļ·āļ­āļāļēāļ™āđ‚āļ„āđ‰āļ”) āļŠāļ•āļđāļ”āļīāđ‚āļ­āļ­āļ™āļļāļāļēāļ•āđƒāļŦāđ‰ āđāļ„āļŠāļšāļĢāļīāļšāļ— āļ‹āļķāđˆāļ‡āļŠāđˆāļ§āļĒāđƒāļŦāđ‰āļ„āļļāļ“āļŠāļēāļĄāļēāļĢāļ– â€œāđ‚āļŦāļĨāļ”āļĨāđˆāļ§āļ‡āļŦāļ™āđ‰āļē” āļĨāđ‰āļēāļ™āđ‚āļ—āđ€āļ„āđ‡āļ™āļ‚āļ­āļ‡āļ‚āđ‰āļ­āļĄāļđāļĨāđ€āļ‚āđ‰āļēāđ„āļ›āđƒāļ™āļŦāļ™āđˆāļ§āļĒāļ„āļ§āļēāļĄāļˆāļģāļ‚āļ­āļ‡āđ‚āļĄāđ€āļ”āļĨ āļĨāļ”āļ„āļ§āļēāļĄāļŦāļ™āđˆāļ§āļ‡āđāļĨāļ°āļ•āđ‰āļ™āļ—āļļāļ™āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļ›āļĢāļķāļāļĐāļēāļ—āļĩāđˆāļ•āļēāļĄāļĄāļē
  3. āļāļēāļĢāļāļĨāļąāđˆāļ™ (Teacher-Student): āļŠāļīāđˆāļ‡āļ™āļĩāđ‰āđ€āļ›āđ‡āļ™āļāļēāļĢāđ€āļ„āļĨāļ·āđˆāļ­āļ™āđ„āļŦāļ§āļ—āļēāļ‡āļŠāļ–āļēāļ›āļąāļ•āļĒāļāļĢāļĢāļĄāļĢāļ°āļ”āļąāļšāļŠāļđāļ‡ āļ„āļļāļ“āļŠāļēāļĄāļēāļĢāļ–āđƒāļŠāđ‰āđ‚āļĄāđ€āļ”āļĨāļ‚āļ™āļēāļ”āđƒāļŦāļāđˆ (Gemini 2.5 Pro) āđ€āļžāļ·āđˆāļ­ â€œāļŠāļ­āļ™â€ āđ‚āļĄāđ€āļ”āļĨāļ—āļĩāđˆāđ€āļĨāđ‡āļāļāļ§āđˆāļēāđāļĨāļ°āđ€āļĢāđ‡āļ§āļāļ§āđˆāļē (Gemini 2.0 Flash) āļœāļĨāļĨāļąāļžāļ˜āđŒāļ„āļ·āļ­āđ‚āļĄāđ€āļ”āļĨāļ—āļĩāđˆāđ€āļšāļēāļ—āļĩāđˆāļ—āļģāļ‡āļēāļ™āđƒāļ™āļĢāļ°āļ”āļąāļš â€œPro” āđāļ•āđˆāļ—āļģāļ‡āļēāļ™āļ”āđ‰āļ§āļĒāļ„āļ§āļēāļĄāđ€āļĢāđ‡āļ§āđāļĨāļ°āļ•āđ‰āļ™āļ—āļļāļ™āļ‚āļ­āļ‡ â€œFlash”

Vertex AI Agent Builder: āđ‚āļĢāļ‡āļ‡āļēāļ™āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļī

Vertex AI Agent Builder āđ€āļ›āđ‡āļ™āđ€āļŸāļĢāļĄāđ€āļ§āļīāļĢāđŒāļāļāļēāļĢāļ­āļ­āļĢāđŒāđ€āļ„āļŠāļ•āļĢāļēāļ—āļĩāđˆāļĢāļ°āļ”āļąāļšāļŠāļđāļ‡āļ‹āļķāđˆāļ‡āļŠāđˆāļ§āļĒāđƒāļŦāđ‰āļ™āļąāļāļžāļąāļ’āļ™āļēāļŠāļēāļĄāļēāļĢāļ–āļŠāļĢāđ‰āļēāļ‡āđ€āļ­āđ€āļˆāļ™āļ•āđŒāđ€āļŦāļĨāđˆāļēāļ™āļĩāđ‰āđ‚āļ”āļĒāļāļēāļĢāļĢāļ§āļĄāđ‚āļĄāđ€āļ”āļĨāļžāļ·āđ‰āļ™āļāļēāļ™āļāļąāļšāļ‚āđ‰āļ­āļĄāļđāļĨāļ‚āļ­āļ‡āļ­āļ‡āļ„āđŒāļāļĢāđāļĨāļ° API āļ āļēāļĒāļ™āļ­āļ

āļŠāļ–āļēāļ›āļąāļ•āļĒāļāļĢāļĢāļĄāļ‚āļ­āļ‡ â€œāļ„āļ§āļēāļĄāļˆāļĢāļīāļ‡â€: āļāļēāļĢāļĒāļķāļ”āđāļĨāļ° RAG

āļ­āļļāļ›āļŠāļĢāļĢāļ„āļ—āļēāļ‡āđ€āļ—āļ„āļ™āļīāļ„āļŦāļĨāļąāļāļ—āļĩāđˆāļ‚āļąāļ”āļ‚āļ§āļēāļ‡ AI āđƒāļ™āļ­āļ‡āļ„āđŒāļāļĢāļ„āļ·āļ­ āļāļēāļĢāļŦāļĨāļ­āļāļĨāļ§āļ‡ āđ€āļ­āđ€āļˆāļ™āļ•āđŒ āļšāļīāļĨāđ€āļ”āļ­āļĢāđŒāđāļāđ‰āđ„āļ‚āļ›āļąāļāļŦāļēāļ™āļĩāđ‰āļœāđˆāļēāļ™āđ€āļ„āļĢāļ·āđˆāļ­āļ‡āļĄāļ·āļ­ āļāļēāļĢāļĒāļķāļ” āļ—āļĩāđˆāļ‹āļąāļšāļ‹āđ‰āļ­āļ™

  • āļāļēāļĢāļĒāļķāļ”āļ”āđ‰āļ§āļĒ Google Search: āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļ›āļĢāļķāļāļĐāļēāļ—āļĩāđˆāļ•āđ‰āļ­āļ‡āļāļēāļĢāļ„āļ§āļēāļĄāļĢāļđāđ‰āļ‚āļ­āļ‡āđ‚āļĨāļāđāļšāļšāđ€āļĢāļĩāļĒāļĨāđ„āļ—āļĄāđŒ (āđ€āļŠāđˆāļ™ â€œāļ­āļąāļ•āļĢāļēāļ”āļ­āļāđ€āļšāļĩāđ‰āļĒāļˆāļģāļ™āļ­āļ‡āļ›āļąāļˆāļˆāļļāļšāļąāļ™āđƒāļ™āļ™āļīāļ§āļĒāļ­āļĢāđŒāļāļ„āļ·āļ­āļ­āļ°āđ„āļĢ?”) āđ€āļ­āđ€āļˆāļ™āļ•āđŒāļŠāļēāļĄāļēāļĢāļ–āļ„āđ‰āļ™āļŦāļē Google āđāļĨāļ°āļ”āļķāļ‡āļ‚āđ‰āļ­āđ€āļ—āđ‡āļˆāļˆāļĢāļīāļ‡āļ­āļ­āļāļĄāļēāđ‚āļ”āļĒāļ­āđ‰āļēāļ‡āļ­āļīāļ‡āđāļŦāļĨāđˆāļ‡āļ—āļĩāđˆāļĄāļē
  • Vertex AI Search (RAG-as-a-Service): āđāļ—āļ™āļ—āļĩāđˆāļˆāļ°āļŠāļĢāđ‰āļēāļ‡āļāļēāļ™āļ‚āđ‰āļ­āļĄāļđāļĨāđ€āļ§āļāđ€āļ•āļ­āļĢāđŒ (Pinecone, Weaviate) āļ”āđ‰āļ§āļĒāļ•āļ™āđ€āļ­āļ‡ āļ™āļąāļāļžāļąāļ’āļ™āļēāļŠāļēāļĄāļēāļĢāļ–āđƒāļŠāđ‰ Vertex AI Search āđ€āļžāļ·āđˆāļ­āļŠāļĢāđ‰āļēāļ‡āļ”āļąāļŠāļ™āļĩāđ€āļ­āļāļŠāļēāļĢāļ‚āļ­āļ‡āļ•āļ™āđ€āļ­āļ‡ (PDF, HTML, BigQuery) āđ‚āļ”āļĒāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļī āđ‚āļ”āļĒāļˆāļąāļ”āļāļēāļĢāļ‚āļąāđ‰āļ™āļ•āļ­āļ™ â€œāļāļēāļĢāđāļšāđˆāļ‡āļŠāļīāđ‰āļ™â€, “āļāļēāļĢāļāļąāļ‡â€ āđāļĨāļ° â€œāļāļēāļĢāļ”āļķāļ‡â€ āđ‚āļ”āļĒāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļī āđ€āļžāļ·āđˆāļ­āđƒāļŦāđ‰āđāļ™āđˆāđƒāļˆāļ§āđˆāļēāđ€āļ­āđ€āļˆāļ™āļ•āđŒāļˆāļ°āļ•āļ­āļšāļ•āļēāļĄ â€œāđāļŦāļĨāđˆāļ‡āļ—āļĩāđˆāļĄāļēāļ‚āļ­āļ‡āļ„āļ§āļēāļĄāļˆāļĢāļīāļ‡â€ āļ āļēāļĒāđƒāļ™āļ‚āļ­āļ‡āļ­āļ‡āļ„āđŒāļāļĢāđ€āļ—āđˆāļēāļ™āļąāđ‰āļ™
  • Vertex AI RAG Engine: āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāđƒāļŠāđ‰āļ‡āļēāļ™āđāļšāļšāļāļģāļŦāļ™āļ”āđ€āļ­āļ‡āđƒāļ™āļĢāļ°āļ”āļąāļšāļŠāļđāļ‡ āļšāļĢāļīāļāļēāļĢāļ—āļĩāđˆāļˆāļąāļ”āļāļēāļĢāļ™āļĩāđ‰āļŠāđˆāļ§āļĒāđƒāļŦāđ‰āļāļēāļĢāļ„āđ‰āļ™āļŦāļēāļ—āļĩāđˆāļœāļŠāļĄāļœāļŠāļēāļ™ (āļāļēāļĢāļĢāļ§āļĄāļœāļĨāļĨāļąāļžāļ˜āđŒāđ€āļ§āļāđ€āļ•āļ­āļĢāđŒāđāļĨāļ°āļ„āļĩāļĒāđŒāđ€āļ§āļīāļĢāđŒāļ”) āđ€āļžāļ·āđˆāļ­āļ›āļĢāļąāļšāļ›āļĢāļļāļ‡āļ„āļ§āļēāļĄāđāļĄāđˆāļ™āļĒāļģāđ„āļ”āđ‰āļĄāļēāļāļ–āļķāļ‡ 30% āđ€āļĄāļ·āđˆāļ­āđ€āļ—āļĩāļĒāļšāļāļąāļšāđ€āļ­āļēāļ•āđŒāļžāļļāļ• LLM āļ—āļąāđˆāļ§āđ„āļ›

āļāļēāļĢāļ­āļ­āļĢāđŒāđ€āļ„āļŠāļ•āļĢāļēāđāļšāļšāļŦāļĨāļēāļĒāđ€āļ­āđ€āļˆāļ™āļ•āđŒ (A2A Protocol)

āļāļēāļĢāļ—āļģāļ‡āļēāļ™āļ‚āļ­āļ‡āļ­āļ‡āļ„āđŒāļāļĢāļ‚āļąāđ‰āļ™āļŠāļđāļ‡āļĄāļąāļāļ•āđ‰āļ­āļ‡āļāļēāļĢāđ€āļ­āđ€āļˆāļ™āļ•āđŒāļŦāļĨāļēāļĒāļ•āļąāļ§āļ—āļĩāđˆāļ—āļģāļ‡āļēāļ™āļĢāđˆāļ§āļĄāļāļąāļ™ Vertex AI āļ™āļģāđ€āļŠāļ™āļ­ Protocol āđ€āļ­āđ€āļˆāļ™āļ•āđŒ-āļ–āļķāļ‡-āđ€āļ­āđ€āļˆāļ™āļ•āđŒ (A2A) āļ‹āļķāđˆāļ‡āđ€āļ›āđ‡āļ™āļĄāļēāļ•āļĢāļāļēāļ™āļ—āļĩāđˆāđ€āļ›āļīāļ”āļāļ§āđ‰āļēāļ‡āļ—āļĩāđˆāļ­āļ™āļļāļāļēāļ•āđƒāļŦāđ‰:

  • “āđ€āļ­āđ€āļˆāļ™āļ•āđŒāļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāđ€āļ”āļīāļ™āļ—āļēāļ‡â€ āļžāļđāļ”āļ„āļļāļĒāļāļąāļš â€œāđ€āļ­āđ€āļˆāļ™āļ•āđŒāļ—āļēāļ‡āļāļēāļĢāđ€āļ‡āļīāļ™â€ āđ€āļžāļ·āđˆāļ­āđƒāļŦāđ‰āđāļ™āđˆāđƒāļˆāļ§āđˆāļēāļāļēāļĢāļˆāļ­āļ‡āđ€āļ—āļĩāđˆāļĒāļ§āļšāļīāļ™āļ­āļĒāļđāđˆāļ āļēāļĒāđƒāļ™āļ‡āļšāļ›āļĢāļ°āļĄāļēāļ“āļ‚āļ­āļ‡āļ­āļ‡āļ„āđŒāļāļĢ
  • āļāļēāļĢāļ—āļģāļ‡āļēāļ™āļĢāđˆāļ§āļĄāļāļąāļ™: āđ€āļ™āļ·āđˆāļ­āļ‡āļˆāļēāļāđƒāļŠāđ‰āđ‚āļ›āļĢāđ‚āļ•āļ„āļ­āļĨāļ—āļĩāđˆāđ€āļ›āļīāļ”āļāļ§āđ‰āļēāļ‡ āđ€āļ­āđ€āļˆāļ™āļ•āđŒāļ—āļĩāđˆāļŠāļĢāđ‰āļēāļ‡āļ‚āļķāđ‰āļ™āđƒāļ™ Vertex AI āļˆāļķāļ‡āļŠāļēāļĄāļēāļĢāļ–āļŠāļ·āđˆāļ­āļŠāļēāļĢāļāļąāļšāđ€āļ­āđ€āļˆāļ™āļ•āđŒāļ—āļĩāđˆāļŠāļĢāđ‰āļēāļ‡āļ‚āļķāđ‰āļ™āđƒāļ™āđ€āļŸāļĢāļĄāđ€āļ§āļīāļĢāđŒāļāļ­āļ·āđˆāļ™āđ† āđ€āļŠāđˆāļ™ LangChain āļŦāļĢāļ·āļ­ CrewAI

āļŠāđāļ•āđ‡āļ„āļ‚āļ­āļ‡āļ™āļąāļāļžāļąāļ’āļ™āļē: ADK āđāļĨāļ° Agent Engine

āļŠāļģāļŦāļĢāļąāļšāļāļĨāļļāđˆāļĄ â€œāđāļžāļĨāļ•āļŸāļ­āļĢāđŒāļĄāđ€āļ—āļ„āļ™āļīāļ„” āđ€āļ­āđ€āļˆāļ™āļ•āđŒ āļšāļīāļĨāđ€āļ”āļ­āļĢāđŒ āļĄāļĩāđ€āļŠāđ‰āļ™āļ—āļēāļ‡āļ—āļĩāđˆāđāļ•āļāļ•āđˆāļēāļ‡āļāļąāļ™āļŠāļ­āļ‡āđ€āļŠāđ‰āļ™āļ—āļēāļ‡:

  1. āļ„āļ­āļ™āđ‚āļ‹āļĨāđāļšāļšāđ„āļĄāđˆāļ•āđ‰āļ­āļ‡āđ€āļ‚āļĩāļĒāļ™āđ‚āļ„āđ‰āļ”: āļ­āļīāļ™āđ€āļ—āļ­āļĢāđŒāđ€āļŸāļ‹āđāļšāļšāļĨāļēāļāđāļĨāļ°āļ§āļēāļ‡āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļŠāļĢāđ‰āļēāļ‡āļ•āđ‰āļ™āđāļšāļšāļ­āļĒāđˆāļēāļ‡āļĢāļ§āļ”āđ€āļĢāđ‡āļ§āđāļĨāļ°āļāļēāļĢāļāļģāļŦāļ™āļ”āļ„āđˆāļēāļŠāļģāļŦāļĢāļąāļšāļœāļđāđ‰āđƒāļŠāđ‰āļ‡āļēāļ™āļ—āļēāļ‡āļ˜āļļāļĢāļāļīāļˆ
  2. āļŠāļļāļ”āļžāļąāļ’āļ™āļēāļ­āļļāļ›āļāļĢāļ“āđŒ (ADK): āļŠāļļāļ”āļžāļąāļ’āļ™āļēāļ‹āļ­āļŸāļ•āđŒāđāļ§āļĢāđŒ Python āļŠāļģāļŦāļĢāļąāļšāļ§āļīāļĻāļ§āļāļĢ āļ‹āļķāđˆāļ‡āļŠāđˆāļ§āļĒāđƒāļŦāđ‰āļŠāļēāļĄāļēāļĢāļ–āđ€āļ‚āļĩāļĒāļ™ â€œāļžāļĢāļ­āļĄāļ•āđŒāđ€āļ›āđ‡āļ™āđ‚āļ„āđ‰āļ”” āļĢāļ§āļĄāļ–āļķāļ‡āļāļēāļĢāļšāļđāļĢāļ“āļēāļāļēāļĢāļāļąāļšāļāļēāļĢāļ„āļ§āļšāļ„āļļāļĄāđ€āļ§āļ­āļĢāđŒāļŠāļąāļ™āđāļĨāļ°āļāļēāļĢāļ™āļģāđ„āļ›āđƒāļŠāđ‰āļāļąāļš Vertex AI Agent Engine āļ‹āļķāđˆāļ‡āđ€āļ›āđ‡āļ™āļĢāļąāļ™āđ„āļ—āļĄāđŒāļ—āļĩāđˆāļˆāļąāļ”āļāļēāļĢāļ‹āļķāđˆāļ‡āļˆāļąāļ”āļāļēāļĢāļ„āļ§āļēāļĄāļ„āļ‡āļ­āļĒāļđāđˆāļ‚āļ­āļ‡āđ€āļ‹āļŠāļŠāļąāļ™ āļāļēāļĢāļ›āļĢāļąāļšāļ‚āļ™āļēāļ” āđāļĨāļ°āļāļēāļĢāļˆāļąāļ”āļāļēāļĢāļŠāļ–āļēāļ™āļ°āđ‚āļ”āļĒāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļī

āļŠāļĢāļļāļ›: āļˆāļēāļ â€œāļ­āļ°āđ„āļĢāļ–āđ‰āļē” āļ–āļķāļ‡ â€œāļ­āļ°āđ„āļĢāļ•āđˆāļ­āđ„āļ›â€

āļāļēāļĢāđ€āļ›āļĨāļĩāđˆāļĒāļ™āđāļ›āļĨāļ‡āļˆāļēāļāļ•āļąāļ§āļ­āļĒāđˆāļēāļ‡ AI āļ—āļĩāđˆāļ™āđˆāļēāļ›āļĢāļ°āļ—āļąāļšāđƒāļˆāđ„āļ›āļŠāļđāđˆāđāļ­āļ›āļžāļĨāļīāđ€āļ„āļŠāļąāļ™āļĢāļ°āļ”āļąāļšāļ­āļ‡āļ„āđŒāļāļĢāļ—āļĩāđˆāļžāļĢāđ‰āļ­āļĄāļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļœāļĨāļīāļ•āļĄāļēāļ™āļēāļ™āđāļĨāđ‰āļ§āđ€āļ›āđ‡āļ™ â€œāļŦāļļāļšāđ€āļ‚āļēāļ•āļēāļĒ” āļŠāļģāļŦāļĢāļąāļšāđ‚āļ„āļĢāļ‡āļāļēāļĢāļāļēāļĢāđ€āļ›āļĨāļĩāđˆāļĒāļ™āđāļ›āļĨāļ‡āļ—āļēāļ‡āļ”āļīāļˆāļīāļ—āļąāļĨ āđƒāļ™āļ‚āļ“āļ°āļ—āļĩāđˆāđ€āļĢāļēāđ„āļ”āđ‰āļŠāļģāļĢāļ§āļˆ Vertex AI āđ„āļ”āđ‰āļĢāļąāļšāļāļēāļĢāļ­āļ­āļāđāļšāļšāļĄāļēāđ‚āļ”āļĒāđ€āļ‰āļžāļēāļ°āđ€āļžāļ·āđˆāļ­āđ€āļŠāļ·āđˆāļ­āļĄāļŠāđˆāļ­āļ‡āļ§āđˆāļēāļ‡āļ™āļĩāđ‰ āđ‚āļ”āļĒāļāļēāļĢāļĢāļ§āļĄāļŠāđˆāļ­āļ‡āļ§āđˆāļēāļ‡āļ—āļĩāđˆāļāļĢāļ°āļˆāļąāļ”āļāļĢāļ°āļˆāļēāļĒāļ‚āļ­āļ‡āļ‚āđ‰āļ­āļĄāļđāļĨ āđ‚āļ„āļĢāļ‡āļŠāļĢāđ‰āļēāļ‡āļžāļ·āđ‰āļ™āļāļēāļ™ āđāļĨāļ°āļāļēāļĢāļ­āļ­āļĢāđŒāđ€āļ„āļŠāļ•āļĢāļēāļ‚āļ­āļ‡āđ‚āļĄāđ€āļ”āļĨ Google Cloud āđ„āļ”āđ‰āļĒāđ‰āļēāļĒāļāļēāļĢāļ­āļ āļīāļ›āļĢāļēāļĒāļˆāļēāļāļžāļĨāļąāļ‡āļ‚āļ­āļ‡āđ‚āļĄāđ€āļ”āļĨāļ āļēāļĐāļēāļ‚āļ™āļēāļ”āđƒāļŦāļāđˆāđ„āļ›āļŠāļđāđˆ āļ„āļ§āļēāļĄāļ•āļ·āđˆāļ™āļ•āļąāļ§āđƒāļ™āļāļēāļĢāļ”āļģāđ€āļ™āļīāļ™āļ‡āļēāļ™ āļ‚āļ­āļ‡āļ§āļ‡āļˆāļĢāļŠāļĩāļ§āļīāļ• AI

āļ§āļīāļĻāļ§āļāļĢāđ‚āļ”āļĒāļ­āļēāļŠāļĩāļž āļ™āļąāļāđ€āļ‚āļĩāļĒāļ™āđ‚āļ”āļĒāļŦāļąāļ§āđƒāļˆ āļ„āļļāļ“ Kunal āđ€āļ›āđ‡āļ™āļ™āļąāļāđ€āļ‚āļĩāļĒāļ™āđ€āļ—āļ„āļ™āļīāļ„āļ—āļĩāđˆāļĄāļĩāļ„āļ§āļēāļĄāļĢāļąāļāđāļĨāļ°āđ€āļ‚āđ‰āļēāđƒāļˆāļ­āļĒāđˆāļēāļ‡āļĨāļķāļāļ‹āļķāđ‰āļ‡āđ€āļāļĩāđˆāļĒāļ§āļāļąāļš AI āđāļĨāļ° ML āļĄāļļāđˆāļ‡āļĄāļąāđˆāļ™āļ—āļĩāđˆāļˆāļ°āļ—āļģāđƒāļŦāđ‰āđāļ™āļ§āļ„āļīāļ”āļ—āļĩāđˆāļ‹āļąāļšāļ‹āđ‰āļ­āļ™āđƒāļ™āļ”āđ‰āļēāļ™āđ€āļŦāļĨāđˆāļēāļ™āļĩāđ‰āļ‡āđˆāļēāļĒāļ‚āļķāđ‰āļ™āļœāđˆāļēāļ™āđ€āļ­āļāļŠāļēāļĢāļ—āļĩāđˆāļ™āđˆāļēāļŠāļ™āđƒāļˆāđāļĨāļ°āđƒāļŦāđ‰āļ‚āđ‰āļ­āļĄāļđāļĨ