Oracle Cloud Infrastructure เตรียมนำเสนอหน่วยประมวลผลเร่งความเร็ว TPU ของ Google

Oracle และ Google ประกาศเมื่อวันที่ 27 ตุลาคม 2026 ที่งาน Oracle AI World ในลาสเวกัสว่า Tensor Processing Units (TPU) ของ Google จะพร้อมให้ใช้งานผ่าน Oracle Cloud Infrastructure (OCI) ประกาศของ Oracle ระบุว่า OCI เป็นแพลตฟอร์มคลาวด์ระดับไฮเปอร์สเกลรายแรกนอก Google ที่จะนำเสนอ TPU ของ Google โดยมีแผนเปิดให้บริการในปีปฏิทิน 2027

บทบาทด้านโครงสร้างพื้นฐานของ Oracle

OCI จะจัดหาพลังงาน ระบบระบายความร้อน และเครือข่ายดาต้าเซ็นเตอร์ เพื่อให้สามารถติดตั้ง TPU ของ Google ในโครงสร้างพื้นฐานของ Oracle ได้ในระดับขนาดใหญ่ Oracle และ Google ระบุว่า TPU รองรับการฝึกและการฝึกต่อยอดโมเดลขนาดใหญ่ รวมถึงโมเดลแบบหนาแน่นและโมเดลแบบผสมผู้เชี่ยวชาญ (MoE) ตลอดจนการอนุมานในระบบใช้งานจริงสำหรับแอปพลิเคชันด้านการให้เหตุผล แบบเอเจนต์ และบริบทขนาดยาว ลูกค้าจะเลือกใช้ TPU ของ Google ภายใน OCI ที่ปรับให้เหมาะกับเวิร์กโหลด ข้อกำหนดด้านประสิทธิภาพ และเป้าหมายด้านต้นทุนของตนได้

“เวิร์กโหลด AI แต่ละประเภทต้องการทรัพยากรประมวลผลแตกต่างกัน” Mahesh Thiagarajan ประธาน Oracle Cloud Infrastructure กล่าว “การนำ TPU ของ Google มาให้บริการบน OCI ทำให้ลูกค้าเข้าถึงสถาปัตยกรรมประมวลผล AI ชั้นนำได้หลากหลายรูปแบบภายในคลาวด์เดียว”

Amin Vahdat รองประธานอาวุโสและหัวหน้านักเทคโนโลยีด้าน AI และโครงสร้างพื้นฐานของ Google กล่าวว่า AI รุ่นถัดไปจะต้องอาศัยทรัพยากรประมวลผลที่หลากหลาย เขากล่าวว่าการนำ TPU ของ Google มาให้บริการบน OCI จะช่วยให้องค์กรต่าง ๆ เข้าถึงเทคโนโลยีนี้ได้มากขึ้น และมีความยืดหยุ่นมากขึ้นในการสร้างและใช้งานแอปพลิเคชัน AI ที่ซับซ้อนที่สุดของตน

ทั้งสองบริษัทอธิบายว่า TPU ของ Google เป็นหน่วยประมวลผลเร่งความเร็วแบบเฉพาะทางที่ออกแบบร่วมกับซอฟต์แวร์เปิด เพื่อรองรับวงจรการทำงานของ AI ทั้งหมด ตั้งแต่การฝึกโมเดลแนวหน้าและการอนุมานขนาดใหญ่ ไปจนถึงความต้องการด้านการให้เหตุผลหลายขั้นตอนของ AI แบบเอเจนต์ ทั้งสองบริษัทยังระบุว่ากลุ่มผลิตภัณฑ์ TPU อาศัยการพัฒนาซิลิคอน AI แบบเฉพาะทางมานานกว่าทศวรรษ และออกแบบสถาปัตยกรรมให้ประมวลผล AI ได้สูงสุดต่อการใช้ไฟฟ้าหนึ่งวัตต์ พร้อมเข้าถึงข้อมูลโมเดลได้อย่างรวดเร็วและสื่อสารระหว่างชิปได้อย่างฉับไว

ฮาร์ดแวร์ TPU รุ่นที่แปด

Oracle และ Google อธิบายว่า TPU รุ่นที่แปดประกอบด้วยสถาปัตยกรรมที่ออกแบบมาเฉพาะสองแบบ ได้แก่ TPU 8t สำหรับการฝึก และ TPU 8i สำหรับการอนุมาน โดยระบุว่า TPU 8t ให้ประสิทธิภาพการประมวลผลต่อพ็อดสูงกว่ารุ่นก่อนเกือบ 3 เท่า พร้อมลดระยะเวลาพัฒนาโมเดลแนวหน้าจากหลายเดือนเหลือเพียงหลายสัปดาห์ ส่วน TPU 8i ออกแบบมาเพื่อรองรับงานแบบวนซ้ำของเอเจนต์เฉพาะทางจำนวนมาก

Google อธิบายรายละเอียดการออกแบบรุ่นที่แปดไว้ใน บทวิเคราะห์เชิงลึกด้านเทคนิคที่เผยแพร่เมื่อวันที่ 22 เมษายน 2026 ตามข้อมูลในบทความดังกล่าว TPU 8t ใช้โครงสร้างเครือข่ายแบบทอรัสสามมิติ โดยรองรับชิป 9,600 ตัวในซูเปอร์พ็อดเดียว และเพิ่ม SparseCore ซึ่งเป็นหน่วยเร่งความเร็วเฉพาะทางที่จัดการรูปแบบการเข้าถึงหน่วยความจำที่ไม่สม่ำเสมอระหว่างการค้นหา embedding ขณะที่หน่วยคูณเมทริกซ์จัดการการคำนวณเมทริกซ์ ชิปนี้รองรับการประมวลผลเลขทศนิยมแบบ 4 บิต (FP4) โดยตรง ซึ่ง Google ระบุว่าช่วยเพิ่มปริมาณงานของหน่วยคูณเมทริกซ์เป็นสองเท่า อีกทั้งยังมีแบนด์วิดท์สำหรับการขยายระบบบนการเชื่อมต่อระหว่างชิปเพิ่มเป็นสองเท่าเมื่อเทียบกับรุ่นก่อน

ด้านเครือข่ายและพื้นที่จัดเก็บข้อมูล Google ระบุว่า Virgo Network ซึ่งเป็นโครงข่ายแบบขยายขนาดที่สร้างบนสวิตช์จำนวนพอร์ตสูง ช่วยเพิ่มแบนด์วิดท์เครือข่ายดาต้าเซ็นเตอร์สำหรับการฝึกด้วย TPU 8t ได้สูงสุด 4 เท่า ความสามารถใหม่ TPUDirect RDMA และ TPUDirect Storage ช่วยถ่ายโอนข้อมูลระหว่างหน่วยความจำ TPU การ์ดเชื่อมต่อเครือข่าย และพื้นที่จัดเก็บข้อมูลที่มีการจัดการ โดยไม่ผ่าน CPU ของเครื่องโฮสต์ ซึ่ง Google ระบุว่าทำให้เข้าถึงพื้นที่จัดเก็บข้อมูลได้เร็วขึ้น 10 เท่า เมื่อเทียบกับการฝึกบน TPU Ironwood รุ่นที่เจ็ด

Google ระบุว่า TPU 8i ซึ่งปรับให้เหมาะกับการฝึกต่อยอดและการให้เหตุผลที่รองรับคำขอพร้อมกันจำนวนมาก มี SRAM บนชิปมากกว่ารุ่นก่อนเป็น 3 เท่า จึงสามารถเก็บแคช KV ที่มีขนาดใหญ่ขึ้นไว้บนซิลิคอนได้ทั้งหมดระหว่างการถอดรหัสบริบทขนาดยาว Engine สำหรับเร่งความเร็วการดำเนินการแบบกลุ่มช่วยลดเวลาแฝงบนชิปของการดำเนินการแบบกลุ่มลง 5 เท่า ส่วนโครงสร้างเครือข่ายที่ปรับให้เหมาะกับการให้บริการ ซึ่งเรียกว่า Boardfly เชื่อมต่อชิปได้สูงสุด 1,152 ตัวผ่านบอร์ดและกลุ่มที่เชื่อมต่อถึงกันทั้งหมด โดยพ็อดสามารถขยายได้ถึง 36 กลุ่มที่เชื่อมโยงกันด้วยสวิตช์วงจรแสง สำหรับพ็อดที่มีชิป 1,024 ตัว Google ระบุว่า Boardfly ลดเส้นผ่านศูนย์กลางเครือข่ายจาก 16 ฮอปในเครือข่ายทอรัสสามมิติที่เทียบเคียงกัน เหลือ 7 ฮอป และช่วยลดเวลาแฝงได้สูงสุด 50% สำหรับเวิร์กโหลดที่ใช้การสื่อสารอย่างเข้มข้น

ข้อมูลจำเพาะที่ Google เผยแพร่ระบุว่า TPU 8t มีหน่วยความจำแบนด์วิดท์สูง (HBM) 216 GB, SRAM บนชิป 128 MB, ประสิทธิภาพสูงสุด 12.6 เพตาฟลอปสำหรับ FP4 และแบนด์วิดท์หน่วยความจำ 6,528 GB/s ส่วน TPU 8i มี HBM 288 GB, SRAM 384 MB, ประสิทธิภาพสูงสุด 10.1 เพตาฟลอปสำหรับ FP4 และแบนด์วิดท์ 8,601 GB/s ทั้งสองระบบติดตั้งชุด CPU Axion ที่ใช้สถาปัตยกรรม Arm ซึ่ง Google ระบุว่าช่วยขจัดคอขวดที่เครื่องโฮสต์ซึ่งเกิดจากเวลาแฝงในการเตรียมข้อมูล

Google อ้างว่า TPU 8t ให้ประสิทธิภาพต่อดอลลาร์สำหรับการฝึกขนาดใหญ่ดีขึ้นสูงสุด 2.7 เท่าเมื่อเทียบกับ Ironwood และ TPU 8i ให้ประสิทธิภาพต่อดอลลาร์ดีขึ้นสูงสุด 80% สำหรับโมเดล MoE ขนาดใหญ่ที่มีเป้าหมายด้านเวลาแฝงต่ำ โดยชิปทั้งสองรุ่นให้ประสิทธิภาพต่อวัตต์ดีขึ้นสูงสุด 2 เท่า นอกจากนี้ บริษัทยังระบุว่า เมื่อใช้เฟรมเวิร์ก JAX และซอฟต์แวร์ Pathways บริษัทสามารถขยายการฝึกแบบกระจายไปยัง TPU มากกว่า 1 ล้านตัวในคลัสเตอร์เดียว และ Virgo Network สามารถเชื่อมต่อชิป TPU 8t ได้มากกว่า 134,000 ตัว ด้วยแบนด์วิดท์แบบแบ่งครึ่งที่ไม่ปิดกั้นสูงสุด 47 เพตาบิตต่อวินาที

รุ่นที่มีในปัจจุบันและกำหนดการให้บริการ

หน้าผลิตภัณฑ์ TPU ของ Google Cloudระบุว่า TPU 8t และ TPU 8i จะพร้อมให้บริการเร็ว ๆ นี้ TPU Ironwood เจเนอเรชันที่ 7 ซึ่งสร้างขึ้นจากชิประบายความร้อนด้วยของเหลว 9,216 ชิปต่อพ็อด และมีกำลังประมวลผล 42.5 เอ็กซาฟลอป ระบุว่าพร้อมให้ใช้งานทั่วไปแล้ว เช่นเดียวกับ Trillium เจเนอเรชันที่ 6 Google อธิบายว่า TPU เป็นวงจรรวมเฉพาะแอปพลิเคชันที่ออกแบบขึ้นโดยเฉพาะ ซึ่งใช้ขับเคลื่อนโมเดล Gemini และผลิตภัณฑ์หลักของบริษัท เช่น Search, Photos และ Maps พร้อมรองรับซอฟต์แวร์ PyTorch และ JAX โดยตรง รวมถึงเอนจิน vLLM สำหรับการอนุมาน

บริษัททั้งสองกล่าวว่า Google TPU บน OCI จะพร้อมให้บริการในปีปฏิทิน 2027 โดยจะทยอยขยายกำลังให้บริการตลอดหลายปี เพื่อตอบสนองความต้องการของลูกค้า