ต้นขั้ว ค่าใช้จ่ายในการฝึกอบรม AI ลดลงอย่างต่อเนื่อง - Unite.AI
เชื่อมต่อกับเรา

ปัญญาประดิษฐ์

ค่าใช้จ่ายในการฝึกอบรม AI ลดลงอย่างต่อเนื่อง

mm

การตีพิมพ์

 on

ภาพที่แสดงถึงแนวโน้มของเงิน

ค่าใช้จ่ายในการฝึกอบรม AI ที่สูงเป็นอุปสรรคสำคัญต่อการนำ AI มาใช้ ทำให้หลายบริษัทไม่สามารถนำเทคโนโลยี AI ไปใช้ได้ ตามที่ ก รายงานการให้คำปรึกษาของ Forrester ประจำปี 201748% ของบริษัทต่างๆ ให้ความสำคัญกับต้นทุนด้านเทคโนโลยีที่สูงซึ่งเป็นหนึ่งในเหตุผลหลักที่ไม่นำโซลูชันที่ขับเคลื่อนด้วย AI ไปใช้

อย่างไรก็ตาม การพัฒนาล่าสุดแสดงให้เห็นว่าค่าใช้จ่ายในการฝึกอบรม AI กำลังลดลงอย่างรวดเร็ว และแนวโน้มนี้คาดว่าจะดำเนินต่อไปในอนาคต ให้เป็นไปตาม รายงาน ARK Invest Big Ideas 2023ค่าใช้จ่ายในการฝึกอบรมโมเดลภาษาขนาดใหญ่ที่คล้ายกับประสิทธิภาพระดับ GPT-3 ลดลงจาก 4.6 ล้านดอลลาร์ในปี 2020 เป็น 450,000 ดอลลาร์ในปี 2022 ซึ่งลดลง 70% ต่อปี

เรามาสำรวจแนวโน้มของต้นทุนการฝึกอบรม AI ที่ลดลงนี้กันต่อไป และหารือเกี่ยวกับปัจจัยที่มีส่วนทำให้ต้นทุนการฝึกอบรมลดลง

ต้นทุนการฝึกอบรม AI เปลี่ยนแปลงไปอย่างไรเมื่อเวลาผ่านไป?

ตามข้อมูลล่าสุด การวิจัย ARK ลงทุน 2020ค่าใช้จ่ายในการฝึกอบรมโมเดลการเรียนรู้เชิงลึกนั้นพัฒนาเร็วกว่ากฎของมัวร์ถึง 50 เท่า ในความเป็นจริง ค่าใช้จ่ายที่เกี่ยวข้องกับการใช้งานระบบการอนุมานของ AI ได้ลดลงอย่างมากจนถึงระดับที่แทบไม่มีนัยสำคัญสำหรับกรณีการใช้งานจำนวนมาก

นอกจากนี้ ค่าใช้จ่ายในการฝึกอบรมยังลดลงถึง 2017 เท่าต่อปีในช่วงไม่กี่ปีที่ผ่านมา ตัวอย่างเช่น ในปี 50 การฝึกอบรม Image Classifier เช่น ResNet-1,000 บนคลาวด์สาธารณะมีค่าใช้จ่ายประมาณ 2019 ดอลลาร์ แต่ในปี 10 ค่าใช้จ่ายลดลงอย่างมากเหลือประมาณ XNUMX ดอลลาร์

การค้นพบนี้สอดคล้องกับ a รายงานปี 2020 โดย OpenAIซึ่งพบว่าปริมาณพลังการประมวลผลที่จำเป็นในการฝึกโมเดล AI เพื่อทำงานเดียวกันนั้นลดลง 16 เท่าทุกๆ 2012 เดือนตั้งแต่ปี XNUMX

นอกจากนี้ รายงาน ARK ชี้ให้เห็นถึงต้นทุนการฝึกอบรม AI ที่ลดลง รายงานคาดการณ์ว่าภายในปี 2030 ค่าใช้จ่ายในการฝึกอบรมของโมเดลระดับ GPT-3 จะลดลงเหลือ 30 ดอลลาร์สหรัฐฯ เทียบกับ 450,000 ดอลลาร์สหรัฐฯ ในปี 2022

ค่าใช้จ่ายในการฝึกอบรมประสิทธิภาพระดับ GPT-3

ค่าใช้จ่ายในการฝึกอบรมประสิทธิภาพระดับ GPT-3 – ARK ลงทุนแนวคิดที่ยิ่งใหญ่ 2023

ปัจจัยที่ส่งผลให้ต้นทุนการฝึกอบรม AI ลดลง

โมเดล AI การฝึกอบรมมีราคาถูกลงและง่ายขึ้นเนื่องจากเทคโนโลยี AI ปรับปรุงอย่างต่อเนื่อง ทำให้ธุรกิจต่างๆ เข้าถึงได้มากขึ้น ปัจจัยหลายอย่าง รวมถึงต้นทุนฮาร์ดแวร์และซอฟต์แวร์ และ AI บนคลาวด์ มีส่วนทำให้ต้นทุนการฝึกอบรม AI ลดลง

ลองสำรวจปัจจัยเหล่านี้ด้านล่าง

1 ฮาร์ดแวร์

AI ต้องการฮาร์ดแวร์พิเศษราคาแพงเพื่อประมวลผลข้อมูลและการคำนวณปริมาณมาก องค์กรต่างๆ เช่น NVIDIA, IBM และ Google ให้บริการ GPUs และ TPU เพื่อดำเนินการปริมาณงานการประมวลผลประสิทธิภาพสูง (HPC) ต้นทุนฮาร์ดแวร์ที่สูงทำให้ยากต่อการทำให้ AI เป็นประชาธิปไตยในวงกว้าง

อย่างไรก็ตาม เมื่อเทคโนโลยีก้าวหน้าขึ้น ต้นทุนฮาร์ดแวร์ก็ลดลง ให้เป็นไปตาม รายงาน ARK Invest 2023กฎของไรท์คาดการณ์ว่าต้นทุนการผลิตของ AI-relative compute unit (RCU) เช่น ต้นทุนฮาร์ดแวร์การฝึกอบรม AI ควรลดลง 57% ต่อปี ส่งผลให้ต้นทุนการฝึกอบรม AI ลดลง 70% ภายในปี 2030 ดังแสดงในกราฟด้านล่าง

ค่าฮาร์ดแวร์การฝึกอบรม AI

ค่าฮาร์ดแวร์การฝึกอบรม AI – ARK ลงทุนแนวคิดที่ยิ่งใหญ่ 2023

2 ซอฟต์แวร์

ต้นทุนการฝึกอบรมซอฟต์แวร์ AI สามารถลดลงได้ 47% ต่อปี ผ่านการเพิ่มประสิทธิภาพและความสามารถในการปรับขนาด กรอบซอฟต์แวร์เช่น TensorFlow และ ไพทอร์ช ช่วยให้นักพัฒนาสามารถฝึกอบรมโมเดลการเรียนรู้เชิงลึกที่ซับซ้อนบนระบบแบบกระจายที่มีประสิทธิภาพสูง ประหยัดเวลาและทรัพยากร

นอกจากนี้ โมเดลขนาดใหญ่ที่ผ่านการฝึกอบรมมาแล้ว เช่น อินเซ็ปชั่นv3 or เรสเน็ต และการถ่ายโอนเทคนิคการเรียนรู้ยังช่วยลดค่าใช้จ่ายด้วยการอนุญาตให้นักพัฒนาปรับแต่งโมเดลที่มีอยู่ แทนที่จะฝึกอบรมตั้งแต่เริ่มต้น

ค่าฝึกอบรมซอฟต์แวร์ AI

ค่าฝึกอบรมซอฟต์แวร์ AI – ARK ลงทุนแนวคิดที่ยิ่งใหญ่ 2023

3. ปัญญาประดิษฐ์บนคลาวด์

การฝึกอบรม AI บนคลาวด์ช่วยลดต้นทุนโดยการจัดหาทรัพยากรการประมวลผลที่ปรับขนาดได้ตามความต้องการ ด้วยโมเดลจ่ายตามการใช้งานจริง ธุรกิจจะจ่ายเฉพาะทรัพยากรคอมพิวเตอร์ของตนเท่านั้น นอกจากนี้ ผู้ให้บริการคลาวด์ยังเสนอบริการ AI ที่สร้างไว้ล่วงหน้าซึ่งช่วยเร่งการฝึกอบรม AI

ยกตัวอย่างเช่น การเรียนรู้ของเครื่อง Azure เป็นบริการบนคลาวด์สำหรับการวิเคราะห์เชิงคาดการณ์ที่ช่วยให้สามารถพัฒนาและใช้งานโมเดลได้อย่างรวดเร็ว มีทรัพยากรการประมวลผลและหน่วยความจำที่ยืดหยุ่น ผู้ใช้สามารถปรับขนาด GPU ได้มากถึงหลายพันตัวอย่างรวดเร็วเพื่อเพิ่มประสิทธิภาพการประมวลผล ช่วยให้ผู้ใช้สามารถทำงานผ่านเว็บเบราว์เซอร์ในสภาพแวดล้อม AI ที่กำหนดค่าไว้ล่วงหน้า ช่วยลดค่าใช้จ่ายในการติดตั้งและการติดตั้ง

ผลกระทบของต้นทุนการฝึกอบรม AI ที่ลดลง

ค่าใช้จ่ายในการฝึกอบรม AI ที่ลดลงมีนัยสำคัญต่ออุตสาหกรรมและสาขาต่างๆ ส่งผลให้นวัตกรรมและความสามารถในการแข่งขันดีขึ้น

เรามาคุยกันสองสามข้อด้านล่าง

1. การนำ AI Chatbots ที่ซับซ้อนมาใช้จำนวนมาก

แชทบอท AI กำลังเพิ่มขึ้นเนื่องจากต้นทุน AI ที่ลดลง โดยเฉพาะอย่างยิ่งหลังจากการพัฒนาของ OpenAI ChatGPT และ จีพีที-4 (Generative Pre-trained Transformer) มีจำนวนบริษัทจำนวนมากที่ต้องการพัฒนาแชทบอท AI ที่มีความสามารถใกล้เคียงกันหรือดีกว่า

ตัวอย่างเช่น ห้าวันหลังจากเปิดตัวในเดือนพฤศจิกายน 2022 ChatGPT มีผู้ใช้ 1 ล้านคน แม้ว่าในปัจจุบัน ค่าใช้จ่ายในการรันโมเดลตามสเกลจะอยู่ที่ประมาณ 01 ดอลลาร์ต่อการสืบค้น 2030 ครั้ง แต่กฎของไรท์คาดการณ์ว่าภายในปี 650 แอปพลิเคชันแชทบอทที่คล้ายกับ ChatGPT จะถูกนำไปใช้ในสเกลขนาดใหญ่ที่มีราคาถูกกว่ามาก (ประมาณ 8.5 ดอลลาร์สำหรับการเรียกใช้ข้อความค้นหาพันล้านรายการ) ด้วยศักยภาพในการประมวลผลการค้นหา XNUMX พันล้านครั้งต่อวัน เทียบเท่ากับ Google Search

ค่าใช้จ่ายในการดำเนินการอนุมาน AI ต่อหนึ่งพันล้านข้อความค้นหา

ค่าใช้จ่ายในการดำเนินการอนุมาน AI ต่อหนึ่งพันล้านข้อความค้นหา – ARK ลงทุนแนวคิดที่ยิ่งใหญ่ 2023

2. เพิ่มการใช้ Generative AI

ค่าใช้จ่ายในการฝึกอบรม AI ที่ลดลงได้นำไปสู่การพัฒนาและการใช้เทคโนโลยี generative AI ที่เพิ่มขึ้นอย่างรวดเร็ว ในปี 2022 มีการใช้ generative AI เพิ่มขึ้นอย่างมาก โดยได้แรงหนุนจากการเปิดตัวเครื่องมือ generative AI ที่เป็นนวัตกรรมใหม่ เช่น DALL-E 2, Meta Make-A-Video และ Stable Diffusion ในปี 2023 เราได้เห็นโมเดลที่ล้ำสมัยในรูปแบบของ GPT-4 แล้ว

นอกเหนือจากการสร้างรูปภาพและข้อความแล้ว AI กำเนิดยังช่วยนักพัฒนาในการเขียนโค้ด โปรแกรมเช่น GitHub Copilot สามารถช่วยเขียนโค้ดให้เสร็จภายในเวลาเพียงครึ่งเดียว

ใช้เวลาในการเขียนโค้ดให้เสร็จ

เวลาในการเขียนโค้ดให้เสร็จสมบูรณ์ – ARK ลงทุนแนวคิดที่ยิ่งใหญ่ 2023

3. การใช้ข้อมูลการฝึกอบรมที่ดีขึ้น

ต้นทุนการฝึกอบรม AI ที่ลดลงคาดว่าจะช่วยให้สามารถใช้ประโยชน์จากข้อมูลการฝึกอบรมการเรียนรู้ของเครื่องได้ดีขึ้น ตัวอย่างเช่น รายงาน ARK Invest 2023 ชี้ให้เห็นว่าภายในปี 2030 ค่าใช้จ่ายในการฝึกอบรมโมเดลที่มีพารามิเตอร์มากกว่า 57 เท่าและโทเค็นมากกว่า 720 เท่าของ GPT-3 (พารามิเตอร์ 175B) คาดว่าจะลดลงจาก 17 พันล้านดอลลาร์เป็น 600,000 ดอลลาร์

ความพร้อมใช้งานและคุณภาพของข้อมูลจะเป็นปัจจัยจำกัดหลักสำหรับการพัฒนาโมเดลแมชชีนเลิร์นนิงขั้นสูงในโลกที่มีต้นทุนต่ำใบนี้ อย่างไรก็ตาม โมเดลการฝึกอบรมจะพัฒนาขีดความสามารถในการประมวลผลประมาณ 162 ล้านล้านคำ หรือ 216 ล้านล้านโทเค็น

อนาคตของ AI ดูสดใสมาก หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับแนวโน้มล่าสุดและการวิจัยในด้านปัญญาประดิษฐ์ โปรดไปที่ ยูไนเต็ด.ไอ.