ไอศวรรยา โกเอล เป็นร่วมก่อตั้งและซีอีโอของ Inferless ซึ่งเป็นแพลตฟอร์ม serverless ที่มีสถานะ ช่วยให้นักพัฒนาสามารถใช้โมเดลที่กำหนดเองและเปิด源码ได้ โดยมีการเริ่มต้นใหม่ที่ต่ำและ Autoscaling ที่มีประสิทธิภาพ
เมื่อพูดถึงแอปพลิเคชันที่ขับเคลื่อนด้วย AI ในแบบเรียลไทม์ เช่น รถยนต์ไร้คนขับ หรือ การตรวจสอบสุขภาพ การประมวลผลอินพุตเพิ่มเติมเพียงวินาทีเดียวอาจมีผลกระทบร้ายแรงได้ แอปพลิเคชัน AI ในแบบเรียลไทม์ต้องการ GPU และพลังประมวลผลที่เชื่อถือได้ ซึ่งเคยเป็นเรื่องที่มีค่าใช้จ่ายสูงและเป็นอุปสรรคต่อการนำไปใช้ – จนถึงตอนนี้ด้วยการนำกระบวนการอนุมานที่ได้รับการปรับปรุงมาใช้ธุรกิจไม่เพียงแต่สามารถเพิ่มประสิทธิภาพ AI ให้สูงสุดเท่านั้น แต่ยังสามารถลดการบริโภคพลังงานและค่าใช้จ่ายในการดำเนินงาน (มากถึง 90%) เพิ่มความเป็นส่วนตัวและความปลอดภัย และแม้แต่เพิ่มความพึงพอใจของลูกค้าปัญหาการอนุมานทั่วไปบางปัญหาที่พบบ่อยที่สุดซึ่งบริษัทต่างๆ ต้องเผชิญเมื่อต้องจัดการกับประสิทธิภาพของ AI ได้แก่...
