Hirundo เพิ่มทุน 8 ล้านดอลลาร์ เพื่อแก้ไขปัญหาฮัลลูซิเนชันของ AI ด้วยการเรียนรู้ของเครื่องจักร

Hirundo เป็นสตาร์ทอัพแรกที่อุทิศให้กับการเรียนรู้ของเครื่องจักร ได้เพิ่มทุน 8 ล้านดอลลาร์ในการระดมทุนรอบแรกเพื่อแก้ไขปัญหาที่ท้าทายที่สุดในด้านปัญญาประดิษฐ์ ได้แก่ ฮัลลูซิเนชัน ความลำเอียง และความเสี่ยงของข้อมูลที่ฝังตัว การระดมทุนรอบนี้ได้รับการนำส 領โดย Maverick Ventures Israel โดยมีการเข้าร่วมจาก SuperSeed Alpha Intelligence Capital Tachles VC AI.FUND และ Plug and Play Tech Center

การทำให้ AI ลืม: ความสัญญาของการเรียนรู้ของเครื่องจักร

ไม่เหมือนกับเครื่องมือ AI ที่เน้นการปรับปรุงหรือการกรองผลลัพธ์ของ AI Hirundo มีการพัฒนา การเรียนรู้ของเครื่องจักร ซึ่งเป็นเทคนิคที่ช่วยให้ AI สามารถ “ลืม” ความรู้หรือพฤติกรรมเฉพาะหลังจากที่ได้รับการฝึกอบรมแล้ว วิธีการนี้ช่วยให้ธุรกิจสามารถกำจัดฮัลลูซิเนชัน ความลำเอียง ข้อมูลส่วนบุคคลหรือสิทธิ์ในทรัพย์สิน และความเสี่ยงของข้อมูลที่ฝังตัวออกจากโมเดล AI ที่ใช้งานอยู่โดยไม่ต้องฝึกอบรมใหม่ตั้งแต่ต้น การฝึกอบรมโมเดลขนาดใหญ่อาจใช้เวลาหลายสัปดาห์และหลายล้านดอลลาร์ Hirundo มีวิธีการที่มีประสิทธิภาพมากกว่า

Hirundo เปรียบเทียบกระบวนการนี้กับ การผ่าตัดสมอง AI บริษัทสามารถระบุได้แม่นยำว่าพฤติกรรมที่ไม่พึงประสงค์มาจากที่ใดในพารามิเตอร์ของโมเดล และสามารถกำจัดพฤติกรรมเหล่านั้นได้อย่างแม่นยำโดยไม่สูญเสียประสิทธิภาพ วิธีการนี้ช่วยให้องค์กรสามารถแก้ไขโมเดลที่ใช้งานอยู่และใช้ AI ได้อย่างมั่นใจมากขึ้น

ทำไมฮัลลูซิเนชันของ AI จึงอันตรายมาก

ฮัลลูซิเนชันของ AI หมายถึงความสามารถของโมเดลในการสร้างข้อมูลที่ไม่ถูกต้องหรือทำให้เข้าใจผิด ซึ่งดูเหมือนจริงหรือเป็นข้อเท็จจริง ฮัลลูซิเนชันเหล่านี้เป็นปัญหาที่ร้ายแรงในบรรยากาศขององค์กร โดยที่การตัดสินใจโดยอาศัยข้อมูลที่ไม่ถูกต้องสามารถนำไปสู่ ความเสี่ยงทางกฎหมาย ข้อผิดพลาดในการดำเนินงาน และความเสียหายต่อชื่อเสียง การศึกษาบางอย่างพบว่า 58 ถึง 82% ของ “ข้อเท็จจริง” ที่สร้างโดย AI สำหรับการซักถามทางกฎหมาย มีข้อผิดพลาดบางอย่าง

尽管มีการพยายามลดฮัลลูซิเนชันโดยใช้การป้องกันหรือการปรับแต่ง แต่วิธีการเหล่านี้มักจะซ่อนปัญหาแทนที่จะกำจัดมัน การป้องกันทำงานเหมือนฟิลเตอร์ และการปรับแต่งมักจะล้มเหลวในการกำจัดสาเหตุของฮัลลูซิเนชัน โดยเฉพาะอย่างยิ่งเมื่อฮัลลูซิเนชันฝังลึกในน้ำหนักของโมเดลที่ได้รับการฝึกอบรม Hirundo มีวิธีการที่เหนือกว่านี้โดยการกำจัดพฤติกรรมหรือความรู้ออกจากโมเดลโดยตรง

แพลตฟอร์มที่มีความสามารถในการปรับขนาดสำหรับ AI ทุกประเภท

แพลตฟอร์มของ Hirundo ถูกสร้างขึ้นสำหรับความยืดหยุ่นและความพร้อมในการใช้งานในระดับองค์กร แพลตฟอร์มนี้สามารถทำงานร่วมกับระบบที่สร้างข้อมูลและไม่สร้างข้อมูลทั่วทั้งประเภทข้อมูลต่างๆ เช่น ภาษาธรรมชาติ การมองเห็น เรดาร์ ลิแดร์ ตาราง คุยกัน และเวลา แพลตฟอร์มจะตรวจจับข้อผิดพลาดและความไม่แน่นอนในข้อมูลฝึกอบรมโดยอัตโนมัติ จากนั้นผู้ใช้สามารถแก้ไขผลลัพธ์ที่ผิดพลาดและติดตามกลับไปยังข้อมูลฝึกอบรมที่มีปัญหาหรือพฤติกรรมที่ได้รับการฝึกอบรมซึ่งสามารถถูกลบออกได้ทันที

สิ่งนี้ทำได้ โดยไม่ต้องเปลี่ยนแปลงกระบวนการทำงาน ระบบ SOC-2 ที่ได้รับการรับรองของ Hirundo สามารถทำงานผ่าน SaaS คลาวด์ส่วนตัว (VPC) หรือแม้กระทั่งบนพื้นที่โดยไม่ต้องเชื่อมต่อ ทำให้เหมาะสำหรับสภาพแวดล้อมที่มีความละเอียดอ่อน เช่น การเงิน การดูแลสุขภาพ และการป้องกัน

ผลกระทบที่ได้รับการพิสูจน์ข้ามโมเดล

บริษัทได้แสดงผลการปรับปรุงที่แข็งแกร่งแล้วในโมเดลภาษาที่มีขนาดใหญ่ (LLM) ในการทดสอบโดยใช้ Llama และ DeepSeek Hirundo ประสบความสำเร็จในการลดฮัลลูซิเนชันลง 55% ลดความลำเอียงลง 70% และลดการโจมตีแบบพรอมป์ที่ประสบความสำเร็จลง 85% ผลลัพธ์เหล่านี้ได้รับการยืนยันโดยใช้มาตรฐานอิสระ เช่น HaluEval PurpleLlama และ Bias Benchmark Q&A

ในขณะที่วิธีแก้ปัญหาปัจจุบันทำงานได้ดีกับโมเดลที่เปิดเผย เช่น Llama Mistral และ Gemma Hirundo กำลังขยายการสนับสนุนไปยังโมเดลที่มีการปิดกั้น เช่น ChatGPT และ Claude สิ่งนี้ทำให้เทคโนโลยีของพวกเขามีความสามารถในการใช้งานทั่วทั้งโมเดล LLM ขององค์กร

ผู้ก่อตั้งที่มีความลึกทางวิชาการและอุตสาหกรรม

Hirundo ก่อตั้งขึ้นในปี 2023 โดยทีมผู้เชี่ยวชาญที่มีความเชี่ยวชาญทั้งทางวิชาการและอุตสาหกรรม AI CEO Ben Luria เป็นนักวิจัยที่ได้รับทุนจาก Rhodes และเคยเป็นนักวิจัยที่มหาวิทยาลัย Oxford ก่อนหน้านี้เขาเป็นผู้ก่อตั้ง Worqly และร่วมก่อตั้ง ScholarsIL องค์กรที่ไม่แสวงหาผลกำไรที่สนับสนุนการศึกษาระดับสูง Michael Leybovich CTO ของ Hirundo เป็นนักวิจัยที่ Technion และเป็นเจ้าหน้าที่ R&D ที่ Ofek324 ที่ได้รับรางวัล Prof. Oded Shmueli นักวิทยาศาสตร์หลักของบริษัท เป็นอดีตคณบดีคณะวิทยาศาสตร์คอมพิวเตอร์ที่ Technion และเคยดำรงตำแหน่งนักวิจัยที่ IBM HP AT&T (T ) และอื่นๆ

ประสบการณ์ของพวกเขารวมถึงการวิจัย AI พื้นฐาน การใช้งานจริง และการจัดการข้อมูลที่ปลอดภัย ทำให้พวกเขาเป็นคนเดียวที่มีคุณสมบัติในการแก้ไขวิกฤตความน่าเชื่อถือของอุตสาหกรรม AI ในปัจจุบัน

การสนับสนุนจากนักลงทุนสำหรับอนาคต AI ที่น่าเชื่อถือ

นักลงทุนในรอบนี้สอดคล้องกับวิสัยทัศน์ของ Hirundo ในการสร้าง AI ที่น่าเชื่อถือและพร้อมสำหรับองค์กร Yaron Carni ผู้ก่อตั้ง Maverick Ventures Israel ระบุถึงความจำเป็นเร่งด่วนสำหรับแพลตฟอร์มที่สามารถกำจัดข้อมูลที่ฮัลลูซิเนตหรือมีอคติออกจาก AI ก่อนที่จะก่อให้เกิดอันตรายในโลกแห่งความเป็นจริง “หากไม่มีการกำจัดฮัลลูซิเนชันหรือความฉลาดที่มีอคติออกจาก AI เราจะส่งผลให้เกิดผลลัพธ์ที่บิดเบี้ยวและกระตุ้นให้เกิดความไม่เชื่อถือ” เขากล่าว “Hirundo มีแนวทาง AI ที่คล้ายกับการผ่าตัด – การกำจัดความไม่จริงหรือข้อมูลที่สร้างขึ้นจากแหล่งที่มีการเลือกปฏิบัติและเปลี่ยนแปลงความเป็นไปได้ของ AI อย่างสมบูรณ์”

Mads Jensen หุ้นส่วนผู้จัดการของ SuperSeed ยังเห็นด้วยกับข้อความนี้ “เราลงทุนในบริษัท AI ที่ไม่ธรรมดาที่กำลังเปลี่ยนแปลงแนวตั้งอุตสาหกรรม แต่การเปลี่ยนแปลงนี้มีประสิทธิภาพเท่ากับโมเดลที่น่าเชื่อถือ Hirundo มีแนวทางในการเรียนรู้ของเครื่องจักรที่แก้ไขช่องว่างที่สำคัญในวงจรชีวิตของ AI”

การแก้ไขปัญหาที่เพิ่มขึ้นในการใช้งาน AI

เมื่อระบบ AI ถูกผสมผสานเข้ากับโครงสร้างพื้นฐานที่สำคัญ ความกังวลเกี่ยวกับ ฮัลลูซิเนชัน อคติ และข้อมูลที่ฝังตัวที่มีความละเอียดอ่อนกำลังเพิ่มขึ้น ปัญหาเหล่านี้มีความเสี่ยงสูงในบรรยากาศที่มีความเสี่ยงสูง ตั้งแต่การเงินไปจนถึงการดูแลสุขภาพและการป้องกัน

การเรียนรู้ของเครื่องจักรกำลังเป็นเครื่องมือที่สำคัญในการตอบสนองต่อความกังวลที่เพิ่มขึ้นเกี่ยวกับความน่าเชื่อถือและความปลอดภัยของโมเดล เมื่อฮัลลูซิเนชัน อคติ และการเปิดเผยข้อมูลที่มีความละเอียดอ่อนเพิ่มขึ้นและทำลายความไว้วางใจในระบบ AI ที่ใช้งาน การเรียนรู้ของเครื่องจักรให้วิธีการโดยตรงในการบรรเทาความเสี่ยงเหล่านี้ – หลังจาก ที่โมเดลได้รับการฝึกอบรมและใช้งานแล้ว

แทนที่จะพึ่งพาการฝึกอบรมใหม่หรือการแก้ไขพื้นผิว เช่น การกรอง การเรียนรู้ของเครื่องจักรช่วยให้สามารถกำจัดพฤติกรรมหรือข้อมูลที่มีปัญหาออกจากโมเดลที่ใช้งานได้ วิธีการนี้กำลังได้รับการยอมรับจากองค์กรและหน่วยงานรัฐบาลที่กำลังมองหาวิธีแก้ปัญหาที่มีความสามารถในการปรับขนาดและปฏิบัติตามข้อกำหนดสำหรับการใช้งานที่มีความเสี่ยงสูง