Hirundo Raises $8M để Đối phó với ảo giác AI với Máy học quên

Hirundo, công ty khởi nghiệp đầu tiên dành cho máy học quên, đã huy động được 8 triệu đô la trong vòng tài trợ hạt giống để giải quyết một số thách thức cấp bách nhất trong trí tuệ nhân tạo: ảo giác, thiên vị và lỗ hổng dữ liệu nhúng. Vòng này được dẫn đầu bởi Maverick Ventures Israel với sự tham gia của SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND, và Plug and Play Tech Center.

Làm cho AI Quên: Lời hứa của Máy học quên

Không giống như các công cụ AI truyền thống tập trung vào việc tinh chỉnh hoặc lọc đầu ra AI, đổi mới cốt lõi của Hirundo là máy học quên – một kỹ thuật cho phép mô hình AI “quên” kiến thức hoặc hành vi cụ thể sau khi chúng đã được đào tạo. Cách tiếp cận này cho phép các doanh nghiệp loại bỏ ảo giác, thiên vị, dữ liệu cá nhân hoặc độc quyền và lỗ hổng dễ bị tấn công từ các mô hình AI đã được triển khai mà không cần đào tạo lại chúng từ đầu. Việc đào tạo lại các mô hình lớn có thể mất vài tuần và hàng triệu đô la; Hirundo cung cấp một giải pháp thay thế hiệu quả hơn nhiều.

Hirundo so sánh quá trình này với phẫu thuật thần kinh AI: công ty xác định chính xác vị trí trong các tham số của mô hình mà các đầu ra không mong muốn xuất phát và loại bỏ chúng một cách chính xác, đồng thời giữ nguyên hiệu suất. Kỹ thuật đột phá này cho phép các tổ chức khắc phục mô hình trong môi trường sản xuất và triển khai AI với sự tự tin nhiều hơn.

Tại sao ảo giác AI lại nguy hiểm như vậy

Ảo giác AI đề cập đến xu hướng của mô hình tạo ra thông tin sai hoặc gây hiểu lầm mà nghe có vẻ hợp lý hoặc thậm chí là事 thực. Những ảo giác này đặc biệt gây vấn đề trong môi trường doanh nghiệp, nơi các quyết định dựa trên thông tin không chính xác có thể dẫn đến phơi bày pháp lý, lỗi vận hành và thiệt hại về danh tiếng. Các nghiên cứu đã chỉ ra rằng 58 đến 82% “sự kiện” được tạo ra bởi AI cho các truy vấn pháp lý chứa một số loại ảo giác.

Mặc dù có những nỗ lực để giảm thiểu ảo giác bằng cách sử dụng rào cản hoặc tinh chỉnh, nhưng những phương pháp này thường che giấu vấn đề hơn là loại bỏ chúng. Rào cản hoạt động như bộ lọc, và tinh chỉnh thường không loại bỏ nguyên nhân gốc rễ – đặc biệt khi ảo giác được nướng sâu vào trọng số đã học của mô hình. Hirundo vượt qua điều này bằng cách thực sự loại bỏ hành vi hoặc kiến thức khỏi mô hình.

Một Nền tảng Có thể mở rộng cho Bất kỳ Đống AI nào

Nền tảng của Hirundo được xây dựng để linh hoạt và triển khai cấp doanh nghiệp. Nó tích hợp với cả hệ thống tạo và không tạo ra trên một loạt các loại dữ liệu – ngôn ngữ tự nhiên, tầm nhìn, radar, LiDAR, bảng, giọng nói và thời gian. Nền tảng tự động phát hiện các mục bị dán nhãn sai, các giá trị ngoại lệ và sự mơ hồ trong dữ liệu đào tạo. Sau đó, nó cho phép người dùng gỡ lỗi các đầu ra bị lỗi cụ thể và theo dõi chúng trở lại dữ liệu đào tạo hoặc hành vi đã học có vấn đề, có thể bị quên ngay lập tức.

Tất cả đều được thực hiện không thay đổi quy trình làm việc. Hệ thống được chứng nhận SOC-2 của Hirundo có thể được chạy qua SaaS, đám mây riêng (VPC) hoặc thậm chí là không gian trên cơ sở trên-premises, khiến nó phù hợp với các môi trường nhạy cảm như tài chính, chăm sóc sức khỏe và quốc phòng.

Tác động đã được chứng minh trên các Mô hình

Công ty đã chứng minh sự cải thiện hiệu suất mạnh mẽ trên các mô hình ngôn ngữ lớn (LLM) phổ biến. Trong các thử nghiệm sử dụng Llama và DeepSeek, Hirundo đã đạt được giảm 55% ảo giác, giảm 70% thiên vị và giảm 85% tấn công tiêm lệnh thành công. Những kết quả này đã được xác minh bằng các chuẩn mực độc lập như HaluEval, PurpleLlama và Bias Benchmark Q&A.

Trong khi các giải pháp hiện tại hoạt động tốt với các mô hình mã nguồn mở như Llama, Mistral và Gemma, Hirundo đang tích cực mở rộng hỗ trợ cho các mô hình cổng như ChatGPT và Claude. Điều này làm cho công nghệ của họ có thể áp dụng trên toàn phổ mô hình LLM doanh nghiệp.

Người sáng lập với Độ sâu Học thuật và Công nghiệp

Hirundo được thành lập vào năm 2023 bởi một bộ ba chuyên gia tại giao điểm của học thuật và AI doanh nghiệp. CEO Ben Luria là một học giả Rhodes và cựu nghiên cứu sinh tại Oxford, người trước đây đã thành lập công ty khởi nghiệp fintech Worqly và đồng sáng lập ScholarsIL, một tổ chức phi lợi nhuận hỗ trợ giáo dục đại học. Michael Leybovich, CTO của Hirundo, là một cựu nghiên cứu sinh tại Technion và sĩ quan R&D được giải thưởng tại Ofek324. Prof. Oded Shmueli, Nhà khoa học trưởng của công ty, là cựu trưởng khoa Khoa học Máy tính tại Technion và đã giữ các vị trí nghiên cứu tại IBM, HP, AT&T (T ) và nhiều hơn.

Kinh nghiệm tập thể của họ bao gồm nghiên cứu AI cơ bản, triển khai thực tế và quản lý dữ liệu an toàn – khiến họ trở nên độc đáo để giải quyết cuộc khủng hoảng tin cậy AI hiện tại.

Hỗ trợ Đầu tư cho Tương lai AI Tin cậy

Các nhà đầu tư trong vòng này được đồng nhất với tầm nhìn của Hirundo về việc xây dựng AI đáng tin cậy, sẵn sàng cho doanh nghiệp. Yaron Carni, người sáng lập Maverick Ventures Israel, lưu ý nhu cầu cấp thiết đối với một nền tảng có thể loại bỏ trí tuệ ảo giác hoặc thiên vị trước khi nó gây ra thiệt hại trong thế giới thực. “Không loại bỏ ảo giác hoặc trí tuệ thiên vị khỏi AI, chúng ta sẽ làm sai lệch kết quả và khuyến khích sự mất lòng tin,” ông nói. “Hirundo cung cấp một loại hình AI cấp cứu – loại bỏ sự không trung thực hoặc dữ liệu được xây dựng trên nguồn phân biệt và hoàn toàn biến đổi khả năng của AI.”

Đối tác quản lý của SuperSeed, Mads Jensen, cũng đồng tình với quan điểm này: “Chúng tôi đầu tư vào các công ty AI đặc biệt đang biến đổi các ngành dọc, nhưng sự biến đổi này chỉ mạnh mẽ như các mô hình chính nó đáng tin cậy. Cách tiếp cận của Hirundo đối với máy học quên giải quyết một khoảng trống quan trọng trong chu kỳ phát triển AI.”

Đáp ứng Thử thách Tăng trưởng trong Triển khai AI

Khi các hệ thống AI ngày càng được tích hợp vào cơ sở hạ tầng quan trọng, lo ngại về ảo giác, thiên vị và dữ liệu nhạy cảm nhúng đang trở nên khó bỏ qua. Những vấn đề này tạo ra rủi ro đáng kể trong môi trường có mức độ cao, từ tài chính đến chăm sóc sức khỏe và quốc phòng.

Máy học quên đang nổi lên như một công cụ quan trọng trong phản ứng của ngành AI đối với lo ngại ngày càng tăng về độ tin cậy và an toàn của mô hình. Khi ảo giác, thiên vị nhúng và lộ dữ liệu nhạy cảm ngày càng làm suy yếu niềm tin vào các hệ thống AI đã triển khai, việc quên đi cung cấp một cách trực tiếp để giảm thiểu những rủi ro này – sau khi mô hình đã được đào tạo và đang được sử dụng.

Thay vì dựa vào việc đào tạo lại hoặc các giải pháp bề mặt như lọc, máy học quên cho phép loại bỏ hành vi hoặc dữ liệu có vấn đề khỏi các mô hình đã được sản xuất. Cách tiếp cận này đang thu hút sự quan tâm của các doanh nghiệp và cơ quan chính phủ đang tìm kiếm các giải pháp tuân thủ và có thể mở rộng cho các ứng dụng có mức độ cao.