Η Hirundo Ανεβάζει $8M για την Αντιμετώπιση των Hallucinations του AI με τη Μηχανή Machine Unlearning

Hirundo, η πρώτη εταιρεία που ασχολείται με τη μηχανή machine unlearning, έχει ανεβάσει $8 εκατομμύρια σε χρηματοδότηση για να αντιμετωπίσει einige από τις πιο दबύχες προκλήσεις του τεχνητού νοημοσύνης: hallucinations, προκατάληψη και ενσωματωμένες ευπάθειες δεδομένων. Η χρηματοδότηση αυτή ήταν υπό την ηγεσία της Maverick Ventures Israel με τη συμμετοχή της SuperSeed, Alpha Intelligence Capital, Tachles VC, AI.FUND, και Plug and Play Tech Center.

Κάνωντας το AI να Ξεχάσει: Η Υπόσχεση της Μηχανής Machine Unlearning

Σε αντίθεση με τα παραδοσιακά εργαλεία AI που επικεντρώνονται στην εξευγενισμένη ή φιλτράρισή των εξόδων του AI, η βασική καινοτομία της Hirundo είναι η μηχανή machine unlearning – μια τεχνική που επιτρέπει στα μοντέλα AI να “ξεχάσουν” συγκεκριμένες γνώσεις ή συμπεριφορές μετά την εκπαίδευσή τους. Αυτή η προσέγγιση επιτρέπει στις επιχειρήσεις να αφαιρέσουν χειρουργικά hallucinations, προκαταλήψεις, προσωπικά ή ιδιωτικά δεδομένα και ευπάθειες από τα μοντέλα AI που έχουν ήδη αναπτυχθεί, χωρίς να χρειάζεται να τα ξαναεκπαιδεύσουν από την αρχή. Η ξαναεκπαίδευση μεγάλων μοντέλων μπορεί να διαρκέσει εβδομάδες και εκατομμύρια δολάρια· η Hirundo προσφέρει μια πολύ πιο αποτελεσματική εναλλακτική λύση.

Η Hirundo συγκρίνει αυτή τη διαδικασία με νευροχειρουργική του AI: η εταιρεία εντοπίζει ακριβώς πού σε ένα μοντέλο παραμέτρων προέρχονται οι ανεπιθύμητες εξόδους και τις αφαιρεί με ακρίβεια, διατηρώντας παράλληλα την απόδοση. Αυτή η πρωτοποριακή τεχνική δίνει τη δυνατότητα στις οργανώσεις να θεραπεύσουν μοντέλα σε περιβάλλοντα παραγωγής και να αναπτύξουν το AI με πολύ μεγαλύτερη εμπιστοσύνη.

Γιατί οι Hallucinations του AI Είναι Τόσο Επικίνδυνες

Hallucinations του AI αναφέρονται στη τάση ενός μοντέλου να παράγει ψευδή ή παραπλανητική πληροφορία που ακούγεται πιθανή ή ακόμη και πραγματική. Αυτές οι hallucinations είναι ιδιαίτερα προβληματικές σε περιβάλλοντα επιχειρήσεων, όπου οι αποφάσεις που βασίζονται σε λανθασμένες πληροφορίες possono οδηγήσει σε νομική εκθεση, λειτουργικές λάθη και ζημιά στην εικόνα. Μελέτες έχουν δείξει ότι 58 έως 82% των “πραγματικών” πληροφοριών που παράγονται από το AI για νομικές ερωτήσεις περιέχουν κάποιο είδος hallucination.

Παρά τις προσπάθειες να μειώσουν τις hallucinations με τη χρήση φραγμών ή λεπτοβελτιώσεων, αυτές οι μεθόδους συχνά κρύβουν προβλήματα αντί να τα αφαιρούν. Οι φράγματα fungουν ως φίλτρα, και η λεπτοβελτίωση συνήθως αποτυγχάνει να αφαιρέσει την ριζική αιτία – ιδιαίτερα όταν η hallucination είναι ενσωματωμένη βαθιά στα βάρη του μοντέλου. Η Hirundo πηγαίνει πέρα από αυτό, αφαιρώντας πραγματικά τη συμπεριφορά ή τη γνώση από το μοντέλο.

Μια Κλιμακωτή Πλατφόρμα για Οποιονδήποτε Στάκο AI

Η πλατφόρμα της Hirundo είναι κατασκευασμένη για ευελιξία και ανάπτυξη επιχειρήσεων. Ενοποιείται με γεννητικά και μη γεννητικά συστήματα σε eine ευρεία γκάμα τύπων δεδομένων – φυσική γλώσσα, όραση, ραντάρ, LiDAR, πίνακες, ομιλία και χρονοσειρές. Η πλατφόρμα ανιχνεύει αυτόματα τα λανθασμένα στοιχεία, τις ngoạiλίες και τις αμφιβολίες στα δεδομένα εκπαίδευσης. Στη συνέχεια, επιτρέπει στους χρήστες να διορθώσουν συγκεκριμένες εσφαλμένες εξόδους και να τις οδηγήσουν πίσω στα προβληματικά δεδομένα εκπαίδευσης ή στις συμπεριφορές που έχουν μάθει, οι οποίες μπορούν να αφαιρεθούν άμεσα.

Αυτό επιτυγχάνεται χωρίς αλλαγή των ροών εργασίας. Το σύστημα της Hirundo, που είναι πιστοποιημένο SOC-2, μπορεί να εκτελεστεί μέσω SaaS, ιδιωτικού cloud (VPC) ή ακόμη και αερογέφυρας σε τοπικό επίπεδο, καθιστώντας το κατάλληλο για ευαίσθητα περιβάλλοντα όπως η finance, η υγεία και η άμυνα.

Αποδεδειγμένη Επίδραση σε Μοντέλα

Η εταιρεία έχει ήδη αποδείξει ισχυρή βελτίωση της απόδοσης σε δημοφιλείς μεγάλους μοντέλους γλώσσας (LLM). Σε δοκιμές με τα Llama και DeepSeek, η Hirundo πέτυχε μια μείωση των hallucinations κατά 55%, μείωση της προκατάληψης κατά 70% και μείωση των επιτυχών επιθέσεων εύρεσης προτύπων κατά 85%. Αυτά τα αποτελέσματα έχουν επιβεβαιωθεί με ανεξάρτητους δείκτες όπως HaluEval, PurpleLlama και Bias Benchmark Q&A.

Ενώ οι τρέχουσες λύσεις λειτουργούν καλά με ανοιχτά μοντέλα όπως Llama, Mistral και Gemma, η Hirundo είναι ενεργά σε εξέλιξη για την υποστήριξη μοντέλων με κλειδωμένα μοντέλα όπως ChatGPT και Claude. Αυτό καθιστά την τεχνολογία της Hirundo εφαρμόσιμη σε ολόκληρο το φάσμα των επιχειρηματικών LLM.

Ιδρυτές με Ακαδημαϊκή και Βιομηχανική Βάθος

Η Hirundo ιδρύθηκε το 2023 από ένα τρίο εμπειρογνωμόνων στο交汇 της ακαδημαϊκής και επιχειρηματικής AI. Ο CEO Ben Luria είναι ένας Rhodes Scholar και πρώην επισκέπτης ερευνητής στο Oxford, ο οποίος προηγουμένως ίδρυσε την εταιρεία fintech Worqly και συνίδρυσε την ScholarsIL, một μη κερδοσκοπική οργάνωση που υποστηρίζει την ανώτερη εκπαίδευση. Ο Michael Leybovich, ο CTO της Hirundo, είναι ένας πρώην μεταπτυχιακός ερευνητής στο Technion και βραβευμένος αξιωματικός R&D στο Ofek324. Ο Prof. Oded Shmueli, ο Επιστημονικός Διευθυντής της εταιρείας, είναι ο πρώην Διευθυντής του Τμήματος Πληροφορικής στο Technion και έχει κατέχει ερευνητικές θέσεις στην IBM, HP, AT&T (T ) και άλλα.

Η συλλογική εμπειρία τους καλύπτει θεμελιώδεις ερευνητικές εργασίες AI, πραγματικές αναπτύξεις και ασφαλή διαχείριση δεδομένων – καθιστώντας τους μοναδικά καταρτισμένους για να αντιμετωπίσουν την τρέχουσα κρίση αξιοπιστίας της βιομηχανίας AI.

Χρηματοδότηση Επενδυτών για ένα Αξιόπιστο Μέλλον του AI

Οι επενδυτές σε αυτή τη φάση είναι ευθυγραμμισμένοι με την όραση της Hirundo για την κατασκευή αξιόπιστου, επιχειρηματικού AI. Ο Yaron Carni, ιδρυτής της Maverick Ventures Israel, ανέφερε την επείγουσα ανάγκη για μια πλατφόρμα που μπορεί να αφαιρέσει hallucinated ή προκατειλημμένες πληροφορίες πριν προκαλέσει πραγματικές ζημίες. “Χωρίς την αφαίρεση hallucinations ή προκατειλημμένων πληροφοριών από το AI, καταλήγουμε να διαστρεβλώνουμε αποτελέσματα και να ενθαρρύνουμε την αμφιβολία”, είπε. “Η Hirundo προσφέρει ένα είδος AI triage – αφαιρώντας ψευδείς πληροφορίες ή δεδομένα που βασίζονται σε διακριτικές πηγές και μεταμορφώνοντας完全 τις δυνατότητες του AI.”

Ο Managing Partner της SuperSeed, Mads Jensen, επανέλαβε αυτή τη σκέψη: “Επενδύουμε σε εξαιρετικές εταιρείες AI που μεταμορφώνουν βιομηχανικές κατασκευές, αλλά αυτή η μεταμόρφωση είναι μόνο τόσο ισχυρή όσο τα μοντέλα είναι αξιόπιστα. Η προσέγγιση της Hirundo στη μηχανή machine unlearning αντιμετωπίζει ένα κρίσιμο κενό στη διαδικασία ανάπτυξης του AI.”

Αντιμετωπίζοντας μια Αυξανόμενη Πρόκληση στην Ανάπτυξη του AI

Καθώς τα συστήματα AI ενσωματώνονται όλο και περισσότερο σε κρίσιμη υποδομή, οι ανησυχίες σχετικά με hallucinations, προκατάληψη και ενσωματωμένα ευαίσθητα δεδομένα γίνονται όλο και πιο δύσκολο να αγνοηθούν. Αυτά τα ζητήματα δημιουργούν σημαντικούς κινδύνους σε περιβάλλοντα υψηλής απόδοσης, από τη finance έως την υγεία και την άμυνα.

Η μηχανή machine unlearning αναδύεται ως ένα κρίσιμο εργαλείο στην απάντηση της βιομηχανίας AI στις αυξανόμενες ανησυχίες σχετικά με την αξιοπιστία και την ασφάλεια των μοντέλων. Καθώς οι hallucinations, η προκατάληψη και η έκθεση ευαίσθητων δεδομένων υπονομεύουν όλο και περισσότερο την εμπιστοσύνη στα αναπτυγμένα συστήματα AI, η μηχανή machine unlearning προσφέρει ένα άμεσο τρόπο για την μείωση αυτών των κινδύνων – μετά την εκπαίδευση και τη χρήση του μοντέλου.

Αντί να βασίζονται στην επανεκπαίδευση ή σε επιφανειακές λύσεις όπως το φιλτράρισμα, η μηχανή machine unlearning επιτρέπει την στοχευμένη αφαίρεση προβληματικών συμπεριφορών και δεδομένων από μοντέλα που ήδη βρίσκονται σε παραγωγή. Αυτή η προσέγγιση κερδίζει έδαφος μεταξύ επιχειρήσεων και κυβερνητικών οργανισμών που αναζητούν κλιμακωτές, συμμορφούμενες λύσεις για εφαρμογές υψηλής απόδοσης.