Ο Shahar Azulay, Διευθύνων Σύμβουλος και Συνιδρυτής της groundcover

Ο Shahar Azulay, Διευθύνων Σύμβουλος και συνιδρυτής της groundcover είναι ένας ηγέτης έρευνας και ανάπτυξης. Ο Shahar φέρνει εμπειρία στον κόσμο της κυβερνοασφάλειας και του machine learning, έχοντας εργαστεί ως ηγέτης σε εταιρείες όπως η Apple, η DayTwo και η Cymotive Technologies. Ο Shahar πέρασε πολλά χρόνια στο τμήμα Κυβερνοασφάλειας του Γραφείου του Ισραηλινού Πρωθυπουργού και κατέχει τρία πτυχία στις Φυσικές Επιστήμες, την Ηλεκτρολογία και την Επιστήμη των Υπολογιστών από το Τεχνολογικό Ινστιτούτο του Ισραήλ καθώς και το Πανεπιστήμιο του Τελ Αβίβ. Ο Shahar επιδιώκει να χρησιμοποιήσει τις τεχνολογικές γνώσεις από αυτό το πλούσιο υπόβαθρο και να τις φέρει στην σημερινή cloud-native πεδίο μάχης με την πιο οξεία και καινοτόμο μορφή, για να κάνει τον κόσμο της ανάπτυξης μια καλύτερη θέση.

Η groundcover είναι μια cloud-γενική πλατφόρμα παρατηρητηρίου σχεδιασμένη για να δώσει στις ομάδες μηχανικής πλήρη, πραγματική ορατότητα στα συστήματά τους χωρίς τη σύνθετη ή το κόστος των παραδοσιακών εργαλείων παρακολούθησης. Χτισμένη με την τεχνολογία eBPF, συλλέγει και συσχετίζει καταγραφές, μετρικές, ιχνηλάσεις και συμβάντα σε cloud-γενικά και Kubernetes περιβάλλοντα χωρίς αλλαγές κώδικα, επιτρέποντας ταχύτερη ανάλυση αιτίας και σαφέστερη ορατότητα του συστήματος. Η πλατφόρμα τονίζει την προβλέψιμη τιμολόγηση, την ευέλικτη ανάπτυξη που διατηρεί τα δεδομένα στον πελάτη και την ολοκληρωμένη παρατηρητηρίου που καλύπτει την υποδομή, τις εφαρμογές και τις σύγχρονες AI-κίνητες εργασίες.

Βλέποντας πίσω στο ταξίδι σας – από την ηγεσία των ομάδων έρευνας και ανάπτυξης κυβερνοασφάλειας στο Γραφείο του Ισραηλινού Πρωθυπουργού έως τη διαχείριση πρωτοβουλιών ML στην Apple – ποίες εμπειρίες σας οδήγησαν τελικά στην ίδρυση της groundcover και πότε αναγνώρισα το κενό στην παρατηρητηρίου για σύγχρονα AI συστήματα;

Η ώθηση για την ίδρυση της groundcover ήρθε από την εποχή μου στην Apple και την DayTwo. Ακόμη και με τεράστια προϋπολογισμό, byliśmy παγιδευμένοι μεταξύ της πληρωμής μιας τύχης για να καταγράψουμε τα πάντα ή της δειγματοληψίας και του τυφλού πτήματος. Τότε, ψάχναμε για μια τεχνολογία που θα λύσει αυτό το πρόβλημα. Μόλις συναντήσαμε τον Extended Berkeley Packet Filter (eBPF), ήταν σαφές ότι θα αλλάξει τα πάντα. Ο eBPF μας επιτρέπει να δούμε όλα όσα συμβαίνουν στο πυρήνα χωρίς να βασίζουμε την εφαρμογή. Δεν μπορούσα να καταλάβω γιατί τα εργαλεία παρατηρητηρίου δεν επωφελήθηκαν από αυτό.

Πώς η προϋπόβαθρος σας στην κυβερνοασφάλεια, τα ενσωματωμένα συστήματα και την έρευνα και ανάπτυξη ML επηρέασαν την οπτική πίσω από την groundcover και ποίες πρώτες προκλήσεις αντιμετωπίσατε στη δημιουργία μιας εταιρείας που επικεντρώνεται στην παρατηρητηρίου για LLM-κίνητες και agent-κίνητες εφαρμογές;

Η προϋπόβαθρός μου στην κυβερνοασφάλεια διαμόρφωσε το DNA της εταιρείας. Στο κόσμο της πληροφόρησης, υποθέτουμε ότι δεν ελέγχουμε την εφαρμογή. Αυτή η προσέγγιση είναι ο λόγος για τον οποίο η groundcover δεν απαιτεί οργάνωση. Ξέρω από την εμπειρία μου ότι η ζήτηση από τους développers να τροποποιήσουν τον κώδικα είναι ο ταχύτερος τρόπος για να μπλοκάρει την υιοθέτηση.

Πώς ορίζετε την παρατηρητηρίου LLM και τι την κάνει διαφορετική από την παραδοσιακή παρακολούθηση ή την παρακολούθηση ML;

Η παρατηρητηρίου LLM είναι η πρακτική της οργάνωσης και παρακολούθησης συστημάτων παραγωγής που χρησιμοποιούν μεγάλες γλωσσικές μοντέλα, ώστε να μπορείτε να καταγράψετε το πλήρες контέκστ κάθε inference: την πρόκληση, το контέκστ, την ολοκλήρωση, τη χρήση token, την καθυστέρηση, τα λάθη, τα μεταδεδομένα μοντέλου και ιδανικά τα σημάδια质量 ή τα σήματα πολιτικής.

Ποίες προκλήσεις εισάγουν οι LLM-κίνητες εφαρμογές που κάνουν τα παραδοσιακά εργαλεία παρατηρητηρίου ανεπαρκή;

LLM-κίνητα συστήματα εισάγουν αρκετές προκλήσεις που εκθέτουν τα όρια των παραδοσιακών εργαλείων:

• Σύνθετες, πολλαπλές εργασίες – Μεταπήραμε από απλές “κλήση μοντέλου, λήψη απάντησης” ροές σε multi-στροφικές agents, πολλαπλές διαδικασίες, ανάκτηση-ενισχυμένη γενετική και εργαλείο-χρήση. Μια σιωπηλή αποτυχία σε οποιοδήποτε από αυτά τα βήματα, όπως η ανάκτηση, η εμπλουτισμένη, η ενσωμάτωση, η εργαλειο-κλήση ή η κλήση μοντέλου, μπορεί να σπάσει όλη την εμπειρία. Η παραδοσιακή παρακολούθηση συνήθως δεν σας δίνει μια πλήρη, ιχνηλατική εικόνα αυτών των αλυσίδων με προκλήσεις και απαντήσεις.
• Γρήγορη εξέλιξη AI-σ