Σοχράμπ Χοσεΐνι, Συνιδρυτής της orq.ai – Σειρά Συνεντεύξεων

Σοχράμπ Χοσεΐνι, Συνιδρυτής της orq.ai, είναι ένας ηγέτης τεχνολογίας και επιχειρηματίας με έδρα την περιοχή του Άμστερνταμ με βαθιά εμπειρία σε SaaS, μεγάλης κλίμακας συστήματα και εφαρμοσμένη τεχνητή νοημοσύνη. Από την ίδρυση της orq.ai το 2022, έχει επικεντρωθεί στην κατασκευή πρακτικής υποδομής που βοηθά τις ομάδες να μεταφέρουν μεγάλους γλωσσικούς μοντέλους από την πειραματική στην αξιόπιστη παραγωγική χρήση. Ο背景 του περιλαμβάνει ανώτερες ηγετικές θέσεις ως COO και CTO στη Neocles, CTO της Future Technology στη Transdev όπου εργάστηκε στην αυτόνομη διαδρομή και διαχείριση στόλου, και COO στη TradeYourTrip. Ταυτόχρονα, είναι ενεργός ως σύμβουλος και αγγελοεπενδυτής, υποστηρίζοντας τις πρώιμες επιχειρήσεις τεχνητής νοημοσύνης με κατεύθυνση προϊόντος, τεχνική κρίση και στρατηγική εκτέλεσης.

orq.ai είναι μια πλατφόρμα συνεργασίας και LLMOps για τη γεννητική τεχνητή νοημοσύνη που κατασκευάζεται για να βοηθήσει τις οργανώσεις να σχεδιάσουν, να λειτουργήσουν και να κλιμακώσουν προϊόντα και πράκτορες που βασίζονται στην τεχνητή νοημοσύνη σε πραγματικές περιβάλλοντες. Η πλατφόρμα φέρνει τη διαχείριση προτύπων, την πειραματική, τη συλλογή σχολίων και την πραγματική ορατότητα στις επιδόσεις και τα κόστη σε ένα ενιαίο χώρο εργασίας, ενώ παραμένει συμβατή με όλους τους μεγάλους παρόχους μεγάλων γλωσσικών μοντέλων. Ενεργοποιώντας τη στενή συνεργασία μεταξύ τεχνικών και μη τεχνικών ομάδων, η orq.ai βοηθά τις εταιρείες να缩ρύνουν τους κύκλους κυκλοφορίας, να βελτιώσουν τη διακυβέρνηση και τη διαφάνεια και να μειώσουν την πολυπλοκότητα και το κόστος εκτέλεσης συστημάτων τεχνητής νοημοσύνης στην παραγωγή.

Έχετε κατέχει ανώτερες τεχνικές και λειτουργικές θέσεις σε αυτόνομες συστήματα, τεχνολογία διαχείρισης στόλου και πλατφόρμες SaaS πριν από την ίδρυση της Orq.ai — πώς διαμορφώθηκε η απόφασή σας να κατασκευάσετε ένα επιχειρηματικό επίπεδο ελέγχου για πράκτορες τεχνητής νοημοσύνης το 2022;

Τα υπόβαθρά μας έχουν πάντα να κάνουν με την ηγεσία ομάδων μηχανικής και την εστίαση σε πλατφόρμες ενεργοποίησης· πράγματα όπως cloud, DevOps και ενεργοποίηση δεδομένων, ιδιαίτερα κατά τη διάρκεια της θητείας μας ως τεχνολογικοί συμβούλοι. Όταν ξεκίνησε η εκρηξη της γεννητικής τεχνητής νοημοσύνης, ο συνιδρυτής μου και εγώ ρωτήσαμε τους εαυτούς μας: τι είδους ενεργοποίηση θα χρειαστούν οι επιχειρήσεις όχι μόνο για να κατασκευάσουν τεχνητή νοημοσύνη, αλλά για να τη διακυβερνήσουν και να τη контрολίσουν σωστά;

Είδαμε ότι η πραγματική ανάγκη ήταν για ένα επιχειρηματικό επίπεδο ελέγχου για πράκτορες τεχνητής νοημοσύνης. Αυτό μας οδήγησε να κατασκευάσουμε την Orq.ai στην πρώτη θέση.

Όταν首 lần κυκλοφόρησε η Orq.ai, τι είδατε στην αγορά που σας έπεισε ότι το πραγματικό εμπόδιο δεν ήταν η ποιότητα του μοντέλου αλλά η αδυναμία να μεταφέρετε συστήματα πράκτορα από demos σε αξιόπιστη παραγωγή;

Πάντα πιστεύαμε ότι όταν κατασκευάζετε καινοτόμο λογισμικό, πρέπει να κατασκευάσετε για το μέλλον. Από την αρχή, υποθέσαμε ότι τα μεγάλα γλωσσικά μοντέλα θα συνεχίσουν να γίνονται καλύτερα και πιο έξυπνα με το χρόνο. Έτσι, το πραγματικό πρόβλημα που είδαμε δεν ήταν η ποιότητα του μοντέλου καθαυτό, αλλά όλα τα ζητήματα ελέγχου, διακυβέρνησης και διαχείρισης κύκλου ζωής που προκύπτουν όταν προσπαθείτε να μεταφέρετε από ένα demo σε ένα πραγματικό περιβάλλον παραγωγής.

Με άλλα λόγια, ακόμη και καθώς τα μοντέλα βελτιώνονται, η πραγματική αξία για τους πελάτες μας (και για εμάς) είναι να βεβαιωθούμε ότι αυτά τα συστήματα τρέχουν πραγματικά αξιόπιστα στην παραγωγή. Και αυτό είναι πραγματικά αυτό που προσπαθούμε να λύσουμε.

Οι περισσότερες ομάδες μπορούν να κατασκευάσουν εντυπωσιακά протότυπα αλλά δυσκολεύονται με την ορχήστρα, τη διακυβέρνηση και την παρακολούθηση. Κατά τη γνώμη σας, τι είναι το μεγαλύτερο σημείο διακοπής όταν οι ομάδες μηχανικής προσπαθούν να κλιμακώσουν από ένα περιβάλλον proof-of-concept σε ένα ζωντανό πράκτορα παραγωγής;

Το μεγαλύτερο σημείο διακοπής είναι ότι οι ομάδες συχνά πιστεύουν ότι είναι μια ευθύγραμμη διαδρομή από την έναρξη της κατασκευής ενός πράκτορα μέχρι την ολοκλήρωσή του. Στην πραγματικότητα, είναι một πολύ επαναληπτική διαδικασία.

Συνεχώς προσαρμόζουμε τις υποθέσεις μας, τις δοκιμάζουμε, τις μεταφέρουμε στην παραγωγή και στη συνέχεια παρακολουθούμε τι συμβαίνει στον πραγματικό κόσμο. Βρίσκουμε περιπτώσεις άκρων, και στη συνέχεια ξεκινάμε αυτό το κύκλο ξανά.

Η πρόκληση είναι ότι δεν είναι μια εργασία μιας και καλής· είναι ένας συνεχής κύκλος βελτίωσης. Και για να χτίσουμε πάνω σε αυτό, δεν είναι μόνο ότι είναι επαναληπτική, αλλά είναι ότι συχνά δεν υπάρχει αρκετό εργαλείο ή σκαφίδι για να υποστηρίξει αυτή τη διαδικασία ομαλά.

Χρειαζόμαστε έναν τρόπο για τους ειδικούς του τομέα, τους product managers και τους μηχανικούς να συνεργαστούν χωρίς να δημιουργούν σιλό ή ακριβές παραδόσεις που σπαταλούν πολύ χρόνο. Έτσι, αυτό είναι ένα άλλο μεγάλο κομμάτι του puzzle: να βεβαιωθούμε ότι όλες αυτές οι ενδιαφερόμενες πλευρές μπορούν να επαναλάβουν μαζί αποτελεσματικά. Και αυτό είναι κάτι που έχουμε πραγματικά προσπαθήσει να λύσουμε.

Η Orq.ai θέτει τον εαυτό της ως einen ενοποιημένο επίπεδο ελέγχου που εκτείνεται στην πειραματική, την αξιολόγηση, την παρατηρησιμότητα και την εκτέλεση. Γιατί πιστεύετε ότι μια αρχιτεκτονική από άκρο σε άκρο ήταν απαραίτητη, αντί να προσφέρετε απομονωμένα εργαλεία όπως πολλές λύσεις σημείου;

Όταν ξεκινάτε, είναι φυσικό να επιλέξετε ένα εργαλείο που λύνει το μεγαλύτερο πόνο σας εκείνη τη στιγμή, συχνά αυτό μπορεί να είναι η παρατηρησιμότητα. Αλλά καθώς η ομάδα σας εξελίσσεται, χτυπάτε το επόμενο εμπόδιο και προσθέτετε ένα άλλο εργαλείο, για παράδειγμα, einen AI πύλη. Πριν το καταλάβετε, έχετε 5 έως 7 διαφορετικά εργαλεία στο τοπίο σας. Τα δεδομένα γίνονται θραυσματικά, οι άνθρωποι χάνουν την ορατότητα και σπαταλούν πόρους μόνο για τη διατήρηση όλων αυτών των ενσωματώσεων. Χάνετε αυτή την ενοποιημένη προβολή σε όλο το κύκλο ζωής.

Πιστεύαμε ότι καθώς οι επιχειρήσεις που βασίζονται σε πράκτορες αναδύονται, πραγματικά χρειάζεστε αυτή την αρχιτεκτονική από άκρο σε άκρο. Χρειάζεστε μια ενοποιημένη προβολή για όλα όσα κάνουν οι πράκτορές σας σε όλη την οργάνωση, όχι μόνο απομονωμένες λύσεις σημείου. Αυτός είναι ο λόγος για τον οποίο δεν είδαμε κανέναν άλλο τρόπο παρά να περιλαμβάνουμε αυτά τα μεγάλα τμήματα της ροής εργασιών σε μια ενοποιημένη πλατφόρμα.

Με το νέο Agent Studio και την ανασχεδιασμένη εκτέλεση, ποια μεγάλα προβλήματα προσπαθούσατε να λύσετε με βάση τις ανατροφοδοτήσεις από τους πρώτους πελάτες σε όλη την Ευρώπη και τις ΗΠΑ;

Τι είδαμε ήταν ότι οι ομάδες χρησιμοποιούσαν όλα τα είδη ανοιχτών βιβλιοθηκών για να κατασκευάσουν τους πράκτορές τους,尽管 η αρχιτεκτονική ενός πράκτορα μπορεί να είναι khá καθαρή και απλή. Τελικά, είχαν φουσκωμένες βιβλιοθήκες, πολλή υπερβολική και μια μεγάλη καμπύλη μάθησης μόνο για να βγάλουν ακόμη και απλούς πράκτορες. Με την Orq, θέλαμε να αποφορτώσουμε αυτό το βάρος.

Αντί να ανησυχείτε για την αρχιτεκτονική, τον υπολογισμό, την αυτόματη κλιμάκωση, όλη αυτή την υποδομή, οι ομάδες μπορούν να επικεντρωθούν στην ρύθμιση των πράκτορές τους και να τους δώσουν τα σωστά εργαλεία και API. Мы χειρίζεται το βαρύ lifting ώστε να μπορούν να επικεντρωθούν στην κατασκευή των πραγματικών περιπτώσεων χρήσης. Και πάνω από αυτό, επειδή υποστηρίζουμε όλο το κύκλο ζωής, έχουμε κατασκευάσει ειδικές εργαλειοθήκες που σας επιτρέπουν πραγματικά να δοκιμάσετε τους πράκτορές σας σε κλίμακα.

Αυτό σημαίνει ότι μπορείτε να βρείτε περιπτώσεις άκρων πιο γρήγορα και να σκληρύνετε τους πράκτορές σας πιο αποτελεσματικά. Όλα αυτά γίνονται για να δώσετε στις ομάδες τα εργαλεία όχι μόνο για να κατασκευάσουν πράκτορες εύκολα, αλλά για να τους βελτιώσετε και να τους σκληρύνετε σε πραγματικές σκηνές, χωρίς όλα τα επιπλέον προβλήματα.

Καθώς το GDPR και ο νόμος της ΕΕ για την τεχνητή νοημοσύνη στενεύουν τις απαιτήσεις, πώς επηρεάζουν αυτοί οι κανονισμοί τον τρόπο με τον οποίο οι επιχειρήσεις σχεδιάζουν, παρακολουθούν και αναπτύσσουν πράκτορες — και πώς προσαρμόζεται η Orq.ai;

Δεν είναι τόσο πολύ ότι αυτές οι απαιτήσεις στενεύουν απότομα, είναι απλά μέρος του νόμου, και οι πελάτες μας πρέπει να συμμορφωθούν με αυτές. Τι κάνουμε είναι να βεβαιωθούμε ότι σε όλο το κύκλο ζωής, δίνουμε στις ομάδες τα σωστά εργαλεία, αξιολογητές και φρουρά για να μπορέσουν να χτίσουν την συμμόρφωση από την πρώτη ημέρα.

Βεβαιωνόμαστε ότι η κατοικία δεδομένων, η ιδιωτικότητα των δεδομένων, όλα αυτά είναι ενσωματωμένα από την αρχή. Και με τις γεωπολιτικές πιέσεις και την ώθηση για κυριαρχία τεχνολογίας και τεχνητής νοημοσύνης στην Ευρώπη, είδαμε μια μεγάλη ζήτηση για αυτό. Καθώς μπορούμε να τρέξουμε πλήρως σε τοπικό επίπεδο και να βοηθήσουμε τις επιχειρήσεις να μειώσουν την εξάρτησή τους, είμαστε σε μια καλή θέση για να τις βοηθήσουμε να παραμείνουν στο έλεγχο του δικού τους πεπρωμένου.

Οι επιχειρήσεις ζητούν όλο και περισσότερο αρχιτεκτονικές που είναι έτοιμες για κυριαρχία και υβριδικές/εσωτερικές αναπτύξεις. Τι σας λέει αυτή η μετατόπιση για το πού πηγαίνει η υποδομή τεχνητής νοημοσύνης των επιχειρήσεων;

Κάθε επιχείρηση και ακόμη και κάθε περίπτωση χρήσης εμπλέκει συμβιβασμούς. Είναι ένα ζήτημα του πόσο έτοιμο είναι κάτι και πόσο ασφαλές και εσωτερικό πρέπει να είναι. Υποστηρίζουμε κάθε γεύση κατά μήκος αυτού του φάσματος. Αλλά τι βλέπουμε είναι μια ισχυρή εστίαση στην κυριαρχία και την κατοικία δεδομένων στο επίπεδο του μοντέλου.

Οι πελάτες θέλουν να έχουν σαφήτητα για το πού ζουν τα δεδομένα τους και την ικανότητα να μειώσουν την εξάρτησή τους από τους μεγάλους παρόχους cloud. Χάρη στην πύλη τεχνητής νοημοσύνης μας, η οποία τρέχει σε όλους τους μεγάλους παρόχους cloud και σε τοπικό επίπεδο, οι ομάδες μπορούν να κάνουν εύκολα αυτούς τους συμβιβασμούς με βάση την περίπτωση χρήσης. Παίρνουν την ευελιξία να παραμείνουν στο έλεγχο και να μετακινούνται ομαλά μεταξύ περιβαλλόντων.

Βλέπουμε μια τεράστια αύξηση της ζήτησης από μεγαλύτερες επιχειρήσεις και δημόσιους θεσμούς.

Πώς βλέπετε τις εργασίες πολλαπλών πρακτόρων, τις φρουρές ασφαλείας και τα πιο προηγμένα συστήματα συλλογιστικής να εξελίσσονται καθώς οι επιχειρήσεις μετακινούνται από την πειραματική στην πραγματική βιομηχανική των πρακτόρων το 2026;

Καθώς η χρήση των πρακτόρων πραγματικά βιομηχανοποιείται, βλέπουμε νέα είδη προβλημάτων να αναδύονται, ιδιαίτερα με ρυθμίσεις πολλαπλών πρακτόρων. Μπορείτε να έχετε δεκάδες ή ακόμη και εκατοντάδες πράκτορες να τρέχουν γύρω από την οργάνωση σας οποιαδήποτε στιγμή, όπως και οι υπάλληλοι.

Το ζήτημα είναι: πώς θα κυβερνήσετε όλους αυτούς όταν έχετε αυτό το πολυδιάστατο σύνολο προβλημάτων, όπως κόστη, ποιότητα δεδομένων, κατοικία δεδομένων, ορθότητα, μετρικά hallουσιναций και così κατόπιν; Χρειάζεστε ένα νέο επίπεδο διακυβέρνησης για να χειριστείτε αυτό, και χρειάζεστε φρουρές ασφαλείας που μπορούν να αναπτυχθούν από πάνω προς τα κάτω.

Χρειάζεστε επίσης οπτική από πάνω προς τα κάτω και νέες επίπεδα συλλογής ώστε ο CFO, ο COO, ο CISO να μπορέσουν να δουν τι συμβαίνει και να παρέμβουν με ενεργά.insights. Πραγματικά πιστεύουμε ότι το 2026, αυτή η整ική концепція του “τμήματος πρακτόρων” και η τεχνολογία που την υποστηρίζει θα γίνει ένα πολύ πιο热 topic.

Η ολίσθηση του πράκτορα, η αναδρομή της ποιότητας και οι ασαφείς ροές δεδομένων είναι επαναλαμβανόμενα προβλήματα στην παραγωγή τεχνητής νοημοσύνης. Πώς αντιμετωπίζει η Orq.ai το επίπεδο ελέγχου αυτές τις μακροχρόνιες лакκές σε εκδοχή, αξιολόγηση και συνεχής παρακολούθηση;

Κάθε πράκτορας πραγματικά χρειάζεται το δικό του σετ αξιολογήσεων. Αυτά τα σετ ορίζουν τι είναι σωστό και τι λάθος για αυτήν την συγκεκριμένη περίπτωση. Με το να ξοδεύετε χρόνο στην αρχή για να ρυθμίσετε αυτά τα σετ αξιολογήσεων σωστά, οι ομάδες μπορούν να κάνουν καλύτερη πειραματική δοκιμή για να δουν πώς συμπεριφέρονται τα πράγματα πριν πάνε ζωντανοί. Και στη συνέχεια, με την παρακολούθηση αυτών των ίδιων αξιολογήσεων online, μπορείτε να εντοπίσετε όταν τα μοντέλα ολισθήσουν ή όταν η συμπεριφορά του πράκτορα αρχίσει να αλλάζει με το χρόνο. Έτσι, έχετε ένα συνεπές σύνολο μετρικών ποιότητας κατά τη διάρκεια των offline δοκιμών, online παρακολούθησης και φρουρών.

Κοιτάζοντας μπροστά, τι πιστεύετε ότι θα ορίσει την επόμενη γενιά των επιχειρηματικών πρακτόρων τεχνητής νοημοσύνης — και πώς θέτει η Orq.ai τον εαυτό της για να γίνει η mặc định λειτουργική πλατφόρμα για αυτόν τον κόσμο;

Κοιτάζοντας μπροστά, πιστεύω ότι αυτό που θα ορίσει την επόμενη γενιά των επιχειρηματικών πρακτόρων τεχνητής νοημοσύνης είναι ότι κάθε προμηθευτής θα παρέχει τους δικούς του πράκτορες. Σε μεγαλύτερες επιχειρήσεις, θα είναι αυτό το ευρύ τοπίο πρώτων και τρίτων πρακτόρων που εργάζονται μαζί και καλούν ο ένας τον άλλον.

Δεν θα είναι μόνο ένας τύπος πράκτορα ή ένας προμηθευτής· είναι ένα ολόκληρο οικοσύστημα που χρειάζεται διακυβέρνηση και συμμόρφωση. Και εκεί είναι που έρχεται η Orq. Θέτουμε τον εαυτό μας ως τον πύργο ελέγχου του πράκτορα που δίνει σε διάφορα επίπεδα της οργάνωσης τη σωστή συλλογική προβολή και ενεργά.insights για να παρέμβουν σε οποιοδήποτε στάδιο.

Είτε είναι η κατασκευή, η κλιμάκωση, η λειτουργία ή ακόμη και η αποσύνδεση πρακτόρων, διαφορετικές λειτουργίες θα χρειαστούν διαφορετικές προβολές αυτού του τοπίου. Και θα είμαστε ο προμηθευτής που θα παρέχει αυτή τη δυνατότητα.

Ευχαριστώ πολύ για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν orq.ai.