Daniel Ciolek, Επικεφαλής Έρευνας και Ανάπτυξης στην InvGate – Σειρά Συνεντεύξεων

Ο Daniel είναι ένας παθιασμένος επαγγελματίας πληροφορικής με περισσότερα από 15 χρόνια εμπειρίας στον κλάδο. Έχει διδακτορικό. στην Επιστήμη των Υπολογιστών και μακρά καριέρα στην τεχνολογική έρευνα. Τα ενδιαφέροντά του εμπίπτουν σε πολλούς τομείς, όπως η Τεχνητή Νοημοσύνη, η Μηχανική Λογισμικού και η Υπολογιστική Υψηλή Απόδοση.

Ο Daniel είναι Επικεφαλής Έρευνας και Ανάπτυξης στο InvGate, όπου ηγείται των πρωτοβουλιών Ε&Α. Εργάζεται μαζί με τις ομάδες ανάπτυξης προϊόντων και επιχειρήσεων για το σχεδιασμό, την εφαρμογή και την παρακολούθηση της στρατηγικής Ε&Α της εταιρείας. Όταν δεν ερευνά, διδάσκει.

InvGate ενδυναμώνει τους οργανισμούς παρέχοντας τα εργαλεία για την παροχή απρόσκοπτων υπηρεσιών σε όλα τα τμήματα, από την πληροφορική έως τις εγκαταστάσεις.

Πότε και πώς ενδιαφέρθηκες αρχικά για την επιστήμη των υπολογιστών;

Το ενδιαφέρον μου για την επιστήμη των υπολογιστών χρονολογείται από την πρώιμη παιδική μου ηλικία. Πάντα με γοήτευαν οι ηλεκτρονικές συσκευές, συχνά βρίσκοντας τον εαυτό μου να εξερευνώ και να προσπαθώ να καταλάβω πώς λειτουργούσαν. Καθώς μεγάλωνα, αυτή η περιέργεια με οδήγησε στην κωδικοποίηση. Θυμάμαι ακόμα τη διασκέδαση που είχα γράφοντας τα πρώτα μου προγράμματα. Από εκείνη τη στιγμή, δεν υπήρχε καμία αμφιβολία στο μυαλό μου ότι ήθελα να ακολουθήσω μια καριέρα στην επιστήμη των υπολογιστών.

Αυτήν τη στιγμή ηγείσαι πρωτοβουλίες Ε&Α και εφαρμόζετε νέες παραγωγικές εφαρμογές τεχνητής νοημοσύνης. Μπορείτε να συζητήσετε κάποια από τη δουλειά σας;

Απολύτως. Στο τμήμα Έρευνας και Ανάπτυξης, αντιμετωπίζουμε πολύπλοκα προβλήματα που μπορεί να είναι δύσκολο να εκπροσωπηθούν και να επιλυθούν αποτελεσματικά. Η δουλειά μας δεν περιορίζεται σε παραγωγικές εφαρμογές τεχνητής νοημοσύνης, αλλά οι πρόσφατες εξελίξεις σε αυτόν τον τομέα έχουν δημιουργήσει πλήθος ευκαιριών που επιθυμούμε να εκμεταλλευτούμε.

Ένας από τους κύριους στόχους μας στο InvGate ήταν πάντα η βελτιστοποίηση της χρηστικότητας του λογισμικού μας. Αυτό το κάνουμε παρακολουθώντας πώς χρησιμοποιείται, εντοπίζοντας σημεία συμφόρησης και εργαζόμαστε επιμελώς για την εξάλειψή τους. Ένα τέτοιο εμπόδιο που έχουμε συναντήσει συχνά σχετίζεται με την κατανόηση και τη χρήση της φυσικής γλώσσας. Αυτό ήταν ένα ιδιαίτερα δύσκολο ζήτημα για να αντιμετωπιστεί χωρίς τη χρήση μοντέλων μεγάλων γλωσσών (LLM).

Ωστόσο, με την πρόσφατη εμφάνιση οικονομικά αποδοτικών LLMs, καταφέραμε να απλοποιήσουμε αυτές τις περιπτώσεις χρήσης. Οι δυνατότητές μας περιλαμβάνουν πλέον την παροχή προτάσεων γραφής, την αυτόματη σύνταξη άρθρων βάσης γνώσεων και τη σύνοψη εκτενών τμημάτων κειμένου, μεταξύ πολλών άλλων λειτουργιών που βασίζονται σε γλώσσα.

Στο InvGate, η ομάδα σας εφαρμόζει μια στρατηγική που ονομάζεται «αγνωστική τεχνητή νοημοσύνη». Θα μπορούσατε να ορίσετε τι σημαίνει αυτό και γιατί είναι σημαντικό;

Η αγνωστική τεχνητή νοημοσύνη αφορά βασικά την ευελιξία και την προσαρμοστικότητα. Ουσιαστικά, πρόκειται για τη μη δέσμευση σε ένα μοντέλο ή πάροχο τεχνητής νοημοσύνης. Αντίθετα, στοχεύουμε να διατηρήσουμε τις επιλογές μας ανοιχτές, αξιοποιώντας τα καλύτερα που προσφέρει κάθε πάροχος τεχνητής νοημοσύνης, αποφεύγοντας τον κίνδυνο να εγκλωβιστούμε σε ένα σύστημα.

Μπορείτε να το σκεφτείτε ως εξής: πρέπει να χρησιμοποιήσουμε το GPT του OpenAI, το Gemini της Google ή το Llama-2 της Meta για τις δυνατότητες παραγωγής AI; Θα πρέπει να επιλέξουμε μια pay-as-you-go ανάπτυξη cloud, μια διαχειριζόμενη παρουσία ή μια αυτο-φιλοξενούμενη ανάπτυξη; Αυτές δεν είναι ασήμαντες αποφάσεις και μπορεί ακόμη και να αλλάξουν με την πάροδο του χρόνου καθώς κυκλοφορούν νέα μοντέλα και εισέρχονται νέοι πάροχοι στην αγορά.

Η προσέγγιση Agnostic AI διασφαλίζει ότι το σύστημά μας είναι πάντα έτοιμο να προσαρμοστεί. Η εφαρμογή μας έχει τρία βασικά στοιχεία: μια διεπαφή, έναν δρομολογητή και τα ίδια τα μοντέλα AI. Η διεπαφή αφαιρεί τις λεπτομέρειες υλοποίησης του συστήματος AI, καθιστώντας ευκολότερο για άλλα μέρη του λογισμικού μας να αλληλεπιδράσουν μαζί του. Ο δρομολογητής αποφασίζει πού θα στείλει κάθε αίτημα με βάση διάφορους παράγοντες, όπως τον τύπο του αιτήματος και τις δυνατότητες των διαθέσιμων μοντέλων τεχνητής νοημοσύνης. Τέλος, τα μοντέλα εκτελούν τις πραγματικές εργασίες AI, οι οποίες ενδέχεται να απαιτούν προσαρμοσμένες διαδικασίες προεπεξεργασίας δεδομένων και μορφοποίησης αποτελεσμάτων.

Μπορείτε να περιγράψετε τις μεθοδολογικές πτυχές που καθοδηγούν τη διαδικασία λήψης αποφάσεων κατά την επιλογή των καταλληλότερων μοντέλων και παρόχων τεχνητής νοημοσύνης για συγκεκριμένες εργασίες;

Για κάθε νέο χαρακτηριστικό που αναπτύσσουμε, ξεκινάμε δημιουργώντας ένα σημείο αναφοράς αξιολόγησης. Αυτό το σημείο αναφοράς έχει σχεδιαστεί για να αξιολογεί την αποτελεσματικότητα διαφορετικών μοντέλων τεχνητής νοημοσύνης στην επίλυση της εργασίας. Δεν εστιάζουμε όμως μόνο στην απόδοση, λαμβάνουμε υπόψη και την ταχύτητα και το κόστος κάθε μοντέλου. Αυτό μας δίνει μια ολιστική άποψη της αξίας κάθε μοντέλου, επιτρέποντάς μας να επιλέξουμε την πιο οικονομική επιλογή για αιτήματα δρομολόγησης.

Ωστόσο, η διαδικασία μας δεν τελειώνει εκεί. Στον ταχέως εξελισσόμενο τομέα της τεχνητής νοημοσύνης, κυκλοφορούν συνεχώς νέα μοντέλα και ενημερώνονται τακτικά τα υπάρχοντα. Έτσι, κάθε φορά που διατίθεται ένα νέο ή ενημερωμένο μοντέλο, επαναλαμβάνουμε το σημείο αναφοράς αξιολόγησης. Αυτό μας επιτρέπει να συγκρίνουμε την απόδοση του νέου ή ενημερωμένου μοντέλου με εκείνη της τρέχουσας επιλογής μας. Εάν ένα νέο μοντέλο έχει καλύτερη απόδοση από το τρέχον, τότε ενημερώνουμε τη μονάδα δρομολογητή μας για να αντικατοπτρίζει αυτήν την αλλαγή.

Ποιες είναι μερικές από τις προκλήσεις της απρόσκοπτης εναλλαγής μεταξύ διαφόρων μοντέλων τεχνητής νοημοσύνης και παρόχων;

Η απρόσκοπτη εναλλαγή μεταξύ διαφόρων μοντέλων τεχνητής νοημοσύνης και παρόχων παρουσιάζει πράγματι μια σειρά από μοναδικές προκλήσεις.

Πρώτον, κάθε πάροχος τεχνητής νοημοσύνης απαιτεί εισόδους μορφοποιημένες με συγκεκριμένους τρόπους και τα μοντέλα τεχνητής νοημοσύνης μπορούν να αντιδράσουν διαφορετικά στα ίδια αιτήματα. Αυτό σημαίνει ότι πρέπει να βελτιστοποιούμε ξεχωριστά για κάθε μοντέλο, κάτι που μπορεί να είναι αρκετά περίπλοκο δεδομένης της ποικιλίας των επιλογών.

Δεύτερον, τα μοντέλα AI έχουν διαφορετικές δυνατότητες. Για παράδειγμα, ορισμένα μοντέλα μπορούν να δημιουργήσουν έξοδο σε μορφή JSON, μια δυνατότητα που αποδεικνύεται χρήσιμη σε πολλές από τις υλοποιήσεις μας. Άλλοι μπορούν να επεξεργαστούν μεγάλες ποσότητες κειμένου, επιτρέποντάς μας να χρησιμοποιήσουμε ένα πιο ολοκληρωμένο πλαίσιο για ορισμένες εργασίες. Η διαχείριση αυτών των δυνατοτήτων για τη μεγιστοποίηση των δυνατοτήτων κάθε μοντέλου είναι ένα ουσιαστικό μέρος της δουλειάς μας.

Τέλος, πρέπει να διασφαλίσουμε ότι οι αποκρίσεις που δημιουργούνται από AI είναι ασφαλείς στη χρήση. Τα μοντέλα γενετικής τεχνητής νοημοσύνης μπορεί μερικές φορές να προκαλέσουν «παραισθήσεις» ή να δημιουργήσουν απαντήσεις που είναι ψευδείς, εκτός πλαισίου ή ακόμη και δυνητικά επιβλαβείς. Για να μετριαστεί αυτό, εφαρμόζουμε αυστηρά φίλτρα απολύμανσης μετά την επεξεργασία για τον εντοπισμό και το φιλτράρισμα ακατάλληλων αποκρίσεων.

Πώς σχεδιάζεται η διεπαφή στο αγνωστικιστικό σας σύστημα τεχνητής νοημοσύνης για να διασφαλίσει ότι αφαιρεί αποτελεσματικά την πολυπλοκότητα των υποκείμενων τεχνολογιών τεχνητής νοημοσύνης για φιλικές προς τον χρήστη αλληλεπιδράσεις;

Ο σχεδιασμός της διεπαφής μας είναι μια συλλογική προσπάθεια μεταξύ Ε&Α και των ομάδων μηχανικών. Εργαζόμαστε ανά χαρακτηριστικό, καθορίζοντας τις απαιτήσεις και τα διαθέσιμα δεδομένα για κάθε χαρακτηριστικό. Στη συνέχεια, σχεδιάζουμε ένα API που ενσωματώνεται άψογα με το προϊόν, εφαρμόζοντάς το στην εσωτερική μας υπηρεσία AI-Service. Αυτό επιτρέπει στις ομάδες μηχανικών να επικεντρωθούν στην επιχειρηματική λογική, ενώ η υπηρεσία AI-Service μας χειρίζεται την πολυπλοκότητα της συναλλαγής με διαφορετικούς παρόχους τεχνητής νοημοσύνης.

Αυτή η διαδικασία δεν βασίζεται στην έρευνα αιχμής, αλλά στην εφαρμογή αποδεδειγμένων πρακτικών μηχανικής λογισμικού.

Λαμβάνοντας υπόψη τις παγκόσμιες λειτουργίες, πώς χειρίζεται το InvGate την πρόκληση της περιφερειακής διαθεσιμότητας και της συμμόρφωσης με τους τοπικούς κανονισμούς δεδομένων;

Η διασφάλιση της περιφερειακής διαθεσιμότητας και της συμμόρφωσης με τους τοπικούς κανονισμούς δεδομένων είναι ένα κρίσιμο μέρος των εργασιών μας στο InvGate. Επιλέγουμε προσεκτικά παρόχους τεχνητής νοημοσύνης που μπορούν όχι μόνο να λειτουργούν σε κλίμακα, αλλά και να τηρούν κορυφαία πρότυπα ασφαλείας και να συμμορφώνονται με τους περιφερειακούς κανονισμούς.

Για παράδειγμα, θεωρούμε μόνο παρόχους που συμμορφώνονται με κανονισμούς όπως ο Γενικός Κανονισμός για την Προστασία Δεδομένων (GDPR) στην ΕΕ. Αυτό διασφαλίζει ότι μπορούμε να αναπτύξουμε με ασφάλεια τις υπηρεσίες μας σε διαφορετικές περιοχές, με την πεποίθηση ότι λειτουργούμε εντός του τοπικού νομικού πλαισίου.

Μεγάλοι πάροχοι cloud όπως το AWS, το Azure και το Google Cloud ικανοποιούν αυτές τις απαιτήσεις και προσφέρουν ένα ευρύ φάσμα λειτουργιών AI, καθιστώντας τους κατάλληλους συνεργάτες για τις παγκόσμιες δραστηριότητές μας. Επιπλέον, παρακολουθούμε συνεχώς τις αλλαγές στους τοπικούς κανονισμούς δεδομένων για να διασφαλίσουμε τη διαρκή συμμόρφωση, προσαρμόζοντας τις πρακτικές μας όπως απαιτείται.

Πώς έχει εξελιχθεί η προσέγγιση της InvGate για την ανάπτυξη λύσεων πληροφορικής την τελευταία δεκαετία, ιδίως με την ενσωμάτωση της Generative AI;

Την τελευταία δεκαετία, η προσέγγιση της InvGate για την ανάπτυξη λύσεων πληροφορικής έχει εξελιχθεί σημαντικά. Επεκτείναμε τη βάση δυνατοτήτων μας με προηγμένες δυνατότητες, όπως αυτοματοποιημένες ροές εργασίας, ανακάλυψη συσκευών και βάση δεδομένων διαχείρισης διαμόρφωσης (CMDB). Αυτές οι δυνατότητες έχουν απλοποιήσει σημαντικά τις λειτουργίες πληροφορικής για τους χρήστες μας.

Πρόσφατα, αρχίσαμε να ενσωματώνουμε το GenAI στα προϊόντα μας. Αυτό κατέστη δυνατό χάρη στις πρόσφατες εξελίξεις στους παρόχους LLM, οι οποίοι άρχισαν να προσφέρουν οικονομικά αποδοτικές λύσεις. Η ενσωμάτωση του GenAI μας επέτρεψε να βελτιώσουμε τα προϊόντα μας με υποστήριξη που βασίζεται σε AI, κάνοντας τις λύσεις μας πιο αποτελεσματικές και φιλικές προς τον χρήστη.

Ενώ είναι ακόμη νωρίς, προβλέπουμε ότι η τεχνητή νοημοσύνη θα γίνει ένα πανταχού παρόν εργαλείο στις λειτουργίες πληροφορικής. Ως εκ τούτου, σχεδιάζουμε να συνεχίσουμε να εξελίσσουμε τα προϊόντα μας ενσωματώνοντας περαιτέρω τεχνολογίες AI.

Μπορείτε να εξηγήσετε πώς η γενετική τεχνητή νοημοσύνη εντός του AI Hub ενισχύει την ταχύτητα και την ποιότητα των απαντήσεων σε κοινά περιστατικά IT;

Η γενετική τεχνητή νοημοσύνη στο AI Hub μας βελτιώνει σημαντικά τόσο την ταχύτητα όσο και την ποιότητα των απαντήσεων σε κοινά περιστατικά IT. Αυτό το κάνει μέσω μιας διαδικασίας πολλαπλών βημάτων:

Αρχική επαφή: Όταν ένας χρήστης αντιμετωπίζει κάποιο πρόβλημα, μπορεί να ανοίξει μια συνομιλία με τον Εικονικό Πράκτορα (VA) που τροφοδοτείται με τεχνητή νοημοσύνη και να περιγράψει το πρόβλημα. Το VA πραγματοποιεί αυτόνομα αναζήτηση μέσω της Γνωσιακής Βάσης (KB) της εταιρείας και μιας δημόσιας βάσης δεδομένων με οδηγούς αντιμετώπισης προβλημάτων πληροφορικής, παρέχοντας καθοδήγηση με συνομιλητικό τρόπο. Αυτό συχνά επιλύει το πρόβλημα γρήγορα και αποτελεσματικά.

Δημιουργία εισιτηρίου: Εάν το ζήτημα είναι πιο περίπλοκο, το VA μπορεί να δημιουργήσει ένα εισιτήριο, εξάγοντας αυτόματα σχετικές πληροφορίες από τη συνομιλία.

Εκχώρηση εισιτηρίου: Το σύστημα εκχωρεί το εισιτήριο σε έναν αντιπρόσωπο υποστήριξης με βάση την κατηγορία του εισιτηρίου, την προτεραιότητα και την εμπειρία του αντιπροσώπου με παρόμοια ζητήματα.

Αλληλεπίδραση με πράκτορα: Ο πράκτορας μπορεί να επικοινωνήσει με τον χρήστη για πρόσθετες πληροφορίες ή για να τον ενημερώσει ότι το πρόβλημα έχει επιλυθεί. Η αλληλεπίδραση ενισχύεται με την τεχνητή νοημοσύνη, παρέχοντας γραπτές προτάσεις για τη βελτίωση της επικοινωνίας.

Κλιμάκωση: Εάν το ζήτημα απαιτεί κλιμάκωση, οι λειτουργίες αυτόματης σύνοψης βοηθούν τους διαχειριστές να κατανοήσουν γρήγορα το πρόβλημα.

Ανάλυση μετά τη σφαγή: Αφού κλείσει το εισιτήριο, η τεχνητή νοημοσύνη εκτελεί μια ανάλυση της βασικής αιτίας, βοηθώντας στη μεταθανάτια ανάλυση και αναφορές. Ο πράκτορας μπορεί επίσης να χρησιμοποιήσει το AI για να συντάξει ένα άρθρο βάσης γνώσεων, διευκολύνοντας την επίλυση παρόμοιων ζητημάτων στο μέλλον.

Ενώ έχουμε ήδη εφαρμόσει τις περισσότερες από αυτές τις δυνατότητες, εργαζόμαστε συνεχώς για περαιτέρω βελτιώσεις και βελτιώσεις.

Με τις επερχόμενες λειτουργίες όπως ο πιο έξυπνος εικονικός πράκτορας MS Teams, ποιες είναι οι αναμενόμενες βελτιώσεις στις εμπειρίες υποστήριξης συνομιλίας;

Ένας πολλά υποσχόμενος δρόμος προς τα εμπρός είναι να επεκταθεί η εμπειρία συνομιλίας σε έναν «συνοδηγό», όχι μόνο ικανός να απαντά σε ερωτήσεις και να κάνει απλές ενέργειες, αλλά και να κάνει πιο σύνθετες ενέργειες για λογαριασμό των χρηστών. Αυτό θα μπορούσε να είναι χρήσιμο για τη βελτίωση των δυνατοτήτων αυτοεξυπηρέτησης των χρηστών, καθώς και για την παροχή πρόσθετων ισχυρών εργαλείων στους πράκτορες. Τελικά, αυτές οι ισχυρές διεπαφές συνομιλίας θα κάνουν την AI έναν πανταχού παρόντα σύντροφο.

Σας ευχαριστούμε για την υπέροχη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να το επισκεφτούν InvGate.