Brian Sathianathan, τεχνολογικός διευθυντής και συνιδρυτής της Iterate.ai – Σειρά συνεντεύξεων

Ο Brian Sathianathan είναι ο Chief Technology Officer και συνιδρυτής της Iterate.ai, δημιουργός της πλατφόρμας Interplay low-code για τη γρήγορη κατασκευή εφαρμογών που βασίζονται σε τεχνολογίες AI σε διάφορους τομείς. Προηγουμένως, ο Sathianathan εργάστηκε στην Apple (AAPL ) σε διάφορα projects που αφορούσαν την τεχνολογία, συμπεριλαμβανομένου του λειτουργικού συστήματος Mac και του πρώτου iPhone.

Τι σας έκανε να ενδιαφερθείτε αρχικά για την εργασία με τεχνολογίες AI;

Είχα πάντα ενδιαφέρον για την εκμάθηση που βασίζεται σε αλγορίθμους και άρχισα να εργάζομαι με συστήματα AI κατά τη διάρκεια των σπουδών μου. Επιπλέον, πέρασα πολύ χρόνο νωρίς στην καριέρα μου κατασκευάζοντας τεχνολογίες κρυπτογράφησης και άλλες ασφαλείς τεχνολογίες για την Apple, και τεχνολογίες συμπίεσης βίντεο για μια προηγούμενη εταιρεία που συνίδρυσα. Και οι δύο τεχνολογίες βίντεο και κρυπτογράφησης είναι πολύ αλγοριθμικές, και αυτό έκανε τη μαθησιακή μου καμπύλη σε AI/ML γρηγορότερη. Γύρω στο 2016, άρχισα να παίζω με ανοιχτές πηγές AI frameworks/GPUs, συνειδητοποιώντας πόσο μακριά έχουν φτάσει τα τελευταία πέντε χρόνια – και από την πλευρά των αλγορίθμων και της ικανότητας τους να κάνουν ένα ευρύ φάσμα ταξινομήσεων. Τότε συνειδητοποίησα την ανάγκη να κάνω αυτό το πράγμα πιο εύκολο και απλό για όλους να το χρησιμοποιήσουν.

Έχετε κάποιες ισχυρές απόψεις για τη γνωστική προκατάληψη και την προκατάληψη δεδομένων σε AI, θα μπορούσατε να μοιραστείτε αυτές τις ανησυχίες;

Η προκατάληψη AI συμβαίνει όταν οι μηχανικοί αφήνουν τις δικές τους απόψεις και προκαταλήψεις να διαμορφώσουν τα σύνολα δεδομένων εκπαίδευσης AI. Αυτό υπονομεύει γρήγορα αυτό που προσπαθούν να επιτύχουν με AI. Συνήθως, αυτή η επίδραση είναι υποσυνείδητη, οπότε μπορεί να μην είναι ακόμη συνειδητοί ότι η προκατάληψη έχει διαρρεύσει στα σύνολα δεδομένων. Χωρίς αποτελεσματικούς ελέγχους και ισορροπίες, τα δεδομένα μπορούν να περιορίζονται μόνο σε αυτά τα σημεία εστίασης ή δημογραφικά που οι μηχανικοί έχουν την τάση να λάβουν υπόψη. Ακόμη και όταν οι μηχανικοί έχουν υψηλής ποιότητας και όγκο δεδομένων για να εργαστούν, οι προκαταλήψεις στα σύνολα δεδομένων μπορούν να καταστήσουν τα αποτελέσματα που παρέχονται από τις εφαρμογές AI λανθασμένα και, σε πολλές περιπτώσεις, σε μεγάλο βαθμό άχρηστα.

Μια έκθεση της Gartner εκτιμούσε ότι έως το 2030, το 85% των έργων AI θα παρέχει λανθασμένα αποτελέσματα λόγω μεροληψίας. Αυτό είναι ένα μεγάλο χάσμα που πρέπει να ξεπεραστεί. Οι επιχειρήσεις που επενδύουν στην AI, την εμπιστεύονται και λαμβάνουν στρατηγικές αποφάσεις βάσει αυτής, μόνο για να παραπλανηθούν από εσφαλμένα συμπεράσματα που οφείλονται σε μεροληψία, κινδυνεύουν από δαπανηρές αποτυχίες και πλήγμα στη φήμη τους. Καθώς η AI μετατρέπεται γρήγορα από αναδυόμενη τεχνολογία σε πανταχού παρόν θεμέλιο, τόσο στις εφαρμογές για πελάτες όσο και στις εσωτερικές διαδικασίες, η άρση της μεροληψίας είναι απαραίτητη για να αξιοποιηθεί το πραγματικό δυναμικό της.

Τι είναι κάποιες από τις τρόπους για να αποτρέψουν αυτούς τους τύπους προκαταλήψεων από την εμφάνισή τους;

Η προκατάληψη AI πρέπει να ανιχνεύεται και να αφαιρείται συστηματικά και προληπτικά. Οι προκαταλήψεις μπορεί να είναι ενσωματωμένες στα αλγόριθμους. Οι ανακρίβειες μπορεί να εισαχθούν μέσω των προκαταλήψεων που απλώς παραλείπουν απαραίτητα δεδομένα. Η προκατάληψη συσσώρευσης είναι ένα άλλο ρίσκο εδώ, όπου μια σειρά από μικρές αποφάσεις προστίθενται μέχρι να παραχθούν προκατειλημμένα αποτελέσματα AI.

Η ανίχνευση και η εξάλειψη της μεροληψίας της AI σε όλες τις μορφές της απαιτεί από τους οργανισμούς πλαίσια, εργαλειοθήκες, διαδικασίες και πολιτικές σχεδιασμένες για τον αποτελεσματικό μετριασμό αυτών των προβλημάτων. Για παράδειγμα, το πλαίσιο Aletheia της Rolls Royce και το πλαίσιο AI της Deloitte, σε συνδυασμό με αυτόματα επιβαλλόμενα πρότυπα αναφοράς, μπορούν να προάγουν πρακτικές χωρίς μεροληψία σε όλη την ανάπτυξη και διάθεση εφαρμογών AI. Εργαλεία όπως το AI Fairness 360 και το IBM Watson OpenScale αναγνωρίζουν και αφαιρούν τη μεροληψία και τα μοτίβα της από μοντέλα και αλυσίδες επεξεργασίας μηχανικής μάθησης. Τέλος, διαδικασίες που ελέγχουν δεδομένα ως προς καθορισμένες μετρικές μεροληψίας, σε συνδυασμό με πολιτικές διακυβέρνησης που επιβάλλουν πρακτικές αποτροπής της, επιτρέπουν συστηματικό έλεγχο των τυφλών σημείων και περιορισμό της μεροληψίας της AI.

Είστε ο CTO και συνιδρυτής της Iterate.ai – πώς ξεκίνησε;

Αυτή η ιστορία ξεκινά το 2013, όταν ο συνιδρυτής Jon Nordmark (ο CEO μας) και εγώ υπηρετούσαμε ως μέλη του διοικητικού συμβουλίου ενός επιταχυντή της Ανατολικής Ευρώπης με έδρα την Ουκρανία, που σχεδιάστηκε για να βοηθήσει τους επιχειρηματίες εκεί να κατασκευάσουν και να λειτουργήσουν startups τύπου Silicon Valley. Αυτές οι εμπειρίες με εξαιρετικά καινοτόμες νέες εταιρείες μας οδήγησαν στην ιδέα της ζεύξης υποσχόμενων (αλλά ίσως λιγότερο γνωστών) startups με μεγάλες επιχειρήσεις που χρειάζονται υποστήριξη καινοτομίας. Συνέχισαμε να ξεκινήσουμε αυτό που ήταν τότε το Iterate Studio, προσφέροντας μια εξειδικευμένη μηχανή αναζήτησης για επιχειρήσεις να βρουν συνεργάτες startups με βάση τις καινοτόμες ικανότητες που οι μεγαλύτερες οργανώσεις αναζητούσαν. Το 2015, η εταιρεία έγινε Iterate.ai για να τονίσει την AI-ωθούμενη επιλογή startup. Σήμερα, η βάση δεδομένων μας Signals ευρετηριάζει πάνω από 15,7 εκατομμύρια startup τεχνολογίες με βάση διάφορους παράγοντες (και χρησιμοποιώντας ιδιοκτησιακή AI για να το κάνει σε αυτή την κλίμακα).

Επεκταθήκαμε το 2017 και παρουσιάσαμε την πρώτη έκδοση της πλατφόρμας ανάπτυξης εφαρμογών low-code Interplay. Η Interplay παρέχει ένα επίπεδο λογισμικού με AI που εκσυγχρονίζει τις παλιές τεχνολογικές στοίβες των επιχειρήσεων, επιτρέποντας χρήση καινοτόμων τεχνολογιών με μεταφορά και απόθεση και επιταχύνοντας την ανάπτυξη λογισμικού κατά δέκα φορές. Η πλατφόρμα διαθέτει 475 έτοιμα στοιχεία, ώστε οι χρήστες να συνδυάζουν τις τεχνολογίες που χρειάζονται και να δημιουργούν γρήγορα εφαρμογές. Οι δυνατότητες AI βρίσκονται στον πυρήνα της πλατφόρμας, μαζί με άλλα στοιχεία low-code για IoT, ενοποίηση δεδομένων και blockchain.

Iterate είναι μια πλατφόρμα low-code για την ανάπτυξη εφαρμογών που τροφοδοτούνται από AI, ποια είναι κάποια από τα AI-εφαρμογές που μπορούν να κατασκευαστούν;

Η πλατφόρμα μας low-code έχει ενεργοποιήσει εφαρμογές AI για μια πραγματικά ενδιαφέρουσα ποικιλία από περιπτώσεις χρήσης – το εύρος της ανάπτυξης είναι κάτι που είμαστε πραγματικά υπερήφανοι. Η Ulta Beauty (ULTA ), η παγκόσμια εταιρεία λιανικής καλλυντικών μεγέθους δισεκατομμυρίων δολαρίων, χρησιμοποίησε την πλατφόρμα μας για να κατασκευάσει ένα έξυπνο AI retail guest chatbot σε μόλις δύο εβδομάδες. Σε αντίθεση, οι πρωτόγονοι chatbot είναι κεντρικοί σε λέξεις-κλειδιά, και οι περισσότερες εφαρμογές chatbot προμηθευτών δεν μπορούν να ενσωματωθούν απρόσκοπτα με συστήματα κληρονομιάς για να αποκτήσουν πρόσβαση σε πληροφορίες πελάτη ή να επιτρέψουν ομαλή μετάβαση σε ανθρώπινη υποστήριξη. Το έξυπνο AI chatbot της Ulta εξάλειψε αυτά τα προβλήματα με τη λειτουργικότητα επεξεργασίας φυσικής γλώσσας και την ικανότητα αναγνώρισης των «προθέσεων» των πελατών για να παρέχει πραγματικά ακριβείς απαντήσεις. Η πλατφόρμα μας έκανε εύκολο για την Ulta να κατασκευάσει τον κινητήρα AI του chatbot σε μόλις λίγες ώρες, και να ρυθμίσει, να βελτιώσει και να αναβαθμίσει την εκπαίδευση και τις απαντήσεις του chatbot εξαιρετικά γρήγορα.

Σε άλλο παράδειγμα, η Jockey χρησιμοποίησε την πλατφόρμα μας για απαντήσεις σε συχνές ερωτήσεις με AI, ικανές να αντιμετωπίζουν αυτόματα και επιτυχώς αρκετά σύνθετες και υποκειμενικές καταστάσεις εξυπηρέτησης πελατών. Η πλατφόρμα επέτρεψε επίσης σε ένα παγκόσμιο δίκτυο καταστημάτων ευκολίας και πρατηρίων να ανταποκριθεί στην πανδημία με ανέπαφες αντλίες καυσίμων που βασίζονται στην αναγνώριση πινακίδων οχημάτων μέσω AI. Οι δυνατότητές μας χρησιμοποιούνται και για στρατηγικές ασφάλειας καταστημάτων με επίκεντρο τις κάμερες. Με την αναγνώριση εικόνας, εκπαιδευμένες εφαρμογές AI μπορούν να εντοπίζουν απειλές και όπλα έξω από καταστήματα, να ενεργοποιούν το κλείδωμά τους για την προστασία των πελατών και να επικοινωνούν με τις αρχές.

Πόσο μικρές είναι οι πραγματικές απαιτήσεις κωδικοποίησης; Ποια είναι η ανάπτυξη δεξιοτήτων που χρειάζονται οι χρήστες να έχουν;

Κατά τη γνώμη μου, ο κανόνας 80/20 ισχύει. 80% των εφαρμογών AI που εφαρμόζονται έχουν ήδη κατασκευαστεί και έχουν καθορισμένα μοντέλα και δεδομένα εκπαίδευσης γύρω από αυτά. Μια παραδοσιακή οργάνωση μπορεί εύκολα να χρησιμοποιήσει μια πλατφόρμα low-code (η Interplay μας είναι μια τέτοια πλατφόρμα) και να εφαρμόσει αυτές τις περιπτώσεις. Εδώ είναι κάποια παραδείγματα:

• AI-οδηγούμενα FAQs
• Εργαλεία εύρεσης προϊόντων με AI
• Προτάσεις προϊόντων και συνδυασμός τους σε πακέτα
• OCR
• Οπτική αναγνώριση προϊόντων
• Ανάλυση πίνακα δεδομένων: πράγματα όπως AOV, ανάλυση καλαθιού, προβλέψεις αποχώρησης πελατών, κ.λπ.
• Εξαγωγή/ανίχνευση αντικειμένων
• Μονιμότητα αντικειμένου

Οι παραπάνω περιπτώσεις θα μπορούσαν να εφαρμοστούν από έναν μηχανικό με γνώση προγραμματισμού πλευράς διακομιστή και κάποια βασική κατανόηση των API μηχανικής μάθησης. Είναι πολύ παρόμοιο με τη ροή βίντεο, την κρυπτογράφηση και τις τεχνικές διαχείρισης κλειδιών που χρησιμοποιούνται ευρέως μέσω API σήμερα. Οι περισσότεροι μηχανικοί που χρησιμοποιούν αυτά τα API συχνά δεν ξέρουν πώς λειτουργούν κάτω από την επιφάνεια.

Γιατί είναι σημαντική η low-code AI για την κλιμάκωση της τεχνολογίας AI;

Οι επιχειρήσεις που αναζητούν ικανότητες AI στις εφαρμογές τους μπορούν να αντιμετωπίσουν μεγάλες προκλήσεις όταν δεν χρησιμοποιούν low-code. Στον κόσμο σήμερα, υπάρχουν μόνο 300.000 μηχανικοί AI, και μόνο 60.000 από αυτούς είναι επιστήμονες δεδομένων. Λόγω αυτού, το εξειδικευμένο προσωπικό που απαιτείται για την ανάπτυξη και κλιμάκωση λύσεων AI είναι ακριβό και αυξάνεται. Σε αντίθεση, η ανάπτυξη low-code πραγματικά δημοκρατικοποιεί την πρόσβαση σε AI. Με low-code, οποιοσδήποτε από τους 25 εκατομμύρια προγραμματιστών λογισμικού και ακόμη και αυτοί χωρίς εκπαίδευση, μπορούν εύκολα να εφαρμόσουν κινητήρες AI, να βελτιώσουν τις ικανότητές τους και να παράγουν αποτελεσματικές λύσεις.

Επιστρέφοντας στην πλατφόρμα Signals που υποστηρίζεται από AI της Iterate.ai, ποια είναι κάποια από τα πιο ενδιαφέροντα trends που εμφανίζονται;

Βλέπουμε ταχεία ανάπτυξη σε πέντε δυνάμεις καινοτομίας: AI, IoT, blockchain, δεδομένα και λύσεις startup. Αυτά είναι όλα πολύ μεγάλες αγορές. Βλέπουμε χιλιάδες σημεία δεδομένων για ειδήσεις, διπλώματα ευρεσιτεχνίας και νέα προϊόντα startup κάθε μέρα. Η Interplay κατασκευάστηκε για να αξιοποιήσει αυτές τις δυνάμεις, συμπεριλαμβανομένων προ-κατασκευασμένων στοιχείων για να επωφεληθεί από αυτές τις αυξανόμενες δυνάμεις.

Υπάρχει κάτι άλλο που θα ήθελε να μοιραστεί σχετικά με την Iterate.ai;

Νομίζω ότι υπάρχουν ακόμη παρεξηγήσεις γύρω από την low-code και τον ρόλο της στην κατασκευή εφαρμογών AI. Δεν είναι ασυνήθιστο να βλέπουμε επαγγελματίες IT να αμφιβάλλουν εάν μια στρατηγική low-code μπορεί να καλύψει τις απαιτήσεις τους για κλιμάκωση επιχείρησης, επεκτασιμότητα και ασφάλεια. Νομίζω ότι οι επιλογές low-code που προορίζονται για προτυποποίηση – αλλά λανθασμένα εφαρμόζονται ως εργαλεία για εφαρμογές παραγωγής – έχουν συνεισφέρει σε αυτή τη δυσπιστία. Όμως, οι σωστές πλατφόρμες low-code είναι απολύτως ικανές να κατασκευάσουν και να υποστηρίξουν εφαρμογές AI που είναι έτοιμες για παραγωγή. Οι επιχειρήσεις πρέπει να εκτελέσουν την due diligence τους στην επιλογή εργαλείων low-code, βεβαιωμένοι ότι αυτά τα εργαλεία έχουν ένα διαφανές και ολοκληρωμένο επίπεδο ασφάλειας, και ένα αποδεδειγμένο ιστορικό παραγωγής εφαρμογών σε κλίμακα επιχείρησης.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν Iterate.ai.