Brian Sathianathan, Chief Technology Officer & Co-Founder του Iterate.ai – Σειρά Συνεντεύξεων

Ο Brian Sathianathan είναι ο Chief Technology Officer και συνιδρυτής στο Iterate.ai, δημιουργός της πλατφόρμας χαμηλού κώδικα Interplay για την ταχεία δημιουργία εφαρμογών που βασίζονται σε AI σε όλους τους κλάδους. Προηγουμένως, ο Sathianathan εργάστηκε στην Apple σε διάφορα αναδυόμενα τεχνολογικά έργα που περιελάμβαναν το λειτουργικό σύστημα Mac και το πρώτο iPhone.

Τι σας προσέλκυσε αρχικά να εργαστείτε με τεχνολογίες AI;

Πάντα με ενδιέφερε η μάθηση με γνώμονα τον αλγόριθμο και άρχισα να δουλεύω με συστήματα τεχνητής νοημοσύνης κατά τη διάρκεια των ημερών του κολεγίου μου. Επιπλέον, πέρασα πολύ χρόνο στην αρχή της καριέρας μου δημιουργώντας κρυπτογραφία και άλλες τεχνολογίες ασφάλειας για την Apple και τεχνολογίες συμπίεσης βίντεο για μια προηγούμενη εταιρεία που συνίδρυσα. Τόσο οι τεχνολογίες βίντεο όσο και οι τεχνολογίες κρυπτογράφησης είναι πολύ εντατικές σε αλγόριθμους και αυτό έκανε πραγματικά την καμπύλη μάθησής μου στο AI/ML πιο γρήγορη. Γύρω στο 2016, άρχισα να παίζω με πλαίσια/GPU τεχνητής νοημοσύνης ανοιχτού κώδικα, συνειδητοποιώντας πόσο μακριά έχουν φτάσει τα τελευταία πέντε χρόνια – τόσο από την άποψη του αλγορίθμου όσο και από την ικανότητά τους να κάνουν ένα ευρύτερο φάσμα ταξινομήσεων. Τότε συνειδητοποίησα την ανάγκη να το κάνω πιο εύκολο και πιο απλό στη χρήση από όλους.

Έχετε κάποιες ισχυρές απόψεις σχετικά με τη γνωστική προκατάληψη και την προκατάληψη δεδομένων στην τεχνητή νοημοσύνη, θα μπορούσατε να μοιραστείτε αυτές τις ανησυχίες;

Η μεροληψία AI συμβαίνει όταν οι μηχανικοί αφήνουν τις δικές τους απόψεις και προκαταλήψεις να διαμορφώσουν τα σύνολα δεδομένων εκπαίδευσης AI. Κάνοντας τόσο γρήγορα υπονομεύει αυτό που προσπαθούν να επιτύχουν με την τεχνητή νοημοσύνη. Τις περισσότερες φορές, αυτή η επιρροή είναι υποσυνείδητη, επομένως μπορεί να μην γνωρίζουν καν ότι η προκατάληψη έχει εισχωρήσει στα σύνολα δεδομένων τους. Χωρίς αποτελεσματικούς ελέγχους και ισορροπίες, τα δεδομένα μπορούν να περιοριστούν μόνο σε εκείνα τα σημεία εστίασης ή δημογραφικά στοιχεία που οι μηχανικοί είναι επιρρεπείς να εξετάσουν. Ακόμη και όταν οι μηχανικοί έχουν υψηλή ποιότητα και όγκο δεδομένων για να εργαστούν, οι προκαταλήψεις στα σύνολα δεδομένων μπορεί να καταστήσουν τα αποτελέσματα που παρέχονται από εφαρμογές τεχνητής νοημοσύνης εσφαλμένα και, σε πολλές περιπτώσεις, σε μεγάλο βαθμό άχρηστα.

Μια έκθεση της Gartner υπολόγισε ότι έως το 2030, το 85% των έργων τεχνητής νοημοσύνης θα παρέχουν ψευδή αποτελέσματα λόγω μεροληψίας. Αυτό είναι ένα μεγάλο κενό που πρέπει να ξεπεραστεί. Οι επιχειρήσεις που επενδύουν, εμπιστεύονται και λαμβάνουν στρατηγικές αποφάσεις με βάση την τεχνητή νοημοσύνη – μόνο για να παραπλανηθούν από λανθασμένα συμπεράσματα που βασίζονται σε μεροληψία – κινδυνεύουν με αποτυχίες υψηλού κόστους και ζημιά στη φήμη τους. Με την τεχνητή νοημοσύνη να μετατοπίζεται γρήγορα από μια αναδυόμενη τεχνολογία σε έναν πανταχού παρόν ακρογωνιαίο λίθο τόσο στις εφαρμογές που αντιμετωπίζουν οι πελάτες όσο και στις εσωτερικές διαδικασίες, η άρση της μεροληψίας είναι απαραίτητη για την υλοποίηση των πραγματικών δυνατοτήτων της τεχνητής νοημοσύνης στο μέλλον.

Ποιοι είναι μερικοί τρόποι για να αποτρέψετε την εμφάνιση αυτών των ειδών μεροληψίας;

Η προκατάληψη της τεχνητής νοημοσύνης πρέπει να εντοπίζεται και να αφαιρείται συστηματικά και προληπτικά. Οι προκαταλήψεις μπορεί να κωδικοποιηθούν σε αλγόριθμους. Οι ανακρίβειες ενδέχεται να εισαχθούν μέσω γνωστικών προκαταλήψεων που απλώς παραλείπουν τα απαραίτητα δεδομένα. Η προκατάληψη της συγκέντρωσης είναι ένας ακόμη κίνδυνος εδώ, όπου μια σειρά μικρών αποφάσεων αθροίζονται σε λοξά αποτελέσματα AI.

Ο εντοπισμός και η εξάλειψη της προκατάληψης της τεχνητής νοημοσύνης σε όλες τις μορφές της απαιτεί από τους οργανισμούς να χρησιμοποιούν πλαίσια, εργαλειοθήκες, διαδικασίες και πολιτικές που έχουν δημιουργηθεί για να μετριάζουν αποτελεσματικά αυτά τα ζητήματα. Για παράδειγμα, πλαίσια AI όπως το Aletheia Framework από τη Rolls Royce και Το πλαίσιο τεχνητής νοημοσύνης της Deloitte – συμπληρώνεται από δείκτες αναφοράς που επιβάλλονται αυτόματα – μπορεί να προωθήσει πρακτικές χωρίς προκατάληψη σε όλη την ανάπτυξη και ανάπτυξη εφαρμογών τεχνητής νοημοσύνης. Εργαλειοθήκες όπως το AI Fairness 360 και IBM Watson OpenScale μπορεί να αναγνωρίσει και να αφαιρέσει μοτίβα μεροληψίας και μεροληψίας σε μοντέλα και αγωγούς μηχανικής μάθησης. Τέλος, οι διαδικασίες που δοκιμάζουν δεδομένα έναντι καθορισμένων μετρήσεων μεροληψίας, σε συνδυασμό με πολιτικές που παρέχουν διακυβέρνηση για την αποτροπή της μεροληψίας μέσω επιβεβλημένων πρακτικών, επιτρέπουν στους οργανισμούς να ελέγχουν συστηματικά τα τυφλά σημεία τους και να περιορίζουν την προκατάληψη της τεχνητής νοημοσύνης.

Είστε ο CTO και συνιδρυτής στο Iterate.ai – πώς ξεκίνησε;

Αυτή η ιστορία ξεκινά το 2013 όταν ο συνιδρυτής Jon Nordmark (Ο Διευθύνων Σύμβουλός μας) και εγώ υπηρετήσαμε και οι δύο ως μέλη του διοικητικού συμβουλίου ενός επιταχυντή της Ανατολικής Ευρώπης με έδρα την Ουκρανία, που σχεδιάστηκε για να βοηθήσει τους επιχειρηματίες εκεί να δημιουργήσουν και να λειτουργήσουν startups τύπου Silicon Valley. Αυτές οι εμπειρίες με εκπληκτικά καινοτόμες νέες εταιρείες μας οδήγησαν στην ιδέα να συνδυάσουμε πολλά υποσχόμενες (αλλά ίσως λιγότερο γνωστές) startups με μεγάλες επιχειρήσεις που χρειάζονται υποστήριξη καινοτομίας. Στη συνέχεια, λανσάραμε αυτό που τότε ονομαζόταν Iterate Studio, προσφέροντας μια εξειδικευμένη μηχανή αναζήτησης για τις επιχειρήσεις να βρουν συνεργάτες εκκίνησης με βάση τις καινοτόμες δυνατότητες που αναζητούσαν αυτοί οι μεγαλύτεροι οργανισμοί. Το 2015, η εταιρεία έγινε Iterate.ai για να αναδείξει την επιμέλεια εκκίνησης με γνώμονα την τεχνητή νοημοσύνη. Σήμερα, το δικό μας Σήματα Η βάση δεδομένων ευρετηριάζει περισσότερες από 15.7 εκατομμύρια τεχνολογίες εκκίνησης με βάση μυριάδες παράγοντες (και χρησιμοποιώντας αποκλειστική τεχνητή νοημοσύνη για να το πραγματοποιήσει σε αυτή την κλίμακα).

Επεκταθήκαμε το 2017 και λανσάραμε την πρώτη έκδοση μας Αλληλεπίδραση πλατφόρμα ανάπτυξης εφαρμογών χαμηλού κώδικα. Το Interplay παρέχει ένα επίπεδο λογισμικού με τροφοδοσία τεχνητής νοημοσύνης που εκσυγχρονίζει τις παλαιού τύπου στοίβες των επιχειρήσεων, επιτρέποντας τη χρήση καινοτόμων τεχνολογιών με μεταφορά και απόθεση, ενώ παράλληλα επιταχύνει την ανάπτυξη λογισμικού κατά δέκα φορές. Η πλατφόρμα χαμηλού κώδικα έχει 475 προκατασκευασμένα στοιχεία, έτσι ώστε οι χρήστες να μπορούν να συνδυάζουν και να ταιριάζουν με τις τεχνολογίες που χρειάζονται για τη γρήγορη περιστροφή εφαρμογών. Η ενδυνάμωση της τεχνητής νοημοσύνης βρίσκεται στον πυρήνα της πλατφόρμας, καθώς και άλλα στοιχεία χαμηλού κώδικα για το IoT, την ενοποίηση δεδομένων, ακόμη και το blockchain.

Το Iterate είναι μια πλατφόρμα χαμηλού κώδικα για την ανάπτυξη εφαρμογών που βασίζονται σε τεχνητή νοημοσύνη. Ποιες είναι μερικές από τις εφαρμογές AI που μπορούν να κατασκευαστούν;

Η πλατφόρμα μας χαμηλού κώδικα έχει ενεργοποιήσει τις εφαρμογές AI για μια πραγματικά ενδιαφέρουσα ποικιλία περιπτώσεων χρήσης – το εύρος της ανάπτυξης είναι κάτι για το οποίο είμαστε πραγματικά περήφανοι. Η Ulta Beauty, η παγκόσμια εταιρεία λιανικής ομορφιάς δισεκατομμυρίων δολαρίων, χρησιμοποίησε την πλατφόρμα μας για να δημιουργήσει ένα έξυπνο τεχνητή νοημοσύνη λιανικής συνομιλίας επισκέπτη σε μόλις δύο εβδομάδες. Αντίθετα, τα πρωτόγονα chatbot επικεντρώνονται στη λέξη-κλειδί και οι περισσότερες εφαρμογές chatbot προμηθευτών δεν μπορούν να ενσωματωθούν απρόσκοπτα με παλαιού τύπου συστήματα για πρόσβαση σε πληροφορίες πελατών ή για ομαλή μετάβαση σε υποστήριξη υποβοηθούμενη από τον άνθρωπο. Το έξυπνο chatbot AI της Ulta εξάλειψε αυτά τα προβλήματα με τη λειτουργικότητα επεξεργασίας φυσικής γλώσσας και την ικανότητα αναγνώρισης των «προθέσεων» των πελατών για την παροχή πραγματικά ακριβών απαντήσεων. Η πλατφόρμα μας διευκόλυνε την Ulta να κατασκευάσει τη μηχανή AI του chatbot σε λίγες ώρες και να διαμορφώσει, να βελτιώσει και να βελτιώσει την εκπαίδευση και τις απαντήσεις του chatbot εξαιρετικά γρήγορα.

Σε ένα άλλο παράδειγμα, Ο Jockey χρησιμοποίησε την πλατφόρμα μας για να ενεργοποιήσει τις Συχνές Ερωτήσεις που βασίζονται σε AI έτοιμος να ανταποκριθεί αυτόματα (και με επιτυχία) σε αρκετά περίπλοκα και υποκειμενικά σενάρια εξυπηρέτησης πελατών. Η πλατφόρμα μας επέτρεψε επίσης την πανδημική απόκριση ενός παγκόσμιου καταστήματος ψιλικών ειδών και του δικτύου φυσικού αερίου με αντλίες αερίου χωρίς αφή, βασιζόμενη στην αναγνώριση εικόνων των πινακίδων κυκλοφορίας πελατών βάσει τεχνητής νοημοσύνης. Οι δυνατότητές μας AI εφαρμόζονται επίσης για την ενδυνάμωση στρατηγικές ασφαλείας με επίκεντρο την κάμερα σε σημεία λιανικής. Μέσω της αναγνώρισης εικόνας, οι εκπαιδευμένες εφαρμογές τεχνητής νοημοσύνης μπορούν να εντοπίσουν απειλές και την παρουσία όπλων έξω από τις βιτρίνες, να ενεργοποιήσουν το κλείδωμα καταστημάτων για την προστασία των πελατών και να επικοινωνήσουν με τις αρχές.

Πόσο μικρές είναι οι πραγματικές απαιτήσεις κωδικοποίησης; Πόσες δεξιότητες ανάπτυξης πρέπει να έχουν οι χρήστες;

Κατά τη γνώμη μου, ισχύει ο κανόνας 80/20. Το 80% των εφαρμοζόμενων περιπτώσεων χρήσης τεχνητής νοημοσύνης έχουν ήδη κατασκευαστεί και έχουν καθιερωμένα μοντέλα και δεδομένα εκπαίδευσης γύρω τους. Ένας παραδοσιακός οργανισμός μπορεί εύκολα να χρησιμοποιήσει μια πλατφόρμα χαμηλού κώδικα (η δική μας, η Interplay, είναι μια τέτοια πλατφόρμα) και να εφαρμόσει αυτές τις περιπτώσεις. Να μερικά παραδείγματα:

• Συχνές ερωτήσεις βάσει AI
• Ανιχνευτές προϊόντων με τεχνητή νοημοσύνη
• Συστάσεις και ομαδοποίηση προϊόντων
• OCR
• Οπτική αναγνώριση προϊόντος
• Ανάλυση δεδομένων σε πίνακα: πράγματα όπως AOV, ανάλυση καλαθιού, προβλέψεις ανατροπής κ.λπ
• Εξαγωγή/ανίχνευση αντικειμένων
• Μονιμότητα αντικειμένου

Οι παραπάνω περιπτώσεις θα μπορούσαν να υλοποιηθούν από έναν μηχανικό με γνώσεις προγραμματισμού από την πλευρά του διακομιστή και κάποια βασική κατανόηση των API μηχανικής εκμάθησης. Είναι πολύ παρόμοιο με τις τεχνικές ροής βίντεο, κρυπτογραφίας και διαχείρισης κλειδιών που χρησιμοποιούνται ευρέως μέσω API σήμερα. Οι περισσότεροι μηχανικοί που χρησιμοποιούν αυτά τα API συχνά δεν γνωρίζουν πώς λειτουργούν από κάτω.

Γιατί το AI χαμηλού κώδικα είναι σημαντικό για την κλιμάκωση της τεχνολογίας AI;

Οι επιχειρήσεις που επιδιώκουν δυνατότητες τεχνητής νοημοσύνης στην ανάπτυξη εφαρμογών τους μπορούν γρήγορα να αντιμετωπίσουν μεγάλες προκλήσεις όταν δεν χρησιμοποιούν χαμηλό κώδικα. Στον κόσμο σήμερα, υπάρχουν μόνο 300,000 μηχανικοί τεχνητής νοημοσύνης και μόνο 60,000 από αυτούς είναι επιστήμονες δεδομένων. Εξαιτίας αυτού, το ταλέντο που απαιτείται για την ανάπτυξη και την κλιμάκωση λύσεων AI είναι ακριβό και αυξάνεται. Αντίθετα, η ανάπτυξη χαμηλού κώδικα εκδημοκρατίζει πραγματικά την πρόσβαση στην τεχνητή νοημοσύνη. Με χαμηλό κώδικα, οποιοσδήποτε από τους 25 εκατομμύρια προγραμματιστές λογισμικού στον κόσμο, ακόμη και αυτοί που δεν έχουν εκπαίδευση, μπορούν εύκολα να εφαρμόσουν μηχανές τεχνητής νοημοσύνης, να βελτιώσουν τις δυνατότητές τους και να παράγουν και να κλιμακώσουν αποτελεσματικές λύσεις.

Επιστρέφοντας στην πλατφόρμα Signals του Iterate.ai με τεχνητή νοημοσύνη, ποιες είναι μερικές από τις πιο ενδιαφέρουσες τάσεις που εμφανίζονται; 

Βλέπουμε ταχεία ανάπτυξη σε πέντε δυνάμεις καινοτομίας: AI, IoT, blockchain, δεδομένα και αναδυόμενες λύσεις startup. Όλες αυτές είναι πολύ μεγάλες αγορές. Βλέπουμε καθημερινά χιλιάδες σημεία δεδομένων για ειδήσεις, πατέντες και νέα προϊόντα εκκίνησης. Η αλληλεπίδραση είναι χτισμένη για να αξιοποιεί και αυτές τις δυνάμεις, συμπεριλαμβάνοντας προκατασκευασμένα εξαρτήματα για να επωφεληθούν από αυτές τις αυξανόμενες δυνάμεις.

Υπάρχει κάτι άλλο που θα θέλατε να μοιραστείτε σχετικά με το Iterate.ai;

Νομίζω ότι εξακολουθούν να υπάρχουν παρανοήσεις σχετικά με τον χαμηλό κώδικα και τον ρόλο του στη δημιουργία εφαρμογών AI. Δεν είναι ασυνήθιστο να βλέπουμε επαγγελματίες πληροφορικής να αμφισβητούν εάν μια στρατηγική χαμηλού κώδικα μπορεί να καλύψει τις απαιτήσεις τους για επεκτασιμότητα, επεκτασιμότητα και ασφάλεια σε επίπεδο επιχείρησης. Νομίζω ότι οι επιλογές χαμηλού κώδικα που προορίζονται για πρωτότυπα – αλλά λανθασμένα εφαρμόστηκαν ως εργαλεία για εφαρμογές παραγωγής – συνέβαλαν σε αυτή την κούραση. Τούτου λεχθέντος, οι σωστές πλατφόρμες χαμηλού κώδικα ανταποκρίνονται απόλυτα στο καθήκον της δημιουργίας και της υποστήριξης εφαρμογών τεχνητής νοημοσύνης που είναι έτοιμες για παραγωγή. Οι επιχειρήσεις θα πρέπει να επιδείξουν τη δέουσα επιμέλεια για την επιλογή εργαλείων χαμηλού κώδικα, διασφαλίζοντας ότι αυτά τα εργαλεία διαθέτουν ένα διαφανές και εμπεριστατωμένο επίπεδο ασφάλειας και ένα αποδεδειγμένο ιστορικό παράδοσης εφαρμογών σε εταιρική κλίμακα.

Σας ευχαριστούμε για την υπέροχη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να το επισκεφτούν Iterate.ai.