Olga Beregovaya, αντιπρόεδρος ΤΝ στη Smartling – Σειρά συνεντεύξεων

Η Olga Beregovaya είναι αντιπρόεδρος ΤΝ στη Smartling, όπου ηγείται της στρατηγικής ΤΝ για τη μετάφραση, τα δεδομένα, την ποιότητα και την ασφάλεια. Εργάζεται στον τομέα της επεξεργασίας φυσικής γλώσσας από το 1997, έχοντας ασχοληθεί με συστήματα που βασίζονται σε κανόνες, στατιστικά μοντέλα, νευρωνικά δίκτυα και μεγάλα γλωσσικά μοντέλα. Πριν ενταχθεί στη Smartling, διετέλεσε αντιπρόεδρος καινοτομίας ΤΝ στη Welocalize και διευθύνουσα σύμβουλος της PROMT Americas.

Η Smartling προσφέρει λογισμικό και υπηρεσίες μετάφρασης και τοπικής προσαρμογής για επιχειρήσεις, συνδυάζοντας την ΤΝ και τη μηχανική μετάφραση με την ανθρώπινη τεχνογνωσία. Η πλατφόρμα της υποστηρίζει πολύγλωσσες ροές εργασίας για ιστοτόπους, εφαρμογές, υλικό μάρκετινγκ, έγγραφα και πολυμέσα, παρέχοντας πρόσβαση σε περισσότερα από 20 μεγάλα γλωσσικά μοντέλα και μηχανές μηχανικής μετάφρασης. Σε αυτή τη συνέντευξη, η Beregovaya συζητά το χάσμα στην πολυγλωσσική ΤΝ, την ποιότητα της μετάφρασης, την επιλογή μοντέλων και τον ρόλο της ανθρώπινης εποπτείας στην αυτοματοποιημένη τοπική προσαρμογή.

Πώς έχει επηρεάσει αυτή η πορεία τον τρόπο με τον οποίο αντιλαμβάνεστε τον ρόλο της ΤΝ στη γλώσσα και τι σας οδήγησε να αναλάβετε την ηγεσία της στρατηγικής ΤΝ στη Smartling;

Μελέτησα τη δομή των γλωσσών και τον τρόπο λειτουργίας των γλωσσικών οικογενειών. Αυτό μου έμαθε ότι η μετάφραση αφορά τη δομή και το νόημα, όχι την αντικατάσταση λέξεων μία προς μία. Με τον ίδιο τρόπο σκέφτομαι και για την ΤΝ.

Άρχισα να εργάζομαι στην επεξεργασία φυσικής γλώσσας το 1997, όταν τα συστήματα βασίζονταν σε κανόνες γραμμένους από ανθρώπους. Από τότε, έχω εργαστεί με στατιστικά μοντέλα, νευρωνικά δίκτυα και τα σημερινά μεγάλα γλωσσικά μοντέλα. Το καθένα έλυσε ορισμένα προβλήματα και δημιούργησε άλλα. Δεν πιστεύω ότι υπάρχει ένα μοντέλο που να αποτελεί τη λύση για όλα.

Εντάχθηκα στη Smartling επειδή η εταιρεία δημιουργήθηκε για να μεταφράζει κάθε είδους επιχειρηματικό περιεχόμενο, από ιστοτόπους και εφαρμογές μέχρι νομικά έγγραφα, υλικό μάρκετινγκ και βίντεο. Ξεκίνησα ως αντιπρόεδρος μηχανικής μετάφρασης, αλλά ο ρόλος σύντομα διευρύνθηκε και πέρα από τη μετάφραση, καλύπτοντας τη διαμόρφωση προτροπών, τα δεδομένα, την ποιότητα και την ασφάλεια. Έτσι, ο τίτλος μου έγινε αντιπρόεδρος ΤΝ.

Πώς εκδηλώνεται αυτό το χάσμα στην πράξη και γιατί θα μπορούσε να αποκτήσει μεγαλύτερη σημασία καθώς η παραγωγική ΤΝ γίνεται βασικό μέσο αλληλεπίδρασης;

Παλαιότερα, το χάσμα ήταν απλό: είτε ένα σύστημα ΤΝ υποστήριζε τη γλώσσα σας είτε όχι. Αυτό το ζήτημα έχει πλέον σε μεγάλο βαθμό διευθετηθεί, αλλά το χάσμα έχει αλλάξει μορφή. Αυτό που έχει σημασία τώρα είναι κατά πόσο τα δεδομένα εκπαίδευσης του μοντέλου αντιπροσωπεύουν επαρκώς τη συγκεκριμένη γλώσσα, τους ομιλητές της και την κουλτούρα τους. Τα περισσότερα δεδομένα εκπαίδευσης μοντέλων είναι στα αγγλικά, οπότε μεταφέρουν μαζί τους παραδοχές που αντανακλούν τον αγγλόφωνο κόσμο. Μια μετάφραση μπορεί να είναι τεχνικά ακριβής και παρ’ όλα αυτά να επιβάλλει την αγγλόφωνη οπτική σε μια άλλη γλώσσα.

Η ΤΝ γίνεται ο τρόπος με τον οποίο οι άνθρωποι αλληλεπιδρούν με τράπεζες, γιατρούς, σχολεία και άλλες βασικές υπηρεσίες. Αν ένα σύστημα ΤΝ χειρίζεται καλά τη γλώσσα σας, αποκτάτε πλεονέκτημα· αν τη χειρίζεται ανεπαρκώς, βρίσκεστε σε μειονεκτική θέση.

Τι σας εξέπληξε περισσότερο και πώς εξηγείται το γεγονός ότι τα σουηδικά έχουν καλύτερες επιδόσεις από τα χίντι, παρότι τα μιλούν πολύ λιγότεροι άνθρωποι;

Ο αριθμός των ομιλητών είναι απροσδόκητα κακός δείκτης της ποιότητας της μετάφρασης. Τα σουηδικά, με περίπου 10 εκατομμύρια ομιλητές, έδωσαν μερικά από τα καλύτερα αποτελέσματα. Τα χίντι, με περίπου 600 εκατομμύρια ομιλητές, ήταν μεταξύ των γλωσσών με τις χειρότερες επιδόσεις, μαζί με τα εσθονικά και τα ταϊλανδικά.

Η δομή της γλώσσας και η ποιότητα των δεδομένων έχουν πολύ μεγαλύτερη σημασία. Τα σουηδικά έχουν σχετικά απλή γραμματική και άφθονα καθαρά δεδομένα εκπαίδευσης. Στα εσθονικά, οι καταλήξεις των λέξεων αλλάζουν συνεχώς για να αποδώσουν νόημα, γεγονός που δυσκολεύει περισσότερο την επεξεργασία τους από την ΤΝ. Τα χίντι έχουν εκατοντάδες εκατομμύρια ομιλητές, αλλά πολύ λιγότερα δεδομένα εκπαίδευσης υψηλής ποιότητας και ποικιλίας απ’ όσα θα περίμενε κανείς με βάση τον αριθμό των ομιλητών τους.

Μια άλλη έκπληξη ήταν ότι η πρόοδος δεν ήταν ίδια από το ένα εργαστήριο στο άλλο. Οι γλώσσες που αρχικά είχαν χαμηλότερες επιδόσεις συνήθως βελτιώνονταν περισσότερο από τη μία γενιά μοντέλων στην επόμενη, αλλά αυτό το μοτίβο δεν ισχύει πάντα.

Πέρα από τον όγκο των δεδομένων εκπαίδευσης, ποιοι παράγοντες επηρεάζουν περισσότερο την απόδοση των μοντέλων;

Η κατάτμηση σε υπομονάδες (tokenization) είναι ένας από τους σημαντικότερους παράγοντες. Πρόκειται για τον τρόπο με τον οποίο ένα μοντέλο χωρίζει το κείμενο σε τμήματα πριν το επεξεργαστεί, κάτι ιδιαίτερα σημαντικό για τις γλώσσες που δεν χρησιμοποιούν το λατινικό αλφάβητο. Η ανεπαρκής κατάτμηση περιορίζει όλα τα επόμενα στάδια.

Σημασία έχει και η δομή της γλώσσας. Οι γλώσσες με σύνθετες καταλήξεις λέξεων μπορεί να είναι δυσκολότερες στην επεξεργασία από τα μοντέλα. Για παράδειγμα, στα γερμανικά συντίθενται λέξεις που μπορεί να φτάσουν τους 40 χαρακτήρες, γεγονός που απαιτεί περισσότερα από ένα μοντέλο σε σχέση με γλώσσες όπως τα ισπανικά ή τα γαλλικά.

Έπειτα είναι η ποιότητα των δεδομένων. Τα κακά δεδομένα οδηγούν σε κακά αποτελέσματα. Η ακρίβεια, η ποικιλία και η αντιπροσωπευτικότητα των δεδομένων είναι εξαιρετικά κρίσιμες για την απόδοση της ΤΝ στη μετάφραση.

Τέλος, υπάρχει η αξιολόγηση. Χρησιμοποιούμε τα TER, BLEU, CHRF3 και MetricX και συγκρίνουμε τα αποτελέσματα με αξιόπιστες ανθρώπινες μεταφράσεις. Ένα μοντέλο μπορεί να ακούγεται φυσικό, αλλά να αποδίδει λανθασμένα το νόημα.

Ποια ευθύνη έχουν τα κορυφαία εργαστήρια ΤΝ και πώς θα έμοιαζε ουσιαστική πρόοδος;

Τα κορυφαία εργαστήρια ΤΝ έχουν τη μεγαλύτερη ευθύνη, επειδή ελέγχουν τα πιο προηγμένα γλωσσικά μοντέλα. Οι επιλογές τους μπορούν είτε να διευρύνουν το χάσμα είτε να συμβάλουν στη μείωσή του. Ωστόσο, η μετάφραση συχνά ανταγωνίζεται τη συλλογιστική, τον προγραμματισμό και την ασφάλεια για να προσελκύσει προσοχή, γι’ αυτό και λίγα εργαστήρια διαθέτουν ειδικές ομάδες που επικεντρώνονται σε αυτήν.

Τρία πράγματα θα έκαναν ουσιαστική διαφορά:

1. Δημιουργία δεδομένων υψηλής ποιότητας για περισσότερες γλώσσες και θεματικά πεδία.
2. Βελτιώστε την κατάτμηση σε μονάδες (tokenization) για γλώσσες στις οποίες οι τρέχουσες προσεγγίσεις δεν αποδίδουν ικανοποιητικά.
3. Και αξιολογείτε κάθε νέο μοντέλο σε γλώσσες με λιγότερα δεδομένα εκπαίδευσης, όχι μόνο στις γλώσσες με τα περισσότερα δεδομένα.

Μια σημαντική ευκαιρία είναι η δημιουργία δεδομένων εκπαίδευσης για γλώσσες με ελάχιστη παρουσία στο διαδίκτυο. Μεγάλο μέρος αυτής της δουλειάς γίνεται εκτός των μεγάλων εργαστηρίων. Συνεργαζόμαστε με ομάδες όπως το African Language Lab για τη δημιουργία δεδομένων για αφρικανικές γλώσσες.

Πώς καθορίζει η Smartling ποια από τις περισσότερες από 20 μηχανές της είναι κατάλληλη για μια συγκεκριμένη γλώσσα, έναν τύπο περιεχομένου ή μια χρήση;

Τις δοκιμάζουμε αντί να θεωρούμε δεδομένο ότι ένα μοντέλο είναι το καλύτερο. Αξιολογούμε κάθε μοντέλο με βάση αξιόπιστες ανθρώπινες μεταφράσεις, χρησιμοποιώντας τα TER, BLEU, CHRF3 και MetricX. Ένας πελάτης μπορεί να μας δώσει το περιεχόμενο μάρκετινγκ που διαθέτει και, μέσα σε περίπου μία εβδομάδα, μπορούμε να του δείξουμε πώς αποδίδει κάθε μοντέλο ανά γλώσσα και θεματικό πεδίο. Το καλύτερο μοντέλο για περιεχόμενο μάρκετινγκ στα ισπανικά της Λατινικής Αμερικής μπορεί να μην είναι το καλύτερο για κάποια άλλη γλώσσα ή για ευαίσθητο περιεχόμενο.

Λαμβάνουμε επίσης υπόψη τον κίνδυνο. Το περιεχόμενο χρηστών χαμηλότερου κινδύνου μπορεί να περάσει από μια πιο ελαφριά διαδικασία ελέγχου. Το περιεχόμενο που υπόκειται σε κανονιστικές απαιτήσεις ή είναι κρίσιμο για το εμπορικό σήμα ελέγχεται περισσότερες φορές και συνήθως εξετάζεται και από άνθρωπο. Καθώς μπορούμε να προσθέτουμε ή να αφαιρούμε μοντέλα όταν αλλάζει η απόδοσή τους, δεν δεσμευόμαστε σε έναν μόνο πάροχο.

Σε ποιους τομείς εξακολουθούν να υπερέχουν τα εξειδικευμένα συστήματα μετάφρασης έναντι των LLM γενικής χρήσης και πώς θα συγκλίνουν οι δύο προσεγγίσεις;

Η εξειδικευμένη μηχανική μετάφραση εξακολουθεί να υπερέχει όταν η προβλεψιμότητα έχει τη μεγαλύτερη σημασία. Είναι ιδιαίτερα χρήσιμη για ευαίσθητο περιεχόμενο και ορισμένες γλώσσες. Τα LLM παράγουν πιο φυσικό κείμενο, αλλά μπορεί επίσης να εμφανίσουν παραισθήσεις με απόλυτη βεβαιότητα.

Στη Smartling συνδυάζουμε τις δύο προσεγγίσεις. Ένα εξειδικευμένο μοντέλο μετάφρασης δημιουργεί το πρώτο προσχέδιο, χρησιμοποιώντας την ορολογία και τα δεδομένα του πελάτη για τον συγκεκριμένο τομέα. Στη συνέχεια, ένα LLM το επιμελείται, επαναφέρει την εγκεκριμένη ορολογία, εφαρμόζει αντιστοιχίσεις από προηγούμενες μεταφράσεις και βελτιώνει τη διατύπωση.

Το μοντέλο γίνεται πλέον ένα μόνο μέρος του συστήματος. Η διατύπωση των προτροπών, τα δεδομένα, η προσαρμογή και οι δικλίδες ασφαλείας έχουν πλέον εξίσου μεγάλη σημασία.

Ποιοι είναι οι σημαντικότεροι κίνδυνοι που πρέπει να λαμβάνουν υπόψη οι επιχειρήσεις όταν χρησιμοποιούν παραγωγική τεχνητή νοημοσύνη για πολύγλωσσο περιεχόμενο;

Οι παραισθήσεις, χωρίς αμφιβολία. Το αγαπημένο μου παράδειγμα είναι κάποιος που ρωτά μια τεχνητή νοημοσύνη αν ένα μανιτάρι είναι δηλητηριώδες. Η απάντηση είναι «όχι», με απόλυτη βεβαιότητα, και η επιτύμβια πλάκα του ανθρώπου αποδεικνύει ότι έκανε λάθος. Στη μετάφραση, αυτό εκδηλώνεται ως κείμενο που ακούγεται άψογο, αλλά περιέχει λανθασμένα στοιχεία· ο κίνδυνος μπορεί να είναι μεγαλύτερος σε γλώσσες με λιγότερα δεδομένα εκπαίδευσης.

Έπειτα υπάρχει το πολιτισμικό και κανονιστικό πλαίσιο. Μια μετάφραση μπορεί να είναι τεχνικά σωστή και παρ’ όλα αυτά ακατάλληλη για την αγορά. Για παράδειγμα, τα γερμανικά και τα ιαπωνικά απαιτούν βαθμούς τυπικότητας που δεν απαιτούνται στα αγγλικά. Οι κανόνες για τη διαφήμιση στην Κίνα περιορίζουν επίσης ισχυρισμούς όπως «το καλύτερο».

Ένα ακόμη ζήτημα είναι η συνέπεια. Σε μεγάλη κλίμακα, τα εργαλεία τεχνητής νοημοσύνης γενικής χρήσης μπορούν να οδηγήσουν σε ασυνεπή ορολογία και φωνή εμπορικού σήματος. Ένα στέλεχος μού είπε ότι η εταιρεία του έχει 300.000 εργαζομένους και, χάρη στην τεχνητή νοημοσύνη γενικής χρήσης, 300.000 διαφορετικές φωνές.

Και οι συνέπειες μπορεί να είναι σωματικές. Αν μεταφραστεί λανθασμένα μια οδηγία ασφαλείας για το τράβηγμα ενός μοχλού, ένας γερανός μπορεί να πέσει σε ένα εργοτάξιο.

Πώς λειτουργεί ένας πράκτορας τεχνητής νοημοσύνης στη ροή εργασιών τοπικής προσαρμογής και πόσο μπορεί να αυτοματοποιηθεί υπό ανθρώπινη επίβλεψη;

Ένας πράκτορας τεχνητής νοημοσύνης αποτελεί ένα βήμα σε μια ροή εργασιών τοπικής προσαρμογής. Ένα μοντέλο μεταφράζει, ενώ ένα άλλο ελέγχει τη μετάφραση, εντοπίζει παραισθήσεις, επαναφέρει την εγκεκριμένη ορολογία και προσαρμόζει το περιεχόμενο στην αγορά. Στη συνέχεια, ένας έλεγχος ποιότητας αποφασίζει αν το περιεχόμενο μπορεί να δημοσιευτεί, αν χρειάζεται έναν γρήγορο ανθρώπινο έλεγχο ή αν απαιτείται πλήρης έλεγχος.

Το πόσο μπορεί να αυτοματοποιηθεί εξαρτάται από τον κίνδυνο. Μεγάλο μέρος των εργασιών μας χαμηλότερου κινδύνου είναι ήδη πλήρως αυτοματοποιημένο, αλλά το ευαίσθητο περιεχόμενο και το περιεχόμενο που υπόκειται σε κανονιστικές απαιτήσεις εξακολουθούν να απαιτούν ανθρώπινη παρέμβαση.

Η πλήρης αυτοματοποίηση δεν είναι πάντα ο στόχος, καθώς τα μοντέλα χρειάζονται ανθρώπινη ανατροφοδότηση για να βελτιώνονται. Στόχος είναι να μειωθεί ο φόρτος εργασίας των ανθρώπων χωρίς να καταργηθεί η ανθρώπινη κρίση.

Σε πέντε χρόνια, θα μειωθεί ή θα διευρυνθεί το χάσμα και τι θα έκανε την τεχνητή νοημοσύνη πραγματικά πολύγλωσση σε παγκόσμια κλίμακα;

Μπορεί να συμβεί είτε το ένα είτε το άλλο. Οι γλώσσες που ξεκίνησαν από τη χειρότερη θέση βελτιώνονται ταχύτερα, ενώ όλο και περισσότεροι οργανισμοί συλλέγουν δεδομένα για γλώσσες με ελάχιστο περιεχόμενο στο διαδίκτυο, συμπεριλαμβανομένων δεδομένων προφορικού λόγου.

Ωστόσο, το χάσμα αλλάζει μορφή. Η τεχνητή νοημοσύνη μπορεί να χειρίζεται καλά μια γλώσσα, αλλά ταυτόχρονα να ενσωματώνει παραδοχές αγγλόφωνων από τα δεδομένα εκπαίδευσής της.

Για να γίνει η τεχνητή νοημοσύνη πραγματικά πολύγλωσση, απαιτείται διαφορετική προσέγγιση. Αυτό μπορεί να σημαίνει μικρότερα μοντέλα, προσαρμοσμένα σε συγκεκριμένες γλώσσες και θεματικά πεδία, αντί για ένα γενικό μοντέλο από το οποίο αναμένεται να κάνει τα πάντα. Σημαίνει επίσης πιο ποικίλα δεδομένα σε διαφορετικές γλώσσες και θεματικούς τομείς, καθώς και καλύτερη κατάτμηση σε μονάδες (tokenization) για γλώσσες στις οποίες οι τρέχουσες προσεγγίσεις δεν αποδίδουν ικανοποιητικά. Επιπλέον, χρειάζονται συνθετικά δεδομένα, καθώς και η μεταφορά της γνώσης που αποκτά ένα μοντέλο από μία γλώσσα σε συγγενικές γλώσσες, ώστε οι βελτιώσεις να μην περιορίζονται στις γλώσσες με τα περισσότερα δεδομένα.

Η τεχνολογία υπάρχει, αλλά το ερώτημα είναι αν οι εταιρείες που αναπτύσσουν αυτά τα μοντέλα θα δώσουν προτεραιότητα στην απόδοση σε πολλές γλώσσες.

Σας ευχαριστούμε για την εξαιρετική συνέντευξη. Οι αναγνώστες που θέλουν να εξερευνήσουν τη μετάφραση με τεχνητή νοημοσύνη, την αξιολόγηση της πολυγλωσσικής ποιότητας και τις ροές εργασίας τοπικοποίησης με ανθρώπινη εποπτεία μπορούν να επισκεφθούν τη Smartling.