Olga Beregovaya, vicepresidente dell’IA presso Smartling – Serie di interviste

Olga Beregovaya è vicepresidente dell’IA presso Smartling, dove guida la strategia di intelligenza artificiale in ambito di traduzione, dati, qualità e sicurezza. Si occupa di elaborazione del linguaggio naturale dal 1997 e ha lavorato con sistemi basati su regole, modelli statistici, reti neurali e modelli linguistici di grandi dimensioni. Prima di entrare in Smartling, è stata vicepresidente dell’innovazione nell’IA presso Welocalize e CEO di PROMT Americas.

Smartling fornisce software e servizi di traduzione e localizzazione per le imprese, combinando l’IA e la traduzione automatica con le competenze umane. La sua piattaforma supporta flussi di lavoro multilingue per siti web, applicazioni, contenuti di marketing, documenti e contenuti multimediali, offrendo accesso a più di 20 LLM e motori di traduzione automatica. In questa intervista, Beregovaya parla del divario dell’IA multilingue, della qualità della traduzione, della scelta dei modelli e del ruolo della supervisione umana nella localizzazione automatizzata.

In che modo questo percorso ha influenzato il tuo modo di concepire il ruolo dell’IA nel linguaggio e cosa ti ha spinta a guidare la strategia di intelligenza artificiale di Smartling?

Ho studiato la struttura delle lingue e il funzionamento delle famiglie linguistiche. Questo mi ha insegnato che tradurre significa lavorare sulla struttura e sul significato, non sostituire le parole una per una. La penso allo stesso modo anche per l’IA.

Ho iniziato a occuparmi di elaborazione del linguaggio naturale nel 1997, quando i sistemi si basavano su regole scritte a mano. Da allora, ho lavorato con modelli statistici, reti neurali e gli odierni modelli linguistici di grandi dimensioni. Ognuno ha risolto alcuni problemi e ne ha creati altri. Non credo che esista un modello in grado di risolvere tutto.

Sono entrata in Smartling perché la sua attività era stata concepita per tradurre ogni tipo di contenuto aziendale, dai siti web e dalle app ai documenti legali, ai contenuti di marketing e ai video. Ho iniziato come vicepresidente della traduzione automatica, ma il ruolo si è presto ampliato, andando oltre la traduzione e includendo la progettazione dei prompt, i dati, la qualità e la sicurezza. Così il titolo è diventato vicepresidente dell’IA.

Come si manifesta concretamente questo divario e perché potrebbe diventare ancora più rilevante man mano che l’IA generativa diventa un’interfaccia primaria?

Un tempo il divario era semplice: un sistema di IA supportava la tua lingua oppure no. Oggi la questione è perlopiù risolta, ma il divario ha assunto una forma diversa. Ora conta quanto i dati di addestramento del modello rappresentino bene quella lingua, chi la parla e la sua cultura. La maggior parte dei dati usati per addestrare i modelli è in inglese e porta con sé le prospettive di chi parla inglese. Una traduzione può essere tecnicamente accurata e imporre comunque a un’altra lingua una prospettiva anglofona.

L’IA sta diventando il mezzo con cui le persone interagiscono con banche, medici, scuole e altri servizi essenziali. Se un sistema di IA gestisce bene una lingua, chi la parla è avvantaggiato; se la gestisce male, è svantaggiato.

Che cosa ti ha sorpreso di più e come si spiega il fatto che lo svedese ottenga risultati migliori dell’hindi nonostante abbia molti meno parlanti?

Il numero di parlanti è un indicatore della qualità della traduzione sorprendentemente poco attendibile. Lo svedese, con circa 10 milioni di parlanti, ha prodotto alcuni dei risultati migliori. L’hindi, con circa 600 milioni di parlanti, è risultato tra i meno efficaci, insieme all’estone e al thai.

La struttura della lingua e la qualità dei dati contano molto di più. Lo svedese ha una grammatica relativamente semplice e dispone di molti dati di addestramento puliti. In estone le desinenze delle parole cambiano continuamente per esprimere significati diversi, il che rende più complesso il lavoro dell’IA. L’hindi ha centinaia di milioni di parlanti, ma dispone di molti meno dati di addestramento di alta qualità e diversificati di quanto ci si potrebbe aspettare in base al numero di parlanti.

L’altra sorpresa è stata che i progressi non erano uniformi da un laboratorio all’altro. In genere, le lingue che inizialmente ottenevano risultati peggiori miglioravano di più da una generazione di modelli alla successiva, ma questa tendenza non si verifica sempre.

Oltre alla quantità dei dati di addestramento, quali fattori incidono maggiormente sulle prestazioni dei modelli?

La tokenizzazione è uno dei fattori più importanti. È il processo con cui un modello suddivide il testo in unità prima di elaborarlo, ed è particolarmente importante per le lingue che non usano l’alfabeto latino. Una tokenizzazione inadeguata limita tutto ciò che viene dopo.

Conta anche la struttura della lingua. Le lingue con desinenze complesse possono essere più difficili da gestire per i modelli. Oppure, per esempio, in tedesco le parole si concatenano fino a formarne una sola lunga anche 40 caratteri, il che richiede più risorse al modello rispetto a lingue come lo spagnolo o il francese.

Poi c’è la qualità dei dati. Dati scadenti producono risultati scadenti. L’accuratezza, la varietà e la rappresentatività dei dati sono fondamentali per le prestazioni dell’IA nella traduzione.

Infine, c’è la misurazione. Usiamo TER, BLEU, CHRF3 e MetricX e confrontiamo i risultati con traduzioni umane affidabili. Un modello può sembrare naturale pur sbagliando il significato.

Qual è la responsabilità dei laboratori all’avanguardia e in che cosa consisterebbero progressi concreti?

I laboratori all’avanguardia hanno la maggiore responsabilità perché controllano i modelli linguistici più avanzati. Le loro scelte possono ampliare il divario o contribuire a ridurlo. Tuttavia, la traduzione spesso deve contendersi l’attenzione con il ragionamento, la programmazione e la sicurezza, perciò pochi laboratori hanno team dedicati a questo ambito.

Tre interventi farebbero una differenza concreta:

1. Creare dati di alta qualità per un maggior numero di lingue e ambiti.
2. Migliorare la tokenizzazione per le lingue in cui gli approcci attuali sono carenti.
3. E valutare ogni nuovo modello anche sulle lingue con meno dati di addestramento, non solo su quelle più diffuse.

Una grande opportunità consiste nel creare dati di addestramento per le lingue che hanno una presenza online molto limitata. Gran parte di questo lavoro si svolge al di fuori dei grandi laboratori. Collaboriamo con gruppi come l’African Language Lab per creare dati per le lingue africane.

Come determina Smartling quale dei suoi oltre 20 motori è più adatto a una determinata lingua, tipologia di contenuto o caso d’uso?

Li testiamo invece di dare per scontato che un modello sia il migliore. Valutiamo ogni modello confrontandolo con traduzioni umane affidabili, usando TER, BLEU, CHRF3 e MetricX. Un cliente può fornirci i propri contenuti di marketing e, nel giro di circa una settimana, possiamo mostrargli le prestazioni di ciascun modello in base alla lingua e all’argomento. Il modello più adatto ai contenuti di marketing in spagnolo latinoamericano potrebbe non essere il migliore per un’altra lingua o per contenuti sensibili.

Consideriamo anche il livello di rischio. I contenuti degli utenti a basso rischio possono seguire un processo di revisione più snello. I contenuti regolamentati o fondamentali per il marchio vengono sottoposti a più revisioni e, di norma, anche a un controllo umano. Poiché è possibile aggiungere o rimuovere modelli al variare delle loro prestazioni, non siamo vincolati a un unico fornitore.

In quali ambiti i sistemi di traduzione specializzati sono ancora più efficaci degli LLM generalisti e come finiranno per convergere i due approcci?

La traduzione automatica specializzata è ancora la scelta migliore quando la prevedibilità è fondamentale. È particolarmente utile per i contenuti sensibili e per determinate lingue. Gli LLM producono testi più naturali, ma possono anche generare allucinazioni con sicurezza.

In Smartling combiniamo i due approcci. Un modello di traduzione specializzato produce una prima bozza utilizzando la terminologia del cliente e i dati del settore. Un LLM la rielabora quindi, ripristinando la terminologia approvata, applicando le corrispondenze delle traduzioni precedenti e migliorando il testo.

Il modello sta diventando soltanto una componente del sistema. Oggi il prompt, i dati, la personalizzazione e i controlli di sicurezza sono altrettanto importanti.

Quali sono i rischi principali che le aziende dovrebbero considerare quando usano l’IA generativa per i contenuti multilingue?

Le allucinazioni, senza dubbio. Il mio esempio preferito è quello di una persona che chiede a un’IA se un fungo è velenoso. L’IA risponde di no con assoluta sicurezza, ma la lapide della persona dimostra che si sbagliava. Nelle traduzioni, il problema si manifesta sotto forma di testi che sembrano perfetti, ma riportano fatti sbagliati; il rischio può essere maggiore nelle lingue con meno dati di addestramento.

C’è poi il contesto culturale e normativo. Una traduzione può essere tecnicamente corretta e tuttavia inadatta al mercato di destinazione. Per esempio, il tedesco e il giapponese richiedono livelli di formalità che l’inglese non prevede. Inoltre, le norme cinesi sulla pubblicità limitano affermazioni come «il migliore».

Un altro aspetto è la coerenza. Su larga scala, gli strumenti di IA generici possono generare terminologia e tono di voce del marchio incoerenti. Un dirigente mi ha detto che la sua azienda ha 300.000 dipendenti e che, grazie all’IA generica, ha anche 300.000 voci diverse.

E a volte sono in gioco anche l’incolumità delle persone. Se un’istruzione di sicurezza che indica di tirare una leva viene tradotta male, una gru può cadere in un cantiere.

Come si presenta un agente di IA in un flusso di lavoro di localizzazione e quanto può essere automatizzato mantenendo la supervisione umana?

Un agente di IA è una fase di un flusso di lavoro di localizzazione. Un modello traduce, mentre un altro revisiona, verifica la presenza di allucinazioni, ripristina la terminologia approvata e adatta i contenuti al mercato di destinazione. Un controllo di qualità stabilisce poi se i contenuti possono essere pubblicati, se necessitano di una rapida revisione umana o di una revisione completa.

Il livello di automazione possibile dipende dal rischio. Gran parte del nostro lavoro a basso rischio è già completamente automatizzata, mentre i contenuti sensibili e regolamentati richiedono ancora l’intervento umano.

L’automazione completa non è sempre l’obiettivo, perché i modelli hanno bisogno del feedback umano per migliorare. L’obiettivo è ridurre il carico di lavoro delle persone senza rinunciare al loro giudizio.

Tra cinque anni il divario si ridurrà o aumenterà? E cosa serve perché l’IA diventi davvero multilingue su scala globale?

Potrebbe accadere in entrambi i modi. Le lingue che inizialmente erano supportate peggio stanno migliorando più rapidamente e un numero crescente di organizzazioni sta raccogliendo dati per le lingue con pochi contenuti online, compresi dati sulle lingue parlate.

Ma il divario sta cambiando forma. L’IA può gestire bene una lingua e, allo stesso tempo, riproporre le prospettive anglofone presenti nei dati di addestramento.

Per un’IA davvero multilingue serve un approccio diverso. Potrebbero essere necessari modelli più piccoli, specifici per determinate lingue e argomenti, anziché un unico modello generale a cui si chiede di fare tutto. Servono dati più diversificati tra lingue e settori, nonché una tokenizzazione migliore per le lingue per cui gli approcci attuali sono carenti. Servono anche dati sintetici e il trasferimento di ciò che un modello apprende da una lingua alle lingue correlate, affinché i miglioramenti non siano limitati alle lingue con la maggiore quantità di dati.

La tecnologia esiste, ma resta da vedere se le aziende che sviluppano questi modelli daranno priorità alle prestazioni multilingue.

Grazie per la splendida intervista. I lettori che desiderano approfondire la traduzione basata sull’IA, la valutazione della qualità multilingue e i flussi di lavoro di localizzazione con supervisione umana possono visitare Smartling.