Generatieve AI is geen doodvonnis voor bedreigde talen

Volgens UNESCO kunnen tot de helft van de talen tegen 2100 uitsterven. Veel mensen zeggen dat generatieve AI hieraan bijdraagt.

De achteruitgang in taaldiversiteit is niet begonnen met AI – of het internet. Maar AI is in een positie om het verval van inheemse en laagbron-talen te versnellen.

De meeste van de 7.000+ talen in de wereld hebben onvoldoende middelen om AI-modellen te trainen – en veel ontbreken een geschreven vorm. Dit betekent dat een paar grote talen de voorraad van potentiële AI-trainingsgegevens van de mensheid domineren, terwijl de meeste achterblijven in de AI-revolutie – en mogelijk helemaal verdwijnen.

De eenvoudige reden is dat de meeste beschikbare AI-trainingsgegevens in het Engels zijn. Engels is de belangrijkste driver van grote taalmodellen (LLM’s), en mensen die minder gangbare talen spreken, vinden zichzelf ondervertegenwoordigd in AI-technologie.

Bekijk deze statistieken van het World Economic Forum:

• Twee derde van alle websites is in het Engels.
• Veel van de gegevens die GenAI leert, zijn afgeleid van het web.
• Minder dan 20% van de wereldbevolking spreekt Engels.

Naarmate AI meer ingebed raakt in ons dagelijks leven, moeten we allemaal nadenken over taalgelijkheid. AI heeft een ongekend potentieel om problemen op te lossen in grote mate, en zijn belofte mag niet beperkt blijven tot de Engelssprekende wereld. AI creëert gemakken en hulpmiddelen die het persoonlijke en professionele leven van mensen in rijke, ontwikkelde landen verbeteren.

Sprekers van laagbron-talen zijn gewend om een tekort aan vertegenwoordiging in technologie te vinden – van het niet vinden van websites in hun taal tot het niet herkennen van hun dialect door Siri. Veel van de tekst die wel beschikbaar is om AI in lagere bron-talen te trainen, is van slechte kwaliteit (zelf vertaald met twijfelachtige nauwkeurigheid) en smal in omvang.

Hoe kan de samenleving ervoor zorgen dat laagbron-talen niet buiten de AI-vergelijking worden gelaten? Hoe kunnen we ervoor zorgen dat taal geen barrière is voor de belofte van AI?

In een poging tot taal-inclusiviteit hebben enkele grote technologiebedrijven initiatieven om enorme meertalige taalmodellen (MLM’s) te trainen. Microsoft (MSFT ) Translate heeft bijvoorbeeld beloofd om “elke taal, overal” te ondersteunen. En Meta heeft een “Geen taal achtergelaten” belofte. Dit zijn lovenswaardige doelen, maar zijn ze realistisch?

Als we streven naar één model dat elke taal in de wereld behandelt, geven we de voorkeur aan de bevoorrechten, omdat er veel grotere volumes van gegevens zijn van de werelds grote talen. Wanneer we te maken krijgen met laagbron-talen en talen met niet-Latijnse schriften, wordt het trainen van AI-modellen moeilijker, tijdrovender – en duurder. Denk hierbij aan een onbedoelde belasting op ondervertegenwoordigde talen.

Voortgang in spraaktechnologie

AI-modellen worden grotendeels getraind op tekst, wat van nature talen met diepere voorraden aan tekstinhoud begunstigt. Taaldiversiteit zou beter worden ondersteund met systemen die niet afhankelijk zijn van tekst. Menselijke interactie was ooit volledig gebaseerd op spraak, en veel culturen behouden die mondelinge focus. Om een wereldwijd publiek beter te bedienen, moet de AI-industrie overgaan van tekstgegevens naar spraakgegevens.

Onderzoek boekt enorme vooruitgang in spraaktechnologie, maar het blijft achter bij tekstgebaseerde technologieën. Onderzoek naar spraakverwerking maakt vorderingen, maar directe spraak-naar-spraak-technologie is verre van volwassen. De realiteit is dat de industrie voorzichtig te werk gaat en pas verdergaat als een technologie tot een bepaald niveau is gevorderd.

TransPerfect’s onlangs uitgebrachte GlobalLink Live-vertalingsplatform gebruikt de meer volwassen vormen van spraaktechnologie – automatische spraakherkenning (ASR) en tekst-naar-spraak (TTS) – opnieuw, omdat de directe spraak-naar-spraak-systemen nog niet volwassen genoeg zijn op dit moment. Dat gezegd hebbende, onze onderzoeksteams zijn aan het prepareren voor de dag wanneer volledige spraak-naar-spraak-pijplijnen klaar zijn voor prime time.

Spraak-naar-spraak vertaalmodellen bieden een grote belofte in het behoud van mondelinge talen. In 2022 kondigde Meta de eerste AI-gebaseerde spraak-naar-spraak-vertalingssysteem aan voor Hokkien, een voornamelijk mondelinge taal gesproken door ongeveer 46 miljoen mensen in de Chinese diaspora. Het is onderdeel van Meta’s Universal Speech Translator-project, dat nieuwe AI-modellen ontwikkelt die het mogelijk moeten maken om in real-time spraak-naar-spraak te vertalen in veel talen. Meta heeft ervoor gekozen om zijn Hokkien-vertaalmodellen, evaluatiegegevens en onderzoeksrapporten open source te maken, zodat anderen hun werk kunnen reproduceren en uitbreiden.

Leren met minder

Het feit dat wij als wereldgemeenschap een tekort aan middelen hebben rondom bepaalde talen, is geen doodvonnis voor die talen. Dit is waar meertalige modellen een voordeel hebben, omdat de talen van elkaar leren. Alle talen volgen patronen. Vanwege kennisoverdracht tussen talen wordt de behoefte aan trainingsgegevens verminderd.

Stel dat je een model hebt dat 90 talen leert en je wilt Inuit (een groep inheemse Noord-Amerikaanse talen) toevoegen. Vanwege kennisoverdracht heb je minder Inuit-gegevens nodig. We vinden manieren om te leren met minder. De hoeveelheid gegevens die nodig is om motoren te fine-tunen, is lager.

Ik ben hoopvol over een toekomst met meer inclusieve AI. Ik geloof niet dat we gedoemd zijn om talloze talen te zien verdwijnen – noch geloof ik dat AI het domein van de Engelssprekende wereld zal blijven. We zien al meer bewustzijn rondom het probleem van taalgelijkheid. Van meer diverse gegevensverzameling tot het opbouwen van meer taalspecifieke modellen, we maken vorderingen.

Bedenk Fon, een taal gesproken door ongeveer 4 miljoen mensen in Benin en aangrenzende Afrikaanse landen. Niet zo lang geleden beschreef een populaire AI-model Fon als een fictieve taal. Een computerwetenschapper genaamd Bonaventure Dosseau, wiens moeder Fon spreekt, was gewend aan dit soort uitsluiting. Dosseau, die Frans spreekt, is opgegroeid zonder vertaalprogramma om met zijn moeder te communiceren. Vandaag kan hij communiceren met zijn moeder dankzij een Fon-Frans vertaler die hij zorgvuldig heeft gebouwd. Vandaag is er ook een beginnende Fon Wikipedia.

In een poging om technologie te gebruiken om talen te behouden, heeft de Turkse kunstenaar Refik Anadol het creëren van een open-source AI-hulpmiddel voor inheemse volken gestart. Op het World Economic Summit vroeg hij: “Hoe kunnen we op aarde een AI creëren die de hele mensheid niet kent?”

We kunnen het niet, en we zullen het niet.