Generativ AI er ikke en dødsdom for truede språk

Ifølge UNESCO, kan opptil halvparten av språkene være utdødd innen 2100. Mange mennesker sier at generativ AI bidrar til denne prosessen.

Tilbakegangen i språklig mangfold begynte ikke med AI – eller internett. Men AI er i en posisjon til å påskynde undergangen av urfolksspråk og språk med begrensede ressurser.

De fleste av verdens 7 000+ språk har ikke tilstrekkelige ressurser til å trene AI-modeller – og mange mangler en skriftlig form. Dette betyr at noen få store språk dominerer menneskehetens lager av potensiell AI-treningdata, mens de fleste risikerer å bli liggende igjen i AI-revolusjonen – og kan forsvinne helt.

Den enkle grunnen er at de fleste tilgjengelige AI-treningdata er på engelsk. Engelsk er hovedmotoren for store språkmodeller (LLM), og mennesker som snakker mindre vanlige språk finner seg underrepresentert i AI-teknologi.

Vurdér disse statistikkene fra Verdens økonomiske forum:

• To tredjedeler av alle nettsteder er på engelsk.
• Mye av dataene som GenAI lærer av, hentes fra nettet.
• Færre enn 20% av verdens befolkning snakker engelsk.

Ettersom AI blir mer integrert i våre daglige liv, bør vi alle tenke på språklig likhet. AI har en utenkelig potensial til å løse problemer i stor skala, og dens løfte bør ikke begrenses til den engelsktalende verden. AI skaper komfort og verktøy som forbedrer menneskers personlige og profesjonelle liv i rike, utviklede nasjoner.

Talere av språk med begrensede ressurser er vant til å finne en mangel på representasjon i teknologi – fra å ikke finne nettsteder på sitt språk til å ikke få sin dialekt gjenkjent av Siri. Mye av tekstene som er tilgjengelige for å trene AI i språk med begrensede ressurser er av dårlig kvalitet (selv oversatt med tvilsom nøyaktighet) og smal i omfang.

Hvordan kan samfunnet sikre at språk med begrensede ressurser ikke blir liggende igjen i AI-ligningen? Hvordan kan vi sikre at språk ikke er en barriere for AI-løftet?

I et forsøk på å nå språklig inklusivitet, har noen store teknologiske spillere initiativer for å trene store flerspråklige språkmodeller (MLM). Microsoft (MSFT ) Translate har for eksempel lovet å støtte “hvert språk, overalt”. Og Meta har et “Ingen språk blir liggende igjen”-løfte. Dette er lovable, men er de realistiske?

Å strebe mot én modell som håndterer hvert språk i verden favoriserer de privilegerte, fordi det finnes langt større volumer av data fra verdens store språk. Når vi begynner å håndtere språk med begrensede ressurser og språk med ikke-latinske skripter, blir det mer vanskelig, tidskrevende – og mer dyrt å trene AI-modeller. Tenk på det som en uforvollent “avgift” på underrepresenterte språk.

Fremgang i taleteknologi

AI-modeller er i stor grad trenet på tekst, som naturlig favoriserer språk med dypere lagre av tekstinnhold. Språklig mangfold ville bli bedre støttet med systemer som ikke avhenger av tekst. Menneskelig interaksjon var en gang helt basert på tale, og mange kulturer beholder denne muntlige fokuset. For å bedre tilpasse seg en global publikum, må AI-industrien gå fra tekstdata til taledata.

Forskning gjør store fremskritt i taleteknologi, men den ligger fortsatt bak tekstbaserte teknologier. Forskning i talebehandling er i fremgang, men direkte tale-til-tale-teknologi er langt ifra moden. Virkeligheten er at industrien vanligvis beveger seg forsiktigt, og bare en gang en teknologi har nådd et visst nivå.

TransPerfects nyutgitte GlobalLink Live-tolkeplattform bruker de mer modne formene for taleteknologi – automatisk talegjenkjenning (ASR) og tekst-til-tale (TTS) – igjen, fordi de direkte tale-til-tale-systemene ikke er modne nok på dette tidspunkt. Det være sagt, våre forskningsteam er i ferd med å forberede seg på dagen da fullstendig tale-til-tale-pipelines er klare for primetime.

Tale-til-tale oversettelsesmodeller tilbyr stor løfte i bevaring av muntlige språk. I 2022 kunngjorde Meta den første AI-drevne tale-til-tale-oversettelsessystem for Hokkien, et primært muntlig språk som snakkes av om lag 46 millioner mennesker i den kinesiske diasporaen. Dette er en del av Metas Universal Speech Translator-prosjekt, som utvikler nye AI-modeller som de håper vil muliggjøre sanntidstale-til-tale-oversettelse på tvers av mange språk. Meta valgte å åpne kilden for sine Hokkien-oversettelsesmodeller, evalueringdatasett og forskningspapirer så andre kan gjenta og bygge på deres arbeid.

Læring med mindre

Det faktum at vi som en global samfunn mangler ressurser rundt visse språk, er ikke en dødsdom for disse språkene. Dette er der multi-språkmodeller har en fordel, i og med at språkene lærer av hverandre. Alle språk følger mønster. På grunn av kunnskaps-overføring mellom språk, reduseres behovet for treningdata.

Anta at du har en modell som lærer 90 språk og du ønsker å legge til Inuit (en gruppe urfolksspråk i Nord-Amerika). På grunn av kunnskaps-overføring, vil du trenge mindre Inuit-data. Vi finner måter å lære med mindre. Mengden data som trengs for å finjustere motorer er lavere.

Jeg er optimistisk om en fremtid med mer inklusiv AI. Jeg tror ikke vi er dømt til å se en mengde språk forsvinne – eller at AI vil forbli domenet for den engelsktalende verden. Allerede nå ser vi mer bevissthet rundt språklig likhet. Fra mer mangfoldig datainnsamling til bygging av mer språk-spesifikke modeller, gjør vi fremgang.

Vurdér Fon, et språk som snakkes av om lag 4 millioner mennesker i Benin og naboland i Afrika. Ikke så lenge siden beskrev en populær AI-modell Fon som et fiktivt språk. En datavitenskapsmann ved navn Bonaventure Dosseau, hvis mor snakker Fon, var vant til denne typen eksklusjon. Dosseau, som snakker fransk, vokste opp uten noen oversettelsesprogram for å kommunisere med moren sin. I dag kan han kommunisere med moren sin takket være en Fon-fransk oversetter som han møysommelig bygde. I dag finnes det også en ny Fon-Wikipedia.

I et forsøk på å bruke teknologi til å bevare språk, har den tyrkiske kunstneren Refik Anadol startet oppbyggingen av et åpen kilde-AI-verktøy for urfolk. På Verdens økonomiske toppmøte spurte han: “Hvordan på jorden kan vi skape en AI som ikke kjenner hele menneskeheten?”

Vi kan ikke, og vi vil ikke.