Olga Beregovaya, Vizepräsidentin für KI bei Smartling – Interviewreihe

Olga Beregovaya ist Vizepräsidentin für KI bei Smartling und leitet dort die KI-Strategie in den Bereichen Übersetzung, Daten, Qualität und Sicherheit. Sie arbeitet seit 1997 im Bereich der natürlichen Sprachverarbeitung und hat Erfahrung mit regelbasierten Systemen, statistischen Modellen, neuronalen Netzen und großen Sprachmodellen. Vor ihrem Wechsel zu Smartling war sie Vizepräsidentin für KI-Innovation bei Welocalize und CEO von PROMT Americas.

Smartling bietet Übersetzungs- und Lokalisierungssoftware sowie entsprechende Dienstleistungen für Unternehmen an und verbindet KI und maschinelle Übersetzung mit menschlicher Expertise. Die Plattform unterstützt mehrsprachige Arbeitsabläufe für Websites, Anwendungen, Marketingmaterialien, Dokumente und Multimedia-Inhalte und bietet Zugang zu mehr als 20 großen Sprachmodellen und Systemen für maschinelle Übersetzung. In diesem Interview spricht Beregovaya über die Kluft zwischen Sprachen im Bereich der KI, Übersetzungsqualität, die Auswahl von Modellen und die Rolle menschlicher Kontrolle bei der automatisierten Lokalisierung.

Wie hat diese Entwicklung Ihre Sicht auf die Rolle von KI in der Sprache geprägt, und was hat Sie dazu bewogen, bei Smartling die KI-Strategie zu leiten?

Ich habe untersucht, wie Sprachen aufgebaut sind und wie Sprachfamilien funktionieren. Dadurch habe ich gelernt, dass es beim Übersetzen um Struktur und Bedeutung geht, nicht um den Austausch einzelner Wörter. Genauso denke ich über KI.

Ich begann 1997, im Bereich der natürlichen Sprachverarbeitung zu arbeiten, als Systeme auf von Hand geschriebenen Regeln beruhten. Seitdem habe ich mit statistischen Modellen, neuronalen Netzen und den heutigen großen Sprachmodellen gearbeitet. Jedes davon löste einige Probleme und schuf andere. Ich glaube nicht, dass ein einzelnes Modell die Antwort ist.

Ich wechselte zu Smartling, weil das Unternehmen darauf ausgelegt war, alle Arten von Unternehmensinhalten zu übersetzen – von Websites und Apps bis hin zu Rechtsdokumenten, Marketingmaterialien und Videos. Zunächst war ich Vizepräsidentin für maschinelle Übersetzung, doch die Rolle weitete sich schnell über das Übersetzen hinaus auf Prompting, Daten, Qualität und Sicherheit aus. So wurde aus der Position die einer Vizepräsidentin für KI.

Wie zeigt sich diese Kluft in der Praxis, und warum könnte sie noch größere Bedeutung erlangen, wenn generative KI zu einer zentralen Schnittstelle wird?

Früher war die Kluft einfach: Entweder unterstützte ein KI-System Ihre Sprache oder nicht. Diese Frage ist inzwischen weitgehend geklärt, doch die Kluft hat eine andere Form angenommen. Entscheidend ist heute, wie gut die Trainingsdaten des Modells die jeweilige Sprache, ihre Sprecherinnen und Sprecher sowie ihre Kultur abbilden. Die meisten Trainingsdaten für Modelle liegen auf Englisch vor und bringen daher englischsprachige Sichtweisen mit sich. Eine Übersetzung kann technisch korrekt sein und dennoch einer anderen Sprache eine englischsprachige Perspektive aufzwingen.

KI wird zunehmend zur Schnittstelle, über die Menschen mit Banken, Ärztinnen und Ärzten, Schulen und anderen wichtigen Diensten interagieren. Wer eine Sprache gut beherrscht, verschafft den Nutzenden einen Vorteil; wer eine Sprache schlecht beherrscht, benachteiligt sie.

Was hat Sie am meisten überrascht, und warum schneidet Schwedisch trotz deutlich weniger Sprecherinnen und Sprecher besser ab als Hindi?

Die Zahl der Sprecherinnen und Sprecher ist ein erstaunlich schlechter Indikator für die Übersetzungsqualität. Schwedisch erzielte mit rund 10 Millionen Sprecherinnen und Sprechern einige der besten Ergebnisse. Hindi gehörte mit rund 600 Millionen Sprecherinnen und Sprechern zu den Sprachen mit den schwächsten Ergebnissen, ebenso wie Estnisch und Thai.

Die Sprachstruktur und die Datenqualität sind wesentlich wichtiger. Schwedisch hat eine vergleichsweise einfache Grammatik und viele hochwertige Trainingsdaten. Im Estnischen verändern sich Wortendungen ständig, um Bedeutungen auszudrücken, was die Verarbeitung durch KI komplexer macht. Hindi hat Hunderte Millionen Sprecherinnen und Sprecher, aber deutlich weniger hochwertige und vielfältige Trainingsdaten, als man angesichts dieser Sprecherzahl erwarten würde.

Eine weitere Überraschung war, dass die Fortschritte von Labor zu Labor unterschiedlich ausfielen. Sprachen, die anfangs schlechter abschnitten, verbesserten sich von einer Modellgeneration zur nächsten meist am stärksten. Dieses Muster gilt jedoch nicht immer.

Welche Faktoren beeinflussen die Modellleistung neben dem Umfang der Trainingsdaten am stärksten?

Die Tokenisierung ist einer der wichtigsten Faktoren. Dabei zerlegt ein Modell den Text vor der Verarbeitung in einzelne Teile. Das ist besonders wichtig für Sprachen, die nicht das lateinische Alphabet verwenden. Eine schlechte Tokenisierung schränkt alles ein, was danach folgt.

Auch die Sprachstruktur spielt eine Rolle. Für Modelle können Sprachen mit komplexen Wortendungen schwieriger zu verarbeiten sein. Im Deutschen werden zum Beispiel Wörter aneinandergehängt, bis ein einzelnes Wort 40 Zeichen lang sein kann. Das stellt höhere Anforderungen an ein Modell als Sprachen wie Spanisch oder Französisch.

Hinzu kommt die Datenqualität. Schlechte Daten führen zu schlechten Ergebnissen. Genauigkeit, Vielfalt und Repräsentativität der Daten sind für die Leistung von KI-Übersetzungen von entscheidender Bedeutung.

Und schließlich die Messung. Wir verwenden TER, BLEU, CHRF3 und MetricX und vergleichen die Ergebnisse mit verlässlichen menschlichen Übersetzungen. Ein Modell kann natürlich klingen und dennoch die Bedeutung falsch wiedergeben.

Welche Verantwortung tragen die führenden KI-Labore, und woran würde sich ein bedeutender Fortschritt erkennen lassen?

Die führenden KI-Labore tragen die größte Verantwortung, weil sie über die fortschrittlichsten Sprachmodelle verfügen. Ihre Entscheidungen können die Kluft entweder vergrößern oder dazu beitragen, sie zu verringern. Übersetzung konkurriert jedoch häufig mit den Bereichen Schlussfolgern, Programmieren und Sicherheit um Aufmerksamkeit. Deshalb haben nur wenige Labore eigene Teams, die sich darauf konzentrieren.

Drei Dinge würden einen bedeutenden Unterschied machen:

1. Hochwertige Daten für mehr Sprachen und Fachgebiete erstellen.
2. Verbessern Sie die Tokenisierung für Sprachen, bei denen aktuelle Ansätze an ihre Grenzen stoßen.
3. Und bewerten Sie jedes neue Modell auch anhand von Sprachen mit weniger Trainingsdaten, nicht nur anhand der am stärksten vertretenen Sprachen.

Eine große Chance besteht darin, Trainingsdaten für Sprachen aufzubauen, die online nur sehr schwach vertreten sind. Ein Großteil dieser Arbeit findet außerhalb der großen KI-Labore statt. Wir arbeiten mit Gruppen wie dem African Language Lab zusammen, um Daten für afrikanische Sprachen aufzubauen.

Wie ermittelt Smartling, welche seiner mehr als 20 Übersetzungs-Engines für eine bestimmte Sprache, Textart oder einen bestimmten Anwendungsfall geeignet ist?

Wir testen die Modelle, statt davon auszugehen, dass ein einziges Modell am besten ist. Jedes Modell wird anhand verlässlicher menschlicher Übersetzungen mit TER, BLEU, CHRF3 und MetricX bewertet. Ein Kunde kann uns seine Marketinginhalte zur Verfügung stellen. Innerhalb von etwa einer Woche können wir dann zeigen, wie jedes Modell je nach Sprache und Fachgebiet abschneidet. Das beste Modell für Marketingtexte auf lateinamerikanischem Spanisch ist möglicherweise nicht das beste für eine andere Sprache oder sensible Inhalte.

Wir berücksichtigen auch das Risiko. Inhalte mit geringem Risiko können ein weniger aufwendiges Prüfverfahren durchlaufen. Bei regulierten oder für die Marke besonders wichtigen Inhalten sind mehr Prüfschritte und in der Regel eine menschliche Kontrolle erforderlich. Da Modelle je nach Leistung hinzugefügt oder entfernt werden können, sind wir nicht an einen einzigen Anbieter gebunden.

In welchen Bereichen sind spezialisierte Übersetzungssysteme allgemeinen LLMs noch überlegen, und wie werden sich die beiden Ansätze annähern?

Spezialisierte maschinelle Übersetzung ist nach wie vor überlegen, wenn Vorhersehbarkeit besonders wichtig ist. Sie eignet sich insbesondere für sensible Inhalte und bestimmte Sprachen. LLMs erzeugen natürlichere Texte, können aber auch mit großer Überzeugung Inhalte erfinden.

Bei Smartling kombinieren wir beide Ansätze. Ein spezialisiertes Übersetzungsmodell erstellt anhand der Terminologie und der Fachdaten des Kunden einen ersten Entwurf. Anschließend überarbeitet ein LLM den Text, stellt freigegebene Terminologie wieder her, übernimmt Übereinstimmungen aus früheren Übersetzungen und verbessert den Stil.

Das Modell ist zunehmend nur noch ein Teil des Systems. Prompting, Daten, Anpassungen und Sicherheitskontrollen sind inzwischen ebenso wichtig.

Welche größten Risiken sollten Unternehmen beim Einsatz generativer KI für mehrsprachige Inhalte berücksichtigen?

Halluzinationen, ganz klar. Mein Lieblingsbeispiel ist jemand, der eine KI fragt, ob ein Pilz giftig ist. Sie antwortet mit völliger Überzeugung, dass er es nicht ist – und der Grabstein der Person beweist, dass sie falsch lag. Bei Übersetzungen zeigt sich das in Texten, die perfekt klingen, aber sachlich falsch sind. Dieses Risiko kann bei Sprachen mit weniger Trainingsdaten größer sein.

Hinzu kommen kulturelle und regulatorische Rahmenbedingungen. Eine Übersetzung kann technisch korrekt sein und dennoch nicht zum jeweiligen Markt passen. Im Deutschen und Japanischen sind beispielsweise bestimmte Höflichkeitsformen erforderlich, die es im Englischen nicht gibt. Chinesische Werberichtlinien schränken außerdem Aussagen wie „das Beste“ ein.

Auch Konsistenz ist ein Thema. Im großen Maßstab können allgemeine KI-Tools zu uneinheitlicher Terminologie und Markenstimme führen. Ein Manager erzählte mir, sein Unternehmen habe 300.000 Beschäftigte und dank allgemeiner KI 300.000 verschiedene Stimmen.

Und es kann um die körperliche Sicherheit gehen. Wird eine Sicherheitsanweisung zum Ziehen eines Hebels falsch übersetzt, kann auf einer Baustelle ein Kran umstürzen.

Wie sieht ein KI-Agent in einem Lokalisierungsprozess aus, und wie viel lässt sich unter menschlicher Aufsicht automatisieren?

Ein KI-Agent ist ein Schritt in einem Lokalisierungsprozess. Ein Modell übersetzt, während ein anderes den Text prüft, auf Halluzinationen kontrolliert, freigegebene Terminologie wiederherstellt und die Inhalte an den jeweiligen Markt anpasst. Anschließend entscheidet eine Qualitätskontrolle, ob der Text veröffentlicht werden kann, eine kurze menschliche Prüfung oder eine vollständige Kontrolle benötigt.

Wie viel sich automatisieren lässt, hängt vom Risiko ab. Ein Großteil unserer Arbeit mit geringem Risiko ist bereits vollständig automatisiert. Bei sensiblen und regulierten Inhalten ist jedoch weiterhin menschliches Eingreifen erforderlich.

Vollständige Automatisierung ist nicht immer das Ziel, denn Modelle benötigen menschliches Feedback, um sich zu verbessern. Ziel ist es, den Arbeitsaufwand für Menschen zu verringern, ohne ihr Urteilsvermögen auszuschalten.

Wird sich der Abstand in fünf Jahren verringern oder vergrößern, und was wäre nötig, damit KI im globalen Maßstab wirklich mehrsprachig ist?

Beides ist möglich. Sprachen, die anfangs am schlechtesten abschnitten, verbessern sich am schnellsten. Außerdem erheben immer mehr Organisationen Daten für Sprachen, zu denen es online nur wenige Inhalte gibt – darunter auch Daten zu gesprochener Sprache.

Doch die Kluft verändert ihre Form. KI kann eine Sprache gut beherrschen und dennoch Annahmen aus dem englischsprachigen Raum übernehmen, die in ihren Trainingsdaten enthalten sind.

Echte Mehrsprachigkeit bei KI erfordert einen anderen Ansatz. Dazu könnten kleinere Modelle gehören, die auf bestimmte Sprachen und Fachgebiete zugeschnitten sind, statt eines einzigen allgemeinen Modells, von dem erwartet wird, dass es alles beherrscht. Erforderlich sind vielfältigere Daten aus unterschiedlichen Sprachen und Fachbereichen, eine bessere Tokenisierung für Sprachen, bei denen aktuelle Ansätze an ihre Grenzen stoßen, sowie synthetische Daten. Hinzu kommt, dass Erkenntnisse, die ein Modell aus einer Sprache gewinnt, auf verwandte Sprachen übertragen werden müssen, damit Verbesserungen nicht auf die Sprachen mit den meisten Daten beschränkt bleiben.

Die Technologie ist vorhanden. Entscheidend ist, ob die Unternehmen, die diese Modelle entwickeln, mehrsprachige Leistungsfähigkeit zur Priorität machen.

Vielen Dank für das großartige Interview. Leserinnen und Leser, die sich näher mit KI-Übersetzung, mehrsprachiger Qualitätsbewertung und Lokalisierungsabläufen unter menschlicher Aufsicht befassen möchten, sollten Smartling besuchen.