Stefan Mesken, hlavní vědec společnosti DeepL – série rozhovorů

Stefan Mesken, Chief Scientist at DeepL, strávil více než pět let v DeepL, kde rozvíjel jeho základní výzkum a vědecké vedení, počínaje jako Research Scientist v říjnu 2020, postupující do VP of Research v listopadu 2023 a nastupující do své současné role v dubnu 2025 v Mnichově. Předtím pracoval jako Data Scientist v real.digital v regionu Kolín-Bonn a prováděl výzkum v matematické logice na Univerzitě v Münsteru. Jeho kariéra spojuje základní matematický výzkum a aplikovanou umělou inteligenci, což ho staví do pozice vedení vědeckého směru za velkými jazykovými modely DeepL a multilingvními systémy AI.

DeepL je německá společnost pro umělou inteligenci, která se zaměřuje na budování pokročilých jazykových systémů AI, které umožňují přesné, kontextově vědomé překladu a komunikaci přes více než 100 jazyků. Založena v roce 2017 a se sídlem v Kolíně, společnost slouží milionům uživatelů po celém světě a nabízí podnikové řešení prostřednictvím předplatného a API nabídek. Její platforma se rozšířila za překladatelství do širšího Language AI balíčku, včetně psané asistence a hlasových schopností, navržených pro podporu zabezpečené, škálovatelné komunikace pro globální podniky a organizace.

Začali jste svou kariéru v matematické logice, než jste přešli do aplikované datové vědy a nakonec vedli výzkumnou organizaci DeepL. Ohlédněte se, jak vás tato raná práce ve formální logice ovlivnila ve způsobu, jakým nyní myslíte o budování autonomních, podnikových systémů AI?

To, co mě přitáhlo do oblasti teorie množin a matematické logiky, byla nesnesitelná zvědavost naučit se, jak tyto komplexní systémy fungují – od prvních principů a do stále větší hloubky. Tato zvědavost je konstantou mého života od dětství. Je to také ta část mé práce, kterou mám nejraději. V současné době je výzvou pokročit ve stavu vývoje AI se zaměřením na reálnou využitelnost. Kromě zabezpečení a důvěryhodnosti věnuji svůj čas zajišťování toho, aby podniky a uživatelé všech druhů mohli těžit z této úžasné technologie. Dosud byla tendence jiná: většina reálného použití AI je buď zcela pasivní (například doporučující systémy, které spotřebujete, ale neovládáte) nebo primárně využívána vysoce vyškolenými, technickými lidmi (například kódovací asistenti). Chci uzavřít tuto mezeru: každá osoba a společnost by měla být připravena na úspěch a schopna revolucionizovat, jak přistupují k práci.

DeepL si vybudovala pověst na vysoké přesnosti překladu. Jak tato základna v jazykovém modelování ovlivnila rané myšlení společnosti o přesahu překladu do obecnějších systémů AI?

To, co dělá AI tak magickou, je to, že velmi podobné koncepty a nápady mohou vést k novým řešením v zcela odlišných doménách: šachové motory, doporučující systémy, proteinové skládání, samořízená auta, překladové motory a mnoho dalších. Všechny jsou poháněny stejným souborem principů a technik. Díky zvládnutí těchto technik téměř za deset let nyní přirozeně uvažujeme o nových problémech, na které se zaměřit. Interně tomu tak vždy bylo, což vedlo k vynálezu Glossáře, Write, Voice, Customization Hub a dalších.

Jako Chief Scientist, jak rozlišujete mezi budováním jazykových modelů, které generují plynulý výstup, a budováním systémů, které mohou spolehlivě jednat uvnitř skutečných podnikových pracovních postupů?

Základní nápady jsou pozoruhodně podobné: musíme hluboce pochopit, co naši uživatelé chtějí, a poté sladit naše systémy AI s těmito cíli a preferencemi. Někdy jsou zjevné a explicitní; jindy jsou nuancované a nevyřčené. V každém případě je naší prací zajistit, aby práce, kterou produkujeme, měla vysokou hodnotu pro naše uživatele.
DeepL vždy vynikala v této oblasti díky svému zaměření na zákazníky. Nepronásledujeme umělé benchmarky nebo akademické publikace – pronásledujeme spokojenost zákazníků. To nikdy nebylo důležitější než nyní, protože rozšiřujeme svůj horizont a pomáháme lidem s jejich denní prací.

DeepL Agent představuje posun od asistivní AI k autonomnímu provedení. Jaké byly největší technické výzvy při přechodu na tuto funkčnost v praxi?

Zdaleka největší výzvou při budování DeepL Agent je uživatelská přívětivost. Během let se ekosystém AI zaměřoval primárně na softwarové vývojáře a vysoce technické odborníky. S DeepL Agent se snažíme změnit to a vybavit každého znalostního pracovníka sofistikovanými nástroji pro řešení a automatizaci komplexních problémů. To vyžaduje stejnou úroveň sofistikovanosti v rozpoznávání, rozumu, plánování a akci. Místo toho, aby uživatelům představili bohatý, ale komplexní soubor nástrojů, jsme tvrdě pracovali na vytvoření koherentního, plynulého a elegantního řešení pro konec-konce asistenci a automatizaci pracovních postupů.

Z architektonického hlediska, jaké schopnosti musí být k dispozici, aby se AI systém mohl spolehlivě provozovat autonomně v podnikových prostředích?

Pro širokou škálu administrativních úkolů je technologie již zde. DeepL Agent může spolehlivě jednat ve vašem prostředí, hledat rady, když je to potřeba, a nabízet ověření s lidskou kontrolou, kdykoli je to požadováno. Tato úroveň syntetické inteligence byla čistou fikcí pouze před několika měsíci. Přesto je ještě dlouhá cesta, kterou je třeba urazit. V průběhu příštích několika let se AI agenti stanou horizontální vrstvou v podnicích — neúnavně pracující na pozadí, spolupracující s lidmi a navzájem, aby eliminovaly rušivé práce a umožnily nám řešit problémy, které byly dříve nedosažitelné.

Mluvili jste o hlubokém porozumění jazyku jako o předpokladu pro odpovědné AI agenty. Co znamená „hluboké“ v tomto kontextu za hranicí povrchové plynulosti?

Jazyk je pozoruhodně nejednoznačný a kontextově závislý — zejména v profesionálních doménách. Vous pravděpodobně zažili to sami: posloucháte skupinu přátel, kteří diskutují o koníčku, který nemáte, nebo o profesionální specializaci, ve které nemáte zkušenosti… Možná to nedává smysl pro cizince, ale nějak si rozumějí dokonale. Chceme, aby AI asistence byla stejně plynulá jako mluvení se zkušeným, důvěryhodným kolegou, se kterým sdílíte roky spolupráce. Implicitní preference by měly zůstat implicitní. Neměli byste muset opakovaně vysvětlovat, jak chcete práci udělat. To může znít zjevně, ale vyžaduje to enormní výzkum, aby to bylo provedeno správně. To je to, co mám na mysli „hlubokým“ porozuměním jazyku.

Jak přistupujete k bezpečnostním opatřením a dozoru při nasazování autonomních systémů, které mohou provádět skutečné akce, spíše než pouze poskytovat doporučení?

Pro AI asistenci, aby fungovala v obchodních kontextech, musíme pečlivě vyvážit schopnost s kontrolou. Greater capability vytváří enormní příležitosti pro produktivitu, ale pokud je ponechána bez kontroly, stává se z ní zátěž. To nemůže nastat. Od prvního dne je DeepL Agent vybaven podnikovými bezpečnostními opatřeními, implementovanými v několika formách. Sdílené pracovní prostory poskytují uživatelům přesnou kontrolu nad daty a přístupem, zatímco napájí auditní stopy, lidský dohled a lidskou kontrolu. Kromě toho mají systémoví administrátoři jemnou kontrolu nad systémy, které DeepL Agent může procházet, a mechanismy pro oznámení základním nástrojům, když jsou provozovány agentem.

Jaké zkušenosti jste získali o přesunu nápadů z výzkumu do produkce bez ohrožení spolehlivosti nebo vědecké disciplíny?

Mezera mezi výzkumem a produktovým vývojem je širší, než se obecně věří. Oba začínají přísným přístupem k řešení dříve nesolvovatelných problémů a pečlivým záznamem toho, co funguje a co nefunguje. Zatímco výzkum může zjednodušit rozsah a předpokládat jednodušší světový model, produktový vývoj musí zohlednit komplexitu reálných uživatelů. V AI asistenci je použití nástrojů prominentním příkladem. Je lákavé předpokládat, že prostředí budou vždy připravena pro automatizaci, se systémem přístupu vyřešeným a API připraveným. Realita se liší. Stejně jako samořízená auta musí zvládnout plnou komplexitu dnešní infrastruktury, AI agenti musí fungovat efektivně v rámci přístupových vzorců, dat a systémů, na které se podniky spoléhají. Tato raná realizace je v srdci designu DeepL Agent.

Jak rozhodujete, které schopnosti by měly zůstat těsně kontrolované a které by měly být vystaveny pro více autonomního chování, když DeepL expanduje z zaměřené jazykové platformy do širšího podnikového systému AI?

Úroveň kontroly požadované pro úkol je určena dvěma faktory: spolehlivostí člověka nebo systému, který jej provádí, a potenciálním dopadem chyb. To platí stejně pro lidskou i strojovou realizaci. Spolehlivost AI dramaticky vzrostla za posledních několik let a bude pokračovat v zlepšování. Proto bude těsná kontrola nutná pro méně a méně úkolů. Nakonec bude spolehlivost AI překračovat i úroveň lidských odborníků pro mnoho úkolů. To platí také pro kontrolní mechanismy, které se budou stále více přesouvat do AI dohledu. Interně DeepL Agent již toto dělá, žádající uživatele o pomoc, kdykoli není možné samooprava.

Pohledem do budoucna, jaké průlomy v porozumění jazyku nebo návrhu agenta budete považovat za ty, které nejsilněji utváří podnikovou AI v průběhu příštích dvou let?

AI agenti nebudou pouze pomáhat s jednotlivými úkoly. Budou tvořit produktivní vrstvu v podnicích, která bude pracovat na naší straně, aby redukovala rozptýlení, připravovala a prezentovala informace přesně, když jsou potřebné, a řešila problémy a stále sofistikovanější úkoly zcela na pozadí.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit DeepL.