Modelos e plataformas de IA

CNTXT AI Lança Munsit: O Sistema de Reconhecimento de Fala Árabe Mais Preciso Já Construído

mm
Adicione Unite.AI às suas fontes preferidas no Google

Em um momento definidor para a inteligência artificial em língua árabe, a CNTXT AI lançou o Munsit, um modelo de reconhecimento de fala árabe de próxima geração que não apenas é o mais preciso já criado para o árabe, mas também supera decisivamente gigantes globais como OpenAI, Meta, Microsoft (MSFT ) e ElevenLabs nos benchmarks padrão. Desenvolvido nos Emirados Árabes Unidos e personalizado para o árabe desde o início, o Munsit representa um passo poderoso em frente no que a CNTXT chama de “inteligência artificial soberana” – tecnologia construída na região, para a região, mas com competitividade global.

Os fundamentos científicos dessa conquista são apresentados no artigo recentemente publicado pela equipe, Avançando no Reconhecimento de Fala Árabe por meio do Aprendizado Supervisionado em Grande Escala, que introduz um método de treinamento escalável e eficiente em dados que aborda a escassez de longa data de dados de fala árabe rotulados. Esse método – aprendizado supervisionado fraco – permitiu que a equipe construísse um sistema que estabelece uma nova barra para a qualidade de transcrição em ambos os níveis de Árabe Moderno Padrão (AMP) e mais de 25 dialetos regionais.

Superando a Seca de Dados no Reconhecimento de Fala Árabe

O árabe, apesar de ser uma das línguas mais amplamente faladas no mundo e uma língua oficial das Nações Unidas, tem sido considerado uma língua de baixo recurso no campo do reconhecimento de fala. Isso decorre tanto de sua complexidade morfológica quanto da falta de grandes conjuntos de dados de fala rotulados e diversificados. Diferentemente do inglês, que se beneficia de inúmeras horas de dados de áudio transcritos manualmente, a riqueza dialetal do árabe e sua presença digital fragmentada têm imposto desafios significativos para a construção de sistemas robustos de reconhecimento automático de fala (ASR).

Em vez de esperar pelo lento e caro processo de transcrição manual para alcançar o nível necessário, a CNTXT AI perseguiu um caminho radicalmente mais escalável: a supervisão fraca. A abordagem da equipe começou com um vasto corpus de mais de 30.000 horas de áudio árabe não rotulado coletado de fontes diversas. Por meio de um pipeline de processamento de dados personalizado, esse áudio bruto foi limpo, segmentado e automaticamente rotulado para produzir um conjunto de treinamento de alta qualidade de 15.000 horas – um dos maiores e mais representativos corpora de fala árabe já reunidos.

Esse processo não dependeu de anotação humana. Em vez disso, a CNTXT desenvolveu um sistema de múltiplos estágios para gerar, avaliar e filtrar hipóteses de vários modelos de ASR. Essas transcrições foram comparadas usando a distância de Levenshtein para selecionar as hipóteses mais consistentes, e então passadas por um modelo de linguagem para avaliar sua plausibilidade gramatical. Segmentos que não atenderam aos limiares de qualidade definidos foram descartados, garantindo que, mesmo sem verificação humana, os dados de treinamento permanecessem confiáveis. A equipe aprimorou esse pipeline por meio de múltiplas iterações, cada vez melhorando a precisão dos rótulos ao retreinar o sistema de ASR em si e alimentá-lo de volta no processo de rotulagem.

Alimentando o Munsit: A Arquitetura Conformer

No coração do Munsit está o modelo Conformer, uma arquitetura de rede neural híbrida que combina a sensibilidade local de camadas convolucionais com as capacidades globais de modelagem de sequência dos transformadores. Esse design torna o Conformer particularmente apto a lidar com as nuances da linguagem falada, onde tanto as dependências de longo alcance (como a estrutura de sentenças) quanto os detalhes fonéticos de grãos finos são cruciais.

A CNTXT AI implementou uma variante grande do Conformer, treinando-a do zero usando mel-espectrogramas de 80 canais como entrada. O modelo consiste em 18 camadas e inclui aproximadamente 121 milhões de parâmetros. O treinamento foi realizado em um cluster de alto desempenho usando oito GPUs NVIDIA A100 com precisão bfloat16, permitindo o manejo eficiente de tamanhos de lote maciços e espaços de recursos de alta dimensão. Para lidar com a tokenização da estrutura morfologicamente rica do árabe, a equipe usou um tokenizador SentencePiece treinado especificamente em seu corpus personalizado, resultando em um vocabulário de 1.024 unidades de subpalavras.

Diferentemente do treinamento supervisionado convencional, que normalmente requer que cada clipe de áudio seja emparelhado com um rótulo cuidadosamente transcrito, o método da CNTXT operou inteiramente com rótulos fracos. Esses rótulos, embora mais barulhentos do que os verificados por humanos, foram otimizados por meio de um loop de feedback que priorizou o consenso, a coerência gramatical e a plausibilidade lexical. O modelo foi treinado usando a função de perda de Classificação Temporal Conexa (CTC), que é bem adaptada para modelagem de sequência não alinhada – crítica para tarefas de reconhecimento de fala onde o tempo de palavras faladas é variável e imprevisível.

Dominando os Benchmarks

Os resultados falam por si. O Munsit foi testado contra modelos de ASR de ponta de código aberto e comerciais em seis conjuntos de dados de benchmark árabes: SADA, Common Voice 18.0, MASC (limpo e barulhento), MGB-2 e Casablanca. Esses conjuntos de dados coletivamente abrangem dezenas de dialetos e sotaques em todo o mundo árabe, desde a Arábia Saudita até o Marrocos.

Em todos os benchmarks, o Munsit-1 alcançou uma taxa média de erro de palavra (WER) de 26,68 e uma taxa de erro de caractere (CER) de 10,05. Em comparação, a melhor versão do Whisper da OpenAI registrou uma taxa média de WER de 36,86 e CER de 17,21. O SeamlessM4T da Meta, outro modelo multilíngue de ponta, apresentou resultados ainda mais altos. O Munsit superou todos os outros sistemas em dados limpos e barulhentos e demonstrou uma robustez particularmente forte em condições barulhentas, um fator crítico para aplicações do mundo real como centros de atendimento e serviços públicos.

A diferença foi igualmente acentuada contra sistemas proprietários. O Munsit superou os modelos de ASR árabe do Microsoft Azure, o Scribe da ElevenLabs e até mesmo a funcionalidade de transcrição do GPT-4o da OpenAI. Esses resultados não são ganhos marginais – representam uma melhoria relativa média de 23,19% na WER e 24,78% na CER em comparação com a melhor linha de base aberta, estabelecendo o Munsit como o líder claro no reconhecimento de fala árabe.

Uma Plataforma para o Futuro da Inteligência de Voz Árabe

Embora o Munsit-1 já esteja transformando as possibilidades de transcrição, legendagem e suporte ao cliente nos mercados de língua árabe, a CNTXT AI vê esse lançamento como apenas o início. A empresa imagina uma suíte completa de tecnologias de voz em língua árabe, incluindo síntese de fala, assistentes de voz e sistemas de tradução em tempo real – todos fundamentados em infraestrutura soberana e inteligência artificial regionalmente relevante.

“O Munsit é mais do que apenas um avanço no reconhecimento de fala”, disse Mohammad Abu Sheikh, CEO da CNTXT AI. “É uma declaração de que o árabe pertence à vanguarda da inteligência artificial global. Provasmos que a inteligência artificial de classe mundial não precisa ser importada – pode ser construída aqui, em árabe, para o árabe.”

Com o surgimento de modelos regionais como o Munsit, a indústria de inteligência artificial está entrando em uma nova era – uma em que a relevância linguística e cultural não são sacrificadas em busca da excelência técnica. De fato, com o Munsit, a CNTXT AI mostrou que elas são uma e a mesma coisa.

Antoine é um líder visionário e sócio-fundador da Unite.AI, impulsionado por uma paixão inabalável por moldar e promover o futuro da IA e da robótica. Um empreendedor serial, ele acredita que a IA será tão disruptiva para a sociedade quanto a eletricidade, e é frequentemente pego falando sobre o potencial das tecnologias disruptivas e da AGI.

Como um futurista, ele está dedicado a explorar como essas inovações moldarão nosso mundo. Além disso, ele é o fundador da Securities.io, uma plataforma focada em investir em tecnologias de ponta que estão redefinindo o futuro e remodelando setores inteiros.