애플의 성별 언어 번역 솔루션

애플은 최근 USC와 협력하여 iOS18 운영 체제에서 사용자에게 성별에 대한 번역 선택을 제공하는 기계 학습 방법을 탐구하는 논문을 발표했습니다.

iOS18에서 사용자는 네이티브 번역 앱에서 번역된 단어에 대한 대체 성별 제안을 선택할 수 있습니다. 출처: https://support.apple.com/guide/iphone/translate-text-voice-and-conversations-iphd74cb450f/ios

이 연구에서 다루는 문제는 현재 성별 정의를 둘러싼 논쟁과 관련이 있지만, 실제로는 세계의 229개 언어 중 84개가 성별 기반 성별 시스템을 사용하는 더 오래된 문제에 중점을 두고 있습니다.

빨간 점은 성별 기반 성별 시스템을 사용하는 언어를 나타냅니다. 출처: https://wals.info/feature/31A#map

영어는 성별 기반 언어 중 하나입니다. 왜냐하면 영어는 단수 대명사에 남성이나 여성의 성별을 지정하기 때문입니다.

반면, 모든 로망스어(스페인어를 포함한 5억 명 이상의 사용자)와 러시아어를 포함한 다른 언어들은 성별 동의를 요구하며, 이는 번역 시스템이 언어의 성별 할당을 처리하도록 강요합니다.

새로운 논문은 스페인어로 번역된 문장 “The secretary was angry with the boss”의 모든 가능한 번역을 예로 들어 설명합니다.

새로운 논문에서, 영어에서 스페인어로 번역된 문장 ‘The secretary was angry with the boss’의 잠재적인 성별 할당 예시. 출처: https://arxiv.org/pdf/2407.20438

순진한 번역은 긴 텍스트에서는 충분하지 않으며, 텍스트의 시작에서 성별을 설정하고 이후에 성별을 다시 언급하지 않을 수 있습니다. 그러나 번역은 텍스트 전체에서 할당된 성별을 기억해야 합니다.

이것은 토큰 기반 접근 방식에 도전할 수 있으며, 이러한 접근 방식은 번역을离散한 청크로 처리하며, 내용의 기간 동안 할당된 성별 문맥을 잃을 위험이 있습니다.

さらに, 성별 할당에 대한 대체 번역을 제공하는 시스템은 성별 명사를 단순히 대체하는 것만으로는 충분하지 않으며, 다른 언어의 모든 부분이 변경된 성별 명사와 동의하는지 확인해야 합니다.

애플/USC 논문에서 볼 수 있듯이, “Secretary”가 남성 성별로 할당되었지만, 단수 과거 “was”는 여전히 여성형(“estaba”)으로 남아 있습니다.

무식한 성별 대체는 필요한 성별 동의를 무시할 수 있습니다. 이 예에서, ‘enojada’는 ‘enojado’로 변경되어야 합니다.

성별 문제

애플과 USC의 연구자들은 성별 대체를 생성하는 기계 번역 방법을 제안했습니다. 이 방법은 반감독 학습 방법을 사용하여 성별 모호한 엔티티를 성별 대체로 변환합니다.

이 시스템은 애플 번역 앱의 iOS18 번역을 정보로 사용했으며, 대규모 언어 모델과 미리 학습된 기계 번역 모델의 조합을 사용하여 언어 스키마를 구성했습니다.

번역 결과는 성별 구조를 포함하는 아키텍처로 훈련되었습니다. 이러한 구조는 다양한 성별을 가진 명사로 구성된 문장 그룹입니다.

논문은 다음과 같이述합니다.

‘기계 번역 시스템은 성별에 대한 편향을 포함할 수 있으며, 이는 오류의 근본 원인이 될 수 있습니다. 예를 들어, 기계 번역 시스템은 “The doctor asked the nurse to help her in the procedure”라는 문장을 “médico”로 번역할 수 있습니다.

‘성별을 명확하게 할당할 수 없는 경우, 모든 유효한 성별 선택을 포함하는 번역 대안을 제공하는 것이 합리적인 접근 방식입니다.’

재검토

애플과 USC는 성별 모호한 엔티티가 감지되는 경우 두 가지 방법을 탐구했습니다. 첫 번째 방법은 미리 학습된 언어 모델의 세부 튜닝을 사용하는 것입니다.

이 방법에 대해 논문은 다음과 같이述합니다.

‘우리는 G-Trans 데이터셋에서 추출한 비텍스트를 사용하여 미리 학습된 기계 번역 모델 M을 세부 튜닝합니다. 이 비텍스트의 소스 문장은 성별 모호한 엔티티를 포함하며, 목표 번역에는 성별이 올바르게 표시되어 있습니다.’

G-Trans 데이터셋에서 비텍스트를 추출하는 스키마

이미지에서, 우리는 하단 중간 열에 세부 튜닝된 텍스트를 볼 수 있으며, 오른쪽 열에는 원하는 출력이 표시됩니다.

두 번째 방법은 대규모 언어 모델을 사용하여 성별을 할당하는 것입니다.

LLM을 사용하여 성별을 할당하는 예시

데이터 및 테스트

애플과 USC는 성별 모호한 엔티티를 감지하는 데 사용되는 감지기를 개발하기 위해 페이스북 AI의 xlm-roberta-large 모델을 사용했습니다.

이 감지기는 5개의 언어 쌍에 걸쳐 G-Tag를 사용하여 미리 학습되었습니다.

애플과 USC는 또한 M2M 1.2B 모델을 사용하여 G-Trans 데이터셋에서 비텍스트를 추출했습니다.

그들은 GPT-3.5-turbo를 사용하여 성별을 할당하는 또 다른 접근 방식을 사용했습니다.

그들은 성별 구조를 정렬하기 위해 xlm-roberta-large를 사용했습니다.

그들은 또한 FloRes 데이터셋을 사용하여 모델을 테스트했습니다.

End-to-end 바닐라 기계 번역 모델 테스트

논문은 다음과 같이述합니다.

‘바닐라 모델은 대체 번역을 생성할 수 없으며, 남성 형태를 생성하는 편향이 크게 나타납니다(δ-BLEU는 5.3에서 12.5까지). 이 편향은 감독 기준선으로 감소되며, 데이터 증강 파이프라인을 사용하면 편향이さらに 감소하고, 대체 메트릭, 정렬 정확도, δ-BLEU에서 최고의 성능을 달성합니다.’

연구자들은 성별 할당을 합리화하는 번역 방법의 어려움을 고려하여 모델의 성공을 평가해야 한다고 주장합니다. 그들은 이 문제가 여전히 열린 문제라고 주장합니다.

연구자들은 결과가 성별 중립적 번역 및 성별에 대한 모호성을 완전히 달성하지 못했지만, 이 연구가 기계 번역의 가장 어려운 분야 중 하나인 성별 할당 문제를 해결하는 데 강력한 도구가 될 수 있다고 믿습니다.

첫 번째로 게시됨: 2024년 10월 8일