인공 지능의 편향을 벗겨내기: 도전과 해결책

최근의 생성적 인공 지능(generative AI)의 발전은 금융, 의료, 운송 등 다양한 산업에서 기업 응용 프로그램의 붐을 가져왔습니다. 이 기술의 발전은 또한 사이버 보안 방어 기술, 양자 컴퓨팅의 발전, 무선 통신 기술의 발전에 기여할 것입니다. 그러나 이러한 차세대 기술의 발전은 자신의 문제를 가지고 있습니다.

예를 들어, 인공 지능의 채택은 더 복잡한 사이버 공격, 메모리와 저장소의 병목 현상, 인공 지능 모델에서 나타나는 편향의 윤리적 문제를 초래할 수 있습니다.幸い, NTT Research는 인공 지능의 편향을 극복할 수 있는 방법을 제안했습니다.

이 연구는 인공 지능 모델이 인종, 성별 등 특징에 영향을 받지 않도록 하는 것이 중요하다는 점에서重大한 발전입니다. 이러한 모델은 채용, 司法 시스템, 의료 등에서 편향되지 않은 결과를 제공할 수 있습니다. 향후, 이러한 자동화 시스템을 사용하여 산업 전반의 다양성과 포용성을 향상시킬 수 있을 것입니다. 또한, 이러한 모델은 작업의 생산성을 향상시키고 작업 시간을 단축하는 데 도움이 될 것입니다. 그러나, 일부企業은 편향된 결과를 제공하는 인공 지능 프로그램을 중단해야 했습니다.

예를 들어, 아마존은 채용 알고리즘을 중단해야 했습니다. 알고리즘은 남성의 이력서에서 더 자주 사용되는 단어를 선호하는 편향을 보여주었습니다. 또 다른 편향의 예는 Joy Buolamwini의 연구에서 볼 수 있습니다. Joy Buolamwini는 2023년 TIME지의 가장 영향력 있는 인물 중 한 명입니다. 그는 MIT의 Timnit Gebru와 함께 얼굴 분석 기술이 소수자, 특히 여성에게 더 높은 오류율을 보여주는 편향을 발견했습니다.

최근, 딥 뉴럴 네트워크(DNN)는 과학, 공학, 비즈니스, 그리고 인기 있는 응용 프로그램에서 普遍적으로 사용되고 있습니다. 그러나, 이러한 네트워크는 때때로 편향된 특징에 의존할 수 있습니다. MIT의 연구에 따르면, 과학자들은 대량의 입력을 분석할 수 있는 딥 뉴럴 네트워크를 개발했습니다. 이러한 네트워크는 공유된 특징을 식별할 수 있으며, 이를 통해 목표 단어 또는 객체를 분류할 수 있습니다. 현재, 이러한 모델은 생물학적 감각 시스템을 복제하는 데主要한 모델입니다.

NTT Research의 선임 과학자이자 하버드 대학교 뇌과학 센터의 연구원인 Hidenori Tanaka와 다른 세 명의 과학자는 새로운 알고리즘을 제안했습니다. 이 알고리즘은 편향된 특징에 의존하는 모델의 한계를 극복할 수 있습니다.

그들은 네트워크의 손실 지형을 관찰했습니다. 네트워크의 손실 지형은 네트워크가 낮은 손실을 갖는 경로를 통해 연결될 수 있는지 여부를 결정합니다. 특히, 그들은 다음과 같은 질문을 했습니다. 다른 메커니즘을 사용하는 최적화 솔루션은 낮은 손실의 경로를 통해 연결될 수 있나요?

그들은 Naïve fine-tuning은 모델의 의사 결정 메커니즘을 근본적으로 변경할 수 없다는 것을 발견했습니다. 대신, 모델을 낮은 손실의 경로를 통해 이동시켜야 합니다. 이러한 보정 알고리즘을 연결성 기반 미세 조정(Connectivity-Based Fine-Tuning, CBFT)이라고 합니다.

이전에는, DNN은 물고기(이 연구에서 사용된 예시)의 모양과 배경을 입력 매개변수로 사용했습니다. 이러한 모델은 합법적인 특징인 모양과 편향된 특징인 배경 색상을 사용하여 예측했습니다. 이러한 모델은 선형적으로 연결되지 않았습니다.

연구 팀은 메커니즘의 렌즈를 통해 네트워크의 연결성을 이해했습니다. 그들은 두 개의 매개변수 세트를 고려했습니다. 하나는 배경을 사용하여 손실을 최소화하고, 다른 하나는 물체의 모양을 사용하여 손실을 최소화했습니다. 그리고, 이러한 메커니즘은 낮은 손실의 경로를 통해 연결될 수 있는지 여부를 질문했습니다.

다시 말해서, 딥 뉴럴 네트워크는 훈련 데이터에 따라 매우 다르게 행동할 수 있습니다. 연구 팀의 제안은 공유된 유사성의 개념에 기반합니다. 이는 이전의 모드 연결성 개념을 발전시킨 것입니다. 그들의 연구는 다음과 같은 발견으로 이어졌습니다:

• 다른 메커니즘을 사용하는 최적화 솔루션은 복잡한 비선형 경로를 통해 연결될 수 있습니다.
• 두 개의 최적화 솔루션이 선형적으로 연결되면, 그들의 메커니즘은 매우 유사합니다.
• 단순한 미세 조정만으로는 원치 않는 특징을 제거하기에 충분하지 않을 수 있습니다.
• 경로가 선형적으로 분리된 지역을 찾으면, 모델의 내부 작동을 효율적으로 변경할 수 있습니다.

이 연구는 인공 지능의 잠재력을 활용하는 데 중요한 발전입니다. 그러나, 인공 지능의 윤리적 문제는 여전히 남아 있습니다. 기술자와 연구자들은 인공 지능과 다른 대형 언어 모델의 다른 윤리적 약점을 해결하기 위해 노력하고 있습니다.

인공 지능은 개인 데이터를 수집하고 처리할 수 있습니다. 이러한 데이터의 무단 또는 부적절한 사용은 개인의 개인 정보를 침해할 수 있으며, 감시, 데이터 유출, 신분 도용에 대한 우려를 초래할 수 있습니다. 인공 지능은 자율 응용 프로그램의 책임에 대한 위협이 될 수 있습니다. 책임과 법적 책임을 위한 법적 프레임워크와 윤리적 표준을 설정하는 것이 향후 필수적입니다.

결론적으로, 생성적 인공 지능 기술의 빠른 성장은 다양한 산업에서 약속을 가지고 있습니다. 그러나, 인공 지능을 둘러싼 윤리적 문제는 여전히重大합니다. 인공 지능의 변革적 시대를 탐색하는 동안, 기술자, 연구자, 정책 입안자는 함께 일하여 인공 지능 기술의 책임 있는 사용을 보장하기 위한 법적 프레임워크와 윤리적 표준을 설정해야 합니다. NTT Research와 미시간 대학교의 과학자들은 인공 지능의 편향을 제거할 수 있는 알고리즘을 제안함으로써 한 걸음 앞서 있습니다.