ChatGPT의 잠재적 위험에 대한 우려가 증가하고 있지만 AI 개발을 중단하는 것이 좋은 조치인가?

엘론 머스크와 다른 글로벌 기술 리더들은 ChatGPT의 출시 이후 AI 개발을 중단할 것을 촉구했지만, 일부 비평가들은 개발을 중단하는 것이 해결책이 아니라고 믿는다. 인텔리전트 자동화 회사 ABBYY의 AI 복음전도자 앤드류 페리는 휴식을 취하는 것이 치약을 다시 튜브에 넣는 것과 같다고 믿는다. 여기서 그는 왜 그렇게 생각하는지 설명한다…

AI 애플리케이션은 거의 모든 우리의生活의 측면에 영향을 미치고 있다. 이러한 상황에서 지금 개발을 중단하는 것은 불가능할 수 있다.

확실히, 잠재적으로 유해한 영향을 억제하기 위해 규제 감독을 강화해야 한다는 우려가 있다.

최근 이탈리아 데이터 보호 당국은 개인 데이터 수집 및 처리 방식과 모델을 훈련시키기 위한 개인 데이터의 수집 및 처리 방식과 관련된 개인 정보 보호 문제로 인해 전국적으로 ChatGPT의 사용을 일시적으로 차단했다. 또한, 어린이들이 자신의 나이와 인식에 전적으로 부적절한 응답에 노출되는 것과 같은 보안 조치의明显한 부족이 있었다.

유럽 소비자 기구(BEUC)는 “ChatGPT와 유사한 채트봇이 사람들을 속이고 조작할 수 있다는 우려가 증가하고 있다”는 이유로 EU에 대규모 언어 모델의 잠재적으로 유해한 영향을 조사할 것을 촉구하고 있다. 이러한 AI 시스템은 더 많은 공공 감시가 필요하며, 공공 당국은 그들을 통제해야 한다.

미국에서는 Center for AI and Digital Policy가 연방 거래위원회에 ChatGPT가 연방 거래위원회법(FTC법) 제5조(15 USC 45)를 위반한다는 불만을 제기했다. 이 불만의 근거는 ChatGPT가 कथ적으로 AI 시스템의 투명성과 설명 가능성에 대한 연방 거래위원회가 제시한 지침을 충족하지 못한다는 것이다. ChatGPT는 개인 정보 보호권을 침해하고, 유해한 콘텐츠를 생성하며, 잘못된 정보를 퍼트리는 등 여러 가지 알려진 위험을 인정했다.

대규모 언어 모델인 ChatGPT의 유용성에도 불구하고, 연구는 그들의 잠재적인 암흑면을 강조한다. 그것은 잘못된 답변을 생성하는 것으로 입증되었는데, 이는 ChatGPT 모델이 인터넷에서 큰 훈련 데이터 세트를 활용하는 깊은 학습 알고리즘에 기반하기 때문이다. 다른 채트봇과는 달리, ChatGPT는 인간의 대화와 비슷한 텍스트를 생성하는 언어 모델을 사용하며, 이 플랫폼은 “완전히 진실된 것처럼 잘못된 답변을 주장할 수 있는 이유 중 하나가 되기 위해 일련의 추측을 통해 답변에 도달한다.”

さらに, ChatGPT는 성별, 인종, 소수자 그룹에 대한 차별을 조장하는 “답변”을 생성하는 것으로 입증되었으며, 이는 회사가 완화하려고 노력하는 것이다. ChatGPT는 또한 사용자들의 개인 정보를 위협하고, 사기 공격에 노출시키는 악의적인 행위자들에게 보너스일 수 있다.

이러한 우려는 유럽 의회가 의견을 발표하도록 촉구했으며, 이는 현재의 EU 인공 지능법(AIA) 초안의 규정을 더욱 강화할 필요성을 강조한다. 의견은 현재의 초안은 협소한 AI 애플리케이션, 즉 고위험 AI 시스템의 특정 범주(예: 채용, 신용 등급, 고용, 법 집행, 사회 서비스 자격)에 중점을 두고 있지만, 일반 목적 AI, 즉 더 많은 인지 능력을 제공하는 대규모 언어 모델을 다루지 않는다고 지적한다. 일반 목적 AI 시스템의 별도, 고위험 범주를 초안 규정의 범위에 포함시켜야 한다는 의견이 있다. 개발자는 이러한 시스템을 시장에 출시하기 전에 철저한 사전 적합성 테스트를 수행해야 하며, 잠재적으로 예상치 못한 유해한 출력을 위해 지속적으로 성능을 모니터링해야 한다.

특히 유용한 연구는 EU AIA 규정은 “주로 전통적인 AI 모델에 중점을 두고 있으며, 오늘날 우리가 목격하는 새로운 세대에는 중점을 두지 않는다”는 사실을 강조한다.

이 연구는 규제 기관이 고려해야 할 4가지 전략을 추천한다.

1. 개발자는 유해한 출력을 완화하기 위한 위험 관리 프로세스의 효과에 대한 정기적인 보고서를 제출해야 한다.
2. 대규모 언어 모델을 사용하는 비즈니스에서는 고객에게 콘텐츠가 AI로 생성되었음을 공개해야 한다.
3. 개발자는 잠재적으로 예상치 못한 유해한 결과를 방지하기 위해 위험 관리 프레임워크의 일부로 단계적인 출시 프로세스에 참여해야 한다.
4. 개발자는 “위험을 근본적으로 완화”하기 위해 훈련 데이터 세트의 잘못된 정보에 대한 사전 감사를 수행해야 한다.

혁신적인 기술과 관련된 위험을 지속시키는 요인 중 하나는 첫 번째 움직임의 이점을 얻기 위해 “먼저 출하하고 나중에 수정”하는 비즈니스 모델을 채택하는 것이다. OpenAI는 ChatGPT의 잠재적인 위험에 대해 어느 정도 투명하지만, “사용자 주의”의무를 사용자에게 부담시키고, 사용자가 스스로 위험을 평가하고 가정하도록 하는广泛한 상업적 사용을 위해 이를 출시했다. 이는 이러한 대화형 AI 시스템의 普遍적인 영향으로 인해 유지할 수 없는 접근법일 수 있다. 예방적 규제와 강력한 집행 조치는 이러한 혁신적인 기술을 다룰 때 가장 중요하다.

인공 지능은 이미 거의 모든 우리의 생활의 부분을 침투하고 있으므로, AI 개발을 중단하는 것은 수많은 예상치 못한 장애물과 결과를 의미할 수 있다.突然 브레이크를 걸기보다는, 산업과 입법부는 인간 중심의 가치, 즉 투명성, 책임성, 공정성을 기반으로 실질적인 규제를 제정하기 위해誠意를 다해 협력해야 한다. 기존의 입법, 예를 들어 AIA를 참조하여, 지도자들은 글로벌 표준화된 정책을 설계할 수 있으며, 이러한 정책은 악의적인 사용을 방지하고 부정적인 결과를 완화하여 인공 지능을 인간의 경험을 개선하는 범위 내에서 유지할 수 있다.