사상 리더
ChatGPT의 잠재적 위험에 대한 우려가 증가하고 있지만 AI 개발을 중단하는 것이 좋은 선택일까?
Unite.AI를 Google의 선호 소스에 추가
엘론 머스크와 다른 글로벌 기술 리더들은 ChatGPT의 출시 이후 AI 개발을 중단할 것을 촉구했지만, 일부 비평가들은 개발을 중단하는 것이 해결책이 아니라고 믿는다. 인텔리전트 오토메이션 회사 ABBYY의 AI 전도사 앤드류 페리는 개발을 중단하는 것이 치약을 다시 튜브에 넣는 것과 같다고 말한다. 여기서 그는 왜 그렇게 생각하는지 설명한다.
AI 애플리케이션은 우리의 거의 모든 측면에 영향을 미치고 있다. 이러한 상황에서 개발을 중단하는 것은 불가능할 수 있다.
잠재적으로 유해한 영향을 억제하기 위한 규제 감독을 강화해야 한다는 우려가 있다.
최근 이탈리아 데이터 보호 당국은 개인 데이터 수집 및 처리 방식과 모델을 훈련시키기 위한 데이터에 대한 불충분한 안전 조치로 인해 ChatGPT의 사용을 일시적으로 차단했다. 이는 어린이들이 자신의 나이와 인식에 맞지 않는 반응에 노출될 수 있기 때문이다.
유럽 소비자 기구(BEUC)는 ChatGPT와 같은 대규모 언어 모델이 사람들을 속이고 조작할 수 있는 우려가 증가하고 있기 때문에 EU에 조사할 것을 촉구하고 있다. 이러한 AI 시스템은 더 큰 공적 감시를 필요로 하며, 공적 기관은 이를 통제해야 한다.
미국에서는 AI 및 디지털 정책 센터(Center for AI and Digital Policy)가 연방 거래위원회에 ChatGPT가 연방 거래위원회법(FTC Act)의 5조를 위반한다는 내용의 불만을 제기했다. 불만의 근거는 ChatGPT가 투명성과 설명 가능성에 대한 연방 거래위원회가 제시한 지침을满足하지 못한다는 것이다. ChatGPT는 개인 정보를 침해하고 유해한 콘텐츠를 생성하며 허위 정보를 퍼뜨리는 등 여러 가지 위험을 인정하고 있다.
대규모 언어 모델인 ChatGPT의 유용성에도 불구하고, 연구에 따르면 이는 잠재적으로 어두운 면을 가지고 있다. 이는 인터넷에서 수집한大量의 훈련 데이터 세트를 기반으로 하는 딥 러닝 알고리즘을 사용하여 잘못된 답변을 생성할 수 있다. 다른 채팅봇과 달리 ChatGPT는 인간과 같은 대화를 생성하는 언어 모델을 사용하며, 이는 부분적으로 왜곡된 답변을 생성할 수 있다.
さらに, ChatGPT는 성별, 인종, 소수자 그룹에 대한 편견을 강화하는 것으로 밝혀졌다. 이는 회사가 완화하려고 노력하고 있지만, ChatGPT는 악의적인 행위자들이 사용자를 속여서 개인 정보를 침해하고 사기 공격에 노출시키는 데 활용될 수 있다.
이러한 우려는 유럽 의회가 EU 인공 지능법(AIA) 초안의 현재 규정을 강화할 필요성을 강조하는 논평을 발표하도록 이끌었다. 이는 narrow AI 애플리케이션, 즉 고위험 AI 시스템에 중점을 둔 규정이다. 그러나 EU의 초안 규정은 일반적인 목적의 AI, 즉 더 발전된 인지 능력을 제공하는 대규모 언어 모델을 다루지 않는다. 이러한 일반적인 목적의 AI 시스템을 포함하는 별도의 고위험 카테고리를 만들어서 개발자가 시장에 출시하기 전에 엄격한 테스트를 수행하고, 잠재적으로 유해한 결과를 방지하기 위해 지속적으로 성능을 모니터링할 수 있도록 해야 한다.
특히 유용한 연구는 EU의 AIA 규정은 “기존의 AI 모델에 중점을 두고 있으며, 오늘날 탄생하고 있는 새로운 세대에는 중점을 두지 않는다”는 사실을 강조한다.
이 연구는 규제 기관이 고려해야 할 4가지 전략을 제안한다.
- 개발자는 유해한 결과를 방지하기 위한 위험 관리 프로세스의 효과성을 정기적으로 보고해야 한다.
- 대규모 언어 모델을 사용하는 비즈니스에서는 고객에게 콘텐츠가 AI에 의해 생성되었음을 공개해야 한다.
- 개발자는 위험 관리 프레임워크의 일부로 단계적으로 출시 프로세스에 따라 잠재적으로 예상치 못한 유해한 결과를 방지하기 위한 절차를 따라야 한다.
- 개발자는 “위험의 근원에서 위험을 완화”해야 하며, “训练 데이터 세트의 잘못된 정보를 사전에 감사”해야 한다.
혁신적인 기술의 위험을 가중하는 요인 중 하나는 최초의 시장 진출을 달성하기 위한 사업 모델이다. 오픈AI는 ChatGPT의 잠재적인 위험에 대해 어느 정도 투명하지만, 사용자가 스스로 위험을 평가하고 가정해야 하는 “구매자 주의” 방식으로 이를 상업적으로 출시했다. 이는 이러한 대화형 AI 시스템의 普遍적인 영향으로 인해 지속 가능한 접근 방식이 아닐 수 있다. 적극적인 규제와 강력한 집행 조치는 이러한 혁신적인 기술을 다룰 때 가장 중요하다.
인공 지능은 이미 우리의 거의 모든 부분에 침투하고 있기 때문에, AI 개발을 중단하는 것은 예상치 못한 많은 장애물과 결과를 초래할 수 있다.突然開発을 중단하는 대신, 산업과 입법 기관은 인간 중심의 가치观, 즉 투명성, 책임성, 공정성을 기반으로 실질적인 규제를 제정하기 위해 협력해야 한다. 기존의 규제를 참조하여, 사설과 공설의 리더들은 유해한 사용을 방지하고 부정적인 결과를 완화하며, 인공 지능을 인간의 경험을 개선하는 범위 내에서 유지할 수 있는, 철저하고 세계적으로 표준화된 정책을 설계할 수 있다.
