AI 모델 및 플랫폼
테크 리더들이 강조하는 AI 위험과 강력한 AI 규제의 시급성
핵심 포인트기술 리더들은 인공지능이 인간 지능을 초월할 경우 실존적 위험이 발생하므로 안전성에 대한 긴급 투자가 필요하다고 경고합니다.
더 보기
- 기술 리더들은 인공지능이 인간 지능을 초월할 경우 실존적 위험이 발생하므로 안전성에 대한 긴급 투자가 필요하다고 경고합니다.
- 생성형 AI로 인해 3억 개 이상의 일자리가 자동화될 전망이며, 이에 대규모 인력 재교육 프로그램이 요구됩니다.
- 편향된 AI 시스템은 엄격한 감사 없이는 채용 및 법 집행 과정에서 차별을 고착화할 수 있습니다.
최근 몇 년 동안 AI의 성장과 발전은 기하급수적으로 증가했습니다. Statista에 따르면 2024년까지 전 세계 AI 시장은 2015년의 1,260억 달러에서 3조 달러의 매출을 달성할 것으로 예상됩니다. 그러나 테크 리더들은 현재 AI의 다양한 위험성에 대해 경고하고 있습니다.
특히, 최근의 생성형 AI 모델인 ChatGPT는 의료, 교육, 금융 등 민감한 데이터를 다루는 다양한 분야에서 새로운 기능을 소개했습니다. 이러한 AI 기반 개발은 악의적인 에이전트가 노출할 수 있는 AI의 여러 결함으로 인해 취약합니다.
AI 전문가들이 최근의 개발에 대해 무엇을 말하는지와 AI의 잠재적인 위험성에 대해 논의해 보겠습니다. 또한 이러한 위험성들을 어떻게 관리할 수 있는지 간략하게 다루어 보겠습니다.
테크 리더들과 AI의 위험성에 대한 우려
제프리 힌튼
제프리 힌튼 – 유명한 AI 테크 리더(이 분야의 대부)이며 최근에 구글 (GOOGL ) 을 떠난 그는 AI의 빠른 발전과 잠재적 위험에 대한 우려를 표명했습니다. 힌튼은 AI 채팅봇이 인간의 지능을 초과할 경우 “상당히 무서운” 상황이 될 수 있다고 믿습니다.
힌튼은 다음과 같이 말합니다.
“현재 GPT-4 같은 시스템은 일반 지식의 양에서 사람을 훨씬 능가합니다. 추론 능력은 사람만큼 좋지 않지만, 이미 간단한 추론을 할 수 있습니다. 발전 속도를 고려하면 상당히 빠르게 개선될 것으로 예상합니다. 그래서 우리는 이를 우려해야 합니다.”
또한 그는 “악의적인 행위자”가 AI를 “나쁜 일”에 사용할 수 있으며, 예를 들어 로봇이 하위 목표를 가질 수 있다고 믿습니다. 그러나 그는 AI가 단기적으로 이익을 가져다줄 수 있지만, 우리는 또한 AI의 안전성과 통제에 대규모로 투자해야 한다고 믿습니다.
엘론 머스크
엘론 머스크의 AI 참여는 2010년 DeepMind에 초기 투자에서 시작되었으며, OpenAI의 공동 설립과 테슬라의 자율 주행 자동차에 AI를 통합하는 것을 포함합니다.
그는 AI에 대해 열정적이지만, 그는 자주 AI의 위험성에 대해 우려를 표명합니다. 머스크는 강력한 AI 시스템이 핵무기보다 문명에 더 위험할 수 있다고 말합니다. 2023년 4월 Fox News의 인터뷰에서 그는 다음과 같이 말했습니다.
“AI는 잘못 관리된 항공기 설계, 생산이나 유지보수 또는 잘못된 자동차 생산보다 더 위험합니다. 문명을 파괴할 잠재력이 있기 때문입니다. 그 확률을 아무리 작게 보더라도 무시할 수 있는 위험은 아닙니다.”
또한 그는 AI의 안전성을 보장하기 위해 정부의 규제를 지지합니다. 그러나 “그것은 재미있지 않다”고 말합니다.
자이언트 AI 실험을 중단하십시오: 수천 명의 AI 전문가가 지지하는 공개 서한
미래의 삶 연구소는 2023년 3월 22일 공개 서한을 발표했습니다. 이 서한은 더 발전된 AI 시스템 개발, 즉 GPT-4를 넘어서는 시스템의 개발을 6개월 동안 일시적으로 중단할 것을 촉구합니다. 저자들은 AI 시스템이 개발되는 속도에 대한 우려를 표명하며, 그 속도가 심각한 사회경제적 과제를 초래한다고 말합니다.
또한 이 서한은 AI 개발자가 정책 입안자와 함께 AI 거버넌스 시스템을 문서화하기 위해 협력해야 한다고 말합니다. 2023년 6월 현재, 이 서한은 31,000명 이상의 AI 개발자, 전문가, 테크 리더에 의해 서명되었습니다. 주목할만한 서명자는 엘론 머스크, 스티브 워즈니악(애플 (AAPL ) 의 공동 설립자), 에마드 모스타크(Stability AI의 CEO), 요슈아 벵기오(튜링상 수상자) 등이 있습니다.
AI 개발을 중단하는 것에 대한 반론
두 명의 유명한 AI 리더, 앤드류 응와 얀 르쿤은 6개월 동안의 고급 AI 시스템 개발 중단에 반대하며 이를 나쁜 생각이라고 봅니다.
응은 다음과 같이 말합니다.
“AI는 일부 위험성, 예를 들어 편향, 권력의 집중 등이 있지만, 교육, 의료, 반응형 코칭 등의 분야에서 AI가 창출하는 가치는 엄청납니다.”
르쿤은 다음과 같이 말합니다.
“연구와 개발을 중단해서는 안 됩니다. 그러나 최종 사용자에게 도달하는 AI 제품은 규제될 수 있습니다.”
AI의 잠재적인 위험성과 즉각적인 위험성은 무엇인가?

1. 일자리 상실
AI 전문가들은 지능형 AI 시스템이 인지적이고 창의적인 작업을 대체할 수 있다고 믿습니다. 투자 은행 골드만 삭스 (GS ) 에 따르면, 약 3억 개의 일자리가 생성형 AI에 의해 자동화될 것입니다.
따라서 AI의 개발을 규제하여 심각한 경제적 하락을 방지해야 합니다. 또한 직원들의 역량 향상과 재교육을 위한 교육 프로그램을 마련하여 이 도전에 대비해야 합니다.
2. 편향된 AI 시스템
인간의 성별, 인종, 피부색에 대한 편향이 AI 학습용 데이터에 의도치 않게 스며들어 AI 시스템을 편향시킬 수 있습니다.
예를 들어, 채용에서 편향된 AI 시스템은 특정 민족 배경의 이력서를 거부하여 노동시장에서 차별을 조장할 수 있습니다. 또한 경찰에서 편향된 예측 치안 활동은 특정 지역이나 인구 통계 집단을 과도하게 표적으로 할 수 있습니다.
따라서 AI의 위험성, 특히 편향성을 해결하기 위한 종합적인 데이터 전략이 필요합니다. AI 시스템은 정기적으로 평가되고 감사되어 공정성을 유지해야 합니다.
3. 안전성에 중요한 AI 응용
자율 주행 자동차, 의료 진단 및 치료, 항공 시스템, 원자력 발전소 제어 등은 모두 안전성에 중요한 AI 응용의 예입니다. 이러한 AI 시스템은 개발할 때 주의해야 합니다. 왜냐하면 작은 오류도 인간의 생명이나 환경에 심각한 결과를 초래할 수 있기 때문입니다.
예를 들어, Maneuvering Characteristics Augmentation System (MCAS)라는 AI 소프트웨어의 오작동은 2018년 10월과 2019년 3월에 발생한 두 번의 보잉 737 MAX 충돌의 원인 중 하나로 알려져 있습니다. 비극적으로, 두 번의 충돌로 346명이 사망했습니다.
AI 시스템의 위험성을 어떻게 극복할 수 있나요? – 책임 있는 AI 개발 및 규제 준수

책임 있는 AI (RAI)는 공정성, 책임성, 투명성, 보안을 보장하며, 개인 정보를 보호하고 법적 규정 및 사회적 규범을 준수하는 AI 시스템을 개발하고 배포하는 것을 의미합니다. RAI를 구현하는 것은 AI 시스템의 광범위하고 빠른 발전으로 인해 복잡할 수 있습니다.
그러나 대형 테크 회사들은 RAI 프레임워크를 개발했습니다. 예를 들어:
전 세계의 AI 연구소는 이러한 원칙에서 영감을 얻거나 자신의 책임 있는 AI 프레임워크를 개발하여 신뢰할 수 있는 AI 시스템을 만들 수 있습니다.
AI 규제 준수
AI 시스템은 데이터를 포함하므로, AI 기반 조직과 연구소는 데이터의 보안, 개인 정보, 안전을 보장하기 위해 다음 규정을 준수해야 합니다.
- GDPR (일반 데이터 보호 규정) – EU의 데이터 보호 프레임워크입니다.
- CCPA (캘리포니아 소비자 개인 정보 보호법) – 개인 정보 보호와 소비자 보호를 위한 캘리포니아 주법입니다.
- HIPAA (건강보험 이동성 및 책임법) – 미국의 환자 데이터를 보호하는 법입니다.
- EU AI 법와 신뢰할 수 있는 AI를 위한 윤리 지침 – 유럽 위원회의 AI 규정입니다.
각국은 시민을 보호하기 위해 다양한 지역 및 현지 법을 제정했습니다. 데이터에 대한 규제 준수를 보장하지 못하는 조직은 심각한 벌금을 물게 될 수 있습니다. 예를 들어, GDPR는 불법적인 데이터 처리, 입증되지 않은 데이터 처리 동의, 데이터 주체의 권리를 침해하는 경우, 또는 국제 기관으로의 데이터 전송을 보호하지 못하는 경우와 같은 심각한 위반에 대해 2,000만 유로 또는 연간 수익의 4%의 벌금을 부과합니다.
AI 개발 및 규제 – 현재 및 미래
매월마다 AI의 발전은 전례 없는 높이로 치닫고 있습니다. 그러나 이러한 발전과 함께하는 AI 규제와 거버넌스 프레임워크는 뒤처지고 있습니다. 그것들은 더 강력하고 구체적이어야 합니다.
테크 리더들과 AI 개발자들은 AI가 적절히 규제되지 않을 경우의 위험을 경고해 왔습니다. AI 연구개발은 여러 분야에서 더 큰 가치를 창출할 수 있지만, 이제 신중한 규제가 반드시 필요하다는 점은 분명합니다.
더 많은 AI 관련 콘텐츠를 보시려면 unite.ai를 방문하세요.












