AI 모델 및 플랫폼
AI의 위험성과 강력한 AI 규제의 필요성에 대한 테크 리더들의 경고
Unite.AI를 Google의 선호 소스에 추가
최근 몇 년 동안 AI의 성장과 발전은 기하급수적으로 증가했습니다. Statista에 따르면 2024년까지 전 세계 AI 시장은 2015年的 126억 달러에서 3000억 달러의 매출을 달성할 것으로 예상됩니다. 그러나 테크 리더들은 현재 AI의 다양한 위험성에 대해 경고하고 있습니다.
특히, 최근의 생성형 AI 모델인 ChatGPT는 의료, 교육, 금융 등 다양한 데이터 감각적인 분야에서 새로운 기능을 소개했습니다. 이러한 AI 기반 개발은 악의적인 에이전트가 노출할 수 있는 많은 AI의 부족으로 인해 취약합니다.
AI 전문가들이 최근의 개발에 대해 무엇을 말하는지와 AI의 잠재적인 위험성에 대해 논의해 보겠습니다. 또한 이러한 위험성들을 어떻게 관리할 수 있는지 간략하게 다루어 보겠습니다.
테크 리더들과 AI의 위험성에 대한 우려
제프리 힌튼
제프리 힌튼 – 유명한 AI 테크 리더(이 분야의 교父)이며 최근에 구글을 떠난 그는 우려를 표명했습니다. 힌튼은 AI 채팅봇이 인간의 지능을 초과할 경우 “相当히 무서운” 상황이 될 수 있다고 믿습니다.
힌튼은 다음과 같이 말합니다.
“현재 우리는 GPT-4가 사람보다 일반 지식이 더 많고, 훨씬 더 나쁩니다. 추론에서는 그렇지 않지만, 이미 단순한 추론을 할 수 있습니다. 그리고 진행 속도에 비추어 볼 때, 빠르게 개선될 것입니다. 그래서 우리는 그것에 대해 걱정해야 합니다.”
또한 그는 “나쁨 에이전트”가 AI를 “나쁜 일”에 사용할 수 있으며, 예를 들어 로봇이 하위 목표를 가질 수 있다고 믿습니다. 그러나 그는 AI가 단기적으로 이익을 가져다줄 수 있지만, 우리는 또한 AI의 안전성과 통제에大量으로 투자해야 한다고 믿습니다.
엘론 머스크
엘론 머스크의 AI 참여는 2010년 DeepMind에 초기 투자에서 시작되었으며, OpenAI의 공동 설립과 테슬라의 자율 주행 자동차에 AI를 통합하는 것을 포함합니다.
그는 AI에 대해熱心하지만, 그는 자주 AI의 위험성에 대해 우려를 표명합니다. 머스크는 강력한 AI 시스템이 핵무기보다文明에 더 위험할 수 있다고 말합니다. 2023년 4월 Fox News의 인터뷰에서 그는 다음과 같이 말했습니다.
“AI는, 예를 들어, 불량한 항공기 설계 또는 생산 유지 보수 또는 나쁨 자동차 생산보다 더 위험합니다. 그것은, 그러나 작은 확률일지라도, 비록 문명의 파괴의 가능성이 있기 때문입니다.”
또한 그는 AI의 안전성을 보장하기 위해 정부의 규제를 지지합니다. 그러나 “그것은 재미있지 않다”고 말합니다.
자이언트 AI 실험을 중단하십시오: 1000명의 AI 전문가가 지지하는 공개 서한
미래의 삶 연구소는 2023년 3월 22일 공개 서한을 발표했습니다. 이 서한은 GPT-4보다 더 발전된 AI 시스템 개발을 6개월 동안 일시적으로 중단할 것을 촉구합니다. 저자들은 AI 시스템이 개발되는 속도에 대한 우려를 표명하며, 이는 심각한 사회 경제적 도전에 직면할 수 있습니다.
또한 이 서한은 AI 개발자가 정책 입안자와 함께 AI 거버넌스 시스템을 문서화하기 위해 협력해야 한다고 말합니다. 2023년 6월 현재, 이 서한은 31,000명 이상의 AI 개발자, 전문가, 테크 리더에 의해 서명되었습니다. 주목할만한 서명자는 엘론 머스크, 스티브 워즈니악(애플의 공동 설립자), 에마드 모스타크(Stability AI의 CEO), 요슈아 벵기오(튜링상 수상자) 등이 있습니다.
AI 개발을 중단하는 것에 대한 반론
두 명의 유명한 AI 리더, 앤드류 응와 얀 르쿤은 6개월 동안의 고급 AI 시스템 개발을 중단하는 것을 반대합니다.
응은 다음과 같이 말합니다.
“AI는 일부 위험성, 예를 들어 편향, 권력의 집중 등이 있지만, 교육, 의료, 반응형 코칭 등의 분야에서 AI가 창출하는 가치는 엄청납니다.”
르쿤은 다음과 같이 말합니다.
“연구와 개발을 중단해서는 안 됩니다. 그러나 최종 사용자에게 도달하는 AI 제품은 규제될 수 있습니다.”
AI의 잠재적인 위험성과 즉각적인 위험성은 무엇인가?
1. 일자리 상실
AI 전문가들은 지능형 AI 시스템이 인지적이고 창의적인 작업을 대체할 수 있다고 믿습니다. 투자 은행 골드만 삭스에 따르면, 약 3억 개의 일자리가 생성형 AI에 의해 자동화될 것입니다.
따라서 AI의 개발을 규제하여 심각한 경제적 하락을 방지해야 합니다. 또한 직원們을 위한 교육 프로그램을 마련하여 이 도전에 대비해야 합니다.
2. 편향된 AI 시스템
인간이 가지고 있는 성별, 인종, 색상에 대한 편향이 데이터에 반영되어 AI 시스템을 편향시킬 수 있습니다.
예를 들어, 채용에서 편향된 AI 시스템은 특정 민족 배경의 이력서를 거부하여 직장 시장에서 차별을 조장할 수 있습니다. 또한 경찰에서 편향된 예측 폴리스링은 특정 지역이나 인구 통계 집단을 과도하게 표적으로 할 수 있습니다.
따라서 AI의 위험성, 특히 편향성을 해결하기 위한 종합적인 데이터 전략이 필요합니다. AI 시스템은 정기적으로 평가되고 감사되어 공정성을 유지해야 합니다.
3. 안전성에 중요한 AI 응용
자율 주행 자동차, 의료 진단 및 치료, 항공 시스템, 원자력 발전소 제어 등은 모두 안전성에 중요한 AI 응용의 예입니다. 이러한 AI 시스템은 개발할 때 주의해야 합니다. 왜냐하면 작은 오류도 인간의生命이나 환경에 심각한 hậu果를 초래할 수 있기 때문입니다.
예를 들어, Maneuvering Characteristics Augmentation System (MCAS)라는 AI 소프트웨어의 오작동은 2018년 10월과 2019년 3월에 발생한 두 번의 보잉 737 MAX 충돌의 원인 중 하나로 알려져 있습니다.悲劇적으로, 두 번의 충돌로 346명이 사망했습니다.
AI 시스템의 위험성을 어떻게 극복할 수 있나요? – 책임 있는 AI 개발 및 규제 준수
책임 있는 AI (RAI)는 공정성, 책임성, 투명성, 보안을 보장하며, 개인 정보를 보호하고 법적 규정 및 사회적 규범을 준수하는 AI 시스템을 개발하고 배포하는 것을 의미합니다. RAI를 구현하는 것은 AI 시스템의 광범위한 개발로 인해 복잡할 수 있습니다.
그러나 대형 테크 회사들은 RAI 프레임워크를 개발했습니다. 예를 들어:
전 세계의 AI 연구소는 이러한 원칙에서 영감을 얻거나 자신의 책임 있는 AI 프레임워크를 개발하여 신뢰할 수 있는 AI 시스템을 만들 수 있습니다.
AI 규제 준수
AI 시스템은 데이터를 포함하므로, AI 기반 조직과 연구소는 데이터의 보안, 개인 정보, 안전을 보장하기 위해 다음 규정을 준수해야 합니다.
- GDPR (일반 데이터 보호 규정) – EU의 데이터 보호 프레임워크입니다.
- CCPA (캘리포니아 소비자 개인 정보 보호법) – 개인 정보 보호와 소비자 보호를 위한 캘리포니아 주법입니다.
- HIPAA (건강 보험 이식성 및 책임법) – 미국의 환자 데이터를 보호하는 법입니다.
- EU AI 법와 신뢰할 수 있는 AI를 위한 윤리 지침 – 유럽 위원회의 AI 규정입니다.
각국은 시민을 보호하기 위해 다양한 지역 및 현지 법을 제정했습니다. 데이터에 대한 규제 준수를 보장하지 못하는 조직은 심각한 벌금을 물게 될 수 있습니다. 예를 들어, GDPR는 불법적인 데이터 처리, 데이터 주체의 권리를 침해하는 경우, 또는 국제 기관으로의 데이터 전송을 보호하지 못하는 경우와 같은 심각한 위반에 대해 2,000만 유로 또는 연간 수익의 4%의 벌금을 부과합니다.
AI 개발 및 규제 – 현재 및 미래
매월마다 AI의 발전은 전례 없는 높이로 치달르고 있습니다. 그러나 이러한 발전과 함께하는 AI 규제와 거버넌스 프레임워크는 뒤쳐지고 있습니다. 그것들은 더 강력하고 구체적이어야 합니다.
테크 리더들과 AI 개발자들은 AI의 위험성에 대해 경고하고 있습니다. AI의 규제가 적절하지 않으면, 연구와 개발이 많은 분야에서 가치를 가져다줄 수 있지만,慎重한 규제가 지금 필요하다는 것을 알립니다.
더 많은 AI 관련 콘텐츠를 보시려면 unite.ai를 방문하세요.
