사상 리더
AI와 기술 공포와의 싸움
제네러티브 AI와 대규모 언어 모델, 즉 ChatGPT와 같은 경우에 대해 보면, AI에 대한 열광과 기술 공포가 뒤섞여 있습니다. 이것은 일반 대중에게는 자연스러운 현상입니다. 새로운 것에 대한 흥미와 함께, 아직 모르는 것에 대한 두려움이 함께하기 때문입니다. 새로운 것은 여러 유명한 과학자들이 스스로 기술 회의론자, 아니면 기술 공포증을 갖고 있다는 것입니다. 과학자와 산업계 인사들이 AI 연구를 6개월간 중단하도록 요청한 경우, 또는 최고의 AI 과학자 인 A. 힌튼 교수의 회의적인 견해와 같은 경우가 있습니다. 제가 기억할 수 있는 관련된 역사적인 유사한 경우는, 냉전 기간 동안 과학자 공동체의 일부가 원자폭탄과 핵폭탄을 비판한 경우입니다.幸い, 인류는 이러한 우려를 비교적 만족스러운 방식으로 해결했습니다.
물론, 모든 사람이 현재의 AI 현황에 대해 질문할 권리가 있습니다:
- 대규모 언어 모델이 왜 så 잘 작동하는지, 그리고 그것이 한계가 있는지不知道.
- 나쁜 사람들이 ‘AI 폭탄’을 만들 수 있는 많은 위험이 잠복하고 있으며, 특히 국가가 규제 측면에서 소극적인 경우 더욱 그렇습니다.
이러한 것은 desconocido의 공포를 부추기는 정당한 우려입니다. 심지어 유명한 과학자들에게도 마찬가지입니다. 결국, 그들은 인간이기 때문입니다.
그러나, AI 연구가 일시적으로 중단될 수 있을까요? 제 관점에서는 아니오, 왜냐하면 AI는 인류가 점점 더 복잡해지는 세계와 물리적 세계에 대한 반응이기 때문입니다. 물리적이고 사회적인 복잡성이 증가하는 과정은 매우 깊고, казалось бы, 끊임없이 진행되고 있습니다. AI와 시민의 변형은 현재의 정보 사회에서 지식 사회로의 원활한 전환을 위해 우리의 유일한 희망입니다. 그렇지 않으면, 우리는 사회적 폭발을 겪을 수 있습니다.
해결책은 AI의 발전을 깊이 이해하고, 개발을 가속화하고, 규제를 통해 긍정적인 영향을 최대화하고, 이미 명백한 그리고 다른 숨겨진 부정적인 효과를 최소화하는 것입니다. AI 연구는 더 열린, 민주적인, 과학적인, 그리고 윤리적인 방향으로 진행될 수 있습니다. 여기에는 이러한 목적을 위한 제안된 목록이 있습니다:
- 중요한 AI 연구 문제에 대한 첫 번째 단어가远-reaching 사회적 영향을 미치는 경우, 기업이나 개인 과학자보다는 선출된 의회와 정부에 위임되어야 합니다.
- 모든 노력이 사회적이고 경제적인 발전에 대한 AI의 긍정적인 측면을 탐색하고, 부정적인 측면을 최소화하기 위해 기울여져야 합니다.
- AI 시스템의 긍정적인 영향은 적절한 규제 조치를 취할 경우, 부정적인 측면을 크게 능가할 수 있습니다. 기술 공포는 정당화되지 않으며, 해결책이 아닙니다.
- 제 관점에서는, 현재 가장 큰 위협은 이러한 AI 시스템이 원격으로 너무 많은 일반인들이 교육이나 조사 능력이 부족한 경우, 민주주의와 모든 형태의 사회 경제적 발전에 매우 위험할 수 있다는 것입니다.
- 근미래에, 우리는 LLM과/또는 CAN의 불법적 사용(대학 시험에서 부정행위는 관련된 범죄 가능성의 공간에서 비교적 무해한 사용입니다)으로부터 오는 큰 위협에 대응해야 합니다.
- 그것의 노동과 시장에 대한 영향은 중장기적으로 매우 긍정적일 것입니다.
- 위의 내용을 고려하여, AI 시스템은 a) 국제법에 의해 ‘AI 시스템 등록’에 등록되어야 하며, b) 사용자에게 AI 시스템과 대화하거나 결과를 사용함을 알리는 것이 필요합니다.
- AI 시스템은巨大한 사회적 영향을 미치기 때문에, 최대 혜택과 사회 경제적 발전을 위해, 고급 키 AI 시스템 기술은 공개되어야 합니다.
- AI 관련 데이터는 (적어도 부분적으로) 민주화되어야 합니다. 다시 최대 혜택과 사회 경제적 발전을 위해.
- 적절한 강력한 재정 보상 계획이 AI 기술 챔피언을 위해 손실된 이익을 보상하고, 앞으로의 투자를 보장하기 위해 예상된 공개성과 기술 특허, 의무 라이센스 체계를 통해 제공되어야 합니다.
- 학계와 산업계의 AI 연구 균형은 연구 출력을 최대화하면서 경쟁력을 유지하고, 연구에 대한 위험을 감수한 보상을 제공하기 위해 재고되어야 합니다.
- 모든 교육 수준에서 교육 관행이 재검토되어야 합니다. AI 기술의 혜택을 최대화하고, 창의적이고 적응력이 있는 시민과 (AI) 과학자를 창조하기 위해.
- 적절한 AI 규제/감독/자금 조달 메커니즘이 생성되어야 하며, 이러한 것을 보장하기 위해 강화되어야 합니다.
이러한 몇 가지 사항은 제 최근의 4권의 책 ‘AI 과학과 사회’에서 자세히 다루고 있습니다. 특히 A巻(2023년 5월에 LLM과 인공 일반 지능을 다루기 위해 다시 작성됨)과 C巻.
도서 참조:
Artificial Intelligence Science and Society Part C: AI Science and Society
