사상가
AI와 테크노포비아와의 싸움
ChatGPT와 같은 생성 AI 및 대규모 언어 모델의 경우. AI에 대한 열정은 기술 공포증과 혼합되어 있습니다. 이것은 일반 대중에게 자연스러운 일입니다. 그들은 새롭고 흥미로운 것을 좋아하지만 미지의 것을 두려워합니다. 새로운 사실은 몇몇 저명한 과학자들이 기술혐오증은 아니더라도 스스로 기술 회의론자가 되었다는 것입니다. 과학자와 기업가들이 AI 연구를 XNUMX개월 동안 금지하자는 사례나 AI 최고 과학자 A. 힌튼 교수의 회의론이 그런 예다. 내가 기억할 수 있는 유일한 관련 역사적 등가물은 냉전 기간 동안 과학계의 일부가 원자폭탄과 핵폭탄을 비판한 것입니다. 운 좋게도 인류는 다소 만족스러운 방식으로 이러한 문제를 해결했습니다.
물론 모든 사람은 AI 문제의 현재 상태에 대해 질문할 권리가 있습니다.
- 대규모 언어 모델이 잘 작동하는 이유와 한계가 있는지 아무도 모릅니다.
- 나쁜 놈들이 'AI 폭탄'을 만드는 많은 위험이 도사리고 있으며, 특히 규제 측면에서 국가가 수동적인 방관자로 남아 있는 경우 더욱 그렇습니다.
이것은 저명한 과학자들에게도 미지에 대한 두려움을 불러일으키는 정당한 우려입니다. 결국 그들은 인간 그 자체입니다.
하지만 AI 연구가 일시적으로라도 멈출 수 있을까? 제 생각에는 그렇지 않습니다. AI는 점점 더 복잡해지는 글로벌 사회와 물리적 세계에 대한 인류의 반응이기 때문입니다. 물리적 및 사회적 복잡성 증가 과정이 매우 깊고 가차 없는 것처럼 보이기 때문에 AI와 시민 형태는 현재 정보 사회에서 지식 사회로 순조롭게 전환할 수 있는 유일한 희망입니다. 그렇지 않으면 우리는 파국적인 사회적 파열에 직면할 수 있습니다.
해결책은 AI 발전에 대한 이해를 심화하고, 개발 속도를 높이고, 긍정적인 영향을 극대화하는 방향으로 사용을 규제하는 동시에 이미 명백하고 숨겨진 부정적인 영향을 최소화하는 것입니다. AI 연구는 더욱 개방적이고 민주적이며 과학적이며 윤리적으로 달라져야 합니다. 이를 위해 제안된 요점 목록은 다음과 같습니다.
- 광범위한 사회적 영향을 미치는 중요한 AI 연구 문제에 대한 첫 번째 단어는 기업이나 개인 과학자가 아닌 선출된 의회와 정부에 위임되어야 합니다.
- 사회 및 금융 발전에서 AI의 긍정적인 측면을 탐색하고 부정적인 측면을 최소화하기 위해 모든 노력을 기울여야 합니다.
- 적절한 규제 조치를 취한다면 AI 시스템의 긍정적인 영향이 부정적인 측면보다 훨씬 클 수 있습니다. 테크노포비아는 정당하지도 않고 해결책도 아닙니다.
- 내 생각에 현재 가장 큰 위협은 그러한 AI 시스템이 거의(또는 평균적인) 교육 및/또는 조사 능력이 거의 없는 너무 많은 평민을 원격으로 속일 수 있다는 사실에서 비롯됩니다. 이것은 민주주의와 모든 형태의 사회 경제적 진보에 극도로 위험할 수 있습니다.
- 가까운 장래에 LLM 및/또는 CAN이 불법 활동에 사용되는 큰 위협에 대응해야 합니다(대학 시험에서 부정 행위는 관련 범죄 가능성의 공간에서 다소 온건한 사용입니다).
- 노동과 시장에 미치는 영향은 중장기적으로 매우 긍정적일 것입니다.
- 위의 관점에서 AI 시스템은 a) 국제법에 따라 'AI 시스템 등록부'에 등록되어야 하고 b) 사용자에게 AI 시스템과 대화하거나 그 결과를 사용한다는 사실을 알려야 합니다.
- AI 시스템이 사회적 영향이 크고 혜택을 극대화하고 사회 경제적 발전을 이루기 위해서는 첨단 AI 시스템 핵심 기술이 공개되어야 합니다.
- AI 관련 데이터는 (적어도 부분적으로) 민주화되어야 하며, 다시 혜택과 사회 경제적 발전을 극대화해야 합니다.
- 앞서 언급한 개방성으로 인한 이익 손실을 보상하고 AI R&D에 대한 강력한 미래 투자(예: 기술 특허, 의무 라이선스 체계를 통해)를 보장하기 위해 AI 기술 챔피언이 적절하고 강력한 재정적 보상 계획을 예측해야 합니다.
- 경쟁력을 유지하고 착수한 R&D 위험에 대한 보상을 부여하면서 연구 성과를 극대화하기 위해 학계와 산업계 간의 AI 연구 균형을 재고해야 합니다.
- 모든 교육 수준에서 교육 관행을 재검토하여 AI 기술의 이점을 극대화하는 동시에 창의적이고 적응력이 뛰어난 새로운 시민과 (AI) 과학자를 양성해야 합니다.
- 위의 내용을 보장하기 위해 적절한 AI 규제/감독/자금 조달 메커니즘을 만들고 강화해야 합니다.
이러한 몇 가지 사항은 'AI 과학과 사회'에 관한 저의 최근 저서 4권, 특히 A권(LLM 및 인공 일반 지능을 다루기 위해 2023년 XNUMX월 재작성됨) 및 C에서 자세히 다루어집니다.
도서 참조:
인공 지능 과학 및 사회 파트 A: AI 과학 및 정보 기술 소개
