사상 리더

인공지능과 기술공포 대처

Prof. Ioannis Pitas
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트AI 연구는 인류가 증가하는 글로벌 복잡성을 관리할 수 있는 유일한 희망이기 때문에 중단될 수 없습니다.
더 보기
  • AI 연구는 인류가 증가하는 글로벌 복잡성을 관리할 수 있는 유일한 희망이기 때문에 중단될 수 없습니다.
  • AI의 가장 큰 위협은 교육 수준이 낮은 시민들을 속이고 민주주의를 훼손할 수 있는 능력에 있습니다.
  • AI 시스템은 국제법에 의해 등록되어야 하며, 사용자가 AI와 상호작용할 때 이를 알려야 합니다.

생성형 인공지능과 대규모 언어 모델의 경우, ChatGPT와 같은 기술에 대한 열광과 기술공포가 혼재합니다. 일반 대중에게는 새로운 흥미로운 것들을 좋아하지만, 미지의 것에 대한 두려움을 가지고 있습니다. 새로운 것은 몇몇 저명한 과학자들이 기술에 대한 회의적이거나 기술공포를 가지고 있다는 것입니다. AI 연구를 6개월 동안 중단하라는 과학자와 산업계 인사들의 요청이나, 최고의 AI 과학자인 A. Hinton 교수의 회의론은 이러한 예입니다. 제가 기억할 수 있는 유일한 역사적 대응은, 냉전 시대에 원자폭탄과 핵폭탄에 대한 비판을 일부 과학자들이 한 것입니다. 다행히, 인류는 이러한 우려를 비교적 만족스럽게 해결했습니다.

물론, 모든 사람이 현재의 AI 현황에 대한 질문을 할 권리가 있습니다:

  • 대규모 언어 모델이 왜 그렇게 잘 작동하는지, 그리고 그 한계가 있는지 알지 못합니다.
  • 나쁜 사람들이 ‘AI 폭탄’을 만들 수 있는 많은 위험이 있습니다. 특히, 국가들이 규제에 대해 소극적인 경우에 더욱 그렇습니다.

이러한 것은 미지의 것에 대한 두려움을 불러일으키는 합리적인 우려입니다. 심지어 저명한 과학자들에게도 그렇습니다. 결국, 그들은 인간이기 때문입니다.

그러나, AI 연구를 잠시 중단할 수 있을까요? 제 의견에는, 아니오, 인공지능은 인류가 점점 더 복잡해지는 세계와 사회에 대한 대응이기 때문입니다. 물리적이고 사회적인 복잡성의 증가 과정은 매우 깊고, 끊임없이 진행되는 것 같습니다. 인공지능과 시민의 교육과 소양 함양은 현재의 정보 사회에서 지식 사회로의 원활한 전환을 위한 우리의 유일한 희망입니다. 그렇지 않으면, 우리는 파괴적인 사회의 내부 붕괴을 겪을 수 있습니다.

해결책은 인공지능의 발전에 대한 우리의 이해를 깊게 하고, 개발을 가속화하며, 규제를 통해 긍정적인 영향을 최대화하고, 이미 드러난 부정적 영향과 아직 숨겨진 부정적 영향을 최소화하는 것입니다. 인공지능 연구는 더 열린, 민주적인, 과학적인, 그리고 윤리적인 방향으로 진행되어야 합니다. 여기서 제안하는 몇 가지 사항이 있습니다:

  • 사회에 광범위한 영향을 미치는 중요한 AI 연구 문제에 대한 주도권은 선출된 의회와 정부에 맡겨야 합니다. 기업이나 개인 과학자에게 위임되어서는 안 됩니다.
  • 사회적이고 경제적인 발전에 대한 인공지능의 긍정적인 측면을 탐색하기 위한 모든 노력이 기울여져야 합니다. 그리고 부정적인 측면을 최소화해야 합니다.
  • 인공지능 시스템의 긍정적인 영향은 규제 조치가 취해지면 부정적인 측면을 크게 초과할 수 있습니다. 기술공포는 정당화되지 않으며, 해결책이 아닙니다.
  • 제가 보기에, 가장 큰 현재의 위협은 이러한 인공지능 시스템이 교육이나 조사 능력이 부족한 일반인들을 원격으로 속여서 민주주의와 사회경제적인 발전에 매우 위험할 수 있다는 것입니다.
  • 근미래에, 우리는 불법적인 활동에 대한 LLM 및/또는 CAN의 사용으로부터 오는 큰 위협에 대처해야 합니다. 관련된 여러 범죄적 활용 가능성과 비교하면 대학 시험에서의 부정행위는 비교적 경미한 사용 사례입니다.
  • 그들의 영향은 중장기적으로 노동과 시장에 매우 긍정적일 것입니다.
  • 인공지능 시스템은 국제법에 따라 ‘AI 시스템 등록부’에 등록되어야 하며, 사용자에게 AI 시스템과 대화하고 있거나 그 결과를 사용하고 있다는 사실을 알려야 합니다.
  • 인공지능 시스템은 거대한 사회적 영향을 미치기 때문에, 최대화된 이익과 사회경제적인 발전을 위해, 고급 인공지능 기술은 공개되어야 합니다.
  • 인공지능 관련 데이터는 부분적으로 민주화되어야 합니다. 최대화된 이익과 사회경제적인 발전을 위해 그렇습니다.
  • 인공지능 기술의 선도적 개발자에게 적절한 금전적 보상 체계가 있어야 합니다. 공개성으로 인한 이익 손실을 보상하고, 미래의 인공지능 연구 개발에 대한 강력한 투자를 보장하기 위한 것입니다. 기술 특허와 의무적 라이선스 제도 등이 그 예입니다.
  • 학계와 산업계 간의 인공지능 연구의 균형을 재고하여 연구 성과를 최대화하고, 경쟁력을 유지하며, 연구 개발에 대한 위험을 보상해야 합니다.
  • 모든 교육 수준에서 교육 방식을 재검토하여 인공지능 기술의 이익을 최대화하고, 창의적이고 적응력이 있는 시민과 과학자를 만들 수 있어야 합니다.
  • 인공지능 규제/감독/자금 지원 메커니즘을 만들고 강화하여 위의 사항을 보장해야 합니다.

이러한 몇 가지 사항은 제가 최근에 출간한 4권의 책 ‘인공지능 과학과 사회’에서 자세히 다루고 있습니다. 특히, A권(2023년 5월에 LLM과 범용 인공지능을 다루기 위해 다시 작성됨)과 C권에서 그렇습니다.

도서 참조:

인공지능 과학과 사회 Part A: 인공지능 과학과 정보 기술 소개

인공지능 과학과 사회 Part C: 인공지능 과학과 사회

Ioannis Pitas 교수 (IEEE 펠로, IEEE Distinguished Lecturer, EURASIP 펠로)는 AUTH의 정보학과 교수이자 인공지능 및 정보분석 연구실(AIIA)의 소장입니다. 그는 여러 대학에서 방문 교수로 근무했습니다. 그는 관심 분야에서 920 편이 넘는 논문을 발표했으며 45 권의 책에 기여했으며 컴퓨터 비전 및 머신 러닝에 관한 또 다른 11 권의 책을 편집하거나 단독 또는 공동 저술했습니다. 그는 International AI Doctoral Academy (AIDA)의 의장입니다.