사상 리더

AI와 신뢰의 호전

Eduardo Mota
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트AI에 대한 대중의 신뢰는 안전한 기업별 도입과 함께 산업 전반에 걸쳐 강제 가능한 책임 기준이 모두 필요합니다.
더 보기
  • AI에 대한 대중의 신뢰는 안전한 기업별 도입과 함께 산업 전반에 걸쳐 강제 가능한 책임 기준이 모두 필요합니다.
  • AI 생성 검색 결과는 지속적인 신뢰도와 허구적 정보 생성 문제로 인해 '신뢰하되 검증하라'는 접근이 요구됩니다.
  • 효과적인 AI 규제는 개인적 의제를 가진 정치인들이 아닌, 정보에 밝은 기술 전문가들로부터 나와야 합니다.

작년 초, 우리 팀이 앞으로 무엇이 있을지에 대한 예측을 할 때, 인공 지능(AI)이 무엇을 할 수 있는지 그리고 비즈니스와 사회에 미치는 영향에 대한 명확성을 얻을 수 있을 것이라는 것이 공통된 의견이었다. 이는 새로운 예측은 아니었지만, 그 핵심은 정확했으며, 우리는 여전히 AI의 의미와 어떻게 제어해야 하는지에 대한 함의를 고민하고 있다.

Apple (AAPL ), Microsoft (MSFT ), Google이 기기에 AI를 탑재해 더 넓은 대중에게 그 힘을 제공하는 모습을 보았습니다. 한편 AI 검색 도구의 챗봇이 사용자를 위협하고 직원을 감시한다고 주장하거나, 다른 챗봇이 피자에서 치즈가 흘러내리지 않게 Elmer’s 접착제를 쓰라고 제안하는 일도 있었습니다. 그런데도 기업의 AI 도입 사례와 시장은 급성장했습니다. Crunchbase에 따르면 지난해 전 세계 벤처 투자금의 거의 3분의 1이 AI 관련 기업에 흘러갔습니다.

OpenAI가 실제로 놀라운 추론 능력 향상을 이뤘지만, 저명한 AI 연구자 Yoshua Bengio는 치명적 피해를 일으킬 가능성이 있는 “프런티어 모델”에 안전 조치를 도입하라고 촉구했습니다. AI 기술이 과학 분야에서 두 개의 Nobel Prize를 받았음에도, 수상자 중 한 명은 “우리보다 더 지능적이고 결국 통제권을 쥘 시스템”을 우려했습니다.

이처럼 빠르게 발전하는 분야에서, 전문가 기술자들이 따라가기 어려울 뿐만 아니라, 일반 대중도 따라가기 어렵다.

그리고 그런 AI의 실수와 개인 정보 보호 및 제어되지 않은 사용에 대한 우려는 공공의 경계심을 높이고 있다.

나를 믿어라

우리는 신뢰의 곡선 중간 지점에 서 있습니다. 대중의 AI 수용을 높이는 동시에 기업과 기술 공동체가 책임 있게 행동하도록 해야 합니다. 첫 번째 과제는 현재 기업 현장에서 진행 중이며, 안전하고 건전한 배포 사례가 쌓일수록 힘을 얻고 있습니다. 이런 실증 사례는 결국 대중의 신뢰를 높일 것입니다. 그러나 두 번째 과제는 훨씬 더 어렵습니다.

누가 AI의 책임 있는 사용을 정의하고 강제할 것인가? 산업계가 자체적으로 규범을 만들 수 있을까? 기술자들이 AI를 따라가기 어려울 때, 정책 입안자들은 정보를 가지고 있겠으며, 정치적 의제를 논의에서 제외할 수 있을까? 그리고 AI 억만 장자가 갑자기 제어에 대해 이야기하고 싶어한다면, 그들은 계몽을 받았는지, 아니면 단지 추격을 하기 위해 브레이크를 잡고 있는 것인지?

“나를 믿어라”는 AI에서는 누구에게나 적용되지 않는다.

신뢰는 검증되어야 한다

사람들은 ChatGPT 같은 생성형 AI를 보며 이것이 다음 Google이 될지 궁금해합니다. 실제로 Google 검색의 최상단 결과는 이제 AI 모델 Gemini가 만듭니다. 하지만 “생고기를 먹어도 안전한가”라는 간단한 질문에 “예, 냉동된 것은 안전합니다”라고 답하는 시스템을 기업 규모에서 신뢰할 수는 없습니다. 데이터를 직접 검토해야 합니다.

공공의 신뢰 호전은 기존 검색과 마찬가지로 시간이 지나면서 신뢰성이 입증되면 따라갈 것이다. 그러나, 우리는 검색을 단순화하고 개선하려는 과정에서 실제로 후퇴했다. 이제, AI가 생성한 최상단 결과를 얻은 후, 후원 링크 목록을 스크롤해야 하며, 다음 5개를 클릭해야 하며, 여전히 정보를 검증해야 한다.

그것은 빠른 답을 찾을 때 많은 작업이 된다. 그리고 한 회사 전체가 같은 일을 할 수는 없다. 그러나, 수천 개의 서비스 티켓에서 채굴한 데이터를 실제 환경에 대한 지식으로 풍부하게 하면, 알고리즘적으로 환상 DOWN을 구성할 수 있다. 그러나, 여전히 “신뢰는 검증되어야 한다”는 상황이다.

정치를 걸러라

AI 규제에 관해 일부는 이미 말이 외양간을 나가 붙잡기 어려워졌다고 주장합니다. 예를 들어 학생이 직접 논문을 썼는지 생성형 AI를 이용했는지 효과적으로 판별할 도구가 부족합니다. 기술이 너무 앞서 있기 때문입니다.

이를 규제하는 일은 매우 복잡하며, 솔직히 살얼음판으로 들어가는 것과 같습니다. 기술 기업은 제안된 외부 규제 기관보다 수십 년 앞서 있습니다. 하지만 우리는 길을 개척하는 데 익숙하며, 뒤처지는 데 익숙하지 않습니다. 결국 책임 있는 거버넌스를 적용하려는 일은 혁신가의 몫이 될 수 있습니다. 달리 누가 책임 있게 할 수 있겠습니까?

많은 정치인이 그 역할을 맡고 싶어 할 것입니다. 그러나 이해 부족뿐 아니라 개인적·정치적 의제를 추진할 위험도 있습니다. AI를 건전하게 발전시키기보다 정치적 이익을 우선하고, 대중의 두려움을 이용해 강압적으로 AI 발전을 막을 수 있습니다.

CHIPS 및 과학법은 건강한 정부 조치의 좋은 예였다. 그것은 컴퓨팅 및 전자 장치의 제조 시설 건설에서 15배의 증가를 가져왔다. 그러나, 이것은 양당의 협력을 통해 가능했다. 이는 점점 더 과거의 유물이 되고 있다.

우리는 가치가 있는가?

AI에는 막대한 자금이 유입되고 있으며 앞으로 20년 동안 기술 기업이 큰돈을 벌 것입니다. 얼마나 많이, 얼마나 빠르게, 얼마나 안전하게 성장할지는 아직 알 수 없습니다. 어느 날 유명인이 멸종위기 새의 알을 저글링하는 딥페이크 영상이 퍼질 수도 있습니다. 대중은 충격을 받을 것이고, 나중에 AI 생성물로 밝혀져도 알은 다시 껍데기로 돌아가지 않습니다. 피해는 이미 발생한 뒤입니다.

이런 사안은 충분한 지식을 갖춘 기술 전문가가 규제해야 합니다. 위원회나 표준화 기구, 국제적 체계 등 어떤 형태가 될지는 아직 정해지지 않았습니다. 분명한 것은 AI가 신뢰의 곡선 위에 있으며, 업계는 그 신뢰를 받을 자격이 있음을 입증해야 한다는 점입니다.

Eduardo Mota는 DoiT의 수석 클라우드 데이터 아키텍트이자 AI/ML 전문가입니다. 뛰어난 클라우드 아키텍트이자 머신러닝 전문가로서 경영학사와 여러 관련 자격을 보유하고 있으며, 끊임없이 지식을 추구합니다. DoiT와 AWS에서 중요한 역할을 수행해 왔으며, AWS 및 GCP 클라우드 아키텍처와 최적화 전략에 대한 전문성을 통해 여러 조직의 운영 효율성과 비용 절감에 큰 영향을 미쳤습니다.