AI의 위험은 보상보다 큰가?

나는 만난 가상의 내용에서 AI를 반영해 본다면, 그것은 90%가 비관적이라고 생각한다. 아이러니하게도, 대규모 언어 모델은 인터넷의 내용에서 훈련되므로, 사회의 문제적인 측면에 편향되어 있고, 심지어 자신에게도 편향되어 있다. 자아혐오하는 AI의 개념은 유머러스하고, 나는 Marvin from Hitchhiker’s Guide to the Galaxy를 생각한다. 그러나 이것은 우리가 고려해야 할 현실 중 하나이다. AI가 사회에 통합되면서.

MIT 교수 Max Tegmark의 책 Life 3.0: Being Human in the Age of AI에서, 그는 AI가 사회에 도움이 되는 방법에 대해 설명한다. 그는 이렇게 말한다. “기계 학습이 유전자, 질병, 치료 반응 사이의 관계를 밝혀낼 수 있다면, 개인화된 의학을 혁신할 수 있을 것이고, 농장 동물을 더 건강하게 만들 수 있을 것이며, 더 강한 작物을 만들 수 있을 것이다. 또한, 로봇은 인간보다 더 정확하고 신뢰할 수 있는 외과수가 될 수 있을 것이다.”

AI가 개인, 사회, 글로벌 시스템에 영향을 미칠 것에는 의심의 여지가 없다. 그러나 이 영향에 대한 불확실성이 있다. AI는 의료 진단, 자율 주행, 금융 의사 결정과 같은 섬세한 작업을 맡길 것이다. 우리는 위험을 감수하면서, 자동화, 생산성 향상, 빠른 워크플로우, 예측할 수 없는 사용자 인터페이스를 기대할 수 있다.

Thomson Reuters (TRI ) Institute의 최근 발행된 2024 Generative AI in Professional Services 보고서는, 1,128명의 응답자들이 Generative AI 기술에 익숙하다는 사실을 보여준다. 이 연구는 전문적인 환경에서 Generative AI를 채택할 때,慎重한 낙관론의 주제를 보여준다. 실제로, 41%의 응답자들은 효율성과 생산성이 증가할 것으로 기대한다고 말했다.

이것은 전문가들이 새로운 효율성을 창출할 수 있는 자동화를 원하는 건강한 수요를 보여준다.

어떤 직장이나 산업도 뒤처지지 않으려는 Desire가 있으므로, AI를 사업에 활용하는 경쟁이 계속되면, 직원과 전문가들은 다양한 방식으로 이러한 새로운 기술에 노출될 것이다.

한편, 우리는 또한 AI를 위탁함으로써 취할 수 있는 잠재적인 위험을 매우 잘 알고 있다. Tegmark은 Life 3.0에서 이렇게 말한다. “다시 말해서, AGI(인공 일반 지능)의 실제 위험은 악의가 아니라, 능력이다. 초지능 AI는 매우 목표를 달성하는 데 능숙할 것이며, 만약 그 목표가 우리와 일치하지 않는다면, 우리는 위험에 처할 것이다.”

어떤 새로운 기술과 마찬가지로, AI는 새로운 방식을 제시한다. 그리고 변화는 종종 예상치 못한 결과를 초래할 수 있다. 일부 위험은 종종 AI를 미인도하는 공상과학 소설에서 과장된다. 그러나 실제 AI 위험은 할리우드가 보여주는 것보다 훨씬 더 지루하다. 초기 AI 성능은 단순히 부정확하고 버그가 있을 수 있다. 결국, AI는 소프트웨어이기 때문에, 전통적인 소프트웨어와 같은 동일한 함정을 공유한다.

연구자로서, 나는 항상 AI 알고리즘의 편향을 완화해야 한다. 데이터의 주의 깊은 관리, 알고리즘의 투명성, 강력한 테스트 프로토콜을 통해. 우리가 AI의 위험에 대해 매우 잘 알고 있다는 사실은, 많은 주체들이 AI 시스템에서 투명성과 책임을 요구하고 있기 때문에, 나를 안심시킨다.

기술이 사적 영역에서 빠르게 발전하고, 정부는 느리게 움직인다는 것이 일반적인 견해이다. 또한, 자본주의는 일旦 가능해지면, AI가 수백만 명의 노동자를 대체하여, 새로운 기술을 습득하여 직장에 남아 있도록 강제할 것이다.

McKinsey Global Institute의 2023년 연구 보고서에 따르면, Generative AI와 미국의 미래 작업에서, “2030년까지, 미국 경제에서 현재 작업하는 시간의 30%를 차지하는 활동은 자동화될 수 있다. 그러나 우리는 STEM, 창의적, 비즈니스 및 법률 전문가들이 작업하는 방식을 강화하는 데 제너레이티브 AI를 보지 않는다. 자동화의 가장 큰 영향은 다른 직업 카테고리에 미칠 것이다. 사무 지원, 고객 서비스, 음식 서비스 고용은 계속 감소할 수 있다.”

나는 정부가 이러한 노동자들을 돕는 역할을 하지 않는 세계를 상상하기 어렵다. 따라서 공공 부문은 지금부터 이러한 문제를 해결하기 시작해야 한다. 예를 들어, 위험에 처한 노동자를 업스킬링하고, 보편적인 기본 소득을 제공하는 것이 있다. 나는 또한 사적 부문이 새로운 일자리를 창출하여, 오늘날 예측할 수 없는 미래의 일자리를 창출할 수 있기를 희망한다.

보편적인 기본 소득은 항상 흥미로운 개념이었다. “일하지 말고, 살기 위해 일하라”는 문구가 생각난다. 많은 사람들이 살기 위해 일한다. 나는 낙관론자이지만, 이 작업이 자동화될 수 있다면, 인간이 작업이 선택적인 시대에 들어설 수 있을 것이라고 믿는다. 이것은 오늘날 우리에게 완전히 외국적인 개념이지만, 불가능한 것은 아니다. 실제로, 우리는 이러한 기술이 제공하는 것을 기대해야 한다.