인공 일반 지능(AGI)로의 길을 함께 탐색하기: 균형 있는 접근법

인공 일반 지능(AGI)이 빠르게 발전함에 따라, 철학적 논쟁에서 실제적인 관련성으로 대화가 전환되고 있습니다. 이는 글로벌 비즈니스와 인간의 잠재력을 변革할 수 있는 엄청난 기회를 제공합니다.

Turing의 AGI Icons 이벤트 시리즈는 AGI 솔루션의 실제적이고 책임 있는 발전에 대해 논의하기 위해 AI 혁신가를 한자리에 모으고 있습니다. 7월 24일, Turing은 샌프란시스코의 독점적인 기업가와 기술 혁신가들의 허브인 SHACK15에서 두 번째 AGI Icons 이벤트를 개최했습니다. The Information의 금융 칼럼니스트인 Anita Ramaswamy가 진행한 이 이벤트에서 Quora의 CEO인 Adam D’Angelo와 함께 AGI로의 길과 개발 타임라인, 실제 적용과 효과, 책임 있는 배포 원칙에 대해 논의했습니다.

AI에서 AGI로의 길

AI 연구를 주도하는 “북스타”는 인간 수준의 “지능”을 추구하는 것입니다. AGI와 표준 AI를 구분하는 것은 그들의 기능이 좁은 것에서 더 일반적이고 수행 능력이 뛰어난 것으로 발전하는 것입니다. 이것이 “AGI로의 길”입니다. 여기서 AI는 더 자율적인 시스템, 우수한 추론, 향상된 능력, 개선된 기능성을 향해 발전합니다. 이러한 발전은 다섯 가지 분류 수준으로 나뉩니다.

• 레벨 0: AI 없음 – 계산기와 같은 단순한 도구
• 레벨 1: 출현하는 AGI – 현재의 LLMs와 같은 ChatGPT
• 레벨 2: 유능한 AGI – 특정 작업에서 숙련된 성인을 따라하는 AI 시스템
• 레벨 3: 전문가 AGI – 숙련된 성인의 90번째 백분위에 있는 AI 시스템
• 레벨 4: 비르투오소 AGI – 99번째 백분위에 있는 AI 시스템
• 레벨 5: 초인간 AGI – 모든 인간을 능가하는 AI 시스템

소스

토론 중에, Adam은 AGI의 개념을 “인간이 할 수 있는 모든 것을 할 수 있는 소프트웨어”라고 정의했습니다. 그는 AI가 스스로를 개선하고, 결국에는 기계 학습 연구자들이 처리하는 복잡한 인간 작업을 담당할 미래를 상상했습니다.

이것을 더 발전시켜, 나는 AGI를 다양한 작업을 수행할 수 있는 “인공 뇌”로 비교했습니다. 이것은 기계 번역, 복잡한 질의, 코딩과 같은 작업을 수행할 수 있는 능력을 말합니다. 이것이 AGI와 이전의 예측 가능한 AI와 협소한 형태의 ML을 구분하는 것입니다. 이것은 출현하는 행동처럼 느껴집니다.

AGI로의 길에 대한 현실적인 개발 타임라인

길을 여행하는 것과 마찬가지로, AGI에 대한 주요 질문은 “우리가 아직 도착하지 못했는지”입니다. 짧은答案은 아니오, 그러나 AI 연구가 가속화됨에 따라 올바른 질문은 “어떻게 AGI의 야망과 현실적인 기대를 균형을 잡을 수 있는가?”입니다.

Adam은 AGI의 자동화가 인간의 역할을 없애기보다는 변경할 것이라고 강조했습니다. 이것은 더 빠른 경제 성장과 더 효율적인 생산성을 가져올 것입니다. “이 기술이 더 강력해짐에 따라, 우리는 90%의 사람들이 오늘날 하는 일들이 자동화되는 지점에 도달할 것입니다. 그러나 모든 사람이 다른 일로 전환할 것입니다.”

현재, 세계 경제는 일할 수 있는 사람의 수에 의해 제한됩니다. 일단 우리는 AGI를 달성하면, 우리는 오늘날보다 훨씬 더 빠른 속도로 경제를 성장시킬 수 있습니다.

우리는真正한 AGI가 실현될 때를 위한 명확한 타임라인을 제공할 수 없습니다. 그러나 Adam과 나는 미래의 AGI 발전에 대한 몇 가지 예를 들었습니다. 예를 들어, Turing의 AI 개발자 도구 실험은 개발자 생산성을 33% 증가시켰습니다. 이것은 훨씬 더 큰 잠재력을 암시합니다.

실제 적용과 효과

AGI의 가장 유망한 적용 분야 중 하나는 소프트웨어 개발입니다. LLMs(대규모 언어 모델)은 AGI의 전구물로, 이미 소프트웨어 개발을 개선하고 코드 품질을 높이기 위해 사용되고 있습니다. 나는 이 시대를 생물학보다 물리학에 더 가깝다고 생각합니다. 여기서 모든 종류의 지식 작업이 개선됩니다. 인간의 생산성이 해방될 것입니다.

私の 관점은 경험에서 비롯됩니다. 나는 LLM과 AI 개발 도구를 사용했을 때 10배의 개인 생산성 증가를 목격했습니다. 우리는 또한 AI를 사용하여 기술 인재와 박사 학위의 도메인 전문가를 평가하고 올바른 직업에 배치하고 있습니다.

LLM 훈련 공간에서, 훈련자들은 개발자 생산성을 높이고 프로젝트 타임라인을 가속화하기 위해 이러한 모델을 사용합니다. 개발자들은 루틴 코딩 작업을 자동화하고 지능형 코드 제안을 제공함으로써, 개발자는 더 전략적이고 창의적인 측면에 집중할 수 있습니다.

Adam은 “LLM이 모든 코드를 작성하지는 않지만, 소프트웨어 기본을 이해하는 것이 중요합니다. 계산기가 산수를 배우는 필요성을 없애지 않았습니다.”라고 말했습니다. 그는 “개발자가 이러한 모델을 사용할 때 더 가치 있게 됩니다. LLM의 존재는 개발자 직업에 긍정적인 영향을 미칩니다. 개발자에게 많은 이익이 있을 것입니다.”라고 추가했습니다.

우리는 소프트웨어 개발의 황금기를 맞이하고 있습니다. 여기서 한 명의 소프트웨어 엔지니어가 10배 더 생산적이고, 더 많은 것을 창조하며, 세상을 이롭게 할 수 있습니다.

기술적 및 거버넌스 도전

AGI의 유망한 잠재력에도 불구하고, 도전을 해결해야 합니다. 강력한 평가 프로세스와 규제 프레임워크는 AGI 혁신과 공공 안전을 균형을 잡기 위해 필요합니다.

Adam은 최악의 시나리오를 제한하기 위해 철저한 테스트와 샌드박싱의 필요성을 강조했습니다. “당신은 강력한 평가 프로세스를 가지고 싶습니다… 그리고 테스트를 위해 사용하는 분포가 실제 사용과 가능한 한 가까워야 합니다.”

나는 동의합니다. AGI 진행의 병목은 현재 컴퓨팅 파워나 데이터가 아니라 인간 지능입니다. 인간 전문가의 중요성은 AI 모델을 세부적으로 조정하고 사용자 정의하는 데 있습니다. 이것이 Turing이 최고의 기술 전문가를 소싱하고 매칭하여 모델과 인간 지능을 균형을 잡는 데 집중하는 이유입니다.

우리는 AGI 도전을 직접 해결해야 합니다. 능력에 초점을 맞추고, 일반성과 수행 능력을 균형을 잡고, 잠재력을 고려해야 합니다.

도전에 대한 관점: 인간-AGI 상호작용 개선

AGI 도전을 해결하기 위한 몇 가지 최선의 관행은 다음과 같습니다.

• 능력 또는 “AGI가 무엇을 할 수 있는지”에 초점을 맞추고, 프로세스 또는 “어떻게 하는지”에 초점을 맞추지 않습니다.
• 일반성과 수행 능력을 AGI의 필수적인 구성 요소로 균형을 잡습니다.
• 인지/메타인지 작업과 학습 능력에 초점을 맞추고, 물리적 작업/출력에 초점을 맞추지 않습니다.
• AGI를 그 잠재력과 능력으로 측정합니다.
• 생태학적 타당성을 고려하여 벤치마크를 실제 사용자들이 가치 있는 작업과 일치시킵니다.
• AGI로의 길은 단일 엔드포인트가 아니라, 반복적인 프로세스라는 것을 기억합니다.

이러한 최선의 관행에 추가하여, Adam과 나는 인간-AGI 상호작용을 개선하는 것의 중요성을 강조했습니다. Adam은 이러한 모델을 사용하는 방법과 언제 사용하는지 배우는 것의 가치를 강조했습니다. 그는 이러한 모델을 강력한 학습 도구로 간주하여, 프로그래밍의 하위 도메인을 빠르게 가르치는 동시에 기본을 이해하는 것의 중요성을 강조했습니다.

나는 또한 LLM을 사용하여 생산성을 크게 향상시킬 수 있다고 제안합니다. LLM은 복잡한 정보를 모든 분야에서 접근 가능하게 만들 수 있습니다. 그러나 이것은 단계적으로, 반복적으로 접근해야 합니다. 먼저 AI 조종사들이 인간을 지원하고, затем 인간의 감독하에 에이전트를 사용하고, 마지막으로 잘 평가된 작업에서 완전히 자율적인 에이전트를 사용합니다.

훈련 후의 차별화는 중요합니다. 이것은 감독된 세부 조정(SFT)과 인간 지능을 사용하여 사용자 정의 모델을 구축하는 것을 포함합니다. 훈련자, 엔지니어, 기타 전문가를 소싱하고 매칭할 수 있는 회사는 세부 조정과 사용자 정의 엔지니어링 능력을 가속화할 것입니다. OpenAI와 Anthropic과 같은 주요 회사와 협력하여 이러한 모델을 다양한 산업에 적용하는 것도 중요합니다.

책임 있는 AGI 개발의 원칙

“AGI 개발은 책임 있고 윤리적이어야 하며, 안전과 투명성을 보장하면서 혁신을 촉진해야 합니다.” – Adam D’Angelo

책임 있는 AGI 개발에는 몇 가지 핵심 원칙을 준수해야 합니다.

• 안전 및 보안: AGI 시스템이 신뢰할 수 있고, 악용에 저항할 수 있도록 합니다. 특히 모델이 새로운 데이터 입력이나 알고리즘을 수용할 때입니다.
• 투명성: AGI의 능력과 한계, “어떻게 작동하는지”에 대해 현실적으로 됩니다.
• 윤리적 고려: 공정성, 편견, 그리고 AGI가 고용과 기타 사회 경제적 요인에 미치는 영향을 다룹니다.
• 규제: 정부와 다른 기관과 협력하여 진행과 공공 안전을 균형을 잡는 프레임워크를 개발합니다.
• 벤치마크: 미래의 벤치마크는 AGI의 행동과 능력을 윤리적 고려와 분류 수준에 대해 양적으로 측정해야 합니다.

결론: AGI로의 길에 집중하기, 단일 엔드포인트가 아니라

AGI로의 길은 복잡하지만, 그 길을 따라가는 각 단계가 중요합니다. AGI의 반복적인 개선과 그에 따른 영향을 이해함으로써, 사람들과 비즈니스는 이 발전하는 기술을 책임 있게 채택할 수 있습니다. 이것이 책임 있는 AGI 개발의 핵심입니다. 여기서 실제 세계의 상호작용이 새로운 전선을 탐색하는 방법을 알려줍니다.