인공 일반 지능(AGI)로 가는 길을 함께 가는 것: 균형 있는 접근법

인공 일반 지능(AGI)이 빠르게 발전함에 따라, 철학적 논쟁에서 실제적인 관련성으로 대화가 전환되고 있으며, 글로벌 비즈니스와 인간의 잠재력을 변革할 수 있는 엄청난 기회가 있습니다.

Turing의 AGI Icons 이벤트 시리즈는 AGI 솔루션의 실제적이고 책임 있는 발전을 논의하기 위해 AI 혁신가를 모으는 것입니다. 7월 24일, Turing은 샌프란시스코의 독점적인 허브인 SHACK15에서 두 번째 AGI Icons 이벤트를 개최했습니다. The Information의 재정 컬럼니스트인 Anita Ramaswamy가 진행한 이 이벤트에서 Quora의 CEO인 Adam D’Angelo와 함께 AGI로 가는 길과 개발 타임라인, 실제 적용, 책임 있는 배포 원칙에 대한 통찰을 공유했습니다.

AI에서 AGI로 가는 길

AI 연구를 추동하는 “북극성”은 인간 수준의 “지능”을 추구하는 것입니다. AGI와 표준 AI를 구분하는 것은 협소한 기능성을 넘어서서 더 큰 일반성(폭)과 성능(깊이), 심지어 인간의 능력을 초과하는 것입니다.

이것이 “AGI로 가는 길”입니다. 여기서 AI는 더 자율적인 시스템, 우수한 추론, 향상된 능력, 개선된 기능성으로 발전합니다. 이러한 발전은 다섯 가지 분류 수준으로 나뉩니다:

• 레벨 0: AI 없음 – 계산기와 같은 단순한 도구
• 레벨 1: 출현한 AGI – 현재의 LLMs seperti ChatGPT
• 레벨 2: 유능한 AGI – 특정 작업에서 숙련된 성인을 따라하는 AI 시스템
• 레벨 3: 전문가 AGI – 숙련된 성인의 90번째 백분위에 있는 AI 시스템
• 레벨 4: 비르투오소 AGI – 99번째 백분위에 있는 AI 시스템
• 레벨 5: 초인간 AGI – 모든 인간을 능가하는 AI 시스템

Source

토론 중에, Adam은 AGI의 개념을 “인간이 할 수 있는 모든 것을 할 수 있는 소프트웨어”라고 정의했습니다. 그는 궁극적으로 기계 학습 연구자가 처리하는 복잡한 인간 작업을 수행하는 AI를 상상합니다.

さらに, 나는 AGI에 대한 나의 견해를 “다양한 작업을 수행할 수 있는 인공 뇌”와 비교했습니다. 즉, “기계 번역, 복잡한 쿼리, 코딩”과 같은 작업입니다. 이것이 AGI와 더 예측 가능한 AI 및 이전의 협소한 형태의 ML와의 차이입니다. 이것은 출현하는 행동처럼 느껴집니다.

AGI로 가는 길의 현실적인 개발 타임라인

도로 여행에서와 마찬가지로, AGI에 대한 가장 중요한 질문은 “우리가 아직 도착하지 않았나요?”입니다. 짧은答案은 아니오, 그러나 AI 연구가 가속화됨에 따라 올바른 질문은 “우리는 AGI 야망과 현실적인 기대를 어떻게 균형을 잡을 수 있을까요?”입니다.

Adam은 AGI의 증가된 자동화가 인간의 역할을 제거하는 대신 변경할 것이라고 강조했습니다. इसस로 경제 성장과 생산성이 더 빠르고 효율적으로 증가할 것입니다. “이 기술이 더 강력해짐에 따라, 우리는 90%의 사람들이 오늘날 하고 있는 것을 자동화할 수 있는 지점에 도달할 것입니다. 그러나 모든 사람이 다른 일로 전환할 것입니다.”

현재, 세계 경제는 일할 수 있는 사람의 수로 제한되고 있습니다. 그러나 일단 AGI를 달성하면, 우리는 오늘날 가능하지 않은 훨씬 더 빠른 속도로 경제를 성장시킬 수 있습니다.

우리는真正한 AGI가 실현될 때를 위한 명확한 타임라인을 제공할 수 없습니다. 그러나 Adam과 나는 AI의 발전이 미래의 AGI 발전에 길을 열어줄 수 있는 여러 사례를 언급했습니다. 예를 들어, Turing의 AI 개발자 도구 실험은 개발자 생산성의 33% 증가를 보여주었습니다. 이것은 훨씬 더 큰 잠재력을 암시합니다.

실제적인 적용과 효과

AGI의 가장 유망한 적용 분야 중 하나는 소프트웨어 개발입니다. 대규모 언어 모델(LLMs)은 AGI의 전구물로, 이미 소프트웨어 개발을 강화하고 코드 품질을 개선하는 데 사용되고 있습니다. 나는 이 AI 시대를 생물학보다 물리학에 더 가까운 것으로 본다. 여기서 모든 종류의 지식 작업이 향상됩니다. 인류를 위해 생산성이 크게 개선될 것입니다.

나의 관점은 경험에서 비롯됩니다. 나는 LLM과 AI 개발자 도구를 사용할 때 10배의 개인 생산성 증가를 목격했습니다. 우리는 또한 Turing에서 기술적 재능을 평가하고 소프트웨어 엔지니어와 박사 학위의 도메인 전문가를 올바른 일자리와 매칭하는 데 AI를 사용하고 있습니다.

예를 들어, LLM 훈련 공간에서 훈련자들은 이러한 모델을 사용하여 개발자 생산성을 향상시키고 프로젝트 타임라인을 가속화합니다. LLM은 개발자들이 더 전략적이고 창의적인 측면에 집중할 수 있도록 루틴 코딩 작업을 자동화하고 지능형 코드 제안을 제공합니다.

Adam은 “LLM은 모든 코드를 작성하지 않을 것입니다. 그러나 소프트웨어 기본을 이해하는 것이 여전히 중요합니다. 계산기는 산수를 배우는 필요를 없애지 않았습니다.” 그는 “개발자가 이러한 모델을 사용할 때 더 가치가 있습니다. LLM의 존재는 개발자 직업에 긍정적인 영향을 미칩니다. 개발자에게 많은 이익이 있을 것입니다.”라고 추가했습니다.

우리는 소프트웨어 개발의 황금기를 경험하고 있습니다. 여기서 한 명의 소프트웨어 엔지니어가 10배 더 생산적이고 더 많은 것을 만들 수 있으며, 세계에益을 줄 수 있습니다.

기술적 및 거버넌스 챌린지

AGI의 유망한 잠재력에도 불구하고, 우리는 챌린지를 해결해야 합니다. 강력한 평가 프로세스와 규제 프레임워크는 AGI 혁신과 공공 안전을 균형 있게 유지하는 데 필요합니다.

Adam은 최악의 시나리오를 제한하기 위해 철저한 테스트와 샌드박싱의 필요성을 강조했습니다. “당신은 강력한 평가 프로세스를 가지고 싶습니다… 그리고 테스트에 사용하는 분포를 실제 사용과 가능한 한 가깝게 만듭니다.”

그리고 나는 동의합니다. AGI 진행의 병목은 이제 컴퓨팅 파워나 데이터가 아니라 인간 지능입니다. 인간 전문 지식은 AI 모델을 세부적으로 조정하고 사용자 지정하는 데 필수적입니다. 이것이 Turing이 모델과 인간 지능을 균형 있게 하는 최상위 기술 전문가를 소싱하고 매칭하는 데 집중하는 이유입니다.

우리는 AGI 챌린지를 직면하여 해결해야 합니다. 능력에 초점을 맞추고, 일반성과 성능, 잠재력을 고려해야 합니다.

챌린지에 대한 관점: 인간-AGI 상호작용 개선

AGI 챌린지를 해결하기 위한 최선의 관행에는 다음이 포함됩니다:

• AGI가 “무엇을 할 수 있는지”에 초점을 맞추는 것보다 “어떻게 하는지”에 초점을 맞추는 것입니다.
• AGI의 필수적인 구성 요소인 일반성과 성능을 균형 있게 하는 것입니다.
• 인지/메타인지 작업과 학습 능력에 초점을 맞추는 것입니다.
• AGI를其 잠재력과 능력으로 측정하는 것입니다.
• 실제적인 작업과 사람들이 가치 있는 작업에 대한 벤치마크를 정렬하는 것입니다.
• AGI로 가는 길은 단일 엔드포인트가 아니라 반복적인 프로세스라는 것을 기억하는 것입니다.

이러한 최선의 관행에 추가하여, Adam과 나는 인간-AGI 상호작용을 개선하는 것이 중요하다고 강조했습니다. Adam은 이러한 모델을 사용하는 방법과 언제 사용하는지 배우는 것이 중요하다고 강조했습니다. 그는 이러한 모델을 강력한 학습 도구로 보며, 빠르게 프로그래밍의 하위 도메인을 가르칠 수 있다고 강조했습니다.

마찬가지로, 나는 모든 인간을 LLM의 파워 유저로 만드는 것이 생산성과 이해를 크게 향상시킬 수 있다고 제안합니다. LLM은 복잡한 정보를 모든 사람에게 접근 가능하게 만들 수 있으며, 다양한 분야에서 생산성을 향상시킬 수 있습니다. 그러나 이것은 단계적으로 반복적인 접근이 필요합니다. 먼저 인간이 보조하는 에이전트를 사용한 다음, 인간의 감독을 받는 에이전트로 이동한 다음, 최종적으로 잘 평가된 작업에서 완전히 자율적인 에이전트를 달성합니다.

훈련 후 차별화는 중요하며, 이는 감독된 세부 조정(SFT)과 인간 지능을 사용하여 사용자 지정 모델을 구축하는 것을 포함합니다. 훈련자, 엔지니어, 기타 전문가를 소싱하고 매칭할 수 있는 회사들은 자신의 세부 조정과 사용자 지정 엔지니어링 능력을 가속화할 것입니다. OpenAI와 Anthropic과 같은 주요 회사와 협력하여 이러한 모델을 다양한 산업에 적용하는 것도 중요합니다.

책임 있는 AGI 개발 원칙

“AGI 개발은 책임 있고 윤리적이어야 하며, 안전과 투명성을 보장하면서 혁신을 촉진해야 합니다.” – Adam D’Angelo

책임 있는 AGI 개발을 위해서는 다음의 핵심 원칙을 따라야 합니다:

• 안전 및 보안: AGI 시스템이 신뢰할 수 있고, 오용에 저항할 수 있으며, 특히 모델이 새로운 데이터 입력이나 알고리즘을 수용할 때입니다.
• 투명성: AGI의 능력, 한계, “어떻게 작동하는지”에 대해 현실적으로 설명하는 것입니다.
• 윤리적 고려: 공정성, 편향, AGI가 고용과 기타 사회 경제적 요인에 미치는 영향에 대한 해결책입니다.
• 규제: 정부와 다른 기관과 협력하여 진행과 공공 안전을 균형 있게 하는 프레임워크를 개발하는 것입니다.
• 벤치마킹: 미래의 벤치마크는 AGI의 행동과 능력을 윤리적 고려와 분류 수준에 대해 측정해야 합니다.

결론: AGI로 가는 길에 집중하십시오, 단일 엔드포인트가 아니라

AGI로 가는 길은 복잡하지만, 각 정류장은 여정에 중요합니다. AGI의 반복적인 개선과 그 의미를 이해함으로써, 사람들과 비즈니스는 이 발전하는 기술을 책임 있게 채택할 수 있습니다. 이것이 책임 있는 AGI 개발의 핵심입니다. 여기서 실제 세계의 상호작용은 우리가 이 새로운 전선을 어떻게 탐색할지 알려줍니다.