인공지능의 다가오는 “진화”

오늘날, 기술의 변곡점에서 우리는 LLM에서 에이전트로, 그리고 궁극적으로 에이전틱 AI와 AGI로의 여정을 관찰하고 있으며, 이는 더 큰 모델이나 더 빠른 응답에 관한 것이 아닙니다. 이는 또한 기계가 수동적인 보조자에서 능동적인 협력자로, 그리고 아마도 언젠가 독립적인 사고자로 변하는 것을 의미합니다.

이 경로를 따라가고 그 의미를 탐구해 봅시다. 그리고 그것이 미래의 지능을 형성하는 인간의 역할에 대해 무엇을 의미하는지 살펴봅시다.

LLM, 에이전트 기반 시스템, 에이전틱 AI의 차이

차이를 더 잘 이해하기 위해 예를 들어 보겠습니다. 만약 제가 LLM에게 “시카고에서 오스틴까지 4시간 이상 운전하지 않고风景 좋은 곳에서 정차하고 싶습니다”라고 묻는다면, 일반적인 LLM은 언어 생성을 기반으로 정적인 텍스트 응답을 반환할 것입니다. 그것은 요청에 대한 분석 없이 요청에 대한 응답만 반환할 것입니다.

에이전트는 먼저 요청을 여행과 관련된 것으로 분류합니다. 그런 다음 필요한 데이터를 결정합니다. 지도 서비스를 사용한 경로, 날씨 정보, 연료 비용, 호텔, 레스토랑 등입니다. 이후 에이전트는 요청을 하위 작업으로 분할하고 관련된 소스에서 훈련된 전문 모델이나 LLM으로 라우팅합니다. 이것은 여러 모델과 도구를 하나의 논리 아래에서 조정하는 것입니다.

오늘날 대부분의 주요 시스템은 ChatGPT 또는 Anthropic의 Claude와 같이 본질적으로 에이전트입니다. 사용자가 단일 모델과 상호작용하는 것으로 보이지만, 실제로는 여러 모델과 시스템이 포함된 복잡한 아키텍처입니다.它们는 이미 복잡한 쿼리를 처리할 수 있지만, 아직 정보를 제공하는 것만으로 제한되어 있습니다. 아직 행동을 취하지는 못합니다.

완전한 자율 에이전트는 정보를 수집하고, 예를 들어, 독립적으로 호텔을 예약하거나, 티켓을 구매하거나, 결제를 시작할 수 있는 시스템입니다. 이러한 에이전트는 현재 초기 개발 단계에 있습니다. 이 시점에서它们는 정보를 처리할 수 있지만, 아직 자율적인 행동을 수행하지는 못합니다.

에이전트 AI에 대한 연구 커뮤니티에서 흥미로운 논의 영역은 에이전틱 AI입니다. 일반 에이전트와 달리 개발자가 작성한 스크립트에 따라 행동하는 것이 아니라, 에이전틱 AI는 독립적으로 작업을 수행할 데이터와 방법을 결정하고, 심지어 자신의 훈련을 계속하는 시스템입니다. 이것은 지시를 수행하는 것을 넘어서서, 자율적인 결정을 의미합니다. 그러나 에이전틱 AI는 아직 이론적인 단계에 있으며, 실제로 존재하지는 않습니다.

AGI – 새로운 지평. 그러나 달성 가능합니까?

메타는 3개월 전 Scale AI에 투자했습니다. AGI, 즉 인공지능 일반 지능을 구축하기 위한 목표였습니다. 인공지능 일반 지능은 인간 수준 또는 그 이상의 능력으로 모든 작업을 수행할 수 있는 지능입니다. 오늘날의 AI는 기술 혁명입니다. AGI는真正한 메가 혁명입니다. 때때로私は이를 “exolution”이라고 부릅니다. 즉, AI가 그림자에서 벗어나서 나타나는 것입니다.誰ever이 이를 달성하면 글로벌 전략적 우위를 얻을 것입니다.

실제 AGI에 얼마나 가까이 있는지에 대해서는 정의에 따라 다르습니다.私はIlya Sutskever의 견해와 동의합니다. AGI는 인간이 수행할 수 있는 모든 지적 작업을 수행할 수 있는 시스템입니다. 질문에 답변하는 것만이 아니라, 추론, 의사 결정, 일반화, 해석을 여러 영역에서 수행할 수 있는 시스템입니다. 진정한 AGI는 보편적이며, 狭い 작업 범위에 국한되지 않습니다.

현재 모델 중 어느 것도 그 수준에 도달하지 못했습니다. 우리는 그 방향으로 이동하고 있지만, 이론적인 의미에서 진정한 AGI는 아직 존재하지 않습니다. 그리고 아마도 그것이 더 좋을 수도 있습니다. 우리는 아직 근사 단계에 있으며, 아마도 오랜 시간 동안 그 상태로 남을 것입니다.

AGI의 기초는 에이전트 기반 시스템일 것입니다. 그것은 단일 LLM에 의존하지 않을 것입니다. 왜냐하면, 인간이 모든 지식과 기술의 영역을 마스터할 수 없는 것과 같이, 단일 LLM도 AGI 작업의 전체 스펙트럼을 처리할 수 없기 때문입니다. 우리에게 필요한 것은 “집단 지능”입니다. 여러 모델과 구성 요소를 조정할 수 있는 아키텍처입니다.

AGI는 인간이 설계한 에이전트가 아니라, 부분적으로 AI 자체의 도움으로 발전하는 시스템으로 나타날 것입니다. 이것은 중요합니다. 인간이 설계한 시스템은 내재된 제한을 가질 수 있습니다. 설계 과정에 AI를 참여시키면 이러한 제한을 극복하고 시스템을 더 적응性 있게 만들 수 있습니다.

AGI는 특정한 돌파구에서 오지 않을 것입니다. 더 큰 LLM, 더智能한 에이전트, 또는 완전히 새로운 아키텍처에서 오지 않을 것입니다. 그것은 세 가지 모두의 종합에서 오게 될 것입니다. 아마도 현재 사용하는 범주를 초월하는 새로운 것이 나타날 것입니다.

“인간의 마지막 시험”과 다른 AGI 벤치마크

“인간의 마지막 시험”(HLE)은 현재 LLM, 에이전트, AGI의 contexto에서 논의되는 더 야심적인 벤치마크 중 하나입니다. 본质적으로, 이것은 수학, 물리학, 생물학, 화학, 공학, 컴퓨터 과학, 그리고 даже 체스와 같은 다양한 학문 분야에서 약 2,500개의 질문으로 구성된 시험입니다. 아이디어는 AI 시스템이真正한 인간의 이해 수준에서 문제를 해결할 수 있는지 평가하는 것입니다.

현재 언어 모델은 HLE에서 매우 낮은 성능을 보입니다. 종종 5% 미만의 정확도를 달성합니다. 이것은 MMLU 또는 GPQA와 같은 다른 벤치마크와는 대조적입니다. 여기서 모델은 훨씬 더 높은 점수를 달성합니다. HLE에서 모델이 어려움을 겪는 것은真正한 일반 지능에 아직까지 얼마나 멀리 떨어져 있는지 보여줍니다.

중요한 것은 높은 성능의 벤치마크에서 알려진 또는 좁은 데이터 세트가真正한 일반 지능의 존재를 의미하지 않는다는 것입니다. 모델은 미세 조정되거나 “테스트에 훈련”될 수 있습니다. 이는 실제 능력보다 더 높게 보이게 할 수 있습니다. 따라서 HLE에서 완벽한 점수를 얻는 것은 AGI에 도달했다는 것을 의미하지 않습니다. 그것은 단지 특정 테스트를 통과했다는 것을 의미합니다.

AGI를 움직이는 것

私は完全하게 동의합니다. AGI의 핵심 기둥은 데이터, 컴퓨팅, 재능입니다. 컴퓨팅 상황은 명확합니다. 주요 플레이어는 메타가 자체 칩 개발 프로세스에 수십억을 투자했습니다. 그러나 회사는 여전히 다른 플레이어들의 칩과 컴퓨팅 파워에 의존하고 있습니다. 예를 들어, Nvidia는 필요한 하드웨어를 공급할 뿐만 아니라 생산을 확대하는 중요성을 이해합니다.

데이터와 재능에 대한 더 많은 질문이 있습니다. 인터넷은 이미 끝났습니다. 현재 훈련에 사용되지 않은 인간이 생성한 텍스트는 없습니다. 인간이 지금까지 생성한 정보의 총 볼륨은 놀랍도록 작습니다. 따라서 회사들은 높은 품질의 인간 데이터를 생성할 수 있는 파트너와 적극적으로 협력하기 시작했습니다.

완전 자동화 또는 인간의 개입?

또 다른 점은 수동 데이터 주석의 수요 감소입니다. 몇 년 전, 산업은 전속력으로 확장했습니다. 수천 명의 주석자가 AI 파이프라인의饥饿을 충족시키기 위해 승인되었습니다. 오늘날, 그 동력의 대부분은 자동화로 이동했습니다. 모델은 성숙했으며, 그 주변의 툴링도 성숙했습니다.

얼굴 인식의 경우를 살펴보겠습니다. 그것은曾经 이미지 주석 볼륨의 주요 동인 중 하나였습니다. 그러나 이 카테고리는 대부분 해결되었습니다. YOLO, SAM, Samurai와 같은 모델은 빠르게 루틴 작업을 흡수하고 있습니다. 이러한 시스템은 몇 주 동안의 수동 노력을 몇 분으로 압축하고, 종종 놀라운 정확도로 수행합니다. 우리는 또한 우리의 독점 플랫폼 Keylabs에서 많은 ML 지원 도구를 구현했습니다. 이것은 실제로 루틴 워크플로우를 절단하는 데 도움이 됩니다.

그러나 이러한 모델은 일반화와 제한된 표준 및 균일한 작업의 자동화에만 적합합니다. 복잡하거나 고유한 경우에는 여전히 인간의 주의가 필요합니다.

우리는 오래된 패러다임에서 벗어나고 있습니다. 주석자는 단순히 세부 사항에 주의를 기울이는 사람으로, 객체나 감정을 인식할 수 있는 사람입니다. 새로운 현실에서 전문가가 필요합니다. 의사는 의료 이미지에 주석을 달고, 프로그래머는 코드를 작성하며, 건축가는 청사진을 만들고, 마케터는 고객 정보를 제공하며, 국방 전문가는 국방 시나리오에서 작업합니다.

우리는 이미 실제 사례를 보이고 있습니다. 예를 들어, 전투기 조종사들이 AI를 위한 데이터에 주석을 달고, 그들의 전문 지식에 대해 1시간에 1,000달러를 받는 경우입니다. 이러한 전문가들은 희귀하며, 그들의 지식은 고성능 AI를 훈련하는 데至关重要합니다.

세계는 변하고 있습니다. 점점 더 많은 사람들이 인공지능의 운영자와 “트레이너”가 되고 있습니다. 다른 날,私はCEO용 AI 앱에 대한 데이터 세트를 확인해달라는 LinkedIn 메시지를 받았습니다. 미래에는 우리 중 누구나 데이터에 주석을 달거나, 단순히 버튼을 클릭하는 사람이 아니라, 내일의 지능을 형성하는 전문가로서의 작업을 제안받을 수 있습니다.

우리는 이미 새로운 현실에서 살고 있습니다. 데이터 주석과 AI 훈련의 세계에서 살고 있습니다. 이를 인식하고 적응하는 사람들은 큰 우위를 얻을 것입니다.