검증 경제로의 전환

인공지능의 작업을 확인하는 것이 새로운 기계 학습 경제에서 중요한 부문이 될 수 있으며, 이는 크게 확장되어야 하며 자동화될 수 없습니다. 그러나 년월이 지남에 따라 인간 전문가의 질은 저하될 가능성이 있습니다.

의견. 내 아내는 유럽에서 가장 혼잡하고 강한 관료주의 중 하나에서 건축가입니다. 그녀의 교육의 가치 중 상당 부분은 그녀의 서명권을 얻고 유지하는 데 있습니다. 이는 매년 갱신해야 하는 비싼 자격증으로, 수백만 유로에 달하는 제안을 실제로 ‘승인’할 수 있도록 합니다.

그녀는 이것이 그녀의 일이 가장 어려운 부분이 아니라고 말합니다. 왜냐하면 이것은 그녀의 계산이나 다른 사람의 계산을 공식화할 뿐이며, 이러한 목적으로 외부 작업을 확인하는 것이 일반적으로 어렵지 않기 때문입니다.

본질적으로 – CEO를 임명할 때도 종종如此 – 이 도장(실제로 도장입니다)은 주로 이해관계자에게 책임을 지울 대상을 제공하며, 책임을 부과함으로써 보험 커버리지와 투자자 신뢰를 촉진합니다. 이러한 보증 없이 이러한 보증을 얻을 수 없습니다.

이것은 내가 직접 이 과정을 목격한 두 번째입니다. 25년 전, 나는 이탈리아의 유명한 관료주의에서 종양학자와 약혼했으며, 그녀의 전문 서명이 신뢰의 사슬에서 다른 사람들 외에도 기여해야 하는 전문성을 필요로 하는 마지막 단계였음을 보았습니다.

나는 그 당시我的 전 약혼자와最近我的 아내로부터, 그들의 직업이/였던 합법적인 전문가들이 자신의 도장을 판매하고 더 원래의 작업을 피하는 사람들이 많다는 것을 들었습니다. 이러한 비판적인 전문가들은 희귀하고 필수적인 자원으로서 높은 금액을 청구할 수 있습니다.

확인해 보세요

이 주제는 오늘 새로운 논문AGI의 간단한 경제학을 발견하면서 생각나게 되었습니다. 이 논문에서 MIT, 워싱턴 대학교, UCLA의 3명의 연구자들은 인공지능 자동화의 공포스러운, 일자리 파괴 추진력이 높은 위험 시나리오에서 실제 책임을 질 수 있는 인간의 존재와 충돌하여 인간 검증, 확인 및 책임의 새로운 경제를 창조하는 미래를 묘사합니다.

이 논문은 미디어의 현재 상상과 대조됩니다. 즉, 광대하고 비어 있는 사무실이 하나의 사람으로 줄어든 ‘감시자’로 줄어들며, 그들의 결정은 훈련 데이터로 사용되어 마지막 남은 ‘고기’를 제거합니다.

그 대신에 저자들은 실제적인 고려와 규정 준수 요구 사항이 회사 법률 부서를 달래는 ‘고무 도장’ 인간에게 엄청난 주목을 집중할 것이라고 믿습니다.

‘기업의 핵심 전략적 통찰은 검증이 단순한 준수 기능이 아니라 주요 생산 기술이며 점점 더 많이 그들의 가장 방어 가능한 기술이 된다는 것입니다. 이것은 구조적인 전환을 의미합니다. 관찰 가능성에大量 투자하고, 검증 등급的地面 真実을 확장하고, “샌드위치” 토폴로지(인간의 의도 → 기계 실행 → 인간 검증 및 보증)를 중심으로 재조직화합니다.

‘원시 출력이 상품화된 경제에서 경쟁 우위는 신뢰할 수 있는 결과를 생성할 수 있는 희귀한 재능과 데이터에 이동합니다. 네트워크 효과는 순수한 출력에서 신뢰할 수 있는 결과로 이동합니다.’

저자들은 성장의 제한 요인이 지능이 아니라 검증 대역폭일 수 있다고 가정합니다.

인간 검증으로의 가치 이동

이 논문은 AGI로의 이동이 기계 출력의 생산 비용과 그 출력을 확인하는 비용 사이의 차이를 넓히는 것으로 묘사합니다. 후자는 여전히 인간의 시간과 경험에 묶여 있습니다.

계획, 보고서, 설계, 추천서를 생성하는 것은 이 시나리오에서廉价하고 풍부해질 것입니다. 그러나 그 중 어떤 것이 안전하고 신뢰할 수 있는지 결정하는 것은 ‘희귀한 함수’가 될 것입니다. 시스템의 출력을 신뢰할 수 있는지 확인할 수 있는 출력의 양이 제한 요인이 될 것입니다.

따라서 시스템은 더 이상 측정 가능한 작업에 대한 전문 기술을獎勵하지 않으며, 측정 가능성 자체를獎勵할 것입니다. 매개변수화할 수 있는 작업은 실행 비용이 컴퓨팅의 한계 비용에 가까워짐에 따라 상품화되며, 가치는 높은 품질의 지면 真実, 신뢰할 수 있는 감사 트레일, 책임을 부과하고 흡수하는 기관 메커니즘에서 발생할 것입니다.

따라서 검증 경제에서 우위는 내용을 생성하는 것보다 결과를 인증하고 첨부된 위험을 보증하는 데 있을 것입니다.

자동화가 가속화하는 동안 검증이 인간의 시간과 주의력으로 제한된다면, 이 논문은 ‘중공 경제’가 나타날 수 있다고 예측합니다. 여기서 자동화된 작업의 비용이 떨어짐에 따라 더 많은 에이전트가 배치되지만, 그 출력을 제대로 확인할 수 있는 능력은 같은 속도로 증가하지 않습니다. 이 시나리오에서는 검증된 작업의 비중이 줄어들며, 이는 모든 부정적인 결과를 초래합니다.

반대로, ‘증강 경제’는 검증 능력이 자동화와 함께 확장할 것입니다. 이는 구조화된 훈련에 대한 의도적인 투자와 새로운 책임 프레임워크가 필요합니다. 배치는 실제로 확인되고 보험에 가입할 수 있는 것에 연결될 것입니다. 이는 기술 개발의 전례 없는 규모로 인해 중심 단계에 오른 매우 오래된 병목 현상입니다.

‘기술 부문에서 지배적인 수익 모델은 소프트웨어 액세스(소프트웨어로서의 서비스)를 수익화하는 것에서 결과를 수익화하는 것(소프트웨어로서의 노동)으로 전환될 것입니다. 따라서 기업은 책임을 흡수할 수 있는 능력으로 평가될 것입니다.

‘실행은 이제 무한히 확장 가능합니다. 그러나 그 실행의 불가피한 실패를 흡수할 수 있는 법적 및 재무적 능력이 새로운 병목 현상입니다.’

감소하는 수익

실제로, 저자들은 인간의 도메인 전문성을 보존하는 것이 문제에 крит적입니다. 산업적인 감시 문화는 시간이 지남에 따라 검증을 수행하는 사람들의 품질을 저하할 위험이 있습니다. 왜냐하면 이후의 감시자 세대는 더 이상 검증해야 하는 도메인의 직접적인 경험을 가지지 못할 것이기 때문입니다.

논리적으로, 감시의 품질은 실제로 자동화에 취약할 수 있습니다. 왜냐하면 새로운 결정은 이전 결정에만 근거할 것이기 때문입니다. 그러나 이는 이해관계자에게 책임을 지울 대상을 제공하지 않으며, 비즈니스 모델도 제공하지 않을 것입니다. 또한 이러한 역할은 매우 불안정하고 위험하므로, 일자리가 부족한 상황에서도 매력적이지 않을 것입니다.

의사나 건축가와 같은 자격을 가진 전문가를 높은 보수와 함께 높은 부담을 가진 ‘고무 도장’ 위치에 격리시키는 것은 시간이 지남에 따라 그들의 가치를 저하할 가능성이 있습니다. 그들의 실제 분야 경험은 점점 더 과거로 사라지면서, 그들의 결정은 더 ‘이론적’이 될 수 있습니다.

(이것은 스타트렉: TNG 팬들에게도 익숙한 Pakleds의 형태로도 익숙합니다. Pakleds는 고급 기술을 광범위하게 사용하지만, 더 이상 그것을 생성하거나 수정할 수 없습니다.)

초급 실행은 역사적으로 미래의 전문가들을 위한 훈련의 터전으로 служ었습니다. 그러나 자동화가 루틴 작업을 제거하면, 저자들은 미래의 검증 가능한 전문가 공급이 줄어들 것이라고 제안합니다.

따라서 이 논문은 역설을 예측합니다. 에이전트 시스템이 더 강력해질수록, 사회는 에이전트 시스템 자체가 침식할 수 있는 인간 전문성을 더 많이 의존하게 될 것입니다.

그리고 이것이 기술적인 문제가 아니며, 기술적인 해결책으로 해결될 수 없다는 것을 기억하세요. 많은 방면에서 이 증후군은 경제 모델의 붕괴와 유사합니다. 그러나 여기에서는 기술 모델의 붕괴가 아니라 경제 모델의 붕괴를 고려합니다.

‘정책 관점에서 핵심 도전은 근본적인 구조적 비대칭입니다. 인공지능 배치의 이익은 공격적으로 사유화되며, 시스템적인 위험은 사회화됩니다. 기업과 개인은 자동화의 상위 부분을 캡처하지만, 재난적인尾部 위험을 외부에 노출합니다. 공유 검증 인프라와 엄격한 책임 가격이 없으면, 시장은 합리적으로 중공 경제로漂流할 것입니다. 이는 기본적으로 인간의 통제가 중공인 활동의 폭발적인 측정치를 특징으로 하는 균형입니다.’

결론: 다른 위기

저자들은 예측된 위기를 측정 가능성 격차로 정의합니다. 여기서 측정 가능한 프로세스는 인간의 기여 없이 자동화될 수 있으나, 여전히 인간의 전문성을 필요로 하는 n-하드 또는 n-법적 프로세스가 남습니다.

그러나 내 아내의 경험은 프로세스의 복잡성이나 어려움이 반드시 책임의 필요성과 관련이 없음을 시사합니다. 그녀가 ‘승인’하는 많은 것들은 자체적으로는 사소한 문제이나, 위반이 발생할 경우에는 결과가 있을 수 있습니다. 또한 더 많은 소송이 발생하는 비즈니스 문화가 될수록, 보험자와 투자자는 더 많은 프로세스에서 인간의 책임을 요구할 것입니다.

따라서 검증 경제로의 전환은 현재 헤드라인을 장식하는 것과 다른 위기를 초래할 수 있습니다. 이 경우의 문제는 인공지능이 더 많이 생산할 수 있는지 여부가 아니라, 기관이 생산된 것의 충분한 부분을 검증하여 기계 지능을 지속 가능한 가치로 번역할 수 있는지 여부입니다.

기계 지능이 앞으로 예측할 수 없을 정도로 확장할 가능성이 있으며, 관련 인간 시간의 가용성이 그 속도에 따라 따라가지 못할 경우, 이 논문에서 제기된 문제는 초기에 인공지능 채택의 더 넓은 경제적 의미로 인해 묻혀있을 수 있지만, 곧 나타날 가능성이 있습니다.

* 이 논문은 일반적인 방식으로 분석하기에는 너무 길며, 구조적으로도 이러한 분석에 적합하지 않습니다. 따라서 저자는 이 논문에 대해 논평하고 그 중요성을 고려하기로 결정했으며, 독자들에게도 동일하게 하도록 권고합니다.

^† /s

최초로 게시된 날: 2026년 2월 25일 수요일