Anderson의 관점
AI는 결국 경쟁 해자 밖에서도 번성할 수 있을까?

핵심 포인트대형 AI의 높은 비용과 제약이 사용자들을 자체 로컬 시스템 구축으로 몰아가고 있다.
더 보기
- 대형 AI의 높은 비용과 제약이 사용자들을 자체 로컬 시스템 구축으로 몰아가고 있다.
- 규제가 잠재적인 그림자 AI 경제가 성장하기도 전에 문을 닫을 위협을 가하고 있다.
- 오픈소스 AI는 현재의 기술적·법적 장벽에도 불구하고 결국 기술의 민주화를 이끌 수 있다.
대형 AI 기업의 비용과 제약, 그리고 하드웨어 가격에 미치는 영향 때문에 사용자들은 자체 시스템을 구축하고 있다. 동시에 강화되는 규제는 이러한 ‘그림자 AI 경제’를 막아설 위협이 되고 있다.
의견 과학 논문에서 마주치는 여러 뜻밖의 함정 가운데 흔한 것은 논문이 다루는 문제가 이미 다른 곳에서 해결되었다는 사실이다. 새 연구의 기여는 부수적인 성과나 소폭 개선에 그치기도 한다.
이유는 다양하다. 연구진은 획기적인 도약을 기대했지만 작은 발걸음에 그쳤을 수도 있고, 이전 해법이 새 제안보다 더 많은 자원을 요구했을 수도 있다. 혹은 프로젝트 목표가 완전히 실패했지만 학계의 ‘발표하지 않으면 도태된다’는 문화 때문에 연구진이 결국 결과를 내놓았을 수도 있다. 이런 연구는 흔히 쏟아지는 논문 속에 묻힌다. 특히 어떤 플랫폼의 가장 바쁜 논문 공개일이라면 더욱 그렇다.
그런데 머신러닝 문헌에서는 비교적 새로운 이유가 별다른 변명 없이 점점 더 자주 제시된다. 제공하려는 기능이 현재는 API에 묶인 폐쇄형 서비스에서만 이용 가능하다는 것이다.
오늘 아침 나도 이런 논문을 살펴봤다. 중국 대학들과 아마존 (AMZN )의 공동 연구로, 확산 기반 이미지 편집 시스템에서 반복되는 객체 제거 실패 문제를 다룬다. 시스템은 대상을 지우는 대신 해당 공간을 비슷한 객체로 다시 채우곤 한다.

맨 왼쪽은 원본 이미지다. 그 오른쪽의 빨간 분할 마스크는 AI에 어느 영역을 지울지 알려준다. 다음 ‘Ours’는 객체를 성공적으로 제거한 결과다. 마지막 두 이미지는 버스를 없애는 대신 다른 버스를 넣는 유사 시스템의 결과다. 출처
위 예에서 가운데 이미지는 새 방식이 버스를 지우고 그럴듯한 배경을 채운 결과다. 앞선 두 방식, 즉 맨 왼쪽 두 이미지는 버스를 지운 뒤 다른 버스를 다시 넣는다!
바로 그 함정!
이 문제의 원인과 자세한 사정은 다음 기회로 미루자. 분명 흥미로운 주제이지만, 논문을 읽다가 전형적인 함정을 발견했다. 저자들은 비싼 독점 시스템이 이미 이 작업을 꽤 안정적으로 수행한다고 인정한다. 나도 Adobe Firefly를 Photoshop에서 몇 년간 사용하고 다른 폐쇄형 시스템도 써봤기에 알고 있는 사실이다.
“[확산 기반] 방식은 대상 객체를 제거한 뒤 의도하지 않은 객체를 넣는 환각을 자주 일으켜 맥락에 맞지 않는 [결과]를 만든다.
“한편 ChatGPT와 Nano Banana 같은 최근의 폐쇄형 멀티모달 모델은 객체 제거 능력이 더 뛰어나지만 매개변수가 많고 계산 부담도 커서 엣지 기기에 실제로 배포하기 어렵다.
“따라서 제거 성능이 뛰어나면서 추론 지연 시간이 짧고 매개변수도 훨씬 적은 전용 객체 제거 모델을 개발할 필요가 있다.”
기술적 장애물에 집중한 이 설명은 ChatGPT와 Nano Banana 같은 폐쇄형 아키텍처가 로컬 설치용으로는 아예 제공되지 않는다는 명백한 사실을 빠뜨린다. 이런 시스템의 논란이 될 만한 콘텐츠를 생성하는 능력은 지난 1년 동안 접근 통제에 추가적인 공적 명분을 제공했다. 하지만 이런 서비스가 독점 형태인 주된 이유는 상업적 필요다.
논문이 사실상 시사하는 바는, 상용 시스템에서 문제가 해결되었더라도 나머지 사람들에게는 무의미할 수 있다는 것이다. 우리는 ‘현실 세계’, 즉 오픈소스 시스템에서 해결하는 방법을 배워야 한다. 그 시스템을 로컬에 설치하는 것이 현실적으로 가능하든 아니든 말이다.
병행 발전
그렇다면 왜 여전히 유료 시스템에 의존하는 문제를 풀어야 할까? 독점적 제약 때문이 아니라 필요한 GPU 연산량이 어떤 현실적인 로컬 구성으로도 감당할 수 있는 수준을 넘어서기 때문이다. 이런 새로운 ‘개방형’ 논문과 코드 저장소 대부분은 A100 클러스터처럼 막대한 자원을 요구하는 학습·추론 구성을 제시한다.
답은 이 모든 경제에 큰 부담을 주며 가동을 기다리는 AI 데이터센터가 결국 무엇을 이루리라고 생각하느냐에 달려 있다. 일반인의 두려움과 엘리트의 기대는 모두 경쟁 해자로 보호받는 ChatGPT 수준의 독점 시스템을 상정한다. 일자리를 대체하면서 구독료를 계속 올리고 서비스 수준을 낮춰, 가동까지 3~5년을 기다린 초기 벤처 자본을 만족시킨다는 그림이다.
그러나 문헌에서 커지는 한 흐름은 다른 미래와, 주류 밖에서 독립적으로 나아가는 여러 온라인 공동체의 정신을 뒷받침하는 듯하다. 예컨대 r/stablediffusion은 현재 이용자 92만 명을 보유하고 있으며, 폐쇄형 이미지·영상 생성 시스템 관련 게시물을 오래전부터 금지했다.
이 대안적 미래에서 전 세계에 새로 공급되는 AI 데이터센터는 ChatGPT나 Adobe Firefly 같은 거대한 ‘블랙박스’ 프레임워크의 수요를 채우는 대신, 사용자가 직접 정의하고 구성하는 시스템에 순수 연산 자원을 제공한다.
실제 사용의 장벽
r/stablediffusion의 복잡한 원격 GPU 안내서, 특히 Patreon을 통해 수익을 내는 설명을 보면 지금은 모든 게 불가능해 보인다. 모델은 끊임없이 목표를 바꾼다. 업데이트할 때마다 조건이 달라진다. 가장 쉽고 사용자 친화적인 프레임워크에서도 로컬 배포는 어렵다. 이런 장벽을 보면 기술 취미가나 더 과감한 기업들만 도전할 일 같다. 후자는 AI를 직접 다루는 기업은 아니지만 역량을 빌리는 대신 자체 로컬 시스템을 개발하고 유지하려는 곳들이다.
그러나 지난 30년 동안 개방적이고 민주적인 단순화와 보편적인 표준 상품화를 향한 수요가 컸던 기술은 대체로 그 방향으로 발전해 왔다. 가장 널리 보급된 해법은 보통 상용 시스템과 오픈소스 대안·활동 사이의 긴장 속에서 나왔다.
인터넷 연결, 콘텐츠 관리 시스템, 블로그 프레임워크, 인터넷 보안, 사진, 미디어 관리는 한때 전문적인 ‘괴짜’들의 영역이었다. 모두 혼란스러운 복잡성에서 단순함과 유용성으로 발전했다.
따라서 미래의 AI 환경은 현재의 시장 선도 기업들이 바라는 것보다 더 다채롭고, 실제로 경쟁하는 작은 기업들이 더 많을 수 있다.
필요에서 비롯된 독립
역설적으로 대형 AI 기업은 데이터센터를 위해 모든 컴퓨터 부품, 특히 DRAM을 빨아들이며 최종 사용자의 독립 의식을 크게 북돋우고 있다. 그 부품들은 원래 일반 소비자에게 돌아갔을 것이다.
이에 많은 사람이 성능이 부족한 씬 클라이언트를 통해 폐쇄형 ‘글로벌 AI’ 자원을 이용하는 미래를 예상하며 기존 장비 유지에 대한 관심을 높이고 있다.
AI가 기술 공급망에 가하는 압박 때문에 기술 서비스 제공업체들도 가격을 인상했다. 지난 3~6개월의 인상은 작은 기업들이 실제로 하드웨어 부족에 시달리기 때문일 수도 있고, 그저 AI를 구실로 삼기 때문일 수도 있다.
그 결과 자체 호스팅에 대한 관심과 온프레미스 운영에 대한 관심이 늘었다. 여기에는 머신러닝 네트워크를 직접 호스팅하는 것도 포함된다.
나도 최근 사진과 영상, 파일 백업을 로컬 LAN 저장소로 옮기며 이 흐름에 합류했다. 사진과 영상에는 무료 오픈소스 다중 플랫폼 미디어 서버 Immich를 사용한다. 덕분에 iCloud 등 클라우드 저장소 제공업체의 가격 인상과 다른 우려스러운 문제에서 벗어나고 있다.

무료 Immich는 미디어를 자기 장비와 비공개 채널에 보관할 수 있게 한다. 여기서는 Docker에서도 Immich를 실행해 사진과 영상이 저장된 곳에 LAN을 통해 NVIDIA 3090 GPU의 연산 능력을 제공한다. 더 강력한 GPU가 AI 연산이 많이 필요한 이미지·영상 처리를 맡는 것이다.
내 경험이 일반적인 상황을 보여준다면 바이브 코딩은, 과거 ‘순수한’ 공동체로 여겨졌던 여러 온라인 모임에서 현재 거센 비판을 받으면서도 이 독립의 물결에 힘을 보태고 있다. 다만 자신이 의존하는 오픈소스 저장소를 위협할 수도 있다.
예를 들어 네트워크 설정은 늘 컴퓨터 분야에서 내 약점이었다. 새로 직접 호스팅하는 여러 서비스를 지원할 안전한 VPS를 가동하는 데 AI의 도움이 필수적이었다.
이런 의미에서 ‘큰 AI’가 ‘작은 AI’의 역량을 키운다고 말할 수 있다. 따라서 초대형 규모와 매우 높은 가치 평가를 가진 AI 기업의 부상을, 더 민주적이고 사용자에게 자율권이 있는 AI 사회가 나오기 전의 필요하지만 일시적인 단계로 볼 수도 있다. 경쟁 해자와 경제적 지대를 추구하는 기업은 연료를 소진한 추진 로켓처럼 버려진다는 것이다. 2000년 닷컴 붕괴가 활용 가능한 기반 시설을 남겼고, 건설 비용을 댄 기업들이 무너진 뒤에도 그 시설이 오랫동안 인터넷 발전을 크게 앞당긴 것과 비슷하다.
규정 준수의 시대
하지만 이번에는 아마 같은 일이 반복되지 않을 것이다.
우리가 실제로 어떤 주변부 공동체를 경쟁 해자 밖에 만들려 하더라도, AI 규제와 현재 전 세계적인 연령 확인 강화 추세는 이런 발전 경로를 미리 막을 가능성이 높아 보인다.
‘그림자 AI 경제’를 막는 핵심은 규제다. GitHub와 Hugging Face 같은 중앙 저장소는 이미 저장소 설정에 따라 로컬 복제에 앞서 온라인 로그인을 요구하는 경우가 많다.
따라서 현재보다 더 광범위하게 AI 프레임워크를 감시할 수단은 이미 있다. 감시를 강화하려는 의지도 개별 정부의 활동에서 전 세계적 추진력으로 모이고 있다.
시장 원리와 자유·오픈소스 소프트웨어 운동의 창의성이 일상적인 AI 배포의 장벽을 없애더라도, 장애물은 거버넌스 요건의 형태로 돌아올 듯하다. 규정 준수 부담은 무겁지만 기업에는 감수할 만하고 개인에게는 그렇지 않을 수 있다. 이는 PayPal의 황금기 (PYPL ), 즉 2000년대 이후 소비자용 온라인 결제에 추가된 장벽과 비슷하다.
Meta가 운영체제 수준의 연령 통제 로비에 20억 달러를 쓴 이유가 대규모 AI 투자 때문이든 데이터 수집 이익 때문이든, 거대 기술 기업의 연령 통제 지지는 ‘로컬 AI’가 A급 마약처럼 엄격하게 규제되는 결과로 이어질 수 있다. DMCA가 범죄화하도록 설계된 대상이 의도이지 특정한 저작권 우회 수단이 아닌 것처럼, 국제 AI 규제는 이런 상황에서 규칙을 지키지 않는 모든 머신러닝 사용을 불법으로 만들 수 있다. 적극적인 감독에 드는 비용은 매우 적으면서도 말이다.
1년 전이라면 지나치게 디스토피아적인 견해로 보였을 수도 있다. 하지만 그때는 캘리포니아와 systemd가 하드웨어 수준의 연령 확인을 지지하기 전이었다. 현재 많은 사람은 이를 중국 공산당 방식의 온라인 익명성 금지를 우회적으로 실현하는 수단으로 본다.
결론
법과 입법 환경은 AI를 엄격하게 규제하는 영역에 편입하려는 것일 수도 있다. 일반 사용자가 허가 없이 규제 물질을 재배하거나 발효시킬 수 없듯 ‘자체 AI를 빚어내는 것’도 막는 것이다. 그러나 연구계는 더 낙관적인 입장을 유지한다. AI는 그날그날 가장 인기 있는 폐쇄형 제공업체의 추종자를 넘어, 더 넓은 사회에 민주화되고 유익한 힘이 될 것이라는 입장이다.
많은 것이 AI 거품이 꺼진 뒤 잔해가 어떤 형태로 남느냐에 달려 있다. 제공업체들이 통합될지, 시장이 장기적으로 여러 독립된 영역으로 분열될지에 따라서다. 후자는 아마 더 온건한 규제를 필요로 할 것이다.
2026년 4월 1일 수요일 최초 게시












