사상 리더

기술적인 장인 정신은 블랙 박스의 끝에 있는 빛

Onur Alp Soner
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트기술적 숙련도는 AI 시스템이 이해할 수 없는 블랙박스가 되는 것을 방지합니다.
더 보기
  • 기술적 숙련도는 AI 시스템이 이해할 수 없는 블랙박스가 되는 것을 방지합니다.
  • 추상화된 도구에 대한 과도한 의존은 시스템 이해를 표면적인 속도로 희생시킵니다.
  • 깊은 시스템 지식을 함양하면 분열된 현대적 업무 흐름에서 책임성을 확보할 수 있습니다.

기술이 어떻게 작동하는지 완전히 이해하지 않고도 구축하고 배포하며 확장하기가 지금처럼 쉬웠던 적은 없다. 오늘날 거의 모든 것은 우리에게 이해를 요구하지 않은 채 작동한다. 그런데도 통제력이 손가락 사이로 빠져나간다는 느낌은 끊이지 않는다.

자세히 보면 오늘날 빠진 것은 한때 모든 위대한 혁신의 중심에 있었으나 기술의 세계에서 서서히 사라지는 장인 정신이다. 혁신마다 세심한 관심의 흔적이 있었다. 누군가는 의존 관계와 동작, 제약을 깊이 이해하고 그 지식을 작동하는 시스템으로 옮겼다. 하지만 지금 일상을 움직이는 도구와 플랫폼은 놀랄 만큼 빠르게 완제품으로 제공되면서도 내부 작동을 거의 보여 주지 않는다.

속도에 집착하는 문화에서 장인 정신은 어울리지 않는 것, 나아가 급진적인 것으로 느껴지기 시작했다. 그러나 그것이 없으면 시스템은 사건의 소용돌이, 즉 결정과 출력, 동작이 누구도 온전히 이해할 수 없을 만큼 빠르게 전개되는 블랙 박스가 될 위험이 있다. 장인 정신을 되살리는 것은 통제력을 되찾고, AI가 재편한 세계에서 복잡성을 추론하며 책임질 능력을 회복하는 길이다.

주인의식 없이 협업이 번성할 수 있을까?

한때 시스템을 만든 사람은 그것을 속속들이 알았다. 오늘날 작업은 작은 기여로 나뉘어 주인의식이 희석되고, 참여자 누구도 전체를 이해하지 못하는 지경에 이르기도 한다. 팀들은 라이브러리, API, 클라우드 서비스, 관리형 데이터베이스, 분석 플랫폼을 통합해 작동하는 제품을 만들면서 더 큰 시스템에 전문화된 일부를 보탠다. 역설적으로 팀이 직접 소유하는 부분은 외부 제공업체가 관리하는 계층보다 작은 경우가 많다.

장인 정신보다 실행을 중시하면 시스템의 여러 계층에 사각지대가 조용히 쌓인다. 요청 하나도 응답을 받기까지 여러 서비스와 제공업체, 지역을 거친다. 그럭저럭 작동하던 시스템은 계층 사이의 미묘한 불일치가 드러날 때 누구도 명확한 이해나 통제력을 거의 갖지 못했다는 사실을 보여 준다. 문제는 고장 난 구성 요소를 고치는 것으로 끝나지 않는다. 애초에 무엇이 잘못됐는지 설명하는 데서 시작한다.

협업은 현대 소프트웨어의 원동력이다. 개인 혼자서는 감당할 수 없는 규모의 시스템을 팀이 만들 수 있게 한다. 특히 AI 같은 새 도구가 더해지면 더 많은 작업을 병렬화하고 결정을 자동화하거나 지원해 실행을 앞당기고 참여를 넓힐 수 있다. 하지만 전체에 대한 이해는 더 얇아진다. 추상화 수준이 높은 도구가 결정에 관여하고 코드를 생성하며 데이터를 해석하면 행동이 이해를 앞서기 쉽다. 시스템이 어떻게 작동하는지 설명하지 못한다면 그 시스템이 이끄는 결정을 신뢰할 수 있을까?

이해하는 시스템에 책임질 수 있다

장인 정신은 협업이나 AI의 부인할 수 없는 잠재력을 거부하는 일이 아니다. 실행을 넘어 시스템과의 관계를 유지하는 것이다. 작업이 분절된 환경에 연속성을 만들고, 개별 계층 안에서뿐 아니라 계층 사이의 동작을 추론할 능력을 보존하는 것이다. 현대적인 업무 흐름에서 장인 정신은 문제가 있다는 뚜렷한 증거가 없어도 이 추론 능력을 의도적으로 기르는 데 달려 있다. 덕분에 팀은 무엇을 만드는지, 왜 그렇게 동작하는지, 예상대로 동작하지 않을 때 어떻게 대응할지 알면서 빠르게 나아갈 수 있다.

이런 이해만이 AI 기반 시스템이 블랙 박스로 변하는 것을 막을 수 있다. AI는 이미 아는 것과 모르는 것을 모두 증폭한다. 기술적 장인 정신이 토대라면 통찰을 넓히고 강점을 강화하지만, 그렇지 않으면 오해와 혼란을 가중한다. 잘못된 가정이나 편향된 데이터, 오해한 모델을 바탕으로 한 자동 결정은 사람들의 계정, 사생활, 신뢰에 영향을 줄 수 있다. 삶의 모든 영역을 잇는 상호 연결성 때문에 예전에는 국지적 버그나 작은 부주의였을 문제가 이제는 거의 즉시 광범위한 결과를 낳을 수 있다.

학습 곡선을 평탄하게 만드는 진짜 비용

학습 곡선을 너무 적극적으로 평탄하게 만든 나머지 의존이 효율처럼 보이기 시작했다. 이 교환의 대가를 조심해야 한다. 일을 빠르게 느끼게 하는 속도는 깊은 이해보다 도구와 추상화에 기대는 데서 상당 부분 나온다. 절약한 시간과 노력을 예상치 못한 결과로 되갚아야 한다면 오히려 역효과가 날 수 있다.

더 간단한 방법과 강력한 도구가 있는데도 필요 이상으로 어렵게 하자는 뜻은 아니다. 다만 학습 과정을 무심코 건너뛰면 시스템의 동작과 취약점, 결정의 파급 효과를 진정으로 이해할 기회를 잃는다. 복잡성이 사라지는 듯한 모습은 매력적이지만 버튼 한 번으로 복잡성이 없어지지는 않는다. 눈에 보이지 않는 곳으로 옮겨가서, 문제가 발생해야만 드러나는 위험을 남길 뿐이다.

진정한 효율은 현대 도구의 사용과 이해, 판단, 장인 정신을 위한 충분한 노력 사이의 균형에서 나온다. 그래야 속도와 단순함 때문에 회복력이나 책임을 희생하지 않는다. 새 기술이 할 수 있는 것과 할 수 없는 것을 모두 이해하며 접근해야 한다. 이 이해가 없으면 팀은 시스템을 안전하게 조정하거나 발전시킬 수 없다. 변화는 잘 이해하지 못한 부분을 망가뜨릴 수 있다. 도구나 기본 설정, 자동화에 대한 의존이 지식에 근거한 직관을 대체하면 판단력이 약해진다. 그러면 불확실성 아래서 현명하게 결정할 능력도 줄어든다. 설명 가능성이 낮아지고 회복력도 숙련과 함께 잊혀진다. 효율은 이렇게 취약해서는 안 됐다.

실무에서 기술적 장인 정신은 어떤 모습일까?

장인 정신은 팀과 제품, 리더십이 복잡성을 다루는 방식에서 드러난다. 외부 업체가 모든 복잡성을 처리한다고 가정하는 대신, 의존하는 시스템을 이해할 책임을 팀이 맡으면 문제에 앞서 대응할 수 있다. 장인 정신으로 만든 제품은 오래가고 발전하며 적응하도록 만들어진다. 원인을 추적하고 가정에 의문을 제기하며 직관적인 해결책을 만드는 데 초점을 둔 교육은 학습을 깊이 뿌리내리고 지속되게 한다.

건전한 판단을 내리고 설명 가능성을 지킬 능력이 훌륭한 제품과 단지 작동하기만 하는 제품을 가를 것이다. 복잡하게 연결된 시스템에서는 인간의 직관과 숙련이 기술을 이끌어야 하며 그 반대가 되어서는 안 된다. 거의 모든 것을 외주화할 수 있어도 분별력은 여전히 그 대상이 아니다.

온루 알프 소너는 Countly의 공동 창립자이자 CEO입니다. Countly는 디지털 분석 및 앱 내부 참여 플랫폼입니다. 기술자이자 셀프스타터인 그는 Countly를 처음부터 부트스트랩하여 기업들이 사용자를 이해하고 사용자와 상호 작용하는 방식을 더 잘 통제할 수 있도록 했습니다. 그의 리더십 아래에서 Countly는 사용자 개인 정보를 성장 전략의 중심으로 유지하면서 빠르게 혁신하고자 하는 전 세계 기업들을 위해 신뢰할 수 있는 플랫폼으로 성장했습니다.