기업의 AI: 전체 비용 계산

AI는 더 이상 이론이나 신기함의 단계를 넘어섰습니다. 많은 조직에서 AI는 핵심 시스템과 함께 인프라의 일부로 존재합니다. 여전히 많은 사람들이 AI를 주로 공개된 대규모 언어 모델과 채팅봇으로 생각합니다. 브라우저에서 사용하고 필요가 없으면 버리는 것과 같은 방식으로 AI를 바라보는 관점은 효율적으로 결과를 개선할 수 있는 다양한 모델과 기술을 놓치게 할 수 있습니다.

진실은 AI를 다른 주요 인프라 투자와 마찬가지로 투자 이전에 비용, 이익, 운영 위험에 대한 명확한 관점으로 평가해야 한다는 것입니다. AI를 사용 가능한 상태로 만드는 것은 데이터 파이프라인, 관찰 가능성, 거버넌스, 비즈니스 결과와 일치하는 사람들을 투자하는 것을 의미합니다. 여기서 코너를 절약하면 비용은 단순히 미래로 이동되며 추가 이자가 붙습니다.

AI 비용의 실제 규모

팀은 AI 비용이 직선적으로 증가한다고 가정할 수 있습니다. 실제로 노력, 비용, 결과는 서로 독립적으로 예상치 못한 방식으로 이동할 수 있습니다. AI에 긴 문서를 한 번에 읽으라고 요청하면 모든 단어가 다른 단어와 관련하여 고려되어야 합니다. 대부분의 인기 있는 대규모 언어 모델에서 이는 작업과 비용이 사람들의 예상과 다르게 증가한다는 것을 의미합니다. 이러한 기본적인 사항에 대한 인식은 AI 배포의 최종 결과에 실제적인 영향을 미칠 수 있습니다.大量의 텍스트를 처리하는 조직의 경우, 규제 기관과 같이 그래프 검색 또는 검색 파이프라인을 설계하여 문서 전체를 모델에 보내지 않으면 최종 사용자 경험은 여전히 “질문에 답변을 받는 것”과 같습니다. 이는 AI를热衷하는 경영진이 즉각적인 상호작용을 유지할 수 있도록 합니다. 한편, 시스템은 더 적은 불필요한 작업을 수행하며 결과적으로 컴퓨팅 비용도 낮아집니다.

조직 전체에 걸친 AI 지출

기술 선택은 이야기의 일부에 불과합니다. 조직이 AI를 접근하는 방식이 더 중요합니다. 많은 조직에서 데이터 준비는 엔지니어링 팀에서 처리합니다. 법적 검토는 법률 팀에서 처리합니다. 클라우드 비용은 플랫폼 또는 인프라 팀에서 처리합니다. 모델 선택, 구성, 미세 조정은 몇몇 전문가에게 맡겨집니다. 각 그룹은 자신의 작업과 예산을 볼 수 있습니다. 지출은 여기서 컴퓨팅 비용으로, 저쪽에서는 계약자 시간으로, 여러 팀에서 사람들의 시간이 “業務”에 흡수됩니다. 비용이 여러 비용 센터에 걸쳐 분산되어 있기 때문에 단일 AI 이니셔티브의 전체 비용을 한 곳에서 볼 수 없으며 저평가하기 쉽습니다. 이러한 환경에서 AI 비용은 조용히 증가할 수 있습니다. 이는 누구도 전체 숫자를 한 곳에서 추적하지 않기 때문입니다.

AI 비용 관리를 위한 실용적인 접근

AI를 피하는 것은 조직에게 올바른 선택이 아닙니다. 하지만 AI를 잡다한 기술로 취급하는 것도 올바르지 않습니다. 좋은 전략은 항상 원하는 결과부터 시작하여 역으로 작업하는 것입니다. 모든 경우에 최신, 비싼 모델이 필요하지는 않습니다. 많은 작업은 잘 이해된 기계 학습 기술을 사용하여 기존 인프라에서 실행할 수 있습니다.

작은 파일럿 프로젝트부터 시작하여 모델 사용만이 아니라 전체 소유 비용을 측정합니다. 즉, 컴퓨팅, 통합 작업, 엔지니어링 시간, 변경 관리, 준수 노력을 고려합니다. 목표는 결과가 прием할 수 있는 수준인 가장 작은 모델을 선택하는 것입니다. “더 많은 모델”이 “더 많은 이익”을 의미한다고 가정하지 말아야 합니다.

AI는 하나의 기술이 아닙니다. 다양한 기술과 도구의 조합으로 볼 수 있으며, 이러한 기술과 도구는 서로 다른 방식으로 사용될 수 있습니다. 이러한 관점은 인상적인 결과에 대한 신비를 없애고, 비즈니스에서 더 책임감 있게 그리고 더 효과적으로 AI의 힘을 활용할 수 있도록 합니다.

사람, 시간, AI

모든 AI 배포는 실제로 사람과 소프트웨어의 협력입니다. 공식적으로 인정받지 않더라도, 이는 작업이 수행되는 방식입니다. 더 많은 에이전트 AI로의 전환, 즉 단계를 연결하고 다른 시스템을 호출하며 더 적은 프롬프트로 작동할 수 있는 도구로의 전환은 이러한 점을 변경하지 않습니다. 오히려 인간의 워크플로우 측면에서 올바른 방식으로 작업을 수행하는 것을 더 중요하게 만듭니다.

이러한 도구는 과신하기 쉽습니다. 시스템이 유창하게 그리고 자신감 있게 답변을 제공할 때, 사람들은 그것이 대부분 올바르다고 가정하는 것이 자연스럽습니다. 이러한 도구를 올바른 교육, 명확한 경계, 합리적인 검사 없이 워크플로우에 투입하면, 작은 오류의 흐름을 조용히 생성할 수 있습니다. 각 오류는 사람이 발견하고, 이해하고, 수정해야 합니다. 종이上的 AI는 효율적으로 보일 수 있지만, 실제로는 사람의 시간을 더 많이 사용하여 청소 작업을 수행해야 합니다. 고객을 상대로 하는 환경이나 규제 환경에서는 이러한 작은 오류가 또한 평판에 대한 비용을 초래할 수 있습니다. 그러나 이러한 도구가 제공되거나 사용되는 방식에 관계없이, 그 출력에 대한 책임은 조직에 있으며, 일상적으로는 도구를 사용하는 사람에게 있습니다. 이러한 도구를真正로 유용하게 사용하려면, 이것을 명시적으로 이해해야 합니다.

より 나은 패턴은 의도적인 파트너십입니다.熟練한 사람들은 결과에 대한 책임을 명확하게 유지하고, AI는 작업의 일부를 가속화하는 데 사용됩니다. 예를 들어, 요약, 초안 작성, 정렬, 검색과 같은 작업입니다. 일부 검사와 수정이 여전히 필요할 수 있지만, 잘 도입되고 잘 관리되는 AI의 워크플로우에서의 전반적인 효과는 더 빠른 속도, 더 일관된 결과, 인간 팀이 혼자서 달성할 수 있는 것보다 더 많은 능력을 제공할 수 있습니다.

AI 예산의 일부로서의 거버넌스

기술적인 선택이 올바르고 사용이 효율적이라면, AI 지출의 증가하는 부분은 원시 컴퓨팅보다는 거버넌스에 묶여 있을 것입니다. EU에서 운영되는 조직의 경우, AI 법은 이를 명확히 합니다. 그것은 AI에 대한 위험 기반 관점을 취하며, 이는 공개용 제품에만 적용되는 것이 아닙니다. 고용 및 승진, 근로자 관리 및 모니터링, 특정 안전 관련 의사 결정과 같은 영역에서 사용되는 내부 시스템은 적용 범위에 포함될 수 있으며, 위험 관리, 문서화, 로깅, 인간의 감독과 관련된 기대치를 동반할 수 있습니다. 다른 지역은 약간 다른 규칙을 가지고 있지만, 일반적인 추세는 동일합니다. 더 큰 조직은 AI가 어디서 사용되고, 무엇을 하는지, 어떻게 제어되는지 알고 있어야 합니다.

이것의 실제 효과는 내부 AI 프로젝트가 이제 자신의 거버넌스 작업량을 가질 수 있다는 것입니다. 이는 선택 사항이 아닙니다. 각 새로운 사용 사례는 새로운 위험 또는 영향 평가, 더 많은 모니터링, 더 많은 준수, 감사 또는 위험 팀의 질문을 의미할 수 있습니다. 이는 모델 사용 메트릭에 나타나지 않지만, 지불해야 하는 실제 노력입니다.

다시 말하지만, 이것은 AI를 피해야 한다는 것이 아닙니다. 이것은 내부 AI 프로세스의 실행 비용이 모델을 호출하는 비용만이 아니라는 것을 기억하는 것입니다. 거버넌스와 규제 기대는 이제 전체 소유 비용의 일부입니다.

AI 론칭에서 잘못된 점

AI 프로젝트에서 익숙한 패턴은 시스템이 데모에서와 실제 환경에서 어떻게 작동하는지의 간격입니다. 제어된 환경에서, 좁은 질문 세트와 친절한 데이터와 함께, 결과는 완벽해 보일 수 있습니다. 그 순간에 시스템이 작업 범주의 모든 것을 처리할 준비가 되었다고 가정하기 쉽습니다.

문제는 시스템이 실제 사용의 전체 다양성과 볼륨에 노출될 때 나타납니다. 예상치 못한 질의, 스트레스를 받은 사용자, 불완전한 기록, 지저분한 에지 케이스와 같은 경우입니다. 데모에서 보이지 않았던 균열이 나타나기 시작하며, 잘못된 답변, 놓친 뉴앙스, 지원 루프, 더 긴 처리 시간, 신뢰의 손상과 같은 문제가 발생합니다. “질문 처리”와 “시간 절약”과 같은 내부 메트릭은 종이 위에서 좋게 보일 수 있지만, 최종 사용자의 실제 경험은 다른 이야기를 рассказ일 수 있습니다.

완제된 데모 또는 작은 파일럿에서 성공이 시스템이 더广泛한 론칭에 준비되었다는 증거로 간주하는 것은 비싼 실수일 수 있습니다. 실제 사용자들은 지저분한 질의, 불완전한 데이터, 그리고 도구가 무엇을 할 수 있는지에 대한 자신의 가정과 함께 옵니다. 기대가 관리되지 않고, 시스템周围의 워크플로우가 후퇴와 에스컬레이션을 고려하여 설계되지 않는다면, 조직은 두 번 지불합니다. 한번은 빌드에, 또 한번은 추가 지원, 리워크, 불만, 잃어버린 신뢰에 지불합니다. 기술은 종이 위에서 인상적일 수 있지만, 실제 사람들과 프로세스에 어떻게 만나는지에 대한 실용적인 접근법 없이, 투자의 수익은 빠르게 감소합니다.

반면에, 명확한 경계와 인간의 소유권이 처음부터 내장된 잘 설계된 시스템은 인간 팀이 혼자서 달성할 수 있는 것을 超える 것을 할 수 있습니다. 예를 들어, 몇 초 안에大量의 정보를 스캔하고, 수년의 데이터에 걸친 패턴을 발견하고, 규모가 다른 결정 처리를 처리하는 것입니다. 이러한 이점을 얻으려면, 조직은 그들의 야망을 실제적인 기술의 행동에 대한 관점과 일치시켜야 합니다.

마무리

이것은 AI에 반대하는 논증이 아닙니다. 이것은 AI를 다른 시스템과 마찬가지로 사업 운영에 영향을 미치는 시스템으로 간주하여야 한다는 논증입니다.

잘 사용되면, AI는 작은 팀이 더 큰 규모로 행동할 수 있도록 도와주고, 수동으로 발견하기 어려운 패턴을 발견하고, 전문가의 판단을 더 멀리 나아가게 할 수 있습니다. 하지만, 이를 달성하려면, AI의 사용, 총 비용, 거버넌스에 대한 명확한 관점이 필요합니다. 이는 모델과 아키텍처에 대한 의도적인 선택, 데이터와 관찰 가능성에 대한 투자, 사람들을 루프에 유지하는 프로세스의 설계를 의미합니다.

“빨리 가고 깨져라”는 인간 팀이 인간 규모의 시스템에서 일할 때 쓰여진 슬로건입니다. 만약 뭔가 깨졌다면, 롤백하고, 패치하고, 계속 진행했습니다. 하지만 AI가 고객, 직원, 또는 시민에 대한 결정에織り込まれている 경우, 같은 태도는 더 빠르게 퍼지고, 더 강하게 치고, 훨씬 더 어려운 문제를 일으킬 수 있습니다. 속도는 여전히 중요합니다. AI는 여기에 도움이 될 수 있습니다. 하지만, 이는 위험, 비용, 책임에 대한 명확한 관점과 일치해야 합니다.

비용이나 위험을 완전히 제거하는 방법은 없습니다. 하지만, 조직이 실험에 의존하는 것과, 조직이 AI를 측정된 방식으로 운영에 통합하는 것 사이에는 명확한 차이점이 있습니다. 비용과 성공 사이의 시야를 가지고 있는 조직은, 조직이 직면하는 다양한 문제와 결과에 대해, 단일 AI 솔루션이 모든 것을 해결할 수 없다는 것을 이해합니다. 기업에서 AI의 효과적인 사용은 항상 전문적이어야 하며, 감독되어야 하며, 신중하게 범위가 정의되어야 합니다.