사이클을 깨다: 조직이 도OMPROMPTING을 피하고 성공을 달성하는 방법

1950년대 이론적 개념 이후 인공지능(AI)은 다양한 기술, 특히 기계 학습 시스템을 통해 비즈니스에 향상된 기회와 생산성을 제공했다. 이러한 도구/기술은 예측과 의사 결정의 기초를 마련하고, 향후 기술적 발전을 위한 기초를 마련했다. 최근에, 생성적 인공지능(Generative AI)은 우리가 일하는 방식을 완전히 바꿀 것이라고 약속했으며, AI 경험을 민주화했다. 사용자는 이제 ChatGPT와 같은 AI 모델을 “프롬프트”를 통해 상호 작용한다. 그러나 이러한 이점은 새로운 도전을 가져온다: 도OMPROMPTING. 이것은 온라인 콘텐츠에서 목표 없이 스크롤하는 것과 유사하지만, AI의 경우 래빗 홀은 대화한다. 생성적 및 에이전틱 모델 모두에서 지속적인 AI 프롬프트 정제는 완벽한 출력을 얻으려는雄心과 때때로 목표 없이 프롬프트를 사용하는 것에 의해驱動되며, 비용을 증가시키고 돌아오는 것을 감소시킨다. 이것은 성공으로 가는 주요 장애물이며, AI 기술 자체의 목적을 무효화한다.

비즈니스들이 AI 관련 예산을 증가시키면서, 의사 결정자들은 투자로부터 실제로 돌아오는 것을 이해하고, 생성하는 가치를 알아야 한다. 2025년 IEEE 보고서 “AI의 숨겨진 비용: 미세한 비효율성이 어떻게 큰 경제적 부담으로积累되는가”는 작은 조정이 어떻게 큰 경제적 부담으로积累되는지 보여준다. 이러한 비용적인 투쟁에 빠지지 않으려면, 조직은 직원들을 LLMs를 사용하여 AI 투자의 전체 잠재력을 달성하기 위해 훈련해야 한다.

생성적 인공지능은 최적화와 효율성을 약속한다. 그러나 팀이 끝없는 정제의 사이클에 빠지면, 비효율성이 이 기초를 무너뜨린다.

“작업 슬롭”을 청소하다

팀이 지속적으로 출력을 정제하여 완벽한 응답을 생성하는 이유 중 하나는 작업 슬롭이다. 하버드 비즈니스 리뷰에서 처음 설명된 작업 슬롭은 ‘의미 있는 작업을 진행시키지 못하는 AI 생성 콘텐츠’를 의미한다.

이 AI 생성 ‘슬롭’은 도OMPROMPTING 사이클의 첫 번째 도미노이다. 하위 콘텐츠를 수정하는 것이 중요하지만, 돌아오는 것을 감소시키는 경사에 빠지기 전에 멈추는 것을 알아야 한다. 조직은 AI 훈련에 대한 시간 투자를 균형 있게 접근해야 한다. 한쪽에서는 팀이 필요한 품질을 인식해야 하고, 다른 한쪽에서는 너무 많은 것을 요구하지 않도록 해야 한다. AI 모델을 사용하여 최적의 프롬프트와 명확한 목표를 사용하는 직원 훈련도 도움이 될 것이다.

도OMPROMPTING을 피하는 에이전틱 AI 활용

최근 몇 년 동안, 비즈니스들은 에이전틱 AI에 대한 관심과 투자를 크게 증가시켰다. 에이전틱 AI는 복잡한 작업을 처리하고, 여러 에이전트와 함께 작동하여 작업을 완료하는 능력으로 인해 운영 효율성을 향상시키는 것으로 인정받고 있다.

이러한 특성은 AI가 도OMPROMPTING을 완화하거나 완전히 피할 수 있도록 도와줄 수 있다. 이것은 작업을 완료하기 위해 여러 프롬프트를 사용하여 GenAI 인터페이스를 지시할 필요를 제거할 수 있다. 예를 들어, AI 기반 IT 운영(AIOps)은 IT를 현대화하고, 일일 작업에 AI를 통합하는 데 사용될 수 있다. 전통적으로, 팀은 시스템을 수동으로 조정하는 데 시간을 보낸다. 21세기 부서는 AI를 사용하여 중요한 기능을 자동으로 처리하는 부서이다.

도OMPROMPTING을 방지하는 거버넌스의 역할

최근 McKinsey 설문조사에 따르면, 88%의 응답자가 최소한 하나의 비즈니스 기능에서 AI를 사용하고 있다고 보고했다. 이것은 2024년보다 10% 증가한 것이며, 2023년보다 33% 증가한 것이다. 에이전틱 AI의 경우, 이 증가가 훨씬 더 컸다. 2023年的 33%에서 2025年的 거의 80%까지 증가했다.

이러한 광범위한 채택은 비즈니스들이 도OMPROMPTING에 대한 새로운 솔루션을 찾도록駆動하고 있다. 이러한 도구 중 하나는 강력한 거버넌스 프레임워크이다. 이러한 프레임워크는 AI 프로젝트가 비즈니스 목표와 일치하고, 끝없는 최적화의 희생이 되지 않도록 보장하기 위해慎重하게 설계되어야 한다. 팀이 이러한 프레임워크를 개발할 때, 다음을 고려해야 한다:

• 지침 설정: AI 모델에서 오고 가는 데이터 스트림은 점점 더 복잡해지고 있다. 이를簡化하기 위해, AI 지침은 팀이 데이터를 처리하고, 의사 결정을 내리고, AI 출력을 책임 있게 관리하는 프레임워크를 제공해야 한다.
• 사용자 훈련: 프롬프트 사용에 대한 적절한 훈련은 최적의 생산성을 도와줄 수 있다.
• 전문 모델 사용: 산업 및 목적에 맞춘 AI 모델은 더 빠르게 의미 있는 출력을 제공할 수 있다.
• AI 모델 훈련: AI 모델을 산업/작업/조직에 특화된 데이터로 훈련하면(가능한 경우), 더 적은 작업 슬롭과 더 적합한 출력을 빠르게 제공할 수 있다.
• 규칙 개발: 명확한 규칙을 마련하고 구현하는 것은 AI 개발과 배치를 위한 필수적이다. 팀이 운영 경계를 설정하면, 채택된 시스템이 조직의 목표, 윤리 기준, 및 규제 요구와 일치한다는 것을 보장할 수 있다.

AI 솔루션의 채택률이 증가하고 있지만, 거버넌스는 그렇지 않다. 2025년 PEX Industry Report에 따르면, 반 Zahl에 AI 거버넌스 정책이 없다. 한편, 25%는 구현 중이며, 거의 3분의 1은 AI 거버넌스 정책이 없다. 이러한 프레임워크는 비즈니스들이 명확한 경계를 설정하는 데 도움이 될 수 있다.

도OMPROMPTING 루프에서 벗어나기

도OMPROMPTING의 사이클에 빠지지 않으려면, 비즈니스들은 결과를 우선하는 AI 전략을 채택해야 한다. 프롬프트 훈련, 목적에 맞춘 AI 모델, 및 컨텍스트에 맞춘 엔터프라이즈 데이터로 훈련된 모델을 사용하면, 광범위한 재 프롬프트의 필요성을 줄일 수 있다. 에이전틱 AI, 자율 IT 운영, 및 강력한 거버넌스 프레임워크를 활용하는 비즈니스들은, 끝없는 최적화의 사이클에 빠지지 않고, 비즈니스 목표를 달성하기 위해 중요한 자원을 재할당할 수 있다. 성공은 팀이 지속적인 정제에서 집중된 실행 및 측정 가능한 결과로의 사고방식을 전환할 때 찾아온다.