에이전트 워싱: 일부 레스토랑 운영자들이 과대광고된 AI에 경계하는 이유

레스토랑 업계에 종사하는 사람들에게 AI 도입이 험난한 길에 부딪힌 것처럼 보입니다.

봄에 Starbucks는 1년도 채 되지 않은 재고를 계산하는 컴퓨터 비전 시스템을 중단했습니다. 같은 달에 Pizza Hut의 주요 가맹점주들이 소송을 제기해 필수 AI 플랫폼이 110개가 넘는 매장에서 고장났다고 주장하며 1억 달러를 청구했습니다. 이러한 헤드라인을 보면 쉽게 결론을 내릴 수 있습니다: AI는 이 업계에 아직 준비되지 않았다는 것이죠.

운영자가 마주하는 다른 AI가 대부분 과대광고라는 점도 도움이 되지 않습니다. 올해 전국 레스토랑 협회 쇼(National Restaurant Association Show) 현장에는 AI 관련 주장이 가득했으며, 인공지능으로 작동한다는 후드 탈지 서비스를 판매하는 업체도 있었습니다. 샌디에이고에 Kalei’s Kitchenette를 운영하는 Khara Mangiduyos는 이를 믿지 않았습니다. “그 기름을 누가 긁어낼 건가요?”라고 Restaurant Business 기자에게 물었습니다. “봇도 아니고, AI도 아닙니다.”

업체의 전술과 실패 헤드라인은 기술 자체에 대한 이중적인 불신을 정당하게 형성합니다. 하지만 더 깊이 파고들면 현재 업계를 확장하고 있는 AI 성공 사례는 유명한 실패 사례나 AI라는 레이블이 붙은 제품들과는 전혀 다릅니다.

잘못하는 것은 배송의 일부입니다. 잘못된 것을 사는 것은 아닙니다

가장 눈에 띄게 실패하는 시스템은 보통 가장 야심 차고, 가장 어렵고 예측하기 힘든 작업을 목표로 합니다. 새로운 기술을 구축한다는 것은 이를 실제로 적용하고, 흔들리는 모습을 지켜보며, 수정해 나가는 것을 의미합니다.

Taco Bell이 최근 사례입니다. 이 체인은 최근 AI 음성 주문 시스템을 890개가 넘는 드라이브 스루에 확대했으며, 이는 약 2년 전 이전 버전이 18,000잔의 물 주문을 받아 화제가 된 이후입니다. 그러나 이러한 실패한 도입은 대규모 기업이 감당할 수 있는 높은 비용을 수반할 수 있습니다. 이는 모든 기업이 감당할 수 있는 위험은 아닙니다.

때때로 주장과 현실 사이의 차이는 실수라기보다 조작입니다. 2025년 1월, SEC는 Presto Automation이라는 드라이브 스루 음성 회사가 시스템이 “인간 주문 접수를 필요 없게 만들었다”는 주장에 대해 기소했습니다. 실제로 규제 당국은 이 회사가 대부분의 주문을 필리핀과 인도에 있는 노동자들에게 의존하고 있음을 밝혀냈습니다.

Presto는 에이전트 워싱(agent washing)이라고 알려진 문제의 근본적인 본능이 극단적으로 나타난 사례입니다. 이 경우 “AI”는 부분적으로 사람을 의미했습니다. 에이전트 워싱은 실제로는 자율 AI 에이전트가 아닌 것을 자율 AI 에이전트로 마케팅하는 것을 말합니다.

이러한 기만은 AI 역량 수준에 관한 것입니다. 이는 Gartner가 구매자들에게 조심하라고 경고하는 환경이며, 시장에서는 “에이전트”라는 단어가 최고의 새로운 AI 도구로 판매되고 있습니다. 어쩌면 더 높은 가격표와 함께 말이죠.

“SCP 리더들은 에이전트형 AI 미래에 대비해야 하지만, 의미 있는 역량과 시장 소음을 구분해야 합니다,”라고 Gartner 공급망 부문의 선임 이사 분석가 Jan Snoeckx가 말했습니다. “오늘의 우선순위는 완전 자율이 아니라, 기술이 성숙함에 따라 에이전트형 AI가 확장될 수 있도록 운영 규율, 아키텍처 유연성 및 의사결정 프레임워크를 구축하는 것입니다.”

문제는 야심 찬 AI가 가끔 실패한다는 것이 아니라, 그 실패가 전체 카테고리에 대한 대중 인식을 형성한다는 점입니다. 여기에는 처음부터 어려운 일을 시도하지도 않은 소규모 도구들도 포함됩니다.

이때가 바로 에이전트 워싱이 흔히 “점프 더 샤크”라고 불리는 현상으로 이어지는 지점입니다. 트렌드가 지나치게 과장된 마케팅을 추진하면 청중이 더 이상 구매하지 않게 됩니다. 충분히 많은 업체가 다양한 제품에 “AI”라는 라벨을 붙이면, 그 라벨은 결국 탈지제와 같은 터무니없는 제품에까지 확대됩니다.

Gartner는 구매자들에게 도구가 자율적이라는 공급업체의 말을 무조건 받아들이지 말라고 조언합니다. 에이전트라고 판매되는 많은 제품이 실제로는 스스로 작동하지 못합니다. 스크립트를 따르고 이를 지능이라고 부릅니다.

대신, 반복 작업에는 단순 자동화를 사용하고, 실수가 저렴한 대량 작업에만 에이전트를 활용하며, 아직 어려운 문제에 완전 자율성을 부여하지 마세요.

자주 작동하는 AI는 그리 화려하지 않다

레스토랑에 조용히 기여하는 도구들은 단일하고 제한된 작업을 목표로 하는 것들입니다.

Making Sense의 시니어 제품 리더이자 중견 및 사모펀드 지원 기업에 실제로 구매할 AI를 조언하는 Mariano Jurich는 업계가 “에이전트”가 무엇인지 합의하지 못한 상황에서 문제는 바로 그 단어 자체에서 시작된다고 말합니다.

“도구가 ‘if-then-do’ 형태의 문장으로 설명될 수 있다면, 100% 에이전트형이 아닐 가능성이 높습니다,”라고 그는 말합니다. 이는 단순한 도구를 비난하는 것이 아닙니다. 일부 팀이 필요로 하는 대부분의 경우, 그는 “에이전트형은 과도한 기능일 가능성이 높다”고 덧붙입니다. 작업이 반복적이고 규칙에 얽매인 경우, 자동화가 비용이나 기계가 스스로 판단하도록 내버리는 위험 없이 이를 처리합니다.

고객 문의나 재무 결정을 관리하기 위해 에이전트형 모델을 도입하면서 적절한 인간 감독이 없을 경우 위험이 존재합니다. 이는 종종 즉흥적으로 행동하게 되며, 고객이나 결제와 관련된 상황에서는 가장 원하지 않는 일입니다.

스톡홀름 커피숍이 AI에게 백오피스를 운영하도록 맡긴 사례는 실험의 일환으로 어떤 모습인지 보여줍니다. 봄에 연구소 Andon Labs는 Gemini 기반 에이전트인 Mona에게 에스프레소 머신을 제외한 모든 것을 제어하도록 했으며, 주문, 허가, 채용, 공급업체 계약 등을 담당하게 했습니다. 그 결과 작은 카페에 고무장갑 3,000개와 냅킨 6,000개를 구매하고, 메뉴에 쓰이지 않는 통조림 토마토를 비축했으며, 근무 시간 외에 바리스타에게 Slack으로 메시지를 보냈습니다. 연구소는 이러한 실수를 에이전트의 짧은 기억력 때문이라고 설명했습니다.

James Tice는 레스토랑 현장에서 일한 뒤 기술 분야로 전향했으며, 현재 레스토랑 업계의 주요 기업들이 사용하는 금융 플랫폼 Tab Commerce의 성장 담당 책임자로서 운영자들과 소통하며 무엇이 효과적이고 무엇이 그렇지 않은지 파악하는 데 시간을 보내고 있습니다.

“‘인간을 루프에 유지한다’는 말이 AI와 관련해 너무 자주 언급되어 이제는 말의 의미가 약해졌습니다,”라고 Tice는 말합니다. 그는 많은 기술 기업이 운영자들의 업무 방식을 이해하는 데 어려움을 겪고 있다고 믿습니다.

그가 말하길, 그 기준을 충족하는 AI는 아무도 글을 쓰지 않는 종류입니다: 청구서 정산, 공급업체 과다 청구 감지, 회계 마감 속도 향상 등. “운영자들은 특히 재무에 관심이 있습니다. 그들은 번거로운 작업이 사라져 현장으로 돌아갈 수 있기를 원합니다.”

효율성이 목표가 아니라 효율성을 통해 얻는 것이 목표라고 덧붙였습니다. “이는 인간의 시간을 늘리는 것입니다,”라고 Tice는 말합니다. “손님을 없애거나 경험을 없애는 것이 아니라, 경험을 과도하게 강조하는 것입니다.”

그가 실리콘밸리가 기술을 잘못 측정한다고 생각하는 이유가 바로 이것입니다. “레스토랑에서는 시간 절감이라는 개념이 없습니다. 단지 시간 할당이 있을 뿐입니다.”

운영자에게 30분을 돌려주는 도구는 다음 질문에 답할 수 없으면 작업의 절반만 수행한 것입니다: “우리가 실제로 시간을 빼앗는 것이 무엇이며, 어디에 시간을 투자하고 있는가?”라고. 그는 좋은 도구는 “$1의 시간을 빼앗고 $10의 시간을 돌려줘야 한다”라고 덧붙이며, “$10의 시간을 찾아야 할 뿐만 아니라 $1의 시간도 찾아야 한다”고 말합니다.

Tice에게 회수된 모든 시간은 특정한 곳을 가리키며, 그는 어떤 소프트웨어도 이를 건드려서는 안 된다고 확고히 주장합니다. 손님이 구매하는 것은 실제 음식이 아니라 경험입니다. “음식 한 접시에 50달러를 쓰면, 50달러짜리 음식을 사는 것이 아니라 50달러짜리 경험을 사는 겁니다,”라고 그는 말합니다.

그는 다른 사람이 서비스를 제공하는 공간이 더욱 가치가 높아진다고 주장하며, “레스토랑의 중요성은 여전히 동일합니다”라고 말합니다. 그의 견해에 따르면 사람을 배제하려는 도구들은 전체 비즈니스를 오해한 것입니다. “AI가 그 부분을 빼앗으려 할 때마다, 우리 업계를 이해하지 못한다는 말을 하는 겁니다.”

Jurich와 Tice 모두 AI에 반대하는 것이 아니라, 어떤 AI가 어디에 적합한지 이해하려는 것입니다.

“AI는 문제를 해결하기 위해 당신의 도구 상자에 있는 또 다른 도구일 뿐입니다,”라고 Jurich는 말합니다. “그래서 그렇게 다뤄져야 합니다.”