에이전틱 AI 시대, 소비자는 준비됐는데 왜 브랜드는 무너지나

무슨 일이 일어나고 있나

요즘 AI 관련 뉴스를 보면 묘한 엇박자가 느껴지는데요. 한쪽에서는 소비자가 이미 AI에 익숙해졌다고 하고, 다른 한쪽에서는 기업의 AI 프로젝트가 줄줄이 무너진다고 해요.

Invoca 조사에 따르면 소비자들은 구매 여정 전반에서 생성AI와 에이전트 활용에 점점 편해지고 있어요. 더 이상 AI를 신기한 장난감으로 보지 않고, 시간을 절약하고 의사결정을 단순화해주는 실용 도구로 평가하기 시작했다는 거예요. 그런데 동시에 느린 처리 속도, 연결되지 않은 경험, 엉망인 자동화에 대한 불만도 커지고 있습니다. 더 중요한 건 AI가 실패했을 때 소비자는 기술이 아니라 브랜드를 탓한다는 점이에요.

Optimizely의 분석은 이 불만의 원인을 정확히 짚어요. agentic CMS 워크플로우가 실패하는 건 AI 기술 자체의 문제가 아니라 콘텐츠 모델 설계, 거버넌스 정책, 분류 체계, 에스컬레이션 경로, 책임 소재 같은 운영 구조의 결함 때문이라는 거예요. 사람이 암묵적 지식으로 메우던 간극, 예를 들어 '프로모 블록 2' 같은 모호한 필드명이 에이전트에게는 그대로 명확한 지시로 작동하면서 문제가 증폭됩니다.

반대편에는 성공 사례도 있어요. 온라인 외국어 학습 플랫폼 Preply는 OpenAI API 기반으로 Lesson Insights라는 기능을 만들었는데요, 1대1 수업 후 음성을 분석해 문법·어휘·발음 맞춤 피드백을 자동 생성하고 다음 과제까지 추천해줍니다. 결과적으로 1년 이상 사용하는 학습자가 75% 수준, 만족도는 4.7/5를 기록했어요.

왜 중요한가 — 흐름과 인과

이 세 가지를 나란히 놓으면 하나의 인과 사슬이 보여요. 소비자 수요(Invoca)는 이미 도착했는데, 그 수요를 받아낼 브랜드의 운영 기반(Optimizely)이 준비되지 않았고, 그래서 Preply처럼 기초를 갖춘 곳만 성과를 낸다는 흐름이에요.

Preply가 잘된 이유를 뜯어보면 단순히 좋은 모델을 붙였기 때문이 아니에요. 음성→분석→피드백→과제 추천으로 이어지는 명확한 워크플로우, 튜터의 행정 부담을 덜고 학생에게 구체적 진행 상황을 주는 명확한 책임 분담이 있었기 때문이에요. 게다가 회사 전체 직원 95%가 ChatGPT를 주 1회 이상 쓰고 엔지니어 94%가 코딩에 AI를 활용할 정도로 조직 자체가 AI를 내재화했어요. 즉 운영 기초가 탄탄했던 거예요. 이건 Optimizely가 말한 '에이전트를 연결하기 전에 콘텐츠 모델과 운영 체계부터 정비하라'는 처방과 정확히 맞아떨어집니다.

기술 연구 흐름도 같은 방향을 가리켜요. Arbor 연구는 자율 에이전트가 큰 상태공간에서 길을 잃지 않도록 트리 서치를 인지 계층으로 도입하고, Orchestrator 에이전트가 최적화를 주도하면 Critic 에이전트가 안정성을 감시하는 견제와 균형 구조를 만들었어요. 그 결과 벤더 최적화 대비 193%의 처리량-지연시간 개선을 달성했는데, 단일 에이전트는 33% 개선에 그친 뒤 몇 시간 내에 실패했다고 해요. 흥미로운 건 여기서도 핵심이 '더 똑똑한 단일 AI'가 아니라 '구조와 거버넌스'였다는 점이에요. 감시·견제·역할 분담이 있어야 에이전트가 오래 안정적으로 작동한다는 거죠.

결국 소비자 현장(Invoca), 운영 진단(Optimizely), 성공 사례(Preply), 기술 연구(Arbor) 네 갈래가 모두 같은 결론으로 수렴해요. agentic AI의 성패는 모델 성능이 아니라 그것을 둘러싼 구조·거버넌스·책임 체계에 달려 있다는 거예요.

실무에 주는 함의

첫째, AI 도입 점검표를 '모델 선정'에서 '운영 기초'로 옮겨야 해요. 콘텐츠 모델의 필드명이 모호하지 않은지, 분류 체계가 일관적인지, 에이전트가 막혔을 때 사람에게 넘기는 에스컬레이션 경로가 있는지부터 따져야 합니다. 모호한 '프로모 블록 2' 같은 자산이 곧 사고의 씨앗이에요.

둘째, 책임 소재를 미리 설계하세요. 소비자는 AI가 틀리면 브랜드를 탓한다는 게 Invoca의 경고였어요. 그렇다면 어떤 결정을 AI가 자동 처리하고 어떤 결정은 사람이 승인하는지, 실패 시 누가 책임지는지를 명문화해야 합니다. Arbor의 Critic 에이전트처럼 '감시하는 역할'을 워크플로우 안에 명시적으로 넣는 발상이 필요해요.

셋째, 승리하는 브랜드의 형태는 하이브리드예요. AI의 속도·효율을 인간의 판단·공감과 결합한 경험이 이긴다는 게 공통된 메시지인데요, Preply가 AI 피드백과 인간 튜터를 함께 쓴 것이 좋은 본보기예요. 전면 자동화가 아니라 사람이 개입하는 지점을 의도적으로 남기는 설계가 핵심입니다.

넷째, 조직 내재화 없이 외부 경험만 좋아질 수 없어요. Preply처럼 직원 다수가 AI를 일상적으로 쓰는 조직만이 고객 대면 AI도 제대로 운영할 수 있어요. 도구 도입과 함께 사내 활용 문화를 병행해야 합니다.

리스크와 한계

물론 주의할 점도 있어요. Invoca와 Preply의 수치는 각각 자사 조사와 자사 사례라는 점에서 긍정 편향이 있을 수 있어요. Arbor의 193% 개선도 특정 LLM 추론 최적화 벤치마크 환경의 결과라 모든 도메인에 일반화하긴 어렵습니다.

또한 운영 기초를 정비하는 일은 멋있지 않고 시간이 오래 걸려요. 분류 체계 재정비, 거버넌스 수립, 책임 체계 합의는 즉각적인 성과가 안 보이기 때문에 조직 내에서 우선순위가 밀리기 쉬운데요, 바로 그 지점이 대부분의 agentic 프로젝트가 무너지는 함정이에요. AI를 빨리 붙이고 싶은 유혹과, 기초를 먼저 다져야 한다는 현실 사이의 긴장을 어떻게 관리하느냐가 진짜 승부처예요. 화려한 모델 경쟁에 휩쓸리기보다, 지금 우리 조직의 콘텐츠와 데이터 운영이 에이전트에게 명확한 지시를 줄 수 있는 상태인지부터 냉정하게 점검해보길 권해요.