AI 예산 배분 전략, 인프라 회수 압박과 벤더 종속 점검법

무슨 일이 일어나고 있나

와튼스쿨의 제시카 와처 교수는 하이퍼스케일러가 2027년까지 지출할 금액을 약 1.1조 달러로 추정했습니다. 올해만 약 7500억 달러를 데이터센터에 쓰고, 일부 전망은 Alphabet, Microsoft, Amazon, Meta, Oracle을 합친 향후 4년간 총 AI 자본투자가 5조 달러를 넘을 수 있다고 봅니다. 그런데 게리 겐슬러가 지적한 올해 AI 총매출은 1500억-2000억 달러예요. 와처 교수의 계산으로는 자본비용과 15% 수익률, 자산 감가상각을 감안해 2030년까지 손익분기를 맞추려면 AI 기업들이 자체 생산성을 2.7배 끌어올려야 합니다. 컬럼비아 경영대학원의 스타인 반 니우엔부르흐 교수는 2032년까지 필요한 연간 매출을 약 3.7조 달러로 봤어요.

같은 시기 마케팅 쪽에서는 예산이 늘고 있습니다. IAB는 올해 미국 광고비 성장률 전망치를 9.5%에서 12.3%로 올렸고, 그 근거 일부를 마케터들이 AI 검색 성과를 개선하려 미디어 지출을 늘리는 흐름으로 설명했어요. Dept가 소비자 2,600명을 조사한 결과 미국 소비자 61%가 최근 3개월 내 쇼핑 리서치나 결정에 AI 어시스턴트를 썼습니다. 브랜드들은 AI 답변에 아예 언급조차 안 될 위험을 상단 퍼널 예산 증액 명분으로 씁니다. IAB 설문에서 바이어 44%가 검색 습관 변화 대응을 최대 투자 과제로 꼽았고요.

반대편에는 정비되지 않은 내부가 있습니다. Gartner의 2026 CMO Spend Survey에서 CMO들은 마케팅 예산의 평균 15.3%를 AI에 투자하는데, 성숙한 AI 준비 역량을 갖췄다는 응답은 30%였고 70%는 내부 프로세스가 AI를 확장할 만큼 성숙하지 않다고 답했어요. McKinsey 조사에서는 25개 조직 속성 중 워크플로우 재설계가 생성형 AI의 EBIT 영향과 가장 강하게 연결됐지만, 실제로 근본적으로 재설계했다는 조직은 21%였습니다.

그 결과가 어떻게 나타나는지는 에이전트 지표에서 보입니다. AppWorld test_normal 벤치마크에서 GPT-4.1 기반 ReAct 에이전트의 Mean@5는 77.4%였지만 같은 작업을 5번 반복해 모두 성공한 Pass^5는 53.0%에 그쳤어요. 24.4포인트 차이인데, 어려운 작업에서는 30포인트까지 벌어집니다.

왜 중요한가

세 흐름이 하나의 예산 압력으로 모입니다. 다만 '압박이 있으니 가격이 오른다'로 건너뛰면 대응이 안 됩니다. 중간 단계를 보는 게 중요해요.

첫째, 위쪽 가격 압력의 전달 경로입니다. 와처 교수는 하이퍼스케일러가 수익 목표를 못 맞추면 이자 지급이 밀리고 파산 위험이 생긴다고 했습니다. 여기서 핵심은 '이자'라는 단어예요. 자기자본으로 태우는 지출은 주주 인내심의 문제라 몇 분기 버틸 수 있지만, 부채로 조달한 지출은 상환 일정이 고정돼 있어 매출을 특정 시점까지 만들어내야 합니다. 감가상각도 같은 방향으로 작동해요. 데이터센터 자산은 회계상 매 분기 비용으로 찍히니, 매출이 안 따라오면 영업이익률이 먼저 무너집니다. 이 두 압박을 가장 빠르게 완화할 수 있는 레버가 가격입니다. 신규 모델 출시와 함께 구 모델의 무료 티어를 줄이거나, 저가 티어의 컨텍스트 한도를 낮추는 식으로 오는 게 실무자 예산안에는 '작년과 같은 작업인데 청구액이 늘었다'로 나타납니다. 이 변화는 계약 갱신 시점이 아니라 제품 업데이트 공지로 도착하므로, 갱신 협상만 준비해두면 늦습니다.

둘째, 아래쪽 성과 압력의 자기참조 구조입니다. IAB가 성장률을 9.5%에서 12.3%로 올린 근거 상당 부분이 AI 검색 대응 서사에 기대고 있어요. 그런데 이 서사를 뒷받침하는 측정 지표인 share of model이나 감성 분석은 아직 표준화되지 않았고 인과도 검증되지 않았습니다. 즉 증액의 근거가 된 지표로는 증액의 성과를 검증할 수 없습니다. Digiday가 인용한 Google과 Tracksuit의 6월 연구는 브랜드 인지도가 높은 광고주가 검색 점유율도 높다는 상관을 보여줬을 뿐이고, 상관을 인과로 읽으면 다음 해 예산 방어 자리에서 근거가 무너져요.

셋째, 가운데가 비어 있는 구조적 이유입니다. martech 스택이 그동안 돌아간 건 어떤 자산이 승인됐고 어떤 표현이 되는지를 경험으로 아는 사람들 덕분이었습니다. AI가 판단과 실행을 맡으면 그 암묵지가 메타데이터와 권한, 승인 로직으로 시스템에 명시되어야 해요. 문제는 이 명시화가 왜 안 되는지입니다. 어떤 표현은 되고 어떤 표현은 안 되는지를 문서화하려면 마케터 개개인의 판단 기준을 몇 달간 인터뷰하고 엣지케이스를 걸러내야 하는데, 이 작업은 산출물이 새 화면도 새 캠페인도 아니어서 예산 승인 단계에서 가장 먼저 잘립니다. 그래서 15.3%를 써서 들인 도구가 Pass^5 53% 수준의 신뢰도로 돌아가는데, 리더보드와 벤더 자료에 찍히는 숫자는 77.4%예요. 평균이 문제를 가리니 발견까지 시간이 걸립니다.

이해관계, 역학

각 발표를 액면 그대로 받기 전에 누가 무엇을 얻고, 그 발표가 왜 지금 나왔는지를 보는 게 낫습니다.

하이퍼스케일러 쪽에서 지출 규모 발표는 비용 고백이 아니라 경쟁 신호입니다. 연 7500억 달러, 4년 누적 5조 달러라는 숫자를 투자자에게 먼저 내미는 건 '우리는 이 경쟁에서 자본으로 밀리지 않는다'는 메시지이고, 경쟁사가 따라오지 못할 규모를 선언해 진입 의욕을 꺾는 효과도 있어요. 더 눈여겨볼 대목은 자금 조달 방식의 전환입니다. 자기자본으로 태우던 돈이 부채로 넘어가면서 연기금과 생명보험 자금이 들어오기 시작했는데, 이건 두 가지를 동시에 뜻합니다. 하나는 회수 압박의 경직성이 커진다는 것이고, 다른 하나는 이 리스크가 빅테크 재무제표를 넘어 금융 시스템 전반으로 번진다는 것이에요. MIT의 대런 아세모글루 교수가 생산성 향상이 뒷받침되지 않으면 투자에 대한 대중의 신뢰가 무너질 수 있다고 경고한 것도 이 지점입니다. 신뢰가 흔들리면 조달 금리가 오르고, 오른 금리는 다시 가격 인상 압력으로 실무자에게 내려옵니다.

광고 쪽 이득 구조는 더 단순합니다. AI 검색 불안은 마케터에게 대단히 편리한 명분이에요. State Farm의 Alyson Griffin은 광고비가 수년간 사실상 정체됐다고 밝히면서, AI 검색발 행동 변화가 브랜드 캠페인을 더 중요하게 만들었고 예산을 줄이지 않는다고 말했습니다. 미디어 예산을 둘러싼 사내 논의에서 이 이슈가 실제 변수로 작용한다고도 했어요. 수년간 동결된 예산을 다시 올려야 하는 CMO 입장에서, 측정하기 어렵고 반박하기도 어려운 리스크만큼 좋은 논거는 없습니다. IAB는 미디어 산업 단체라서 성장률 상향 자체가 회원사에 유리한 서사이고, 에이전시인 Mediaplus의 Oliver Williams가 GEO 작업과 상단 퍼널 투자를 함께 권하는 것도 두 예산 라인을 모두 확보하는 제안입니다. 논리가 틀렸다는 뜻은 아니에요. LLM이 답변에 브랜드를 언급하려면 웹상 존재감이 필요하고, 그건 전통적 인지도 싸움과 맞닿아 있습니다. 하지만 이 구조의 비대칭이 문제예요. 증액 결정은 검증되지 않은 지표로 쉽게 나고, 감액 결정은 검증되지 않은 지표로는 정당화가 안 됩니다. 한 방향으로만 작동하는 논거입니다.

벤더 유인도 선명합니다. 도구 구입은 라이선스 매출로 즉시 인식되고, 운영 환경 정비는 벤더 매출이 아니라 고객사 인건비예요. 그래서 벤더 자료에는 도입 사례가 실리고 메타데이터 정비 공수는 안 실립니다. 사내에서도 마찬가지로 CMS 권한 체계와 승인 로그를 뜯어고치자는 제안은 예산 승인부터 막힙니다. 워크플로우 재설계 21%라는 숫자는 조직의 의지 부족이 아니라, 정비 작업이 어느 이해관계자에게도 눈에 보이는 성과로 귀속되지 않는다는 유인 구조의 결과로 읽는 게 맞아요.

Baseten 사례는 이 공백이 어떻게 사고로 이어지는지 보여줍니다. 자율 해킹 에이전트 Strix가 자격 증명도 소스 코드도 없이 공개 Harbor 컨테이너 레지스트리를 뒤져 25분 만에 GitHub 관리자 권한 토큰에 도달했어요. 2023년 3월 Docker 빌드 이력에 남은 GITHUB_TOKEN이 2026년 7월까지 유효했고, basetenbot 계정은 주력 제품과 GitOps, Homebrew tap 저장소에 관리자 및 푸시 권한을 갖고 있었습니다. 여기서 무서운 건 25분이라는 시간보다 발견 주체예요. 사람이 3년 전 빌드 로그를 뒤질 유인은 없지만, 에이전트에게는 비용이 거의 들지 않는 작업입니다. 탐색 비용이 떨어지면 '아무도 안 볼 것'이라는 암묵적 가정에 기대던 위생 공백이 전부 노출됩니다. Baseten은 신고 다음 날 오후까지 Harbor 프로젝트를 비공개로 전환하고 토큰을 교체했고, 검증팀은 읽기 전용 요청만 써서 고객 저장소를 복제하거나 코드를 변경하지 않았어요. 이번엔 화이트햇이 먼저 찾았다는 사실이 결과를 바꿨습니다.

실무에 주는 함의

예산안을 다시 열어서 아래를 점검해보세요.

1. 가격 변동 대응을 갱신 협상이 아니라 제품 공지 대응으로 설계. API 단가 인상, 무료 티어 축소, 모델 접근 제한은 계약 갱신일이 아니라 업데이트 공지로 도착합니다. 단가가 2배 오르면 현재 워크플로우의 월 비용이 얼마가 되는지 워크플로우별로 계산해두고, 그 시점에 끊을 작업과 유지할 작업을 지금 구분해두세요. 계약 협상 자리에서는 단가 인상 시 사전 고지 기간과 기존 티어 유지 조건을 문서로 남기는 게 우선입니다.
2. 벤더 종속 최소화를 산출물 단위로. 프롬프트, 평가셋, 중간 산출물을 특정 벤더 포맷에 묶지 말고 모델 교체가 가능한 구조로 둡니다. 평가셋이 벤더 콘솔 안에만 있으면 갈아탈 때 비교 근거가 사라져서 협상력이 아니라 인질이 돼요.
3. AI 예산을 도구 라인과 운영 환경 라인으로 분리. 15.3%를 도구에만 쓰지 말고 메타데이터 정비, 자산 승인 상태 태깅, 권한 체계, 승인 로그에 별도 라인을 만듭니다. 이 작업은 판단 기준 인터뷰와 엣지케이스 정리가 필요해서 사람과 시간이 듭니다. 예산 항목으로 잡지 않으면 진행되지 않아요.
4. 에이전트 도입 게이트를 Mean@k에서 Pass^k로 교체. 같은 작업을 5회 반복해 모두 성공한 비율을 봅니다. AppWorld 사례에서 77.4%가 53.0%로 떨어졌고, Consistency Analyzer로 뒤집히기 쉬운 결정 지점을 찾아 consistency guideline을 주입한 뒤 격차가 24.4포인트에서 12.0포인트로 줄었습니다. Pass^5는 53.0%에서 69.0%로, Mean@5도 77.4%에서 81.0%로 올랐어요. 더 약한 모델인 gpt-oss-120b에서도 같은 작업 기준 6.0포인트, 유사 작업 기준 8.7포인트 개선이 나왔고, 이는 가이드라인이 특정 트레이스를 암기한 게 아니라 재사용 가능한 실패 패턴을 잡았다는 신호입니다. 진단에 필요한 건 트레이스 한 건과 결정 지점별 k=5 재샘플링 호출이라 전체 재실행보다 비용이 낮아요.
5. 벤더 온보딩 체크리스트에 빌드 이력 점검 추가. 계약서와 접근권한 정책만 보지 말고 컨테이너 이미지, Docker 빌드 캐시, CI 로그를 점검 범위에 넣습니다. 자격 증명 파일을 지워도 빌드 이력에 사본이 남으면 노출은 해소되지 않아요. BuildKit 비밀정보 마운트 같은 대응 방식을 쓰는지 벤더에 확인하고, 토큰 유효기간과 권한 범위를 함께 물어보는 게 좋습니다. Baseten 토큰은 3년 넘게 유효했고 관리자 권한이었어요.
6. AI 검색 예산과 브랜드 예산의 측정 로그를 처음부터 분리. share of model, 감성 분석 같은 신규 지표를 기존 상단 퍼널 지표와 함께 도입할 때 로그를 섞지 않습니다. 증액은 서사로 통과되지만 감액은 숫자를 요구받으니, 나중에 분리해 설명할 수 없는 예산은 방어도 조정도 못 합니다.

리스크, 반대 관점

인프라 거품론이 과장일 가능성은 충분합니다. 와처 교수 본인이 2.7배 생산성 향상을 불가능하다고 말하지 않았어요. 1990년대 중반 미국 IT 붐 때 약 10년간 나타난 수준의 경제 성장이면 가능하고, 문제는 그 성장을 2030년까지 몇 년에 압축해야 한다는 점입니다. 실현되면 API 가격은 오르지 않고 오히려 내려갈 수 있습니다. 가격 인상만 전제해 도입을 늦추면 경쟁사에 뒤처지는 반대 손실이 생겨요. 여기서 실무적으로 유효한 자세는 '오를지 내릴지 맞히기'가 아니라 '어느 쪽이든 3개월 안에 갈아탈 수 있는 상태'를 유지하는 것입니다.

AI 검색 대응 예산도 마찬가지입니다. 61%가 AI 어시스턴트를 쇼핑 리서치에 썼다는 수치는 사용 여부이고, 그게 브랜드 선택으로 이어지는 전환 크기는 이 조사에서 확인되지 않았습니다. 실제 AI 검색발 전환 효과가 기대에 못 미치면 늘려놓은 상단 퍼널 예산을 되돌리기가 더 어려워집니다. 다음 해 예산 회의에서 성과 근거를 요구받을 때 대비가 없으면 곤란해져요. 반대로 AI 검색 리스크가 실재하는데도 측정 부재를 이유로 투자를 미루면, 경쟁사가 먼저 학습 데이터와 웹 존재감을 쌓아버린 뒤에 따라잡는 비용이 훨씬 큽니다. 어느 쪽도 안전하지 않다는 게 이 사안의 성질입니다.

Pass^k 방법론도 완전한 해법은 아닙니다. 결정 지점을 찾아 규칙을 만드는 과정 자체가 도메인마다 새로 반복해야 하는 수작업이고, 이 진단을 파이프라인화하는 문제는 남아 있어요. 모든 워크플로우에 Pass^5 검증을 요구하면 도입 속도가 크게 떨어지니, 금융 거래 대사나 계약서 검토처럼 실패가 치명적인 업무에 우선 적용하는 판단이 필요합니다. 가이드라인 주입으로 격차가 절반으로 줄었다는 건 격차가 사라진 게 아니라 12.0포인트가 남았다는 뜻이기도 하고요.

실무자가 놓치기 쉬운 함정 하나는 운영 환경 정비를 무기한 선행 조건으로 만드는 것입니다. 메타데이터를 다 정리하고 나서 AI를 도입하겠다고 하면 몇 년이 지나도 시작을 못 합니다. 정비 자체가 산출물이 안 보이는 작업이라 예산이 안 붙는다는 앞선 진단과 합치면, 범위를 좁힌 워크플로우 하나에서 정비와 도입을 함께 돌려 눈에 보이는 결과를 만들고 그 결과로 다음 정비 예산을 따내는 순서가 현실적이에요.

자주 묻는 질문

AI 예산 배분은 어떤 비율로 하는 게 맞나요

정답 비율은 공개되지 않았습니다. 참고할 수치는 Gartner의 2026 CMO Spend Survey에서 CMO들이 마케팅 예산의 평균 15.3%를 AI에 투자한다고 답한 것인데요, 같은 조사에서 성숙한 AI 준비 역량을 갖췄다는 응답은 30%였고 70%는 내부 프로세스가 AI를 확장할 만큼 성숙하지 않다고 했습니다. 비율 자체보다 도구 구입과 운영 환경 정비를 별도 예산 라인으로 나눠 잡는 쪽이 중요해요.

AI 도입 실패 원인은 주로 무엇인가요

소재들이 공통으로 가리키는 건 워크플로우 재설계 부재입니다. McKinsey 조사에서 25개 조직 속성 중 워크플로우 재설계가 생성형 AI의 EBIT 영향과 가장 강하게 연결됐지만, 근본적으로 재설계했다는 조직은 21%뿐이었어요. 어떤 자산이 승인됐고 왜 이 표현은 되는지를 시스템에 명시하지 않으면 도구만 늘어납니다. 그리고 그 명시화 작업이 뒤로 밀리는 이유는 의지가 아니라, 산출물이 눈에 보이지 않아 예산 승인 단계에서 잘리기 때문입니다.

AI 에이전트 신뢰성은 어떻게 검증하나요

Mean@k 대신 Pass^k를 봅니다. AppWorld test_normal에서 GPT-4.1 기반 ReAct 에이전트의 Mean@5는 77.4%였지만 5회 모두 성공한 Pass^5는 53.0%로, 24.4포인트 격차가 있었어요. 어려운 작업에서는 30포인트까지 벌어졌습니다. consistency guideline을 주입한 뒤 격차가 12.0포인트로 줄고 Pass^5가 69.0%로 올랐고, Mean@5도 81.0%로 함께 상승했습니다. 반복 실행 안정성이 생명인 업무라면 도입 전에 이 격차를 재보는 게 맞습니다.

API 가격이 오를 가능성에 어떻게 대비하나요

계약 단계에서 단가 인상 시 사전 고지 기간과 기존 티어 유지 조건을 문서로 남기고, 단가가 오를 경우 중단할 워크플로우와 유지할 워크플로우를 미리 구분해둡니다. 하이퍼스케일러는 올해 약 7500억 달러를 쓰고 2027년까지 누적 약 1.1조 달러에 도달하는데 올해 AI 총매출은 1500억-2000억 달러 수준이고, 자기자본이 아닌 부채 조달이 늘면서 상환 일정이 고정된 회수 압박이 커지고 있어요. 프롬프트와 평가셋을 벤더 중립 포맷으로 보관해 모델 교체 여지를 남기는 것도 대비입니다.

AI 검색 대응 예산을 브랜드 캠페인과 묶어도 되나요

논리는 성립합니다. LLM이 답변에 브랜드를 언급하려면 웹상 존재감이 필요해서 인지도 활동과 검색 성과의 상관은 Google과 Tracksuit의 6월 연구에서도 언급됐어요. 다만 share of model이나 감성 분석 같은 신규 지표가 표준화되지 않은 상태에서 두 예산을 묶으면 나중에 성과를 분리해 설명하기 어렵습니다. 증액은 서사로 통과되는데 감액은 숫자를 요구받는 비대칭이 있으니, 측정 로그는 처음부터 분리해두세요.