AI 에이전트 툴 비교 기준, Lakehouse 연합과 로컬 실행 모델 선택법

무슨 일이 일어나고 있나

Google Agentic Data Cloud 업데이트. Sirish Chandrasekaran(VP, Product Strategy & Growth, Data Cloud)과 Raj Pai(VP, Product Management, Databases)는 기업 데이터가 멀티클라우드, 온프레미스, 그리고 Confluent, SAP, Salesforce, Workday 같은 SaaS에 흩어져 있다고 진단했습니다. 이들이 내놓은 borderless Lakehouse는 데이터를 옮기거나, 커넥터를 이어 붙이거나, 예상 못 한 변동 egress 요금을 내는 대신 에이전트에게 거버넌스된 단일 기반을 주겠다는 구상이에요. 구체적으로 발표된 내용은 다음과 같습니다.

• Gemini가 borderless Lakehouse 위에서 직접 동작해 비즈니스 사용자가 여러 클라우드에 걸친 기록을 자연어로 조회
• AWS와 Azure용 cross-cloud interconnect와 캐싱 GA(일반 제공), 원격 클라우드 데이터를 조회하면 가져온 데이터 블록을 Google Cloud 안에 자동 캐싱
• Databricks Unity, Snowflake Horizon, AWS Glue와의 오픈 Iceberg 카탈로그 연합, SAP, Workday, Salesforce와의 zero-copy 연동
• Knowledge Catalog와 직접 통합해 분산 데이터와 비정형 데이터를 자동 인덱싱(원자료 발췌가 이 대목에서 잘려 세부 기능은 확인되지 않음)

Google은 관리 대상 Apache Iceberg 데이터가 지난 1년 사이 3배 넘게 늘었다고 밝혔습니다. 다만 이 수치가 Google Cloud 안의 데이터만 센 것인지, 측정 기준이 무엇인지는 공개되지 않았어요.

NVIDIA Nemotron 3.5 Transcribe. 하나의 체크포인트로 전사, 화자 구분(diarization), 번역, 오디오 질의응답을 처리하는 오픈웨이트 모델이고 Hugging Face와 ModelScope에 공개됐습니다. 40개 언어를 전사하고, 그중 31개 언어는 영어와 상호 번역하며, 화자 구분은 13개 언어에서 지원해요. 최대 1시간 녹음, 최대 8명 화자까지 다룹니다. 같은 녹음 파일도 "각 화자를 표시해 전사해 줘", "영어로 번역해 줘", "이 회의에서 어떤 결정이 났나"처럼 지시문에 따라 다른 결과물로 바뀌는 구조예요. NVIDIA는 Hugging Face Open ASR Leaderboard 영어 부문에서 오픈웨이트 모델 중 1위, David AI의 21개 언어 화자 구분 리더보드에서 최저 오류율, VoiceArena의 14개 시스템 비교에서 1위라고 밝혔습니다. 양자화 버전으로 RTX Spark, DGX Spark, Jetson AGX Thor에서 로컬 실행하거나 Blackwell 데이터센터 GPU로 확장할 수 있고, 개발자가 오디오 처리 위치를 고를 수 있다고 명시했어요. 함께 공개한 Granary v2 다국어 데이터와 큐레이션 파이프라인, NeMo Speech 파인튜닝 도구로 도메인 어휘와 억양에 맞춰 모델을 조정할 수 있다고 합니다.

미국 중간선거의 데이터센터 반대 투표. 404 Media 집계로 13개 주 40건 넘는 선거에서 데이터센터 관련 안건이 투표에 올랐고, 38건에서 반대가 이겼습니다(집계 진행 중). 6개 도시는 데이터센터를 전면 금지했고, 12곳은 시설이 끌어 쓸 수 있는 메가와트에 상한을 뒀어요. 텍사스에서는 데이터센터 유치를 밀던 Abbott 주지사가 4선 도전에서 70만 표 넘는 차이로 졌습니다. 켄터키주 Burgin에서는 하이퍼스케일 프로젝트 승인에 찬성표를 던진 시장 후보 George Hensley가 투표용지에 이름이 오른 유일한 후보였는데도 반대 운동을 벌인 기명(write-in) 후보에게 졌고, 오클라호마주 Yukon에서는 하이퍼스케일 데이터센터를 지지한 시장이 소환 투표에서 물러났어요. 캔자스주 Emporia는 고영향 데이터센터 금지안을 통과시켰습니다.

왜 중요한가

세 사건은 에이전트 스택의 세 층을 각각 건드립니다. 데이터 층(어디서 읽나), 연산 층(어디서 돌리나), 물리 층(누가 전력과 부지를 허락하나)이에요.

데이터 층: 복사에서 연결로. 에이전트가 정확하게 답하려면 CRM, 광고 플랫폼, 웨어하우스에 흩어진 데이터를 같은 정의로 읽어야 합니다. 복사 기반 방식에서는 원본과 복사본 사이에 시차가 생기고, 그 시차만큼 에이전트는 낡은 숫자를 근거로 추론해요. 마테크노트의 Salesforce 리드 라우팅 사례가 이 메커니즘을 보여줍니다. 기존 방식에서는 새 규칙이 시행된 뒤에도 최대 6주 동안 리드가 낡은 규칙을 따랐고, 데이터를 통합 프로필로 먼저 합친 뒤 배정이 20분에서 20초로 줄었다고 해요(다만 이 결과는 자체 모델과 라우팅 로직을 포함한 전체 구현의 결과입니다). Google이 Iceberg라는 오픈 형식 위에서 카탈로그를 연합하고, Salesforce Data 360과 Snowflake가 Zero Copy를 확장하고, Tableau가 Snowflake 시맨틱 뷰를 네이티브로 가져다 쓰는 흐름은 모두 '정의는 한 번, 데이터는 제자리'라는 같은 문법을 따르고 있습니다.

연산 층: 가까운 곳에서 작게. Nemotron 3.5 Transcribe는 반대 방향의 분산을 보여줘요. 오디오를 외부로 보내지 않고 처리할 수 있다는 점은 콜센터 녹취나 상담 기록처럼 민감한 데이터를 다루는 조직에 의미가 있습니다. 정확도 측면의 근거도 있어요. NVIDIA가 공개한 의료 사례에서 파인튜닝은 학습에 쓰지 않은 화자(held-out speakers) 기준 단어 오류율(WER)을 최적 프롬프트 대비 상대적으로 45.8% 낮췄다고 합니다. 프롬프트는 모델이 이미 아는 표기 중에서 고르게 할 뿐이고, 처음 듣는 의학 용어나 억양을 새로 익히게 하지는 못해요. 도메인 데이터로 가중치를 조정해야 그 한계를 넘는다는 것이 이 수치가 말하는 메커니즘입니다.

물리 층: 연산 공급이 투표 대상이 됐다. 텍사스에는 가동 중인 데이터센터가 300곳 넘게 있고 이를 두 배로 늘릴 계획이 있었는데, 그 계획을 상징하던 주지사가 낙선했습니다. 12곳이 메가와트 상한을 투표로 정했다는 사실은 데이터센터 용량이 가격과 수요만으로 정해지지 않고 지역 주민의 동의라는 변수에 묶이기 시작했다는 신호예요. 이것이 클라우드 단가나 리전 가용성에 언제, 얼마나 반영될지는 원자료로 알 수 없습니다. 다만 비교표에 '변수'로 올려둘 근거는 충분합니다.

이해관계, 역학

Google: 데이터는 남의 클라우드에, 접점은 내 쪽에. borderless Lakehouse의 핵심은 고객 데이터가 AWS와 Azure에 그대로 있어도 Gemini와 에이전트가 그 위에서 돈다는 점이에요. 원격 데이터를 조회하면 데이터 블록이 Google Cloud 안에 캐싱된다는 설명을 함께 읽으면 그림이 선명해집니다. 저장은 다른 클라우드에 남겨 두되, 자주 쓰는 데이터의 작업 사본과 추론 연산, 자연어 질의의 사용자 접점은 Google 쪽으로 모이는 구조예요. Google은 발표에서 'walled gardens를 허문다'고 표현했지만, 이는 경쟁 클라우드가 데이터 이동 비용으로 쌓아온 전환 장벽을 우회해 Google이 에이전트 실행 계층을 차지하려는 전략으로도 읽힙니다. 변동 egress 요금이 0이라는 메시지는 고객의 이전 비용 부담을 없애 주는 동시에 Google로 들어오는 문턱을 낮추는 장치이기도 합니다. 연결 자체의 고정 비용, 캐시 저장 비용, Gemini 질의 과금 구조는 원자료에 공개되지 않았어요. 여러 대형 고객사 이름을 앞세운 것은 '이미 운영 단계'라는 레퍼런스를 강조하려는 의도로 보이지만, 각 고객의 구체 성과 수치는 원문에 없습니다.

NVIDIA: 모델은 무료, 실행 장비는 유료. 모델은 오픈웨이트로 풀었지만 실행 대상으로 RTX Spark, DGX Spark, Jetson AGX Thor, Blackwell을 나란히 적었어요. 대형 데이터센터든 책상 위 장비든 어느 쪽으로 수요가 이동해도 NVIDIA 하드웨어가 받는 구조입니다. 데이터센터 증설이 지역 정치에 막히는 상황이라면 이 양다리 전략의 가치는 더 커집니다. Granary v2 데이터 파이프라인과 NeMo Speech 파인튜닝 도구까지 함께 공개한 것은 '프롬프트 수준의 제어를 학습 단계까지 확장한다'는 설명 그대로, 개발자가 조정 작업을 NVIDIA 도구 체인 안에서 하도록 만드는 장치예요. 리더보드 성적도 범위를 함께 읽어야 합니다. Open ASR Leaderboard 1위는 영어 부문, 오픈웨이트 모델 한정이에요.

데이터센터 찬반: 약속된 혜택과 체감 사이의 간극. 404 Media에 따르면 Abbott는 데이터센터 관련 기부자로부터 900만 달러(9 million) 넘게 받았습니다. 여론이 돌아서자 신규 프로젝트 '중단(pause)'을 발표했지만, 주 규제기관은 그 뒤에도 승인을 계속했고 404 Media가 보도한 뒤에야 인허가 웹 포털을 닫았다고 해요. 당선인 Gina Hinojosa는 Abbott의 데이터센터 입장을 선거운동의 중심에 뒀습니다. Local Progress의 deputy communications director Michael Whitesides는 주민들이 데이터센터와 그것이 돌리는 AI의 약속된 혜택을 일상에서 체감하지 못한다고 말했어요. 이 구도에서 손해를 보는 쪽은 지방정부와 유치 거래를 맺어온 하이퍼스케일 프로젝트이고, 이득을 보는 쪽은 기존 설비와 기존 데이터 위치를 그대로 활용하자는 메시지를 가진 사업자입니다. Google이 'low cost'와 '데이터를 옮기지 않는다'를 강조하는 흐름과 이 정치 지형이 맞물린다는 해석은 가능하지만, 두 사안 사이의 직접 인과는 원자료에 없습니다.

실무에 주는 함의

AI 에이전트 툴 비교표에 기능, 모델 성능 열 옆에 인프라 열(데이터 위치, 실행 위치, 비용 구조, 이탈 비용)을 추가하는 것부터 시작할 수 있어요. 항목별로 확인할 절차는 다음과 같습니다.

• 데이터 위치 지도: 에이전트가 읽어야 할 고객, 캠페인, 매출 데이터가 어느 클라우드와 SaaS에 있는지 표로 정리해 보세요. 그중 SAP, Workday, Salesforce처럼 Google이 zero-copy 연동을 밝힌 시스템이 있다면, 현재 복사 기반 ETL의 지연 시간(원본 변경이 에이전트에 반영되기까지 걸리는 시간)을 먼저 재 두면 연결 방식과 비교할 기준이 생깁니다.
• egress 비용 실측: 현재 클라우드 간 데이터 이동에 매달 얼마가 나가는지 청구서에서 확인하세요. 그 금액이 의미 있는 수준이라면 cross-cloud interconnect의 고정 연결 비용, 캐시 저장 비용, 리전 제약을 벤더에 문의해 총비용으로 비교하는 편이 안전합니다. 원문은 변동 egress 요금이 없다고만 했어요.
• 카탈로그 연합의 범위: 이미 Databricks Unity, Snowflake Horizon, AWS Glue로 거버넌스를 운영 중이라면, 연합이 메타데이터 공유에 그치는지 권한과 마스킹 정책 집행까지 포함하는지를 제품 문서로 확인한 뒤 파일럿에서 실제 접근 권한이 유지되는지 검증하세요.
• 시맨틱 정의 일원화: 에이전트가 '전환', '활성 고객' 같은 지표를 도구마다 다르게 읽으면 자신 있게 틀린 답을 냅니다. 마테크노트의 Tableau 시맨틱 뷰 사례처럼 지표 정의를 한 곳에 두고 재사용하는 구조가 현재 스택에서 가능한지 제공 여부를 확인해 보세요.
• 음성 데이터 처리 위치: 콜센터 녹취, 상담 기록, 고객 인터뷰를 분석할 계획이라면 클라우드 API와 로컬 실행 모델을 나눠 검토할 수 있어요. Nemotron 3.5 Transcribe는 전사 40개, 번역 31개, 화자 구분 13개로 언어별 지원 범위가 다르므로, 한국어가 필요한 기능 목록에 각각 들어 있는지 모델 문서에서 먼저 확인하세요. 원자료에는 언어 목록이 나와 있지 않습니다.
• 파인튜닝 판단 기준: 업계 용어, 상품명, 브랜드명 오인식이 반복된다면 프롬프트 조정만으로 개선되는지 먼저 시험하고, 한계가 보일 때 라벨링 데이터 확보 비용과 함께 파인튜닝을 검토하는 순서가 합리적입니다.
• 리전 의존도: 주요 워크로드가 특정 미국 리전에 몰려 있다면, 계약상 다른 리전이나 다른 클라우드로 옮길 수 있는 대체 경로가 있는지 확인해 두세요.

리스크, 반대 관점

'옮기지 않는다'가 '싸다'는 뜻은 아닙니다. 원격 데이터를 조회할 때 블록이 Google Cloud 안에 캐싱되는 구조라면, 조회가 잦은 대시보드나 반복 실행되는 에이전트 작업에서는 결국 사본이 Google 쪽에 쌓여요. egress 요금이 사라져도 캐시 저장과 연산 비용이 다른 곳에서 늘 수 있고, 캐시와 원본 사이의 신선도 관리라는 새 문제가 생깁니다. 캐시 갱신 정책과 과금은 원자료에 공개되지 않았어요.

정확도 수치는 조건을 탑니다. WER 45.8% 개선은 의료 도메인 단일 사례이고 비교 대상은 '최적 프롬프트'입니다. 마케팅 상담 녹취나 한국어 환경에서 같은 폭의 개선이 나온다는 근거는 없어요. 리더보드 1위도 영어, 오픈웨이트 모델 한정입니다. 마테크노트의 Snowflake Cortex Training 역시 경쟁 서버리스 서비스보다 비용이 최대 61% 낮다는 수치를 Snowflake 자체 벤치마크로 제시했기 때문에, 벤더 수치는 같은 조건에서 직접 재현해 본 뒤 비교표에 넣는 편이 안전합니다.

정치 리스크를 과대 해석하는 함정. 404 Media 집계는 투표에 오른 40여 건에 한정되고 개표가 진행 중인 시점의 숫자예요. 미국 지역 선거 결과가 국내 기업의 클라우드 단가나 용량에 언제, 어떻게 반영될지는 원자료로 판단할 수 없습니다. 증설이 막히면 공급이 줄어 단가가 오를 수도 있고, 기존 설비 가동률을 높이려는 경쟁이 붙을 수도 있어 방향 자체가 정해져 있지 않아요.

데이터를 안 옮겨도 잠금은 생깁니다. 카탈로그 연합과 zero-copy는 데이터 이전 장벽을 낮추지만, 에이전트 실행 로직, 시맨틱 정의, 프롬프트 자산, 캐시가 한 벤더에 쌓이면 다른 형태의 잠금이 생겨요. 오픈 형식인 Iceberg를 쓴다는 사실이 곧 이탈이 쉽다는 보장은 아니므로, 툴 비교표에 '에이전트와 시맨틱 자산을 다른 플랫폼으로 옮길 때 드는 비용' 항목을 따로 두는 것이 좋습니다.

자주 묻는 질문

AI 에이전트란 무엇인가요

AI 에이전트는 질문에 답하는 데서 그치지 않고 데이터를 읽고 판단해 업무 흐름을 실행하는 AI 시스템이에요. Google은 이번 발표에서 에이전트가 여러 클라우드에 있는 기록을 근거로 추론하고 비즈니스 워크플로를 움직인다고 설명했습니다. 그래서 에이전트의 정확도는 모델 성능만큼 어떤 데이터에, 어떤 정의로 연결되느냐에 좌우됩니다.

BigQuery 란 무엇이고 이번 발표와 어떤 관계인가요

이번 원자료는 Agentic Data Cloud 발표를 Google Cloud 데이터분석(BigQuery) 분야 소식으로 다루고 있어요. 발표의 중심은 Apache Iceberg 형식으로 AWS, Azure, SaaS 데이터를 옮기지 않고 조회하게 하는 borderless Lakehouse와, 그 위에서 자연어 질의를 처리하는 Gemini입니다. BigQuery의 구체적인 기능 변화는 원자료 발췌에 따로 나와 있지 않으므로 Google Cloud 제품 문서로 확인하는 편이 정확합니다.

AI 에이전트 툴 비교할 때 무엇을 봐야 하나요

기능과 모델 성능 외에 데이터 위치, 연산 위치, 비용 구조, 이탈 비용을 함께 봐야 합니다. 데이터 이동 시 egress 요금이 붙는지, 기존 카탈로그(Databricks Unity, Snowflake Horizon, AWS Glue)와 정책 집행까지 연합되는지, 민감 데이터를 로컬에서 처리할 수 있는지를 확인해 보세요. 벤더가 제시한 리더보드 순위나 비용 절감률은 대상 언어, 비교 기준, 측정 주체를 확인한 뒤 비교하는 편이 안전해요.

AI 에이전트 트렌드에서 데이터센터 반대 투표가 왜 중요한가요

에이전트 확산은 결국 데이터센터 용량과 전력에 기대기 때문이에요. 404 Media 집계로 미국 13개 주 40건 넘는 투표 중 38건에서 데이터센터 반대가 이겼고(집계 진행 중), 6개 도시는 전면 금지를, 12곳은 메가와트 상한을 정했습니다. 연산 공급이 지역 주민의 동의에 묶이기 시작했다는 점에서, 데이터 이동을 줄이는 구조와 로컬 실행 모델을 비교표에 함께 올려둘 이유가 생겼어요.