Datadog 데이터를 AI로 분석하려고 보면 크게 두 가지 접근이 보인다. Datadog 안에서 바로 사용하는 Bits AI가 있고, Codex·Claude Code·Cursor 같은 외부 AI에 Datadog 데이터를 연결하는 Datadog MCP Server가 있다.
둘 다 자연어로 Datadog 데이터를 다룰 수 있지만 구조는 꽤 다르다. Bits AI는 Datadog이 AI 기능과 조사 흐름까지 제품으로 제공하고, Datadog MCP Server는 외부 AI가 Datadog의 데이터와 기능을 사용할 수 있도록 연결한다.
비용이 발생하는 위치도 다르다. Bits AI는 AI Credits라는 명확한 과금 단위가 있지만, MCP는 외부 AI 모델 비용과 Datadog 사용량, 그리고 직접 agent를 운영하는 비용까지 같이 봐야 한다.
따라서 MCP를 Bits AI의 저가형 대안으로 보는 것보다는, 어떤 작업을 Datadog의 AI에 맡기고 어떤 작업을 외부 AI에 맡길 것인가의 문제로 보는 편이 맞다.
이번 글에서는 Bits AI와 Datadog MCP Server의 구조와 비용 차이를 살펴보고, FinOps 관점에서 두 방식을 어떻게 나눠 사용할 수 있을지 정리해봤다.
1. Bits AI와 MCP는 출발점부터 다르다
Bits AI는 Datadog이 직접 제공하는 AI 제품이다. Datadog 화면 안에서 telemetry를 묻고, 알림을 조사하고, 코드 수정안을 만들고, 운영 작업을 수행하는 agent를 구성할 수 있다.
반면 Datadog MCP Server는 AI 모델이 아니다. 외부 AI agent가 Datadog의 로그, 메트릭, 트레이스, 모니터, 대시보드 같은 데이터와 기능을 사용할 수 있게 해주는 연결 계층이다. 실제로 질문을 이해하고 답을 만드는 쪽은 Codex, Claude Code, Cursor에 연결된 모델 또는 조직이 만든 자체 agent다.
| 구분 | Bits AI | Datadog MCP Server |
|---|---|---|
| 정체 | Datadog이 제공하는 완성형 AI 기능 | 외부 AI와 Datadog을 연결하는 도구 인터페이스 |
| 주요 사용 위치 | Datadog UI와 연동 워크플로 | IDE, 터미널, AI 채팅, 자체 agent |
| AI 실행 주체 | Datadog Bits AI | 사용자가 선택한 외부 AI 또는 자체 agent |
| 대표 작업 | 자율 조사, 원인 분석, 코드 수정, 운영 자동화 | 데이터 조회, 요약, 교차 분석, 맞춤형 자동화 |
| 운영 책임 | 상대적으로 Datadog 쪽에 많이 있음 | 모델·프롬프트·도구 호출 설계를 사용자가 관리 |
2. Bits AI는 무엇을 대신해 주나
Bits AI는 단순한 챗봇 하나가 아니다. 공식 AI Credits 문서에서 과금 대상으로 분류한 주요 기능은 다음과 같다.
- Bits Chat: 자연어로 telemetry를 검색하고 분석하며 대시보드, 노트북, 모니터를 다룬다.
- Bits Investigation: 알림 주변의 telemetry를 자동으로 조사하고 원인 후보와 영향도를 정리한다.
- Bits Code: Datadog 컨텍스트를 이용해 코드 수정, 리뷰, 디버깅을 수행한다.
- Bits Agent Builder: Incident response나 정기 리포트 같은 운영 업무용 agent를 만든다.
여기서 Bits AI의 장점은 Datadog이 조사 흐름까지 제품으로 제공한다는 것이다. 특히 Bits Investigation은 사람이 “이 로그를 조회하고, 같은 시간대의 trace를 찾고, 최근 배포와 비교해줘”라고 매 단계를 지시하지 않아도 조사 계획을 세우고 여러 신호를 연결한다.
즉, Datadog 데이터를 꺼내 주는 것에서 끝나는 게 아니라 Datadog이 정의한 운영 작업을 끝까지 수행하는 것에 가깝다.
3. MCP는 무엇이 다른가
Datadog MCP Server는 외부 AI agent에 Datadog 도구를 제공한다. 공식 문서 기준으로 로그 검색, 메트릭 조회, trace 확인, monitor 상태 조회, dashboard 조회, incident 확인, 서비스 의존성 분석 등 다양한 toolset을 사용할 수 있다.
예를 들어 Codex에 Datadog MCP를 연결하면 이런 요청을 할 수 있다.
- 지난 7일간 호출되지 않은 서비스와 관련 모니터를 찾아줘.
- 이번 주 로그 수집량 증가가 큰 서비스부터 정리해줘.
- checkout 서비스의 오류 증가 시점과 최근 배포를 비교해줘.
- Cloud Cost recommendation 중 비용 절감 효과가 큰 항목을 요약해줘.
이 방식의 장점은 Datadog 데이터만 보지 않아도 된다는 것이다. 코드 저장소, 클라우드 설정, 티켓, 사내 문서 등 다른 컨텍스트를 같은 agent에 연결할 수 있다. 조직에 이미 AI 개발 도구가 보급돼 있다면 Datadog을 별도 화면이 아니라 기존 작업 흐름 안으로 가져올 수도 있다.
대신 결과 품질은 외부 모델과 프롬프트, 허용한 toolset, agent가 세운 조사 절차에 영향을 받는다. Bits Investigation처럼 Datadog이 완성해 둔 조사 제품을 바로 쓰는 것과는 다르다.
4. 비용은 어디에서 발생하나
Bits AI 비용
Bits AI의 과금 단위는 AI Credits다. 공식 문서에는 Annual Commit, Monthly Commit, On-Demand 세 가지 방식이 안내돼 있다. Commit은 월 500 credits 단위이며, 사용하지 않은 Commit credits는 다음 달로 이월되지 않는다. Commit을 넘긴 사용량은 On-Demand 요율로 자동 청구된다.
공식 공개 가격표 기준으로 500 credits는 Annual 월 $500, Monthly 월 $600이며, On-Demand는 credit당 $1.30이다. 실제 계약 가격과 할인은 조직별로 다를 수 있다.
MCP 비용
여기서 표현을 조심해야 한다. Datadog의 최신 AI Credits 문서가 AI Credit 소비 제품으로 명시한 것은 Bits Chat, Bits Investigation, Bits Code, Bits Agent Builder다. Datadog MCP Server는 이 목록에 포함돼 있지 않다.
따라서 MCP tool call을 Bits Investigation의 credit 단가와 동일하게 계산하면 안 된다. 그렇다고 MCP를 “무료”라고 단정하는 것도 위험하다. 공식 MCP 문서에는 별도의 공개 단가가 제시돼 있지 않고, 실제 전체 비용에는 다음 항목이 들어간다.
- Codex, Claude, Cursor 또는 자체 LLM의 구독료와 token 비용
- 로그, 메트릭, trace 등 기존 Datadog 제품의 저장·조회 관련 비용
- agent 개발, 프롬프트 관리, 권한 설정, 품질 검증에 드는 운영 비용
- 자동 실행이 많을 때 발생하는 모델 호출량과 불필요한 데이터 조회 비용
5. 작업 유형에 따라 비용 구조가 달라진다
반복적인 조회와 정형화된 리포트는 MCP로 구성하기 비교적 명확한 영역이다. 이미 조직이 Codex나 Claude 같은 AI 도구를 계약하고 있다면 기존 모델 환경을 활용해 Datadog 데이터를 분석할 수 있기 때문이다.
예를 들어 매주 서비스별 로그 증가율을 확인하고, 미사용 리소스 후보를 뽑고, 결과를 정해진 형식으로 요약하는 일은 조사 절차가 비교적 명확하다. 이런 작업까지 매번 Bits Investigation에 맡기면 필요한 자율성보다 높은 비용을 지불할 수 있다.
반대로 장애가 발생했을 때 여러 신호를 탐색하고 가설을 세우며 원인을 좁혀야 하는 작업은 정형화하기 어렵다. 이때는 Datadog이 조사 흐름을 제품으로 만든 Bits Investigation이 운영 개발비와 대응 시간을 줄일 수 있다.
| 상황 | 우선 검토할 선택 | 이유 |
|---|---|---|
| 자연어로 간단히 Datadog 조회 | Bits Chat 또는 MCP | 기존 AI 도구 보유 여부와 사용자 동선으로 결정 |
| 주간 비용 리포트, 사용량 요약 | MCP | 절차가 반복적이고 출력 형식을 고정하기 쉬움 |
| Datadog과 코드·문서·티켓 교차 분석 | MCP | 외부 시스템의 컨텍스트를 함께 쓰기 쉬움 |
| 알림 발생 후 자율 원인 조사 | Bits Investigation | Datadog이 조사 흐름을 제품으로 제공 |
| 원인 분석에서 코드 수정까지 연결 | Bits Investigation + Bits Code | Datadog 내부 handoff와 수정 워크플로 활용 |
| 조직 전용 운영 agent 구축 | MCP 또는 Agent Builder | 개발 역량, 연결 대상, AI Credit 예산에 따라 결정 |
6. MCP를 선택할 때 빠뜨리기 쉬운 비용
MCP는 직접 설계할 수 있다는 게 장점이지만, FinOps에서는 그 자유도도 비용으로 봐야 한다.
첫째, agent가 원본 로그를 너무 많이 가져오면 모델의 context window와 token 비용이 빠르게 커질 수 있다. 필요한 toolset만 활성화하고, 조회 시간 범위와 결과 수를 제한하는 게 좋다. Datadog도 toolset을 필요한 범위로 좁히면 context 사용량을 줄일 수 있다고 안내한다.
둘째, 같은 질문이라도 agent가 도구를 몇 번 호출하느냐에 따라 비용과 응답 시간이 달라진다. “최근 장애를 분석해줘”처럼 범위가 넓은 요청보다 서비스, 환경, 시간 범위를 명확하게 주는 요청이 운영하기 쉽다.
셋째, 유지보수 비용이 있다. 도구 목록이나 모델 동작이 바뀔 때 prompt와 자동화를 다시 검증해야 한다. Bits AI는 이 부분을 Datadog 제품 안에서 관리하지만, MCP 기반 자체 agent는 조직이 책임져야 한다.
7. MCP 사용량도 관측할 수 있다
Datadog MCP Server는 인증한 사용자의 기존 Datadog 권한을 그대로 적용한다. MCP가 사용자의 Datadog UI 권한을 넘어 데이터를 가져올 수는 없다. 읽기에는 mcp_read, 쓰기에는 mcp_write가 필요하고, monitor나 log 같은 대상 리소스의 기존 권한도 함께 있어야 한다.
MCP 사용량도 관측할 수 있다
MCP 자체에 AI Credits가 붙지 않는다고 해서 사용량을 관측하지 않아도 되는 것은 아니다.
Datadog은 datadog.mcp.tool.usage metric을 제공하며, 이를 통해 사용자, MCP client, tool별 호출량을 확인할 수 있다.
외부 모델의 token 사용량과 이 metric을 같이 본다면 “어떤 Datadog tool을 얼마나 호출하면서 모델 비용이 발생했는가”를 추적하는 데 활용할 수 있다.
7. 보안과 권한은 어느 쪽이 유리한가
Datadog MCP Server는 인증한 사용자의 기존 Datadog 권한을 그대로 적용한다. MCP가 사용자의 Datadog UI 권한을 넘어 데이터를 가져올 수는 없다. 읽기에는 mcp_read, 쓰기에는 mcp_write가 필요하고, monitor나 log 같은 대상 리소스의 기존 권한도 함께 있어야 한다.
그래도 MCP에는 한 단계가 더 있다. Datadog에서 가져온 데이터가 연결된 AI client와 그 모델 제공자에게 전달될 수 있기 때문이다. Datadog 공식 문서도 연결할 AI 도구가 조직의 compliance 요구사항을 충족하는지는 사용자가 확인해야 한다고 명시한다.
실무에서는 처음부터 모든 tool을 열기보다 다음처럼 시작하는 편이 안전하다.
- 초기에는
mcp_read중심으로 구성한다. - 필요한 제품의 toolset만 활성화한다.
- RBAC, Data Access Control, log restriction query를 함께 적용한다.
- 자동화용 계정은 최소 권한의 service account와 scoped credential을 사용한다.
- 쓰기 권한은 승인 절차가 있는 작업에만 별도로 연다.
8. 현실적인 운영안: MCP 우선, Bits AI 선택 사용
FinOps 관점에서 가장 현실적인 방법은 둘 중 하나만 고르는 게 아니다. 작업을 자율성 수준으로 나누면 된다.
- 조회와 정리: MCP로 처리한다.
- 정해진 규칙의 반복 분석: MCP 기반 자동화로 처리한다.
- 가설 수립이 필요한 장애 조사: Bits Investigation을 사용한다.
- Datadog 안에서 코드 수정까지 연결: Bits Code를 검토한다.
- 사용량이 안정된 뒤: 실제 AI Credit 소비량을 기준으로 Commit을 산정한다.
즉, 먼저 MCP로 대체 가능한 반복 작업을 분리하고, 사람이 설계하기 어려운 자율 조사에 AI Credits를 쓴다. 그다음 Bits AI 사용량이 일정해졌을 때 Annual 또는 Monthly Commit을 검토하는 순서가 비용을 통제하기 쉽다.
9. 결론
Bits AI는 Datadog이 만든 완성형 AI 운영 기능이고, MCP는 우리가 선택한 AI가 Datadog을 다룰 수 있게 해주는 연결 계층이다. Bits AI는 빠르게 도입할 수 있고 자율 조사 수준이 높지만 AI Credits 사용량을 관리해야 한다. MCP는 기존 AI 도구를 활용하고 여러 시스템을 연결하기 좋지만 모델 비용, 권한, prompt, 운영 품질을 직접 관리해야 한다.
그래서 “MCP가 더 싸다”보다는 비용이 발생하는 위치가 다르다고 이해하는 게 맞다. 반복적인 조회와 정리에는 MCP, 복잡한 장애의 자율 조사에는 Bits AI. 이 경계를 잘 나누는 것이 Datadog AI를 FinOps 관점에서 운영하는 핵심이다.
공식 문서
'IT > FinOps' 카테고리의 다른 글
| Datadog Bits AI와 AI Credits 과금 구조: FinOps 관점에서 보기 (0) | 2026.09.17 |
|---|---|
| AI 비용, 토큰 값이 전부가 아니다! '총 AI 비용(TCA)'의 등장 (0) | 2026.09.12 |
| [Datadog] 불필요한 비용 줄이기 - APM편 (0) | 2026.02.21 |
| [Datadog] 불필요한 비용 줄이기 – Container 편 (0) | 2026.02.10 |
| [Azure] Azure 청구 구조 이해하기: 실비용 계산 기준과 핵심 개념 (1) | 2026.02.09 |
