Datadog Bits AI는 이제 “있으면 좋은 AI 챗봇” 정도로 보기 어렵다. Chat으로 탐색하고, Investigation으로 알림을 조사하고, Code로 수정 후보를 만들고, Agent Builder로 운영 작업을 자동화한다. 근데 여기서 중요한 건 기능보다 과금 단위다. 이 기능들은 AI Credits라는 공통 단위로 묶여 비용이 잡힌다.
이 글은 Datadog 공식 문서 기준으로 Bits AI와 AI Credits 구조를 정리한 글이다. 기준 문서는 Bits AI 공식 문서, AI Credits 문서, Datadog Pricing의 AI Credits 항목, Estimated Usage Metrics 문서, AI Credit Limits 문서다.
1. Bits AI는 무엇을 하는 기능인가
Datadog 문서에서 Bits AI는 Datadog 안에서 개발·보안·운영 워크플로를 자동화하는 agentic teammate로 설명된다. 말은 거창하지만, 실무 관점에서는 이렇게 보는 게 편하다.
Datadog 안에 있는 관측 데이터, 알림, 대시보드, 코드 컨텍스트를 AI가 읽고, 사람이 하던 반복적인 탐색·조사·수정·자동화 작업을 일부 대신하는 기능이다.
여기서 비용 관점으로 봐야 하는 핵심 제품은 네 가지다.
Bits Chat
Bits Investigation
Bits Code
Bits Security Analyst
| 기능 | 실무에서의 의미 | 비용 관점 |
|---|---|---|
| Bits Chat | 자연어로 telemetry를 찾고, 대시보드·노트북·모니터를 확인한다. | 사용자 메시지 단위로 credit이 쌓일 수 있다. |
| Bits Investigation | 알림을 조사하고, 관련 telemetry를 묶고, 원인 후보와 영향도를 요약한다. | 자동 조사를 켜면 반복 실행 비용이 커질 수 있다. |
| Bits Code | Datadog 컨텍스트를 바탕으로 코드 수정·리뷰·디버깅을 돕는다. | 개발 워크플로에 붙으면 팀 단위 사용량으로 봐야 한다. |
| Bits Agent Builder | Incident response, custom reporting 같은 운영 업무용 AI agent를 만든다. | 수동 실행보다 자동 실행의 반복량이 중요하다. |
2. AI Credits 과금 구조 이해하기
Datadog의 AI Credits 문서는 AI Credit을 “Datadog AI 제품이 수행한 지능형 작업의 단위”로 설명한다. 즉, host나 log index처럼 인프라 수량을 재는 방식이 아니라, AI 기능이 수행한 작업량을 credit으로 환산하는 구조다.
공식 문서 기준으로 AI Credits를 소비하는 제품은 Bits Chat, Bits Investigation, Bits Code, Bits Agent Builder다. 그리고 이 credit은 기능별로 따로 사는 게 아니라 공유되는 과금 단위로 봐야 한다.
가격 tier
AI Credits는 세 가지 tier가 있다.
| Tier | 공식 설명 기준 |
|---|---|
| Annual Commit | 12개월 약정, 월별 청구. 500 credits/month 단위 번들로 구매한다. |
| Monthly Commit | 월 단위 약정. 500 credits/month 단위 번들로 구매한다. |
| On-Demand | 약정 없이 실제 사용량 기준으로 월별 청구한다. |
공개 Pricing 페이지 기준으로 AI Credits는 연간 과금 기준 500 credits당 월 $500부터 시작하고, On-Demand는 credit당 $1.30로 표시되어 있다. 다만 Datadog 가격은 사이트, 계약, 볼륨, 월간 commit 조건에 따라 달라질 수 있으니, 실제 청구 예상은 반드시 본인 조직의 계약 조건과 Pricing 페이지를 같이 봐야 한다.
3. 기능별 예상 credit 사용량
Datadog Pricing 페이지에는 기능별 평균 credit 사용량이 공개되어 있다. 이 값은 “예상치”다. 실제 요청 1건의 credit은 작업 복잡도와 모델이 처리하는 컨텍스트 양에 따라 달라질 수 있다고 Datadog도 명시하고 있다.
| 기능 | 공식 공개 예상 credit |
|---|---|
| Bits Chat - Message | 약 0.5 credits |
| Bits Agent Builder - Manual or Autonomous Run | 약 3 credits |
| Bits Code - Code Fix | 약 5 credits |
| Bits Investigation - Autonomous Investigation | 약 6.5 credits |
여기서 눈에 들어오는 건 Bits Investigation이다. Chat은 한 번에 약 0.5 credits 수준으로 보이지만, Investigation은 한 번에 약 6.5 credits다. 즉, 사람이 필요할 때만 누르는 수동 조사라면 부담이 제한적일 수 있지만, 알림에 붙여 자동 조사를 반복 실행하면 비용 곡선이 달라진다.
4. 실제 비용 시뮬레이션: Investigation 100회/day
예를 들어 특정 서비스의 모니터에서 Bits Investigation이 하루 100회 실행된다고 해보자. 공식 공개 평균값인 6.5 credits/use를 그대로 쓰면 계산은 단순하다.
- 100 investigations/day × 6.5 credits = 650 credits/day
- 650 credits/day × 30 days = 19,500 credits/month
이걸 공개 가격 기준으로 환산하면, Annual Commit 시작가 기준으로는 500-credit bundle 39개 수준이다. 즉 19,500 credits/month = 39 × 500 credits = 월 $19,500부터로 볼 수 있다. On-Demand만으로 계산하면 19,500 × $1.30 = 월 $25,350다.
근데 이 숫자를 “무조건 비싸다”로만 보면 곤란하다. Investigation이 실제로 장애 대응 시간을 줄이고, 온콜 엔지니어가 매번 하던 로그·메트릭·트레이스 탐색을 줄인다면 비용 대비 가치가 있을 수 있다. 다만 자동화 대상과 실행 빈도를 비용 지표로 같이 봐야 한다는 게 핵심이다.
5. Datadog에서 usage metric으로 확인하기
AI Credits는 Plan & Usage > AI Credits에서 현재 월 소비량을 제품별로 볼 수 있다. 운영 관점에서는 UI만 보는 것보다 metric으로 끌어와 dashboard와 monitor를 만드는 편이 낫다.
공식 AI Credits 문서에 나온 제품별 usage metric은 다음과 같다.
| 제품 | Metric |
|---|---|
| Bits Chat | datadog.estimated_usage.bits_chat.ai_credits |
| Bits Investigation | datadog.estimated_usage.bits_investigation.ai_credits |
| Bits Code | datadog.estimated_usage.bits_code.ai_credits |
| Bits Agent Builder | datadog.estimated_usage.bits_agent_builder.ai_credits |
Estimated Usage Metrics 문서도 같이 봐야 한다. Datadog은 이 metric들이 거의 실시간에 가깝게 현재 estimated usage를 계산해 dashboard나 monitor에 쓸 수 있다고 설명한다. 동시에 이 값은 최종 billable usage와 완전히 일치하지 않을 수 있고, 평균적으로 10~20% 차이가 날 수 있다고 안내한다.
6. Limits: 이전 표현에서 조심해야 할 부분
AI Credits는 한도를 둘 수 있다. 하지만 여기서 표현을 대충 쓰면 틀리기 쉽다. 최신 공식 문서 기준으로는 조직 관리자가 월간 AI Credit 사용량 한도를 조직 전체, 사용자 기본값, 개별 사용자 override 수준에서 설정할 수 있다. 설정 위치는 Bits AI > AI Credits Management로 안내되어 있고, 확인·설정에는 billing_edit 권한이 필요하다.
적용 규칙도 중요하다.
- 조직 한도와 사용자 한도가 모두 있으면, 해당 사용자에게 적용 가능한 더 제한적인 한도가 적용된다.
- 사용자 기본 한도와 개별 사용자 override가 모두 있으면, 공식 문서상 둘 중 더 큰 값이 적용되고, 그래도 조직 전체 한도에는 묶인다.
- 한도에 도달하면 영향을 받는 사용자는 Bits Chat, Bits Investigation, Bits Code, Bits Agent Builder를 새로 사용할 수 없고 reset 날짜가 표시된다.
여기서 중요한 건 “특정 제품 하나만 딱 잘라 budget cap을 건다”는 식으로 쓰면 위험하다는 점이다. 문서 기준으로 AI Credits는 네 제품에서 공유되며, 한도도 AI Credits 사용량 관점에서 봐야 한다.
7. FinOps 운영: Commit vs On-Demand
Bits AI 비용 관리는 결국 세 단계다.
- 먼저 제품별 AI Credit 사용량을 metric으로 보이게 만든다.
- 반복 실행되는 자동화, 특히 Investigation과 Agent Builder 실행량을 dashboard와 monitor로 본다.
- 안정적으로 반복되는 기본 사용량은 Commit 후보로 보고, 실험·스파이크·초과분은 On-Demand로 관리한다.
Commit은 단가 예측과 예산 안정성에 좋다. 하지만 미사용분이 이월되지 않으므로 “언젠가 쓰겠지”로 크게 잡으면 낭비가 된다. 반대로 On-Demand는 실험과 변동량에는 편하지만, 반복 사용량이 커지면 단가가 부담된다.
실무적으로는 이런 식으로 시작하는 게 좋다.
- 첫 달에는 자동화 범위를 작게 잡고 실제 credit/use를 관찰한다.
- Investigation은 알림이 많은 monitor에 바로 붙이지 말고, 영향도 높은 소수 monitor부터 켠다.
- Dashboard에는 제품별 월 누적, 일별 증가량, 전주 대비 증가율을 둔다.
- Monitor는 “월 예상 사용량이 Commit의 70%, 90%, 100%를 넘는지” 기준으로 잡는다.
- 월말에는 실제 청구 기준과 estimated usage metric 차이를 같이 본다.
결론
Bits AI 자체는 꽤 매력적인 기능이다. 특히 Datadog 안의 telemetry를 이미 잘 쌓고 있는 조직이라면 Chat과 Investigation은 바로 체감이 올 수 있다. 근데 AI Credits 구조를 모르고 자동화를 먼저 켜면, 나중에 비용을 보고 놀랄 수 있다.
정리하면 이렇다.
- Bits AI의 핵심 비용 단위는 AI Credits다.
- Bits Chat, Investigation, Code, Agent Builder가 AI Credits를 공유한다.
- 공식 공개 평균값 기준으로 Chat은 약 0.5 credits/message, Investigation은 약 6.5 credits/use다.
- 100 investigations/day는 단순 계산으로 19,500 credits/month까지 갈 수 있다.
- Estimated usage metric은 비용 급증을 빠르게 보기 위한 계기판이고, 최종 청구와는 차이가 날 수 있다.
- Commit은 반복 사용량에, On-Demand는 실험·초과·스파이크에 맞춰 보는 게 현실적이다.
즉, Bits AI는 기능 도입보다 사용량 관측 체계를 먼저 붙여야 한다. Dashboard, Monitor, Limit, Commit 검토까지 같이 설계하면 AI 기능을 쓰면서도 비용을 운영 가능한 범위 안에 둘 수 있다.
공식 출처
'IT > FinOps' 카테고리의 다른 글
| AI 비용, 토큰 값이 전부가 아니다! '총 AI 비용(TCA)'의 등장 (0) | 2026.09.12 |
|---|---|
| [Datadog] 불필요한 비용 줄이기 - APM편 (0) | 2026.02.21 |
| [Datadog] 불필요한 비용 줄이기 – Container 편 (0) | 2026.02.10 |
| [Azure] Azure 청구 구조 이해하기: 실비용 계산 기준과 핵심 개념 (1) | 2026.02.09 |
| [Datadog] 불필요한 비용 줄이기 - Host 편 (1) | 2026.02.01 |
댓글