CLOUD ENGINEERING JOURNAL
AWS, Kubernetes, Observability, FinOps, AI를 운영하며 얻은 경험과 판단을 기록합니다.
ARCHIVE
Datadog Bits AI는 이제 “있으면 좋은 AI 챗봇” 정도로 보기 어렵다. Chat으로 탐색하고, Investigation으로 알림을 조사하고, Code로 수정 후보를 만들고, Agent Builder로 운영 작업까지 자동화할 수 있다.기능이 늘어난 만큼 비용 구조도 같이 볼 필요가 있다. 이 기능들은 각각 따로 과금되는 게 아니라 AI Credits라는 공통 단위로 사용량이 계산된다.이번 글에서는 Datadog 공식 문서를 기준으로 Bits AI의 AI Credits 구조와 실제 운영에서 비용을 어떻게 관측하고 관리할 수 있는지 정리해봤다.1. Bits AI는 무엇을 하는 기능인가Datadog은 Bits AI를 개발·보안·운영 워크플로를 자동화하는 agentic teammate로 설명한다.실제..
이 글은 Why Tokens Aren’t the AI Bill: Introducing Total Cost of AI (TCA) 영상을 기반으로 작성한 내용입니다.많은 기업과 개발팀이 AI 도입 시 OpenAI, Anthropic 등의 API 토큰 사용료만 AI 비용의 전부로 착각합니다. 하지만 실제 엔터프라이즈 데이터 감사 결과, 토큰 비용은 전체 AI 지출의 25%(약 1/10 ~ 1/4) 수준에 불과합니다.Linux Foundation 산하 Tokenomics Foundation의 실행 이사 J.R. Stormant는 최신 토크노믹스 브리핑에서 TCA(Total Cost of AI, 총 AI 비용)라는 개념을 공식 제안했습니다.1. AI 비용 측정의 새로운 기준: TCA (Total Cost of A..
[IT/FinOps] - [Datadog] 불필요한 비용 줄이기 - Log 편[IT/FinOps] - [Datadog] 불필요한 비용 줄이기 - Host 편[IT/FinOps] - [Datadog] 불필요한 비용 줄이기 – Container 편 Datadog 을 사용하는 주 목적이 APM이라고 해도 과언이 아니다. 그러나 비용 부담때문에 사용하기 쉽지 않다.APM은 막연히 비싼 게 아니다. 어디서 켰는지 모르면 비싸다.기존과 마찬가지로 비용 체계를 살펴보고 어떻게 줄일 수 있는지 알아보자. APM Host – 언제 과금되는가https://docs.datadoghq.com/account_management/billing/apm_tracing_profiler/APM Host 는 다음 기준으로 과금 된다...
Log는 많이 넣으면 비싸지고, Host는 켜놓기만 해도 비싸다.그렇다면 Container는 어떨까? 컨테이너는 “잠깐 살아있어도” 과금된다.이게 제일 무섭다. Datadog Container 과금이 과도하게 발생할 때 원인과 절감 방법https://docs.datadoghq.com/account_management/billing/containers/Datadog의 컨테이너 과금은 단순히 “노드 몇 개냐”가 아니다.Infrastructure Monitoring에서 컨테이너 기반 과금은 다음 기준으로 계산된다.평균 실행 중 컨테이너 수 (Hourly average)월 단위 집계특정 퍼센타일 기준 적용 (상위 피크 일부 제외)컨테이너 수 × 시간 × 플랜 단가이것이 아니다. 월간 평균 활성 컨테이너 수기준으..
이 글은 Stop Guessing: How to Actually Identify Your Azure Billing Structure 를 번역한 글입니다.정확한 늬앙스는 원문을 참고하시기 바랍니다.실제 구조를 정확히 식별하는 방법Azure 비용을 분석하다 보면 계약, 구독, 약정 개념이 뒤섞여 혼란이 생기기 쉽습니다.특히 EA, MCA, CSP, MACC 같은 용어가 같은 의미로 사용되면서 잘못된 비용 대시보드와 보고 체계가 만들어지는 경우가 많습니다.이 글은 Shan Kuehn의 글을 기반으로, Azure 청구 구조를 계층별로 분리해 이해하고 실제로 검증하는 방법을 요약합니다. 왜 Azure 청구 구조는 항상 헷갈릴까?Azure에서 자주 혼동되는 개념은 다음과 같습니다.Enterprise Agreemen..
Datadog 불필요한 비용 줄이기 2편인 host 편이다.1편 Log 편은 여기에서..https://newstars.cloud/609 [Datadog] 불필요한 비용 줄이기 - Log 편Datadog은 클라우드를 쓴다면 한번쯤 들어봤거나 이미 잘 쓰고 있는 경우가 많을 것이다.그런데 다 좋으나 Datadog 비용이 비싸서(사용료, TCO 관점으로는 더 저렴할수도 있음) 많이 부담스러워 하는newstars.cloudDatadog을 사용하다 보면 로그 비용 다음으로 체감되는 항목이 있다.바로 Host 기반 과금이다.로그는 많이 넣어서 비싸지는 구조라면,Host는 켜놓기만 해도 과금되는 구조라서 더 무섭다.특히 Amazon EC2 Auto Scaling 환경에서는인스턴스가 늘어날 때마다 Datadog 비용도..
Datadog은 클라우드를 쓴다면 한번쯤 들어봤거나 이미 잘 쓰고 있는 경우가 많을 것이다.그런데 다 좋으나 Datadog 비용이 비싸서(사용료, TCO 관점으로는 더 저렴할수도 있음) 많이 부담스러워 하는데,Cloud FinOps 관점에서는 불필요한 비용들이 들어가는 경우들이 있다.이럴땐 아무리 Cloud 비용 깎아봤자 도루묵...보통은 APM이나 Metrics 까진 괜찮은 경우가 많으나, Logs 비용이 폭탄 맞는 경우가 많다.이럴땐 꼭 dev 나 QA 환경까지 수집하고 있진 않은지, Debug / Info 로그도 수집하고 있진 않은지 확인할 필요가 있다.Datadog Log 비용이 과도하게 발생할 때 원인과 절감 방법 1. Datadog 로그 비용 체계 먼저 이해하기Datadog 요금체계먼저 Dat..
이 글은 다음 글을 요약 번역한 글입니다. https://aws.amazon.com/ko/blogs/compute/10-things-you-can-do-today-to-reduce-aws-costs/ 10 things you can do today to reduce AWS costs | Amazon Web Services This post is contributed by Shankar Ramachandran, SA Specialist, Cost Optimization Introduction AWS’s breadth of services and pricing options offer the flexibility to effectively manage your costs, and still keep the ..
이 글은 다음의 블로그를 요약 번역한 글입니다. https://aws.amazon.com/ko/blogs/smb/how-to-manage-cloud-costs-for-your-small-or-medium-business/ How to Manage Cloud Costs for Your Small or Medium Business | Amazon Web Services For your small or medium business (SMB) to get maximum return on its IT investments, you must build a strong foundation of cloud financial management capabilities. IDC surveys (2022) show that..
Datadog Bits AI는 이제 “있으면 좋은 AI 챗봇” 정도로 보기 어렵다. Chat으로 탐색하고, Investigation으로 알림을 조사하고, Code로 수정 후보를 만들고, Agent Builder로 운영 작업까지 자동화할 수 있다.기능이 늘어난 만큼 비용 구조도 같이 볼 필요가 있다. 이 기능들은 각각 따로 과금되는 게 아니라 AI Credits라는 공통 단위로 사용량이 계산된다.이번 글에서는 Datadog 공식 문서를 기준으로 Bits AI의 AI Credits 구조와 실제 운영에서 비용을 어떻게 관측하고 관리할 수 있는지 정리해봤다.1. Bits AI는 무엇을 하는 기능인가Datadog은 Bits AI를 개발·보안·운영 워크플로를 자동화하는 agentic teammate로 설명한다.실제..
이 글은 Why Tokens Aren’t the AI Bill: Introducing Total Cost of AI (TCA) 영상을 기반으로 작성한 내용입니다.많은 기업과 개발팀이 AI 도입 시 OpenAI, Anthropic 등의 API 토큰 사용료만 AI 비용의 전부로 착각합니다. 하지만 실제 엔터프라이즈 데이터 감사 결과, 토큰 비용은 전체 AI 지출의 25%(약 1/10 ~ 1/4) 수준에 불과합니다.Linux Foundation 산하 Tokenomics Foundation의 실행 이사 J.R. Stormant는 최신 토크노믹스 브리핑에서 TCA(Total Cost of AI, 총 AI 비용)라는 개념을 공식 제안했습니다.1. AI 비용 측정의 새로운 기준: TCA (Total Cost of A..
[IT/FinOps] - [Datadog] 불필요한 비용 줄이기 - Log 편[IT/FinOps] - [Datadog] 불필요한 비용 줄이기 - Host 편[IT/FinOps] - [Datadog] 불필요한 비용 줄이기 – Container 편 Datadog 을 사용하는 주 목적이 APM이라고 해도 과언이 아니다. 그러나 비용 부담때문에 사용하기 쉽지 않다.APM은 막연히 비싼 게 아니다. 어디서 켰는지 모르면 비싸다.기존과 마찬가지로 비용 체계를 살펴보고 어떻게 줄일 수 있는지 알아보자. APM Host – 언제 과금되는가https://docs.datadoghq.com/account_management/billing/apm_tracing_profiler/APM Host 는 다음 기준으로 과금 된다...
Log는 많이 넣으면 비싸지고, Host는 켜놓기만 해도 비싸다.그렇다면 Container는 어떨까? 컨테이너는 “잠깐 살아있어도” 과금된다.이게 제일 무섭다. Datadog Container 과금이 과도하게 발생할 때 원인과 절감 방법https://docs.datadoghq.com/account_management/billing/containers/Datadog의 컨테이너 과금은 단순히 “노드 몇 개냐”가 아니다.Infrastructure Monitoring에서 컨테이너 기반 과금은 다음 기준으로 계산된다.평균 실행 중 컨테이너 수 (Hourly average)월 단위 집계특정 퍼센타일 기준 적용 (상위 피크 일부 제외)컨테이너 수 × 시간 × 플랜 단가이것이 아니다. 월간 평균 활성 컨테이너 수기준으..
이 글은 Stop Guessing: How to Actually Identify Your Azure Billing Structure 를 번역한 글입니다.정확한 늬앙스는 원문을 참고하시기 바랍니다.실제 구조를 정확히 식별하는 방법Azure 비용을 분석하다 보면 계약, 구독, 약정 개념이 뒤섞여 혼란이 생기기 쉽습니다.특히 EA, MCA, CSP, MACC 같은 용어가 같은 의미로 사용되면서 잘못된 비용 대시보드와 보고 체계가 만들어지는 경우가 많습니다.이 글은 Shan Kuehn의 글을 기반으로, Azure 청구 구조를 계층별로 분리해 이해하고 실제로 검증하는 방법을 요약합니다. 왜 Azure 청구 구조는 항상 헷갈릴까?Azure에서 자주 혼동되는 개념은 다음과 같습니다.Enterprise Agreemen..
Datadog 불필요한 비용 줄이기 2편인 host 편이다.1편 Log 편은 여기에서..https://newstars.cloud/609 [Datadog] 불필요한 비용 줄이기 - Log 편Datadog은 클라우드를 쓴다면 한번쯤 들어봤거나 이미 잘 쓰고 있는 경우가 많을 것이다.그런데 다 좋으나 Datadog 비용이 비싸서(사용료, TCO 관점으로는 더 저렴할수도 있음) 많이 부담스러워 하는newstars.cloudDatadog을 사용하다 보면 로그 비용 다음으로 체감되는 항목이 있다.바로 Host 기반 과금이다.로그는 많이 넣어서 비싸지는 구조라면,Host는 켜놓기만 해도 과금되는 구조라서 더 무섭다.특히 Amazon EC2 Auto Scaling 환경에서는인스턴스가 늘어날 때마다 Datadog 비용도..
Datadog은 클라우드를 쓴다면 한번쯤 들어봤거나 이미 잘 쓰고 있는 경우가 많을 것이다.그런데 다 좋으나 Datadog 비용이 비싸서(사용료, TCO 관점으로는 더 저렴할수도 있음) 많이 부담스러워 하는데,Cloud FinOps 관점에서는 불필요한 비용들이 들어가는 경우들이 있다.이럴땐 아무리 Cloud 비용 깎아봤자 도루묵...보통은 APM이나 Metrics 까진 괜찮은 경우가 많으나, Logs 비용이 폭탄 맞는 경우가 많다.이럴땐 꼭 dev 나 QA 환경까지 수집하고 있진 않은지, Debug / Info 로그도 수집하고 있진 않은지 확인할 필요가 있다.Datadog Log 비용이 과도하게 발생할 때 원인과 절감 방법 1. Datadog 로그 비용 체계 먼저 이해하기Datadog 요금체계먼저 Dat..
이 글은 다음 글을 요약 번역한 글입니다. https://aws.amazon.com/ko/blogs/compute/10-things-you-can-do-today-to-reduce-aws-costs/ 10 things you can do today to reduce AWS costs | Amazon Web Services This post is contributed by Shankar Ramachandran, SA Specialist, Cost Optimization Introduction AWS’s breadth of services and pricing options offer the flexibility to effectively manage your costs, and still keep the ..
이 글은 다음의 블로그를 요약 번역한 글입니다. https://aws.amazon.com/ko/blogs/smb/how-to-manage-cloud-costs-for-your-small-or-medium-business/ How to Manage Cloud Costs for Your Small or Medium Business | Amazon Web Services For your small or medium business (SMB) to get maximum return on its IT investments, you must build a strong foundation of cloud financial management capabilities. IDC surveys (2022) show that..
