CLOUD ENGINEERING JOURNAL
AWS, Kubernetes, Observability, FinOps, AI를 운영하며 얻은 경험과 판단을 기록합니다.
EXPLORE
EDITOR'S PICK
FEATURED ARTICLE
Datadog Bits AI는 이제 “있으면 좋은 AI 챗봇” 정도로 보기 어렵다. Chat으로 탐색하고, Investigation으로 알림을 조사하고, Code로 수정 후보를 만들고, Agent Builder로 운영 작업까지 자동화할 수 있다.기능이 늘어난 만큼 비용 구조도 같이 볼 필요가 있다. 이 기능들은 각각 따로 과금되는 게 아니라 AI Credits라는 공통 단위로 사용량이 계산된다.이번 글에서는 Datadog 공식 문서를 기준으로 Bits AI의 AI Credits 구조와 실제 운영에서 비용을 어떻게 관측하고 관리할 수 있는지 정리해봤다.1. Bits AI는 무엇을 하는 기능인가Datadog은 Bits AI를 개발·보안·운영 워크플로를 자동화하는 agentic teammate로 설명한다.실제..
글 읽기
FEATURED ARTICLE
Kubernetes나 클라우드 환경에서 모니터링을 이야기하면 Prometheus라는 이름이 자주 나온다. Grafana 대시보드, Alertmanager 알림, Datadog 연동, OpenMetrics 같은 이야기를 하다 보면 거의 자연스럽게 Prometheus로 이어진다.아키텍처 그림을 보다 보면 불꽃 모양의 주황색 Prometheus 로고를 만날 때가 있다. 그 로고가 있다면 보통 “여기서 metric을 모으고 있다”는 뜻으로 보면 된다.처음 듣는 사람 입장에서는 조금 낯설 수 있다. 모니터링 도구는 이미 많은데, 왜 다들 Prometheus를 이야기할까? 이 글은 그 질문에 대한 가벼운 첫 번째 정리다.Prometheus를 한 줄로 말하면Prometheus는 서버, 애플리케이션, Kubernete..
글 읽기
FEATURED ARTICLE
이 글은 DevOps가 GitOps로 확장되는 흐름을 정리한 글입니다.특히 GitOps란 무엇인지, DevOps와 GitOps의 차이, Kubernetes 운영에서 GitOps가 왜 중요해졌는지를 중심으로 설명합니다.GitOps란 무엇인가: DevOps와의 차이, Kubernetes 운영에서 쓰는 이유GitOps는 애플리케이션과 인프라의 원하는 상태를 Git에 선언하고,운영 환경이 그 상태를 계속 따라가도록 만드는 운영 방식입니다.DevOps가 개발과 운영의 협업 방식과 자동화 문화에 가깝다면,GitOps는 운영 상태를 Git 중심으로 선언하고 동기화하는 방식에 더 가깝습니다.결국 GitOps가 중요해진 이유는 단순히 배포를 자동화하기 위해서가 아닙니다.Kubernetes처럼 상태가 계속 변하는 환경에서..
글 읽기LEARNING PATHS
RECENT NOTES
Datadog Bits AI는 이제 “있으면 좋은 AI 챗봇” 정도로 보기 어렵다. Chat으로 탐색하고, Investigation으로 알림을 조사하고, Code로 수정 후보를 만들고, Agent Builder로 운영 작업까지 자동화할 수 있다.기능이 늘어난 만큼 비용 구조도 같이 볼 필요가 있다. 이 기능들은 각각 따로 과금되는 게 아니라 AI Credits라는 공통 단위로 사용량이 계산된다.이번 글에서는 Datadog 공식 문서를 기준으로 Bits AI의 AI Credits 구조와 실제 운영에서 비용을 어떻게 관측하고 관리할 수 있는지 정리해봤다.1. Bits AI는 무엇을 하는 기능인가Datadog은 Bits AI를 개발·보안·운영 워크플로를 자동화하는 agentic teammate로 설명한다.실제..
Read
이 글은 Why Tokens Aren’t the AI Bill: Introducing Total Cost of AI (TCA) 영상을 기반으로 작성한 내용입니다.많은 기업과 개발팀이 AI 도입 시 OpenAI, Anthropic 등의 API 토큰 사용료만 AI 비용의 전부로 착각합니다. 하지만 실제 엔터프라이즈 데이터 감사 결과, 토큰 비용은 전체 AI 지출의 25%(약 1/10 ~ 1/4) 수준에 불과합니다.Linux Foundation 산하 Tokenomics Foundation의 실행 이사 J.R. Stormant는 최신 토크노믹스 브리핑에서 TCA(Total Cost of AI, 총 AI 비용)라는 개념을 공식 제안했습니다.1. AI 비용 측정의 새로운 기준: TCA (Total Cost of A..
Read
1편 [Prometheus] 왜 다들 프로메테우스를 사용할까2편 [Prometheus] Label 하나가 시스템을 느리게 만든다 - 1. Metric, Label, TimeSeries3편 [Prometheus] Label 하나가 시스템을 느리게 만든다 - 2. Cardinality앞선 글에서는 Prometheus의 Metric, Label, TimeSeries, Cardinality를 살펴봤다.이제 한 가지 질문이 남는다.Prometheus Cardinality가 Datadog에서는 왜 비용이 되는 걸까?Datadog Custom Metrics 비용이 예상보다 크게 나오는 경우가 있다.이때 원인을 Datadog에서만 찾으면 조금 늦다.대부분의 시작점은 Prometheus Metric 설계에 있다.Da..
Read
1편 [Prometheus] 왜 다들 프로메테우스를 사용할까2편 [Prometheus] Label 하나가 시스템을 느리게 만든다 - 1. Metric, Label, TimeSeries2편에서는 Prometheus에서 TimeSeries가 어떻게 만들어지는지 봤다.핵심은 이 흐름이었다.Metric → Label 조합 → TimeSeriesPrometheus에서 같은 Metric이라도 Label 조합이 다르면 다른 TimeSeries가 된다.이번 글에서는 이 Label 조합이 많아질 때 발생하는 문제를 다룬다.바로 Cardinality다. 1. Cardinality란 무엇인가Cardinality는 쉽게 말하면 값의 종류 또는 조합의 개수다.Prometheus에서는 보통 TimeSeries 개수를 이야기할 ..
Read
1편 [Prometheus] 왜 다들 프로메테우스를 사용할까Prometheus를 운영하다 보면 어느 순간 메모리가 부족해지거나 쿼리가 느려지기 시작한다.그런데 CPU가 부족한 것도 아니고, 디스크가 꽉 찬 것도 아니다.문제는 대부분 여기서 시작된다.Label.Prometheus에서 Label은 단순한 부가 정보가 아니다.Label은 TimeSeries를 만드는 기준이다.그래서 Prometheus를 이해하려면 먼저 이 흐름을 이해해야 한다.Metric → Label 조합 → TimeSeriesPrometheus는 숫자를 저장하는 시스템처럼 보이지만, 운영 관점에서는 Label 조합을 저장하는 시스템에 가깝다.1. Metric과 LabelPrometheus에서 가장 먼저 보이는 것은 Metric이다.예를 들..
Read
Kubernetes나 클라우드 환경에서 모니터링을 이야기하면 Prometheus라는 이름이 자주 나온다. Grafana 대시보드, Alertmanager 알림, Datadog 연동, OpenMetrics 같은 이야기를 하다 보면 거의 자연스럽게 Prometheus로 이어진다.아키텍처 그림을 보다 보면 불꽃 모양의 주황색 Prometheus 로고를 만날 때가 있다. 그 로고가 있다면 보통 “여기서 metric을 모으고 있다”는 뜻으로 보면 된다.처음 듣는 사람 입장에서는 조금 낯설 수 있다. 모니터링 도구는 이미 많은데, 왜 다들 Prometheus를 이야기할까? 이 글은 그 질문에 대한 가벼운 첫 번째 정리다.Prometheus를 한 줄로 말하면Prometheus는 서버, 애플리케이션, Kubernete..
Read
이 글은 DevOps가 GitOps로 확장되는 흐름을 정리한 글입니다.특히 GitOps란 무엇인지, DevOps와 GitOps의 차이, Kubernetes 운영에서 GitOps가 왜 중요해졌는지를 중심으로 설명합니다.GitOps란 무엇인가: DevOps와의 차이, Kubernetes 운영에서 쓰는 이유GitOps는 애플리케이션과 인프라의 원하는 상태를 Git에 선언하고,운영 환경이 그 상태를 계속 따라가도록 만드는 운영 방식입니다.DevOps가 개발과 운영의 협업 방식과 자동화 문화에 가깝다면,GitOps는 운영 상태를 Git 중심으로 선언하고 동기화하는 방식에 더 가깝습니다.결국 GitOps가 중요해진 이유는 단순히 배포를 자동화하기 위해서가 아닙니다.Kubernetes처럼 상태가 계속 변하는 환경에서..
Read
https://www.yes24.com/product/goods/138929285 GitOps Cookbook | 나탈리 빈토 | 인사이트(insight) - 예스24쿠버네티스와 GitHub를 활용한 CI/CD 파이프라인 구축왜 수많은 회사들이 DevOps와 클라우드 네이티브 전략을 위해 GitOps를 채택하고 있을까? 이 안정적인 프레임워크는 쿠버네티스에 애플리케이션www.yes24.com운영자가 “현재 서버 상태”를 못 믿게 되는 순간처음 GitOps라는 단어를 들었을 때는 솔직히 좀 애매했다.그냥 Kubernetes 배포 방식 중 하나 아닌가 싶었다.Git에 yaml 넣고,ArgoCD 같은 걸로 동기화하고,자동 배포하는 흐름 정도.근데 『GitOps Cookbook』를 읽다 보니까 생각보다 훨씬 운..
Read
https://www.yes24.com/product/goods/61792775 데브옵스 핸드북 | 진 킴 | 에이콘출판사 - 예스242016년 DevOps Dozen Award에서 ‘Best DevOps Book of the Year’ 수상!데브옵스의 모든 것을 다루는 책이다. 데브옵스의 유래부터 개념과 데브옵스 실천방법, 사례까지 모두 다루고 있다. 소프트웨어 업계의www.yes24.com이제 DevOps는 “배포 자동화” 정도의 이야기가 아니었다이 책을 읽으면서 가장 크게 들었던 생각은 이거였다.“아 이제 운영 자체가 하나의 시스템 공학이 됐구나.”예전 DevOps 이야기들은 어딘가 좀 더 “변화 운동” 같은 느낌이 있었다.개발과 운영이 협업하고,배포를 자동화하고,조직 문화를 바꾸고,더 빠르게 움직..
Read