ARCHIVE
Docker 이미지 크기는 Kubernetes Pod 시작 속도에 얼마나 영향을 줄까? 동일한 Go 앱을 Alpine, Debian Slim, Distroless로 빌드해 cold와 warm 시작 시간을 총 60회 측정했다.Docker 이미지는 작을수록 좋다는 말을 자주 듣는다. 전송할 데이터와 저장 공간이 줄고, Kubernetes가 이미지를 내려받는 시간도 짧아지기 때문이다. 그렇다면 이미지가 10배 작아지면 Pod도 10배 빨리 준비될까?테스트에는 동일한 Go HTTP 서버와 바이너리를 사용했다. 런타임 이미지만 Alpine 3.24, Debian 13 trixie-slim, Distroless static-debian13으로 변경해 비교했다.먼저 결론부터 정리하면 다음과 같다.이 실험에서 이미지 ..
석사과정에서 읽었던 스튜어트 러셀과 피터 노빅의 『인공지능: 현대적 접근방식』에는 에이전트를 한 장에 걸쳐 설명하는 부분이 있다. 당시에는 인공지능의 기본 구조를 정리한 이론으로 읽었다. 최근 에이전틱 AI라는 용어를 자주 접하면서 이 책의 2장, “Intelligent Agents”가 다시 생각났다. 지금 이야기하는 에이전틱 AI는 책에서 설명한 지능형 에이전트와 어떤 관계가 있을까. 그 내용을 확인해보고 싶어 이 글을 쓰게 되었다.석사과정에서는 이 책의 원서 2판으로 공부했다. 이후 개정된 4판의 한국어 번역서가 출간되었고, 이 글을 준비하면서는 원서 3판도 함께 참고했다. 글의 출발점은 당시 읽었던 2판이지만, 본문에 실은 인용문과 그림 번호, 쪽수는 원서 3판을 기준으로 했다. 주요 개념의 한국어..
Datadog Bits AI는 이제 “있으면 좋은 AI 챗봇” 정도로 보기 어렵다. Chat으로 탐색하고, Investigation으로 알림을 조사하고, Code로 수정 후보를 만들고, Agent Builder로 운영 작업까지 자동화할 수 있다.기능이 늘어난 만큼 비용 구조도 같이 볼 필요가 있다. 이 기능들은 각각 따로 과금되는 게 아니라 AI Credits라는 공통 단위로 사용량이 계산된다.이번 글에서는 Datadog 공식 문서를 기준으로 Bits AI의 AI Credits 구조와 실제 운영에서 비용을 어떻게 관측하고 관리할 수 있는지 정리해봤다.1. Bits AI는 무엇을 하는 기능인가Datadog은 Bits AI를 개발·보안·운영 워크플로를 자동화하는 agentic teammate로 설명한다.실제..
이 글은 Why Tokens Aren’t the AI Bill: Introducing Total Cost of AI (TCA) 영상을 기반으로 작성한 내용입니다.많은 기업과 개발팀이 AI 도입 시 OpenAI, Anthropic 등의 API 토큰 사용료만 AI 비용의 전부로 착각합니다. 하지만 실제 엔터프라이즈 데이터 감사 결과, 토큰 비용은 전체 AI 지출의 25%(약 1/10 ~ 1/4) 수준에 불과합니다.Linux Foundation 산하 Tokenomics Foundation의 실행 이사 J.R. Stormant는 최신 토크노믹스 브리핑에서 TCA(Total Cost of AI, 총 AI 비용)라는 개념을 공식 제안했습니다.1. AI 비용 측정의 새로운 기준: TCA (Total Cost of A..
![[Datadog] Prometheus Cardinality가 비용이 되는 순간](https://img1.daumcdn.net/thumb/R750x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdna%2FyaLsP%2FdJMcah56ffy%2FAAAAAAAAAAAAAAAAAAAAAK7Ddt4Qwz7bzKGvi8iGE0CK98CSfYNwygNkepJHqptu%2Fimg.png%3Fcredential%3DyqXZFxpELC7KVnFOS48ylbz2pIh7yKj8%26expires%3D1793458799%26allow_ip%3D%26allow_referer%3D%26signature%3DDy4RRsV%252FcI9j%252Fwt%252BnqLk5VIyaIs%253D)
1편 [Prometheus] 왜 다들 프로메테우스를 사용할까2편 [Prometheus] Label 하나가 시스템을 느리게 만든다 - 1. Metric, Label, TimeSeries3편 [Prometheus] Label 하나가 시스템을 느리게 만든다 - 2. Cardinality앞선 글에서는 Prometheus의 Metric, Label, TimeSeries, Cardinality를 살펴봤다.이제 한 가지 질문이 남는다.Prometheus Cardinality가 Datadog에서는 왜 비용이 되는 걸까?Datadog Custom Metrics 비용이 예상보다 크게 나오는 경우가 있다.이때 원인을 Datadog에서만 찾으면 조금 늦다.대부분의 시작점은 Prometheus Metric 설계에 있다.Da..
![[Prometheus] Label 하나가 시스템을 느리게 만든다 - 2. Cardinality](https://img1.daumcdn.net/thumb/R750x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdna%2FcYgfZC%2FdJMcacKm0EY%2FAAAAAAAAAAAAAAAAAAAAAK5M8L_iqUwMv-WvcgmwOhk-NyPzTa38oO-7D-e9dh9D%2Fimg.png%3Fcredential%3DyqXZFxpELC7KVnFOS48ylbz2pIh7yKj8%26expires%3D1793458799%26allow_ip%3D%26allow_referer%3D%26signature%3DfxLQd%252FCFMaKhILuKIm%252Bu3mr5QA8%253D)
1편 [Prometheus] 왜 다들 프로메테우스를 사용할까2편 [Prometheus] Label 하나가 시스템을 느리게 만든다 - 1. Metric, Label, TimeSeries2편에서는 Prometheus에서 TimeSeries가 어떻게 만들어지는지 봤다.핵심은 이 흐름이었다.Metric → Label 조합 → TimeSeriesPrometheus에서 같은 Metric이라도 Label 조합이 다르면 다른 TimeSeries가 된다.이번 글에서는 이 Label 조합이 많아질 때 발생하는 문제를 다룬다.바로 Cardinality다. 1. Cardinality란 무엇인가Cardinality는 쉽게 말하면 값의 종류 또는 조합의 개수다.Prometheus에서는 보통 TimeSeries 개수를 이야기할 ..
![[Prometheus] Label 하나가 시스템을 느리게 만든다 - 1. Metric, Label, TimeSeries](https://img1.daumcdn.net/thumb/R750x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdna%2FbR6LQx%2FdJMcaiXZAW3%2FAAAAAAAAAAAAAAAAAAAAAPb_zEN4ef2bLv0dObTJdJJFSHwQk-oNYtE2Uev3ZNXn%2Fimg.png%3Fcredential%3DyqXZFxpELC7KVnFOS48ylbz2pIh7yKj8%26expires%3D1793458799%26allow_ip%3D%26allow_referer%3D%26signature%3DXD0usqQMfd0WAHkko%252FQ7%252B9vKTHI%253D)
1편 [Prometheus] 왜 다들 프로메테우스를 사용할까Prometheus를 운영하다 보면 어느 순간 메모리가 부족해지거나 쿼리가 느려지기 시작한다.그런데 CPU가 부족한 것도 아니고, 디스크가 꽉 찬 것도 아니다.문제는 대부분 여기서 시작된다.Label.Prometheus에서 Label은 단순한 부가 정보가 아니다.Label은 TimeSeries를 만드는 기준이다.그래서 Prometheus를 이해하려면 먼저 이 흐름을 이해해야 한다.Metric → Label 조합 → TimeSeriesPrometheus는 숫자를 저장하는 시스템처럼 보이지만, 운영 관점에서는 Label 조합을 저장하는 시스템에 가깝다.1. Metric과 LabelPrometheus에서 가장 먼저 보이는 것은 Metric이다.예를 들..
![[Prometheus] 왜 다들 프로메테우스를 사용할까](https://img1.daumcdn.net/thumb/R750x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdna%2FbNMPYY%2FdJMcaipZa1x%2FAAAAAAAAAAAAAAAAAAAAAIus2tSfybtRqAqnP1QkHmsTX87H238tvgCWhWfShDLc%2Ftfile.svg%3Fcredential%3DyqXZFxpELC7KVnFOS48ylbz2pIh7yKj8%26expires%3D1793458799%26allow_ip%3D%26allow_referer%3D%26signature%3Dv4Pvo1qEYkoulEKWufSRzK2cCIk%253D)
Kubernetes나 클라우드 환경에서 모니터링을 이야기하면 Prometheus라는 이름이 자주 나온다. Grafana 대시보드, Alertmanager 알림, Datadog 연동, OpenMetrics 같은 이야기를 하다 보면 거의 자연스럽게 Prometheus로 이어진다.아키텍처 그림을 보다 보면 불꽃 모양의 주황색 Prometheus 로고를 만날 때가 있다. 그 로고가 있다면 보통 “여기서 metric을 모으고 있다”는 뜻으로 보면 된다.처음 듣는 사람 입장에서는 조금 낯설 수 있다. 모니터링 도구는 이미 많은데, 왜 다들 Prometheus를 이야기할까? 이 글은 그 질문에 대한 가벼운 첫 번째 정리다.Prometheus를 한 줄로 말하면Prometheus는 서버, 애플리케이션, Kubernete..
![[DevOps] 왜 DevOps는 결국 GitOps로 향하게 되었을까](https://img1.daumcdn.net/thumb/R750x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdna%2FEnVFX%2FdJMcadorlR3%2FAAAAAAAAAAAAAAAAAAAAAJDVK4p1Zin9lHBR_jU-mD_77NnZZ60A5oZWamRW83Dm%2Fimg.png%3Fcredential%3DyqXZFxpELC7KVnFOS48ylbz2pIh7yKj8%26expires%3D1793458799%26allow_ip%3D%26allow_referer%3D%26signature%3D5axZ8fdA%252BTqIPQnU1zcnDZ%252FYt%252Bs%253D)
이 글은 DevOps가 GitOps로 확장되는 흐름을 정리한 글입니다.특히 GitOps란 무엇인지, DevOps와 GitOps의 차이, Kubernetes 운영에서 GitOps가 왜 중요해졌는지를 중심으로 설명합니다.GitOps란 무엇인가: DevOps와의 차이, Kubernetes 운영에서 쓰는 이유GitOps는 애플리케이션과 인프라의 원하는 상태를 Git에 선언하고,운영 환경이 그 상태를 계속 따라가도록 만드는 운영 방식입니다.DevOps가 개발과 운영의 협업 방식과 자동화 문화에 가깝다면,GitOps는 운영 상태를 Git 중심으로 선언하고 동기화하는 방식에 더 가깝습니다.결국 GitOps가 중요해진 이유는 단순히 배포를 자동화하기 위해서가 아닙니다.Kubernetes처럼 상태가 계속 변하는 환경에서..
Docker 이미지 크기는 Kubernetes Pod 시작 속도에 얼마나 영향을 줄까? 동일한 Go 앱을 Alpine, Debian Slim, Distroless로 빌드해 cold와 warm 시작 시간을 총 60회 측정했다.Docker 이미지는 작을수록 좋다는 말을 자주 듣는다. 전송할 데이터와 저장 공간이 줄고, Kubernetes가 이미지를 내려받는 시간도 짧아지기 때문이다. 그렇다면 이미지가 10배 작아지면 Pod도 10배 빨리 준비될까?테스트에는 동일한 Go HTTP 서버와 바이너리를 사용했다. 런타임 이미지만 Alpine 3.24, Debian 13 trixie-slim, Distroless static-debian13으로 변경해 비교했다.먼저 결론부터 정리하면 다음과 같다.이 실험에서 이미지 ..
석사과정에서 읽었던 스튜어트 러셀과 피터 노빅의 『인공지능: 현대적 접근방식』에는 에이전트를 한 장에 걸쳐 설명하는 부분이 있다. 당시에는 인공지능의 기본 구조를 정리한 이론으로 읽었다. 최근 에이전틱 AI라는 용어를 자주 접하면서 이 책의 2장, “Intelligent Agents”가 다시 생각났다. 지금 이야기하는 에이전틱 AI는 책에서 설명한 지능형 에이전트와 어떤 관계가 있을까. 그 내용을 확인해보고 싶어 이 글을 쓰게 되었다.석사과정에서는 이 책의 원서 2판으로 공부했다. 이후 개정된 4판의 한국어 번역서가 출간되었고, 이 글을 준비하면서는 원서 3판도 함께 참고했다. 글의 출발점은 당시 읽었던 2판이지만, 본문에 실은 인용문과 그림 번호, 쪽수는 원서 3판을 기준으로 했다. 주요 개념의 한국어..
Datadog Bits AI는 이제 “있으면 좋은 AI 챗봇” 정도로 보기 어렵다. Chat으로 탐색하고, Investigation으로 알림을 조사하고, Code로 수정 후보를 만들고, Agent Builder로 운영 작업까지 자동화할 수 있다.기능이 늘어난 만큼 비용 구조도 같이 볼 필요가 있다. 이 기능들은 각각 따로 과금되는 게 아니라 AI Credits라는 공통 단위로 사용량이 계산된다.이번 글에서는 Datadog 공식 문서를 기준으로 Bits AI의 AI Credits 구조와 실제 운영에서 비용을 어떻게 관측하고 관리할 수 있는지 정리해봤다.1. Bits AI는 무엇을 하는 기능인가Datadog은 Bits AI를 개발·보안·운영 워크플로를 자동화하는 agentic teammate로 설명한다.실제..
이 글은 Why Tokens Aren’t the AI Bill: Introducing Total Cost of AI (TCA) 영상을 기반으로 작성한 내용입니다.많은 기업과 개발팀이 AI 도입 시 OpenAI, Anthropic 등의 API 토큰 사용료만 AI 비용의 전부로 착각합니다. 하지만 실제 엔터프라이즈 데이터 감사 결과, 토큰 비용은 전체 AI 지출의 25%(약 1/10 ~ 1/4) 수준에 불과합니다.Linux Foundation 산하 Tokenomics Foundation의 실행 이사 J.R. Stormant는 최신 토크노믹스 브리핑에서 TCA(Total Cost of AI, 총 AI 비용)라는 개념을 공식 제안했습니다.1. AI 비용 측정의 새로운 기준: TCA (Total Cost of A..
1편 [Prometheus] 왜 다들 프로메테우스를 사용할까2편 [Prometheus] Label 하나가 시스템을 느리게 만든다 - 1. Metric, Label, TimeSeries3편 [Prometheus] Label 하나가 시스템을 느리게 만든다 - 2. Cardinality앞선 글에서는 Prometheus의 Metric, Label, TimeSeries, Cardinality를 살펴봤다.이제 한 가지 질문이 남는다.Prometheus Cardinality가 Datadog에서는 왜 비용이 되는 걸까?Datadog Custom Metrics 비용이 예상보다 크게 나오는 경우가 있다.이때 원인을 Datadog에서만 찾으면 조금 늦다.대부분의 시작점은 Prometheus Metric 설계에 있다.Da..
1편 [Prometheus] 왜 다들 프로메테우스를 사용할까2편 [Prometheus] Label 하나가 시스템을 느리게 만든다 - 1. Metric, Label, TimeSeries2편에서는 Prometheus에서 TimeSeries가 어떻게 만들어지는지 봤다.핵심은 이 흐름이었다.Metric → Label 조합 → TimeSeriesPrometheus에서 같은 Metric이라도 Label 조합이 다르면 다른 TimeSeries가 된다.이번 글에서는 이 Label 조합이 많아질 때 발생하는 문제를 다룬다.바로 Cardinality다. 1. Cardinality란 무엇인가Cardinality는 쉽게 말하면 값의 종류 또는 조합의 개수다.Prometheus에서는 보통 TimeSeries 개수를 이야기할 ..
1편 [Prometheus] 왜 다들 프로메테우스를 사용할까Prometheus를 운영하다 보면 어느 순간 메모리가 부족해지거나 쿼리가 느려지기 시작한다.그런데 CPU가 부족한 것도 아니고, 디스크가 꽉 찬 것도 아니다.문제는 대부분 여기서 시작된다.Label.Prometheus에서 Label은 단순한 부가 정보가 아니다.Label은 TimeSeries를 만드는 기준이다.그래서 Prometheus를 이해하려면 먼저 이 흐름을 이해해야 한다.Metric → Label 조합 → TimeSeriesPrometheus는 숫자를 저장하는 시스템처럼 보이지만, 운영 관점에서는 Label 조합을 저장하는 시스템에 가깝다.1. Metric과 LabelPrometheus에서 가장 먼저 보이는 것은 Metric이다.예를 들..
Kubernetes나 클라우드 환경에서 모니터링을 이야기하면 Prometheus라는 이름이 자주 나온다. Grafana 대시보드, Alertmanager 알림, Datadog 연동, OpenMetrics 같은 이야기를 하다 보면 거의 자연스럽게 Prometheus로 이어진다.아키텍처 그림을 보다 보면 불꽃 모양의 주황색 Prometheus 로고를 만날 때가 있다. 그 로고가 있다면 보통 “여기서 metric을 모으고 있다”는 뜻으로 보면 된다.처음 듣는 사람 입장에서는 조금 낯설 수 있다. 모니터링 도구는 이미 많은데, 왜 다들 Prometheus를 이야기할까? 이 글은 그 질문에 대한 가벼운 첫 번째 정리다.Prometheus를 한 줄로 말하면Prometheus는 서버, 애플리케이션, Kubernete..
이 글은 DevOps가 GitOps로 확장되는 흐름을 정리한 글입니다.특히 GitOps란 무엇인지, DevOps와 GitOps의 차이, Kubernetes 운영에서 GitOps가 왜 중요해졌는지를 중심으로 설명합니다.GitOps란 무엇인가: DevOps와의 차이, Kubernetes 운영에서 쓰는 이유GitOps는 애플리케이션과 인프라의 원하는 상태를 Git에 선언하고,운영 환경이 그 상태를 계속 따라가도록 만드는 운영 방식입니다.DevOps가 개발과 운영의 협업 방식과 자동화 문화에 가깝다면,GitOps는 운영 상태를 Git 중심으로 선언하고 동기화하는 방식에 더 가깝습니다.결국 GitOps가 중요해진 이유는 단순히 배포를 자동화하기 위해서가 아닙니다.Kubernetes처럼 상태가 계속 변하는 환경에서..
