매번 -n 옵션 붙이고, kubectl get pods 치고 파드 이름 복사해서 logs 찍는 거 지겹지 않으신가요. 오늘은 아키텍처 설명 대신, krew(kubectl의 플러그인 관리 도구)로 설치해서 바로 써먹을 수 있는 kubectl 플러그인 5가지를 가볍게 정리합니다.krew란 - 먼저 이것부터krew는 kubectl의 "패키지 매니저"입니다. macOS의 brew, 우분투의 apt처럼 플러그인을 검색·설치·업데이트하게 해줍니다. 아래 5개 플러그인 모두 krew로 설치합니다.( set -x; cd "$(mktemp -d)" && curl -fsSLO "https://github.com/kubernetes-sigs/krew/releases/latest/download/krew-linux_amd..
쿠버네티스 1.34 기준으로 정리합니다. GPU 같은 특수 하드웨어를 쿠버네티스가 다루는 방식이 device plugin에서 Dynamic Resource Allocation(DRA)으로 바뀌고 있습니다. 왜 바뀌는지, 실제로 무엇이 달라지는지, 어떻게 쓰는지 순서로 정리합니다.무엇이 문제였나 - device plugin의 한계MIG(Multi-Instance GPU) 정리 글에서 다룬 것처럼, 지금까지 쿠버네티스에서 GPU를 쓰려면 파드 스펙에 resources.limits.nvidia.com/gpu: 1처럼 개수만 적었습니다. 이 방식을 device plugin이라고 부릅니다.문제는 "개수"만으로는 표현할 수 없는 요구사항이 많다는 점입니다. 어떤 모델의 GPU인지, 메모리가 얼마나 필요한지, 다른 ..
2026년 5월 InfluxDB v2가 /health·/ready 엔드포인트를 대대적으로 개편한 실제 이슈(#27355)와 PR(#27370)을 통해, 헬스체크를 어떻게 설계해야 하는지 정리합니다.무엇이 문제였나InfluxDB GitHub 이슈 #27355 "Improve /health and /ready endpoints in V2"에서 지적된 기존 동작은 이랬습니다.HTTP 스택 전체가 초기화된 후에만 /health, /ready가 응답을 시작함 - 즉 InfluxDB가 아직 뜨는 중인지, 이미 죽었는지 외부에서 구분할 방법이 없었습니다.샤드(shard)를 로딩하는 시작 초기 단계의 진행 상황을 전혀 알 수 없었습니다./health가 실패해도 "왜" 실패했는지 상세 원인을 알려주지 않았습니다.쿠버네티..
2026년 9월 Envoy AI Gateway가 1.0으로 GA되고 Istio도 베타 지원을 발표하면서 빠르게 표준으로 자리잡고 있는 Gateway API Inference Extension의 개념, 핵심 리소스, 동작 흐름, 실제 매니페스트 예시를 정리합니다.왜 필요한가 - 기존 로드밸런싱의 한계Kubernetes Gateway API의 HTTPRoute는 "이 경로/호스트로 오는 요청을 이 서비스로 보내라"는 수준까지만 결정합니다. 그런데 LLM 추론 요청은 일반 HTTP 요청과 성격이 많이 다릅니다. 세션이 길고, GPU 자원을 많이 쓰고, 모델 서버마다 이미 캐싱된 프롬프트(prefix cache)나 로드된 LoRA 어댑터가 다를 수 있습니다. 그래서 단순 라운드로빈으로 아무 파드에나 요청을 흘려..
2026년 11월 GA된 OpenShift 4.20에서 LeaderWorkerSet(LWS)이 정식 지원되면서, 최근 다룬 KubeRay·Kueue와 함께 분산 AI 워크로드 오케스트레이션의 한 축을 이루게 된 LWS의 개념, StatefulSet과의 차이, 핵심 스펙, 실제 예시를 정리합니다.LWS(LeaderWorkerSet)란LWS는 쿠버네티스 SIG(Special Interest Group)가 관리하는 API로, 여러 파드를 하나의 복제 단위(unit of replication)로 묶어 배포하기 위해 만들어졌습니다. 주 타깃은 멀티호스트 LLM 추론입니다. Llama 3.1 405B처럼 GPU 하나, 심지어 노드 하나에도 다 올라가지 않는 거대 모델을, 텐서 병렬화(tensor parallelis..
KubeCon EU 2026에서 발표된 Cilium 1.19의 사이드카 없는 네이티브 mTLS가 화제가 되면서, 서비스 메시의 기본값으로 떠오른 eBPF 기반 Cilium Service Mesh의 개념, 동작 원리, mTLS 처리 방식, 설치, 관측성 도구까지 정리합니다.Cilium이란Cilium은 리눅스 커널의 eBPF(extended Berkeley Packet Filter) 기술을 활용해 네트워킹·보안·관측성을 처리하는 오픈소스 프로젝트로, 2023년 CNCF를 졸업했습니다. 원래는 쿠버네티스 CNI(컨테이너 네트워크 인터페이스) 플러그인으로 출발했지만, 최근에는 사이드카 프록시 없이 동작하는 서비스 메시로도 널리 쓰이고 있습니다. 참고로 Cilium은 쿠버네티스에서 Ingress를 대체하는 표준 ..
