Nginx 프록시로 에러 화면 통합하기
피드
한국 개발 블로그의 글을 모았습니다.
넥스트리기업
결재 연동 이벤트 핸들러 구축
Samsung Tech Blog기업
AI에게 분석을 맡기기 전에, '분석할 수 없음' 부터 가르치세요 — Wear OS 이슈 초도 분석을 자동화한 WOA Agent 개발기
Galaxy Watch 검증 단계에서 등록되는 Crash·ANR·화면 흑화 이슈의 초도 분석을 자동화한 WOA(Wear OS Analysis) Agent의 개발 과정을 소개합니다. 덤프 수집부터 로그 복호화, 난독화 해제, RAG 기반 유사 이슈 검색과 담당자 추천까지 사람이 반복하던 30분의 준비 작업을 어떻게 이벤트 기반 자동 분석으로 전환했는지 다루며…
LY Corporation Tech Blog기업
AI를 전제로 다시 설계하다, Tech-Verse 2026 참관기
들어가며안녕하세요. LINE Plus의 LINE VoIP Service Dev 팀에서 서버 개발을 하고 있는 한규범, ABC Studio에서 서버를 개발하고 있는 황건구입니다.저희...
도파민프린터의 메이킹 로그개인
렌지 후드 랩소디 (1): 일이 점점점점 커진다
가스렌지 후드가 어느 순간부터 전원을 켜도 돌지 않았다. 또 완전히 돌지 않는건 아니고, 켜놓고 무시한 채 요리하면서 세월아 네월아 기다리다보면 어느순간 갑자기 돌기 시작했다. 원인을 파악하기 위해 뜯어봐야겠다 마음만 먹던 몇 달, 드디어 후드를 뜯었다. 뜯는 내내 끈적한 묵은 기름때가 진행을 방해했다. 손에 묻으면 비누로도 잘 안 지워져서 장갑을 끼고 공…
삼성SDS 인사이트기업
AI 추론 서비스의 새로운 관문, Inference Gateway
LLM 추론 요청을 토큰 사용량과 프롬프트 안전성에 따라 통제하고, 서버 상태에 맞춰 분배하는 Inference Gateway의 구조와 역할을 살펴봅니다.
와탭랩스 블로그기업Continuous Profiling이란? CPU 병목을 코드 단위로 찾는 방법
Continuous Profiling은 실행 중인 애플리케이션의 스택을 주기적으로 수집해 어느 코드가 자원을 쓰는지 남기는 방식입니다. OpenTelemetry가 이를 네 번째 시그널로 표준화하는 중이며 2026년 3월 공개 알파에 들어갔습니다.
Eraser’s StudyLog개인
[LLM] LLM 서빙과 최적화: vLLM on Trainium 워크샵 - 8.7. HPA와 스케일링 제약
노드도 파드도 늘릴 수 없는 환경에서 HPA Lab이 어디까지 가는지, 그리고 CPU 사용률이 추론 워크로드의 스케일 신호가 될 수 있는지 확인해 보자.
[LLM] LLM 서빙과 최적화: vLLM on Trainium 워크샵 - 8.6. 부하 테스트와 llmperf 벤치마크
자작 스크립트와 llmperf로 vLLM에 부하를 걸고, 두 도구가 낸 수치를 나란히 놓을 수 있는지 확인해 보자.
Inflab tech blog기업인프런은 영상 화면 속 글자도 번역합니다
…
[LLM] LLM 서빙과 최적화: vLLM on Trainium 워크샵 - 8.4. ingress-nginx L7 노출과 자체 서명 인증서
ingress-nginx를 올려 URL에서 포트를 떼어내고, CLB가 두 개가 된 구조와 브라우저 인증서 경고가 바뀐 이유를 확인해 보자.
[LLM] LLM 서빙과 최적화: vLLM on Trainium 워크샵 - 8.5.1. vLLM 메트릭 수집과 서브패스 노출
Helm으로 Prometheus를 올려 vLLM의 /metrics를 수집하고, Ingress 서브패스로 웹 UI를 열었을 때 무엇이 함께 바뀌는지 확인해 보자.
상쾌한기분개인
우리 귀여운 오즈 보고 가세요
우리 귀여운 오즈 보고 가세요 오즈 오즈2
[LLM] LLM 서빙과 최적화: vLLM on Trainium 워크샵 - 8.5.2. 데이터소스 프로비저닝과 vLLM 대시보드
Grafana를 서브패스로 노출하고 Prometheus 데이터소스를 프로비저닝한 뒤, ConfigMap으로 넣은 vLLM 대시보드가 언제 목록에 뜨는지 확인해 보자.
[EKS] LLM 서빙과 최적화: vLLM on Trainium 워크샵 - 8.0. 개요와 워크샵 아키텍처
EKS와 AWS Trainium 위에 vLLM을 올리는 워크샵의 목적과 클러스터 아키텍처를 살펴보자.
[Trainium] LLM 서빙과 최적화: vLLM on Trainium 워크샵 - 8.1. Trainium·Inferentia와 Neuron 스택
워크샵이 쓰는 Trainium이 어떤 칩인지, Neuron SDK가 어떤 스택인지, NVIDIA 스택과 어디까지 대응되는지 정리해 보자.
[EKS] LLM 서빙과 최적화: vLLM on Trainium 워크샵 - 8.2.1. Trainium 노드그룹 구성
EKS 컨트롤 플레인만 있는 상태에서 trn1.2xlarge 관리형 노드그룹을 붙이고, 미리 박혀 있던 AMI ID 때문에 막힌 지점을 풀어 보자.
[EKS] LLM 서빙과 최적화: vLLM on Trainium 워크샵 - 8.2.2. Trainium 디바이스가 쿠버네티스에 노출되는 경로
칩 하나에 리소스가 둘 광고되는 이유를 커널 디바이스 노드와 device plugin 소켓까지 내려가 확인하고, NVIDIA와 갈리는 지점을 정리해 보자.
[vLLM] LLM 서빙과 최적화: vLLM on Trainium 워크샵 - 8.3.1. init container 모델 컴파일과 S3 캐시
vLLM Deployment를 init container 패턴으로 올리고, Neuron 컴파일 산출물이 S3 캐시를 거쳐 메인 컨테이너로 전달되는 경로를 확인해 보자.
[EKS] LLM 서빙과 최적화: vLLM on Trainium 워크샵 - 8.3.2. LoadBalancer 서비스 노출과 추론 테스트
vLLM Service를 LoadBalancer로 노출했을 때 만들어지는 CLB의 리스너 구조를 확인하고, 추론 요청이 실제로 왕복하는지 검증해 보자.
피드 구독
새 글을 RSS 리더나 슬랙에서 받아볼 수 있어요.
슬랙 채널에서 받아보기 — 아래 명령어를 채널에 붙여넣으세요.
/feed subscribe https://indieblog.net/rss.xml새 글을 바로 push 받고 싶다면 슬랙·디스코드 웹훅 연동도 있어요.