못 미더운 외부 소스를 가두는 법 2가지 – 서킷브레이커와 소스 health 관측

외부 뉴스 소스 수십 개를 수집하는 파이프라인을 만든 적이 있다. RSS, YouTube, 공시, 검색 API 같은 외부 소스에서 뉴스를 긁어모으는 구조였다. 여기서 가장 빨리 배운 건 알고리즘이 아니었다. 외부 소스는 반드시, 그리고 제멋대로 실패한다는 사실이었다. 어떤 RSS는 어제까지 멀쩡하다 오늘 502를 뱉고 어떤 피드는 형식이 깨진 채로 응답한다. 문제는 소스 하나의 실패가 파이프라인 전체를 끌어내린다는 … 더 읽기

Agent를 관측하는 3가지 도구 살펴보기 ft. LLM Token

– Tool 권한 설계 시리즈, 마지막 편 지난 글에서 Agent에게 Tool을 어떻게 제한적으로 열어줬는지를 정리했다. 그 글 마지막에 이렇게 썼다. “다음 글에서는 이렇게 설계한 멀티 에이전트 시스템을 실제로 운영하면서 겪은 모니터링과 디버깅 이야기를 정리해보려 한다.” 이번 글이 그 이야기다. 처음부터 모니터링을 제대로 짜둔 건 아니었다. 어느 날 token 사용량이 급격히 줄어든 걸 보고 나서야 깨달았다. … 더 읽기