LLM

LLM(대규모 언어모델)을 실제 제품에 붙이며 남긴 기록. API 비용 최적화, 프롬프트 캐싱, 모델 선택, 토큰 계산처럼 현업에서 바로 부딪히는 문제를 1인칭 경험과 실측값으로 다룬다.

Orchestrator는 Agent가 아니다

작성자:

멀티 에이전트에서 ‘통제자’의 역할을 분리하며 배운 것들 지난 글에서 State와 Message Bus의 역할을 혼동하며 겪었던 혼란을 정리했다. 그 글 마지막에 이렇게 썼다. “다음 글에서는 이 State를 누가 관리해야 하는지, 이 역할의 경계를 중심으로 정리해보려 한다. 이번 글은 그 이야기다. 1. “누가 이걸 결정한 거지?”가 반복되는 순간 멀티 에이전트를 만들다 보면 처음에는 역할 분담이 깔끔해 보인다. … 더 읽기