프롬프트 캐싱, 진짜 손익분기는 어디인가 – Opus 4.7로 60번 호출해서 측정한 비용 곡선

작성자:

지난 글에서 프롬프트 캐싱을 처음 도입할 때 알아둘 7가지를 정리했다. 그 글 마지막에 이렇게 약속했다. “같은 시스템 프롬프트를 캐싱 없이 / 5분 TTL / 1시간 TTL로 각각 N번 호출하면서 누적 비용이 어떻게 갈라지는지 직접 측정한다.” 약속한 실험을 돌렸다. 같은 prefix를 세 가지 모드로 각 20번, 총 60번 호출했다. 먼저 결론부터 던지면 이렇다. 같은 작업을 캐싱 … 더 읽기

Kanana in KakaoTalk을 켜봤다

작성자:

핀테크 개발자가 본 KakaoTalk 온디바이스 AI의 의미 지난 글에서 카카오의 Kanana-o 멀티모달 모델로 음성 의사결정 앱 “아무거나(amuguna)”를 만든 경험을 정리했다. 그 글은 모델을 코드에 녹이는 입장의 분석이었다. 이번 글은 카카오가 같은 Kanana 모델 가족 중 다른 한 갈래를 일반 사용자 톡 안에 넣은 결과를 켜본 후기다. Kanana in KakaoTalk. 평소 핀테크 도메인에서 LLM을 다루는 입장에서 … 더 읽기

프롬프트 캐싱, 처음 도입할 때 알아둬야 하는 7가지

작성자:

지난 글에서 Agent 운영의 토큰 종류를 다섯 가지로 쪼개 정리했다. 그 글 마지막에 이렇게 약속했다. “다음 글은 토큰값을 진짜로 이해하고 나서 시작한 프롬프트 캐싱 실험이다.” 그런데 실험에 들어가기 전에 한 번 짚고 가야 할 게 있었다. “캐싱이라는 게 정확히 뭘 캐싱하는 거지?” 이름만 들으면 다 안다고 착각하기 쉬운 개념이다. 필자도 한참 동안 “시스템 프롬프트를 어딘가에 … 더 읽기

Agent를 관측하는 3가지 도구 살펴보기 ft. LLM Token

작성자:

– Tool 권한 설계 시리즈, 마지막 편 지난 글에서 Agent에게 Tool을 어떻게 제한적으로 열어줬는지를 정리했다. 그 글 마지막에 이렇게 썼다. “다음 글에서는 이렇게 설계한 멀티 에이전트 시스템을 실제로 운영하면서 겪은 모니터링과 디버깅 이야기를 정리해보려 한다.” 이번 글이 그 이야기다. 처음부터 모니터링을 제대로 짜둔 건 아니었다. 어느 날 token 사용량이 급격히 줄어든 걸 보고 나서야 깨달았다. … 더 읽기

Claude Code Skills·Hooks 사용법 — 파일 몇 개로 코딩 에이전트 커스텀하기

작성자:

Claude Code의 스킬(Skills)과 훅(Hooks) 시스템을 정리한다. 마크다운 파일 하나로 에이전트 행동을 정의하는 스킬, 이벤트 기반으로 자동 개입하는 훅 — 두 시스템의 구조, 설정, 실무 활용 패턴까지.