비용과 보안 때문에 직접 작은 모델을 만들어보기로 했다 – 『원하는 대로 튜닝하는 나만의 sLLM』
상용 LLM API의 비용과 금융권 보안을 고민하던 핀테크 AI 개발자가 직접 작은 모델을 만들어보기로 했다. LoRA·QLoRA부터 양자화, RAG, FastAPI 배포까지 하반기 앱 챗봇 개발을 위해 읽은 실전 입문서.
LLM과 에이전트를 설계하는 실무 실험실
AI·개발 분야 책을 읽고 실무 관점에서 남기는 서평. 무엇을 배웠고 어디에 써먹을지에 비중을 둔다.
상용 LLM API의 비용과 금융권 보안을 고민하던 핀테크 AI 개발자가 직접 작은 모델을 만들어보기로 했다. LoRA·QLoRA부터 양자화, RAG, FastAPI 배포까지 하반기 앱 챗봇 개발을 위해 읽은 실전 입문서.
— 이론에서 실습까지, 허깅페이스의 a to z를 따라가다 보면 멀티모달이 더 이상 무겁지 않다