Cache 구조 — 세 가지만

마지막 hit에서 다시 5분 연장. 점심 먹고 오면 캐시는 죽어 있다 — 연속 세션에 효과, 띄엄띄엄 쓰면 쓸모 적음.

앞에서부터 길게 일치할 때만 hit. 한 토큰만 앞에서 바뀌어도 캐시 전체가 깨진다.

첫 호출은 25% 비쌈. 적어도 2~3번 재사용될 prefix만 캐시하는 게 합리적.