Blog JSystems - uwalniamy wiedzę!
Blog JSystems - uwalniamy wiedzę!
Claude Code
Prompt caching w Claude Code - jak działa i jak go wykorzystać
Prompt caching to mechanizm, który potrafi zauważalnie obniżyć koszt pracy z Claude Code, a większość ludzi nawet nie wie, że działa im w tle. W skrócie: powtarzalny początek kontekstu jest buforowany, a jego ponowne użycie kosztuje mniej niż liczenie tych samych tokenów od nowa. Pokazujemy, jak to działa, jak sprawdzić, czy Ci się opłaca, i co robić, żeby działało lepiej.
Tu nie ma klasycznego błędu do naprawienia - jest raczej pytanie, czy nie przepłacasz. Jeśli prowadzisz wiele krótkich sesji z tym samym dużym kontekstem albo widzisz, że koszt rośnie mimo powtarzalnej pracy, to znak, że warto przyjrzeć się buforowaniu.
Bywa też tak, że bufor się nie utrzymuje: coś w początku kontekstu zmienia się z tury na turę, więc zamiast czytać z bufora, Claude Code cały czas tworzy go od nowa. To realny koszt, bo tworzenie wpisu w buforze jest droższe niż jego odczyt.
Claude Code korzysta z buforowania automatycznie, nie musisz go konfigurować. Działa to na zasadzie stabilnego początku kontekstu: powtarzalna część, która nie zmienia się między zapytaniami, może być zapisana w buforze i przy kolejnych turach czytana zamiast liczona od zera. W raportowaniu widać to jako dwie liczby: tokeny zapisane do bufora w danej turze, rozliczane po stawce zapisu, oraz tokeny odczytane z bufora, rozliczane po stawce niższej niż zwykłe wejście. Wysoki stosunek odczytów do zapisów oznacza, że buforowanie działa dobrze.
Kluczowa jest stabilność początku kontekstu. Jeśli coś na jego początku ciągle się zmienia - na przykład definicje narzędzi albo treść systemowa - bufor jest unieważniany i tworzony na nowo, a Ty płacisz wyższą stawkę zapisu tura po turze. Osobna sprawa jest czas życia bufora: domyślnie wpis wygasa po kilku minutach, więc przy wielu krótkich sesjach z dłuższymi przerwami bufor może wygasać między nimi i każda sesja płaci pełną cenę wejścia.
/usage - w podsumowaniu sesji Claude Code pokazuje osobną linię dotyczącą bufora głównej rozmowy, w tym wskaźnik trafień i liczbę chybień.ENABLE_PROMPT_CACHING_1H, pamiętając, że dłuższy zapis jest rozliczany po wyższej stawce./usage po zmianach, żeby sprawdzić, czy wskaźnik trafień wzrósł.Najpewniejszy dowód jest w liczbach z /usage: rosnący wskaźnik trafień bufora i więcej tokenów odczytanych z bufora niż zapisanych do niego oznaczają, że mechanizm działa na Twoją korzyść. To odczyt wprost u źródła, a nie domysł.
Jeśli po ustabilizowaniu początku kontekstu tworzenie bufora spadło, a odczyty wzrosły, zmiana przyniosła efekt. Gdy mimo starań tworzenie bufora nadal jest wysokie, poszukaj w podsumowaniu wskazanej przyczyny ostatniego chybienia i usuń to, co zmienia początek kontekstu między turami.
Wróć do listy: 100 najczęstszych problemów z Claude Code
Szkolenie Claude Code - od zera do zespołu agentów AI -->
Tryb planowania, tryby uprawnień, komendy, MCP, hooki i systemy multi-agent - wszystko na żywym kodzie podczas trzydniowego szkolenia. Prowadzi Łukasz Matuszewski. Szkolenie ma terminy gwarantowane - odbędzie się niezależnie od liczby zgłoszeń.
Sprawdź szkolenie Claude CodeTo szkolenie może być dofinansowane dla Ciebie z KFS lub BUR.
★★★★★Średnia ocena naszych szkoleń w Google: 5/5
Komentarze (0)
Brak komentarzy...