Blog JSystems - uwalniamy wiedzę!

Szukaj

Claude Code

Prompt caching w Claude Code - jak działa i jak go wykorzystać

W skrócie

  • Nie wiesz, czym jest prompt caching w Claude Code ani jak sprawdzić, czy działa na Twoją korzyść.
  • Claude Code buforuje powtarzalny początek kontekstu automatycznie - odczyt z bufora jest tańszy niż zwykłe tokeny wejściowe.
  • Sprawdź skuteczność bufora w podsumowaniu /usage, dbaj o stabilny początek kontekstu, a przy krótkich sesjach rozważ dłuższy czas życia bufora.

Prompt caching to mechanizm, który potrafi zauważalnie obniżyć koszt pracy z Claude Code, a większość ludzi nawet nie wie, że działa im w tle. W skrócie: powtarzalny początek kontekstu jest buforowany, a jego ponowne użycie kosztuje mniej niż liczenie tych samych tokenów od nowa. Pokazujemy, jak to działa, jak sprawdzić, czy Ci się opłaca, i co robić, żeby działało lepiej.

Jak to wygląda w praktyce

Tu nie ma klasycznego błędu do naprawienia - jest raczej pytanie, czy nie przepłacasz. Jeśli prowadzisz wiele krótkich sesji z tym samym dużym kontekstem albo widzisz, że koszt rośnie mimo powtarzalnej pracy, to znak, że warto przyjrzeć się buforowaniu.

Bywa też tak, że bufor się nie utrzymuje: coś w początku kontekstu zmienia się z tury na turę, więc zamiast czytać z bufora, Claude Code cały czas tworzy go od nowa. To realny koszt, bo tworzenie wpisu w buforze jest droższe niż jego odczyt.

Dlaczego Claude Code tak działa

Claude Code korzysta z buforowania automatycznie, nie musisz go konfigurować. Działa to na zasadzie stabilnego początku kontekstu: powtarzalna część, która nie zmienia się między zapytaniami, może być zapisana w buforze i przy kolejnych turach czytana zamiast liczona od zera. W raportowaniu widać to jako dwie liczby: tokeny zapisane do bufora w danej turze, rozliczane po stawce zapisu, oraz tokeny odczytane z bufora, rozliczane po stawce niższej niż zwykłe wejście. Wysoki stosunek odczytów do zapisów oznacza, że buforowanie działa dobrze.

Kluczowa jest stabilność początku kontekstu. Jeśli coś na jego początku ciągle się zmienia - na przykład definicje narzędzi albo treść systemowa - bufor jest unieważniany i tworzony na nowo, a Ty płacisz wyższą stawkę zapisu tura po turze. Osobna sprawa jest czas życia bufora: domyślnie wpis wygasa po kilku minutach, więc przy wielu krótkich sesjach z dłuższymi przerwami bufor może wygasać między nimi i każda sesja płaci pełną cenę wejścia.

Jak to rozwiązać krok po kroku

  1. Zacznij od pomiaru. Uruchom /usage - w podsumowaniu sesji Claude Code pokazuje osobną linię dotyczącą bufora głównej rozmowy, w tym wskaźnik trafień i liczbę chybień.
  2. Zwróć uwagę na stosunek odczytów do zapisów. Jeśli tworzenie bufora pozostaje wysokie tura po turze, coś zmienia się w początku kontekstu i unieważnia bufor.
  3. Dbaj o stabilny początek kontekstu: unikaj częstych zmian w elementach ładowanych na starcie (na przykład zbędnego przełączania konfiguracji narzędzi w trakcie), żeby powtarzalna część mogła być czytana z bufora.
  4. Jeśli prowadzisz wiele krótkich sesji z tym samym kontekstem i przerwami dłuższymi niż kilka minut, rozważ wydłużenie czasu życia bufora zmienną środowiskową ENABLE_PROMPT_CACHING_1H, pamiętając, że dłuższy zapis jest rozliczany po wyższej stawce.
  5. Obserwuj, czy Claude Code wskazuje prawdopodobną przyczynę ostatniego chybienia (na przykład zmianę definicji narzędzi), i eliminuj te przyczyny.
  6. Powtórz pomiar przez /usage po zmianach, żeby sprawdzić, czy wskaźnik trafień wzrósł.

Jak sprawdzić, że zadziałało

Najpewniejszy dowód jest w liczbach z /usage: rosnący wskaźnik trafień bufora i więcej tokenów odczytanych z bufora niż zapisanych do niego oznaczają, że mechanizm działa na Twoją korzyść. To odczyt wprost u źródła, a nie domysł.

Jeśli po ustabilizowaniu początku kontekstu tworzenie bufora spadło, a odczyty wzrosły, zmiana przyniosła efekt. Gdy mimo starań tworzenie bufora nadal jest wysokie, poszukaj w podsumowaniu wskazanej przyczyny ostatniego chybienia i usuń to, co zmienia początek kontekstu między turami.

Wróć do listy: 100 najczęstszych problemów z Claude Code

Szkolenie Claude Code - od zera do zespołu agentów AI, prowadzi Łukasz Matuszewski (JSystems)

Szkolenie Claude Code - od zera do zespołu agentów AI -->

Szkolenie Claude Code - od zera do zespołu agentów AI

Tryb planowania, tryby uprawnień, komendy, MCP, hooki i systemy multi-agent - wszystko na żywym kodzie podczas trzydniowego szkolenia. Prowadzi Łukasz Matuszewski. Szkolenie ma terminy gwarantowane - odbędzie się niezależnie od liczby zgłoszeń.

Sprawdź szkolenie Claude Code

To szkolenie może być dofinansowane dla Ciebie z KFS lub BUR.

★★★★★Średnia ocena naszych szkoleń w Google: 5/5

Najczęściej zadawane pytania

Czym jest prompt caching w Claude Code i czy trzeba go włączać?
To buforowanie powtarzalnego początku kontekstu, które Claude Code stosuje automatycznie, bez konfiguracji z Twojej strony. Część kontekstu, która nie zmienia się między zapytaniami, jest zapisywana w buforze i przy kolejnych turach czytana zamiast liczona od zera. Odczyt z bufora jest rozliczany po stawce niższej niż zwykłe tokeny wejściowe.
Jak sprawdzić, czy buforowanie działa na moją korzyść?
Uruchom komendę /usage. W podsumowaniu sesji Claude Code pokazuje osobną linię dotyczącą bufora głównej rozmowy, w tym wskaźnik trafień i liczbę chybień. Zwróć uwagę na stosunek tokenów odczytanych z bufora do zapisanych do niego. Wysoki stosunek odczytów do zapisów oznacza, że buforowanie działa dobrze.
Dlaczego bufor ciągle tworzy się od nowa zamiast być czytany?
Bufor jest unieważniany, gdy coś na początku kontekstu się zmienia, na przykład definicje narzędzi albo treść systemowa. Wtedy zamiast taniego odczytu płacisz wyższą stawkę zapisu tura po turze. Dbaj o stabilny początek kontekstu i sprawdzaj w podsumowaniu wskazaną przyczynę ostatniego chybienia, aby ją wyeliminować.
Co zrobić, gdy prowadzę wiele krótkich sesji z tym samym kontekstem?
Domyślnie wpis w buforze wygasa po kilku minutach, więc przy krótkich sesjach z dłuższymi przerwami bufor może wygasać między nimi i każda sesja płaci pełną cenę wejścia. Możesz wydłużyć czas życia bufora zmienną środowiskową ENABLE_PROMPT_CACHING_1H, pamiętając, że dłuższy zapis jest rozliczany po wyższej stawce niż krótszy.

Komentarze (0)

Musisz być zalogowany by móc dodać komentarz. Zaloguj się przez Google

Brak komentarzy...