Ceny, kredyty i cache

Oblicz koszt żądania i poznaj tymczasowe blokady środków.

Doładuj i sprawdź kredyty

Otwórz Credits → Add credits i wybierz dostępną metodę płatności. Kredyty z Card trafiają na konto po potwierdzeniu płatności. Przy USDC on Base skorzystaj z danych wpłaty w panelu, przestrzegaj wskazanej sieci i tokena, a potem poczekaj na potwierdzenie.

Saldo kredytów i historia zużycia obok przycisku Add credits

Kredyty opłacają żądania kupującego. Zarobki sprzedawcy i Payouts mają osobne salda.

Oblicz koszt żądania

Oferta ma osobne ceny wejścia i wyjścia w USD za milion tokenów. Płacisz za zużyte tokeny, a nie za całe bloki po milion. Przy zwykłym rozliczaniu cache:

Opłata przed końcowym zaokrągleniem
charge_usd = (
  (input_tokens - cached_input_tokens) * input_rate
  + cached_input_tokens * cache_read_rate
  + output_tokens * output_rate
) / 1_000_000

input_tokens obejmuje tu odczyty i zapisy do cache. Zapisy są rozliczane według zwykłej stawki wejścia, chyba że oferta włącza darmowy cache. Stawki są podane w USD za milion tokenów. Suma jest zaokrąglana w górę tylko raz, do kolejnego $0.000001, po połączeniu wszystkich kategorii.

Przykład z odczytami z cache

Załóżmy, że oferta kosztuje $2 za wejście, $0.20 za odczyty z cache i $8 za wyjście na milion tokenów. Zakończone żądanie zgłasza 10 000 tokenów wejściowych, w tym 6 000 odczytanych z cache, oraz 500 wyjściowych.

KategoriaTokenyUSD / 1MKoszt
Wejście bez odczytów z cache4 000$2$0.0080
Odczyty z cache6 000$0.20$0.0012
Wyjście500$8$0.0040
Razem$0.0132

Według zwykłej stawki wejścia takie samo zużycie kosztowałoby $0.024. Oszczędność z cache wynosi $0.0108. To stawki przykładowe, a nie aktualne ceny ofert.

Blokada i zwolnienie środków

Blokada środków to tymczasowa rezerwacja kredytów. Przed wysłaniem żądania do dostawcy brama rezerwuje szacowane wejście według stawki bez cache oraz żądany budżet wyjścia. Nie może zakładać trafienia w cache, zanim dostawca go zgłosi.

W powyższym przykładzie, przy szacowanym wejściu 10 000 i max_tokens równym 2 000, blokada wynosi (10,000 × $2 + 2,000 × $8) / 1,000,000 = $0.036. Po naliczeniu $0.0132 zwalniane jest niewykorzystane $0.0228. Równoległe żądania mogą więc zmniejszyć środki dostępne na kolejne wywołania, zanim poznasz ich ostateczny koszt.

Blokada musi mieścić się zarówno w kredytach, jak i pozostałym miesięcznym budżecie klucza. Duży budżet wyjścia może spowodować 402, choć oczekujesz znacznie niższej opłaty. Ustaw realistyczny limit wyjścia. Stawki oferty i ceny referencyjne są zapisywane przy przyjęciu żądania; późniejsze zmiany cen nie wpływają na uzgodnione stawki tego żądania.

Zasady cen cache

UstawienieRozliczenie
Stawka odczytu z cache podana przez sprzedawcęObowiązuje ta stawka, najwyżej równa zwykłej cenie wejścia.
Automatyczna cena odczytu z cacheCena wejścia sprzedawcy jest mnożona przez stosunek ceny cache do ceny wejścia w katalogu referencyjnym, z zaokrągleniem w górę do precyzji stawki.
Brak prawidłowego stosunku cen w kataloguObowiązuje zwykła stawka wejścia.
Zapis do cachePrzy zwykłym rozliczeniu obowiązuje stawka wejścia.
Free cacheZgłoszone odczyty i zapisy do cache kosztują zero; pozostałe wejście i wyjście są płatne.

Darmowy cache odejmuje obie zgłoszone kategorie cache od zwykłego wejścia. Gdy dostępne jest cache_write_tokens, wzór wygląda tak:

Oferta z darmowym cache
charge_usd = (
  (input_tokens - cached_input_tokens - cache_write_tokens) * input_rate
  + output_tokens * output_rate
) / 1_000_000

Obowiązuje ta sama reguła końcowego zaokrąglenia. Zasada darmowego cache jest zapisywana dla żądania razem ze stawkami.

Co oznacza „zgłoszone użycie cache”

Dostawca musi zwrócić liczniki użycia cache. Brama nie wnioskuje o trafieniu na podstawie podobieństwa promptu do wcześniejszego. Jeśli brakuje danych cache, nie nalicza zmyślonego rabatu. W formacie OpenAI zgłoszone odczyty są w prompt_tokens_details.cached_tokens; format Anthropic rozróżnia odczyty i tworzenie cache.

W Analytics → Requests odczyty z cache pojawiają się pod Tokens in, a przy koszcie może być widoczna oszczędność. Cache stanowi już część wejścia. Nie dodawaj go ponownie do sumy tokenów.

Zachowaj zgodność promptów z cache

Podczas sprawdzania działania cache zachowuj stałe instrukcje i definicje narzędzi, a potem porównuj liczniki zgłoszone przez dostawcę. Anthropic cache_control jest przyjmowane w obsługiwanych blokach tekstu, narzędziach i żądaniach, lecz efekt zależy od dostawcy. Strumieniowanie dostarcza pomiarów TTFT; samo jego włączenie nie potwierdza trafienia w cache.

Claude Code może umieszczać zwykłe wiadomości role: "system" wewnątrz messages. Brama dołącza ich instrukcje do promptu systemowego; wiadomości z ustawieniem output_config.effort przypisanym do konkretnej wiadomości są zachowywane osobną ścieżką. Dołączenie instrukcji nie zachowuje pozycji cache tych wiadomości. Zmiana formatu klienta lub wybranej oferty może też zmienić żądanie widziane przez dostawcę. Nie zakładaj, że wcześniejsze trafienie powtórzy się.

TODO(verify): Kod bramy nie określa warunków użycia cache u poszczególnych dostawców, minimalnego rozmiaru promptu, czasu przechowywania ani współdzielenia cache między danymi uwierzytelniającymi sprzedawców. Sprawdź te zasady u wybranego dostawcy, zanim oprzesz się na powtarzalnych trafieniach.

Odczytaj oszczędność względem ceny referencyjnej

Cena referencyjna to stawka porównawcza z katalogu zapisana dla żądania, a nie obietnica dotycząca faktury dostawcy. Analytics → Savings porównuje zapłacony koszt z kosztem tego samego zapisanego zużycia według stawek referencyjnych. Jeśli brakuje wymaganych stawek, zużycie jest wykazywane osobno jako niewycenione. Ujemna oszczędność oznacza koszt wyższy od porównawczego.

Nieudany strumień może mieć opłatę za dostarczone zużycie. Sprawdź Rozwiązywanie problemów, zanim uznasz, że każde nieudane żądanie jest bezpłatne.

Na tej stronie