Co to są Credits / Tokens?

Definicja

Credits/Tokens to jednostki używane do mierzenia i rozliczania użycia zasobów w systemach sztucznej inteligencji, gdzie credits odnoszą się do jednostek rozliczeniowych, a tokens do jednostek przetwarzania tekstu przez modele językowe.

Cel

Celem Credits/Tokens jest umożliwienie precyzyjnego mierzenia zużycia zasobów obliczeniowych i sprawiedliwego rozliczania kosztów korzystania z usług AI, proporcjonalnie do rzeczywistego wykorzystania.

Funkcja

Credits działają jako system punktowy dla rozliczań, podczas gdy tokens reprezentują najmniejsze jednostki tekstu przetwarzane przez model - każde słowo lub część słowa konsumuje określoną liczbę tokenów.

Przykład

W OpenAI GPT-4, każdy token kosztuje określoną liczbę credits, więc dłuższa rozmowa (więcej tokenów) kosztuje więcej credits. Tekst "Hello world" to około 2 tokeny.

Powiązane

• API Pricing
• Resource Management
• Text Processing
• Usage Metrics

Chcesz dowiedzieć się więcej?

Jeśli chcesz dowiedzieć się więcej na temat Credits / Tokens, skontaktuj się ze mną na X. Uwielbiam dzielić się pomysłami, odpowiadać na pytania i omawiać ciekawostki na te tematy, więc nie wahaj się wpaść. Do zobaczenia!