Hvad er et Latency Budget?
Det maksimale tilladt responstid for et AI-system for at opretholde acceptabel brugeroplevelse.
Definition
Latency Budget er det maksimalt tilladte responstid for et AI-system eller en specifik operation for at opretholde acceptabel brugeroplevelse og ydelseskrav.
Formål
Latency Budget har til formål at sætte klare performancekrav, så udviklere kan optimere systemer inden for acceptable responsgrenser.
Funktion
Latency Budget fungerer som en designmæssig begrænsning, der guide arkitektur, modelvalg og optimeringsstrategier for at sikre tilfredsstillende hastighed.
Eksempel
En voice assistant har måske et latency budget på 300ms for at føles naturlig, hvilket kræver optimering af sprogmodeller og infrastruktur.
Relateret
Latency Budget er relateret til performance planning, SLA og user experience metrics.
Vil du vide mere?
Hvis du er nysgerrig efter at lære mere om Latency Budget, så kontakt mig på X. Jeg elsker at dele idéer, besvare spørgsmål og diskutere nysgerrigheder om disse emner, så tøv ikke med at kigge forbi. Vi ses!
Hvad betyder PBI?
Product Backlog Item, eller Element i Product Backlog, er et udtryk, der br...
Hvad er Agentic Experience (AX)?
AX eller Agentic Experience er en brugeroplevelse, hvor AI-agenter fungerer...
Hvad er Vibe Coding?
Vibe Coding er en programmeringsmetode, hvor kode skrives baseret på intuit...