GPU Venddor

GPU—

— watts

Utilização—

Temperatura—

SM clock—

P-state—

VRAM / KV—

VRAM—

KV cache—

RAM—

Disco—

Engine—

Decode agora—

Prefill—

Spec accept—

Prefix cache—

CPU—

Load 1/5/15—

Rede RX/TX—

Running / waiting—

Preempções—

Requests em voo

nenhuma

CSV

Quando	Endpoint	Origem	Cliente	IP / SO	Input tok	Output tok	TTFT	TPS	E2E	Stop

Request

GPU util % · potência W · temp °C

VRAM MiB · KV cache %

Decode TPS · prefill TPS

CPU % · RAM usada GiB · disco %

E-mail	Nome	Papel	Status	Login	Último acesso

Modo Cerebras—

Manda todas as requisições de /v1/chat/completions, /v1/completions e /v1/chat/completions-dense para a Cerebras (qwen-3.8-27b) em vez da GPU. /v1/messages continua na GPU. Se a Cerebras falhar, o request cai na GPU.

Desliga sozinho no fim do prazo. O prazo é conferido a cada request pelo sidecar, e duas rotinas independentes (este painel e um timer do systemd) apagam o estado vencido.