Skip to main content
Bluvy Tube
Press Esc to exit fullscreen
Volume m
/
i
Theater mode t
f
/
Meter más conversaciones en una GPU no acelera las respuestas. A veces las retrasa. Lo explica Ankit Jodhani: el prefill va limitado por cómputo y el decode, por memoria. Mi regla al servir #LLM: primero mido. Si tarda en empezar, miro el prefill. Si escribe lento, el decode.

Keyboard shortcuts

Space K
Play / pause
← →
Back / forward 5 s
J L
Back / forward 10 s
0–9
Jump to 0%–90% of the video
Home End
Start / end
, .
Previous / next frame (while paused)
< >
Slower / faster
↑ ↓
Volume
M
Mute / unmute
C
Captions
F
Fullscreen
I
Picture-in-picture
T
Theater mode
?
Show this help

Meter más conversaciones en una GPU no acelera las respuestas. A veces las retrasa. Lo explica Ankit Jodhani: el prefill va limitado por cómputo y el decode, por memoria. Mi regla al servir #LLM: primero mido. Si tarda en empezar, miro el prefill. Si escribe lento, el decode.

Marc Mayol

Marc Mayol

@srmarcmayol.bsky.social

Subscribe
0 views Published on 27/10/2026 07:29
#llm
Meter más conversaciones en una GPU no acelera las respuestas. A veces las retrasa. Lo explica Ankit Jodhani: el prefill va limitado por cómputo y el decode, por memoria. Mi regla al servir #LLM: primero mido. Si tarda en empezar, miro el prefill. Si escribe lento, el decode.
0 comments
?
No comments yet. Be the first to react!
View original post on Bluesky
Link copied to clipboard

Sign in

Time to take a break

You've been watching videos for 30 minutes straight: give yourself 5 minutes away from the screen. Stand up, stretch, grab a glass of water… Your videos will be right here when you're back.