Passer au contenu principal
Bluvy Tube
Appuyez sur Échap pour quitter le plein écran
Volume m
/
i
Mode Cinéma t
f
/
📋 #FreeToken is an edge-native #MoE serving engine for running frontier-scale open-weight models on consumer hardware #opensource #LLM 🧵👇

Raccourcis clavier

Espace K
Lecture / pause
← →
Reculer / avancer de 5 s
J L
Reculer / avancer de 10 s
0–9
Aller à 0 %–90 % de la vidéo
Home End
Début / fin
, .
Image précédente / suivante (en pause)
< >
Ralentir / accélérer
↑ ↓
Volume
M
Couper / rétablir le son
C
Sous-titres
F
Plein écran
I
Image dans l’image
T
Mode cinéma
?
Afficher cette aide

📋 #FreeToken is an edge-native #MoE serving engine for running frontier-scale open-weight models on consumer hardware #opensource #LLM 🧵👇

Micha the DevOp

Micha the DevOp

@michabbb.bsky.social

S'abonner
0 vue Publié le 23/08/2026 21:03
#opensource #llm #freetoken #moe
📋 #FreeToken is an edge-native #MoE serving engine for running frontier-scale open-weight models on consumer hardware #opensource #LLM 🧵👇
1 commentaire
?
⚡ Treats GPUs, CPUs, host memory & interconnects as one elastic inference platform, with bandwidth-adaptive CPU–GPU co-execution (q* policy)
🧠 Semantic anchor checkpoints for recurrent state & KV caches — agentic context edits like tool calls or thinking blocks skip redundant recomputation
Voir le post d'origine sur Bluesky
Lien copié dans le presse-papier

Connexion

Il est temps de faire une pause

Ça fait 30 minutes que vous enchaînez les vidéos : accordez-vous 5 minutes loin de l'écran. Levez-vous, étirez-vous, buvez un verre d'eau… Les vidéos vous attendront ici.