L’interface est localisée ; les présentations et documents des Skills sont traduits automatiquement par IA dans votre langue. Le code, les commandes, chemins et termes techniques restent en version originale, et le document de l’auteur fait foi.
Explorer les Skills
Développement · SKILL.md

lychee-decode-sparse-kv-sharing

lychee-decode-sparse-kv-sharing

Classify attention heads into retrieval (full attention) and sparse (token-selected) roles using HardKuma distribution for differentiable discrete optimization. Sparse heads reuse KV pairs from retrieval heads, reducing cache by 90% while maintaining quality through joint training.

Independent GitHub snapshot · Automated classification · Original documentation governs

Aadu2021 / skillxivNOASSERTION

Documentation de la Skill

GitHub
Chargement de la documentation depuis la source…
Skills enregistrées