LoRa (Low-Rank Adaptation)
/lòra/
AcronymeIntelligence artificielleMasculinNom
- Low-Rank Adaptation
Modèle miniature de LLM permettant d’apporter des modifications à moindre coût au modèle standard parent appelé checkpoint.
Exemple
Plutôt que de concevoir un tout nouveau modèle de génération d’images pour obtenir un style particulier, il est possible de créer un LoRa qui sera 10 à 100 fois plus léger et qui sera ensuite ajouté à un checkpoint tel que Stable Diffusion.
Voir plus