MoE (Mixture of Experts / Mélange d’experts), une définition en un clic

Paradmin

MoE (Mixture of Experts / Mélange d’experts), une définition en un clic

Face à l’explosion de la taille des LLM et de leurs coûts computationnels, une architecture astucieuse issue des années 1990 fait un retour en force : le Mixture of Experts (MoE), ou « mélange d’experts ». Voici notre définition.

À propos de l’auteur

admin administrator