Fiecare expert din Paris @bageldotcom a fost instruit în izolare pe diferite clustere hardware de pe continente. Nu au fost partajate gradiente, parametri sau activări în timpul antrenamentului. Un router ușor de transformare a selectat ulterior experții în timpul inferenței.