Ett spännande papper från Apple. MoE är starkare än du tror: Hyperparallell inferensskalning med RoE Papper: