Granite 4.0 H Tiny (4-bitars) från @IBM som körs på iPhone 17 Pro vid ~40tk/s med MLX 7B totala parametrar med 1B aktiv med mindre än 5 GB RAM, extremt bra i benchmarks för dess minnesfotavtryck IBM gjorde ett bra jobb med den här, den är snabb och effektiv för storleken