OpenAI ha aumentato la propria capacità di 9 volte quest'anno e ha l'obiettivo di aumentarla ulteriormente di 125 volte entro il 2033, superando così l'attuale capacità energetica dell'intera India - secondo il report di @alexeheath sulla nota interna di slack di @sama. Una cosa da notare è che l'aumento della capacità energetica di 125 volte sottovaluta l'aumento della potenza di calcolo, poiché Nvidia sta spingendo forte per aumentare l'"intelligenza per watt", quindi la potenza di calcolo effettiva potrebbe essere molto più alta di quella.

Nvidia è ancora economica

La quantità di potenza di calcolo che i laboratori hanno sta crescendo in modo drammatico. Ad esempio, @OpenAI ha 14 volte più potenza di calcolo rispetto a quando ha lanciato GPT-4. @xAI sta crescendo la potenza di calcolo in modo estremamente rapido, e hanno raddoppiato la potenza di calcolo disponibile tra i lanci di Grok 3 e Grok 4. @AnthropicAI ha la potenza di calcolo più bassa, ma sono stati molto efficienti nel convertire la potenza di calcolo in modelli di grande successo. Ad esempio, Claude 3.5 è stato lanciato con circa un quinto della potenza di calcolo che Anthropic ha ora. Nota: i dati escludono @GoogleDeepMind che probabilmente ha la maggior potenza di calcolo, anche se non è chiaro quanto sia concentrata per l'addestramento di LLM. Fonte: @SemiAnalysis_