¿Estoy loco o 6B tok/hr no es tanto? Eso son solo 1.7M tok/s, que son como 25k solicitudes concurrentes a la velocidad a la que sirve oai. ¿Eso es todo?
JP
JP7 oct, 01:17
4M desarrolladores y 6B tokens procesados por minuto .. @OpenAI
una ciudad universitaria de genios en un centro de datos
438