cada día los tokens y créditos expiran, sin usar. ¿Puedes imaginar la magnitud del cambio en la infraestructura si las personas pudieran intercambiarlos de manera fluida? Pero la entrega de inferencias es más magia negra que estandarizada en este momento. Tienes que elegir las métricas de rendimiento y luego no imponer demasiada sobrecarga de medición.