Todos os dias, tokens e créditos expiram, sem uso. Você pode imaginar a escala da mudança na infraestrutura se as pessoas pudessem trocá-las com fluidez? Mas a entrega de inferência é mais magia negra do que padronizada neste momento. Você precisa escolher as métricas de desempenho e, em seguida, não impor muita sobrecarga de medição