Setiap hari token dan kredit kedaluwarsa, tidak digunakan. Dapatkah Anda membayangkan skala perubahan dalam infrastruktur jika orang dapat menukarnya dengan lancar? Tetapi penyampaian inferensi lebih banyak ilmu hitam daripada standar pada saat ini. Anda harus memilih metrik kinerja, dan kemudian tidak memaksakan terlalu banyak overhead pengukuran