Am vorbit cu @bernhardsson despre crearea unui furnizor de infrastructură nativ AI de la zero: "Când făceam învățare automată la Spotify, 90% din muncă era doar construirea infrastructurii, nu a aplicației. Iar infrastructura tradițională nu este construită pentru bucle de feedback rapide. Când construiești cu AI, este foarte enervant să testezi local și apoi să implementezi în producție. Îl poți împărți în două medii, dar apoi întâmpini problema de a trece între ele. Aceasta nu a fost o problemă înainte de AI. Dar acum, aveți GPU-uri și modele foarte mari care durează mult timp pentru a se încărca. Deci acest pas de inițiere durează foarte mult timp. Am construit @modal pentru a permite bucle de feedback rapide. Pot apăsa enter și pot alerga imediat în cloud. Acest lucru se pretează bine și pentru rularea aplicațiilor AI în cloud. Deoarece niciun furnizor de cloud tradițional nu are capacitatea de a gestiona scalarea dinamică a GPU-ului necesară pentru rularea inferenței. În cele din urmă, am ajuns să creăm un furnizor de cloud complet nou, nativ pentru AI."