Ik heb met @bernhardsson gesproken over het creëren van een AI-native infrastructuurprovider vanaf nul: "Toen ik machine learning deed bij Spotify, was 90% van het werk gewoon het bouwen van de infrastructuur, niet de applicatie. En traditionele infrastructuur is niet gebouwd voor snelle feedbackloops. Wanneer je met AI bouwt, is het echt vervelend om lokaal te testen en vervolgens in productie te gaan. Je kunt het splitsen in twee omgevingen, maar dan loop je tegen het probleem aan om tussen hen te schakelen. Dit was geen probleem voor AI. Maar nu heb je GPU's en zeer grote modellen die lang duren om te laden. Dus deze initiatie stap duurt heel lang. We hebben @modal gebouwd om snelle feedbackloops mogelijk te maken. Ik kan op enter drukken en onmiddellijk in de cloud draaien. Dit leent zich ook goed voor het draaien van AI-apps in de cloud. Omdat geen enkele traditionele cloudprovider de capaciteit heeft om dynamische GPU-schaalvergroting aan te kunnen die nodig is voor het uitvoeren van inferentie. Uiteindelijk hebben we een geheel nieuwe cloudprovider gecreëerd, native voor AI."