J'ai parlé à @bernhardsson de la création d'un fournisseur d'infrastructure natif à l'IA à partir de zéro : "Quand je faisais de l'apprentissage automatique chez Spotify, 90 % du travail consistait simplement à construire l'infrastructure, pas l'application. Et l'infrastructure traditionnelle n'est pas conçue pour des boucles de rétroaction rapides. Lorsque vous construisez avec l'IA, il est vraiment ennuyeux de tester localement puis de déployer en production. Vous pouvez le diviser en deux environnements, mais vous rencontrez alors le problème de passer de l'un à l'autre. Ce n'était pas un problème avant l'IA. Mais maintenant, vous avez des GPU et des modèles très grands qui prennent beaucoup de temps à charger. Donc, cette étape d'initialisation prend beaucoup de temps. Nous avons construit @modal pour permettre des boucles de rétroaction rapides. Je peux appuyer sur entrée et exécuter immédiatement dans le cloud. Cela se prête également bien à l'exécution d'applications IA dans le cloud. Parce qu'aucun fournisseur de cloud traditionnel n'a la capacité de gérer l'évolutivité dynamique des GPU nécessaire pour exécuter l'inférence. Nous avons finalement créé un tout nouveau fournisseur de cloud, natif à l'IA."