Tôi đã nói chuyện với @bernhardsson về việc tạo ra một nhà cung cấp hạ tầng gốc AI từ đầu: "Khi tôi làm machine learning tại Spotify, 90% công việc chỉ là xây dựng hạ tầng, không phải ứng dụng. Và hạ tầng truyền thống không được xây dựng cho các vòng phản hồi nhanh. Khi bạn xây dựng với AI, thật khó chịu khi phải kiểm tra cục bộ và sau đó triển khai vào sản xuất. Bạn có thể chia thành hai môi trường, nhưng sau đó bạn gặp phải vấn đề khi chuyển đổi giữa chúng. Điều này không phải là vấn đề trước AI. Nhưng bây giờ, bạn có GPU và các mô hình rất lớn mất nhiều thời gian để tải. Vì vậy, bước khởi tạo này mất rất nhiều thời gian. Chúng tôi đã xây dựng @modal để cho phép các vòng phản hồi nhanh. Tôi có thể nhấn enter và chạy ngay lập tức trên đám mây. Điều này cũng rất phù hợp để chạy các ứng dụng AI trên đám mây. Bởi vì không nhà cung cấp đám mây truyền thống nào có khả năng xử lý việc mở rộng GPU động cần thiết để chạy suy diễn. Cuối cùng, chúng tôi đã tạo ra một nhà cung cấp đám mây hoàn toàn mới, gốc AI."