Puhuin @bernhardsson kanssa tekoälynatiivin infrastruktuurin tarjoajan luomisesta tyhjästä: "Kun tein koneoppimista Spotifyssa, 90 % työstä oli vain infrastruktuurin rakentamista, ei sovellusta. Perinteistä infraa ei ole rakennettu nopeita takaisinkytkentäsilmukoita varten. Kun rakennat tekoälyn avulla, on todella ärsyttävää testata paikallisesti ja ottaa se sitten käyttöön tuotannossa. Voit jakaa sen kahteen ympäristöön, mutta sitten törmäät ongelmaan siirtyä niiden välillä. Tämä ei ollut ongelma ennen tekoälyä. Mutta nyt sinulla on GPU:t ja erittäin suuret mallit, joiden lataaminen kestää kauan. Tämä aloitusvaihe kestää siis hyvin kauan. Rakensimme @modal nopean palautesilmukan mahdollistamiseksi. Voin painaa enter-näppäintä ja juosta välittömästi pilvessä. Tämä soveltuu hyvin myös tekoälysovellusten käyttämiseen pilvessä. Koska millään perinteisellä pilvipalveluntarjoajalla ei ole kapasiteettia käsitellä päättelyn suorittamiseen tarvittavaa dynaamista grafiikkasuorittimen skaalausta. Lopulta päädyimme luomaan täysin uuden pilvipalveluntarjoajan, joka on natiivi tekoälylle."