Przedstawiamy RND1, najpotężniejszy model językowy do dyfuzji (DLM) do tej pory. RND1 (Radical Numerics Diffusion) to eksperymentalny DLM z 30 miliardami parametrów (3 miliardy aktywne) z rzadką architekturą MoE. Udostępniamy go jako open source, publikując wagi, szczegóły treningu i kod, aby przyspieszyć dalsze badania nad wnioskowaniem DLM i post-treningiem. Jesteśmy badaczami i inżynierami (DeepMind, Meta, Liquid, Stanford), którzy budują silnik do rekurencyjnej samodoskonalenia (RSI) — i wykorzystujemy go do przyspieszenia naszej własnej pracy. Naszym celem jest pozwolić AI projektować AI. Rekrutujemy.