介紹 RND1，迄今為止最強大的基礎擴散語言模型 (DLM)。 RND1（Radical Numerics Diffusion）是一個實驗性的 DLM，擁有 30B 參數（3B 活躍），採用稀疏的 MoE 架構。 我們將其開源，釋放權重、訓練細節和代碼，以促進對 DLM 推理和後訓練的進一步研究。 我們是研究人員和工程師（DeepMind、Meta、Liquid、Stanford），正在構建遞歸自我改進（RSI）的引擎——並利用它來加速我們自己的工作。我們的目標是讓 AI 設計 AI。 我們正在招聘。