🧵 Zatímco laboratoře umělé inteligence závodí ve škálování RL, záleží na jedné otázce: kdy byste měli přestat s předtréninkem a začít s RL? Trénovali jsme 5 modelů Qwen (0.6B→14B) s RL na GSM8K a našli jsme něco divokého: Malé modely zaznamenávají skoky podobné EMERGENCE. Velké modely zaznamenávají klesající výnosy. Zákon škálování? Ne to, co byste čekali

Takže, @OpenAI dělat open source hardware a byl kolem toho 0 humbuk! chystám se na to hackovat celou noc, s laskavým svolením @dubssg a @michelleqin_, děkuji vám :) Chtěl jsem jen @Humane, ale oss, levně a bez všech těch odpadků.

retenční křivka vypadá ještě lépe