5 mô hình thế giới tiên tiến bạn nên biết: ▪️ Tích hợp cấu trúc xác suất (PSI) bởi @Stanford NeuroAI Lab – làm cho các mô hình thế giới tự cải thiện và có thể được kích hoạt như các LLM. Nhưng "ngôn ngữ" là các cấu trúc như dòng chảy, độ sâu và đoạn. ▪️ Mô hình thế giới mã (CWM), @AIatMeta – nắm bắt cách mã hoạt động khi được thực thi và cách nó ảnh hưởng đến hệ thống, đưa khía cạnh thực tiễn, có thể thực thi của mã vào quá trình suy luận của mô hình. ▪️ Dreamer 4, @GoogleDeepMind – hệ thống RL đầu tiên "đạt được một viên kim cương trong Minecraft" với không tương tác môi trường trực tuyến nào. ▪️ Genie 3 từ @GoogleDeepMind – tạo ra các thế giới 3D tương tác từ các lệnh văn bản trong thời gian thực với 24 FPS, nhất quán trong vài phút. ▪️ Các mô hình nền tảng thế giới Cosmos 2.5 bởi @nvidia – một bộ các mô hình thế giới sinh ra để mô phỏng các môi trường vật lý cho robot và xe tự hành, mà không cần bắt đầu từ đầu.

Mô hình Đệ quy Nhỏ (TRM) là một phương pháp đơn giản, hiệu quả dựa trên ý tưởng: làm nhiều hơn với ít hơn. Nó chỉ sử dụng 1 mạng 2 lớp nhỏ có khả năng cải thiện câu trả lời của chính nó một cách đệ quy. Với chỉ 7 triệu tham số, TRM thiết lập các kỷ lục mới, vượt qua các LLM lớn gấp 10.000 lần: - Sudoku-Cực đoan: 55% → 87% - Mê cung-Khó: 75% → 85% - ARC-AGI-1: 40% → 45% - ARC-AGI-2: 5% → 8% Dưới đây là cách nó hoạt động:

RLAD (Học Tăng cường với Trừu tượng và Suy diễn) huấn luyện các mô hình thông qua RL sử dụng thiết lập 2 người chơi: ▪️ Một trình tạo trừu tượng – đề xuất các "gợi ý lý luận" (trừu tượng) ngắn gọn, bằng ngôn ngữ tự nhiên, tóm tắt các sự kiện và chiến lược chính. ▪️ Một trình tạo giải pháp – sử dụng chúng để giải quyết vấn đề. Phương pháp này tách biệt "cách lý luận" khỏi "cách trả lời," đạt được cải thiện ~44% so với các phương pháp lý luận chuỗi dài tiêu chuẩn. Dưới đây là cách nó hoạt động: