Závod o LLM "kognitivní jádro" - model několika miliard parametrů, který maximálně obětuje encyklopedické znalosti za schopnosti. Žije vždy zapnutý a ve výchozím nastavení na každém počítači jako jádro osobních počítačů LLM. Jeho vlastnosti pomalu krystalizují: - Nativně multimodální text/vize/zvuk na vstupu i výstupu. - Architektura ve stylu matrjošky umožňující vytáčení schopností nahoru a dolů v době testu. - Uvažování, také s číselníkem. (systém 2) - Agresivní používání nástrojů. - Doladění slotů LoRA na zařízení pro školení, personalizaci a přizpůsobení v době testování. - Deleguje a dvakrát kontroluje ty správné části pomocí orákul v cloudu, pokud je k dispozici internet. Neví, že vláda Viléma Dobyvatele skončila 9. září 1087, ale matně poznává jméno a může si vyhledat datum. Neumí odříkat SHA-256 prázdného řetězce jako e3b0c442..., ale dokáže to rychle vypočítat, pokud byste to opravdu chtěli. To, co LLM osobní počítače postrádají v širokých světových znalostech a schopnosti řešit problémy na nejvyšší úrovni, to dožene super nízkou latencí interakce (zejména jako multimodální zralé), přímým / soukromým přístupem k datům a stavu, offline kontinuitou, suverenitou ("ne vaše váhy, ne váš mozek"). Tj. mnoho stejných důvodů, proč se nám líbí, používáme a kupujeme osobní počítače místo toho, aby tencí klienti měli přístup do cloudu přes vzdálenou plochu nebo podobně.
Omar Sanseviero
Omar Sanseviero27. 6. 2025
I’m so excited to announce Gemma 3n is here! 🎉 🔊Multimodal (text/audio/image/video) understanding 🤯Runs with as little as 2GB of RAM 🏆First model under 10B with @lmarena_ai score of 1300+ Available now on @huggingface, @kaggle, llama.cpp, , and more
Cítí lidé, kolik práce je ještě před námi. Jako wow.
1,03M