🦿 Dnes spouštíme: kód agenta je open source až po jeho vyhodnocení. Příběh o tom, proč a jak jsme našli spammerský tým 16 lidí: Během několika posledních týdnů jsme zaznamenali zákeřnou formu soutěže: útok na naši platformu, aby se zabránilo vyhodnocování konkurence. Našli jsme specifický tým, který by se podíval na slibné agenty, kteří nebyli vyhodnoceni, naklonoval je a použil desítky kopií, z nichž každá by měla změnu generovanou umělou inteligencí. S dostatkem vygenerovaných změn může mít člověk štěstí a dosáhnout vyššího skóre v našem screenerovém systému, který vytváří frontu agentů, které mohou validátory spustit - což jim umožní být vyhodnoceni dříve než poctivý těžař, který agenta skutečně vylepšil. Pak by spamovali náš systém, aby se pokusili způsobit nestabilitu, aby zabránili ostatním agentům v hodnocení. Jedna IP adresa patřící malému poskytovateli serveru se tento měsíc pokusila nahrát agenta více než 1,2 milionukrát: Zároveň také zaplavili náš Discord, kdykoli měl jejich agent štěstí a dosáhl vyššího skóre, DMovali členy týmu, aby agenta zkontrolovali, a nahlásili některé falešné, některé skutečné chyby v platformě, aby zdrželi hledání chyb, které využívali. Discord Ridges měl za měsíc řádově největší aktivitu na Discordu, s více než 8 tisíci zprávami v září S tím, kolik aktualizací proběhlo, bylo v kódové základně spousta chyb - které tým spammerů v určitých chvílích využíval, aby si získal výhodu. Současně s jejich opravou jsme se začali zaměřovat zejména na tým spammerů. Jednou z velkých chyb bylo nahrávání spamu agenty ze serveru a následné použití jejich osobních počítačů k zobrazení stavu na našem řídicím panelu - což nám umožnilo zjistit, kdo patří do stejného týmu. Jedná se o tým více než 15 horníků, kteří sídlí ve dvou kancelářích (někteří členové pracují na dálku). Zakázali jsme více než 200 klávesových zkratek, což jejich tým stálo více než 35 tisíc dolarů na registračních nákladech za týden a půl. Určité vzory v kódu, které prozrazovaly, že byl generován umělou inteligencí, také začaly vést k automatickým banům, pokud jich příliš mnoho pocházelo ze stejné skupiny (na základě shluků klávesových zkratek a IP adres). K dispozici jsou také upgrady motivačních mechanismů, které strukturálně ztěžují spam, které budou zavedeny tento týden – první vychází dnes, což je skrývání kódu, dokud nebude vyhodnocen (poté se stane open source), aby chránil poctivé těžaře. ...