Reddit chce moderaci opřít o jazykové modely a ubrat na významu karmy

Reddit ve středu 5. srpna oznámil sadu změn své infrastruktury a nástrojů. Mají usnadnit zakládání i moderaci komunit, lépe web chránit před stahováním obsahu roboty a spamem a hlavně otevřít komunity nováčkům. Nejviditelnější kus té proměny se týká toho, kdo vůbec smí přispět: firma chce ubrat na významu karmy a stáří účtu a víc spoléhat na automatickou ochranu proti zneužití.

Karma jako neviditelná závora

Karma je reputační skóre Redditu. Uživatel si ho zvedá tím, že píše příspěvky a komentáře, které ostatní ocení kladným hlasem. Vzniklo, aby odsívalo spam, roboty a provokatéry, jenže spousta komunit si na něm postavila vstupní práh: bez určité karmy nebo bez dost starého účtu člověk nepřispěje. Reddit teď píše, že takové prahy jsou pro slušného nováčka „neviditelná závora“, a chce, aby se komunity opíraly míň o karmu a stáří účtu a víc o silnější ochranu vestavěnou přímo do nástrojů.

Že by karma zmizela úplně, firma neřekla; naznačila jen, že její váha může do budoucna klesnout. A přiznává, proč ty závory vznikly: brání spamu, obcházení banů a takzvanému brigádování, kdy se na jeden příspěvek nebo komunitu koordinovaně vrhne skupina účtů. Cílem není bariéry zrušit, ale nahradit je něčím, co nezastaví i toho, kdo přišel v dobré víře.

Rules Hub posuzuje smysl pravidla, ne jen slova

Do role hlavního nástroje se hlásí Rules Hub, sada moderátorských funkcí, kterou Reddit rozšiřuje z uzavřeného testu. Moderátor v něm vybere, která pravidla se mají vynucovat automaticky, a určí, co se stane při porušení: zařadit příspěvek do fronty ke kontrole, skrýt ho, nebo rovnou smazat. Než pravidlo zapne, může si celé chování napřed vyzkoušet a pak si v protokolech přečíst, jak zabírá. V raném testu ho používalo přes 700 komunit včetně členů poradní sítě moderátorů (Mod Council Network); nově ho můžou zkoušet všechny čerstvě založené komunity a širší dostupnost slibuje firma na konec letoška.

Rozdíl proti dnešnímu automatu je v tom, jak nástroj čte text. Dosavadní Automod, na kterém moderace Redditu léta stojí, hledá přesnou shodu klíčových slov a vzorů. Rules Hub místo toho nechává velké jazykové modely posoudit, jestli příspěvek odpovídá záměru pravidla, takže si podle Redditu poradí i s nuancí, běžnou řečí a hraničními případy, a přitom moderátor drží rozhodnutí v ruce. Vedle toho firma rozšířila nástroj Post & Comment Guidance, který tisícům moderátorů pomáhá napovědět uživateli pravidla už při psaní, a přidala k němu radu při volbě flairu, tedy vlastního štítku, který se u jména ukáže jen v dané komunitě.

Vývojáři přejdou na platformu, starý web se přiškrtí

Změny se dotknou i lidí kolem Redditu. Firma bude dál omezovat nové přístupy k veřejnému rozhraní API a chce, aby aplikace třetích stran přešly na její Developer Platform; na přesun robotů a doplňků vypsala program za 1 milion dolarů. Osud starého webu Old Reddit, postaveného před jedenadvaceti lety, je opatrnější: zatím u něj zůstane povinné přihlášení a Reddit chce na moderní základ přesunout kritické roboty a postupy moderátorů. Oficiálním důvodem je obrana proti stahování obsahu roboty a spamu.

Čísla, o která oznámení opřelo

Reddit uvádí, že ho denně navštíví přes 130 milionů lidí ve více než 100 000 komunitách. Podle serveru TechCrunch firma minulý týden vykázala za druhé čtvrtletí tržby 805 milionů dolarů a zisk 1,25 dolaru na akcii, oboje nad odhady; akcie přesto klesla, protože návštěvnost z vyhledávačů podle šéfa Redditu Steva Huffmana kolísá. Firma zároveň říká, že chce z půl miliardy týdně aktivních uživatelů udělat uživatele denní, a otevření komunit nováčkům je jedním z kroků, jak toho dosáhnout.

Co to mění pro člověka v diskuzi

Pro běžného účastníka komunity se mění to, co ho pustí ke slovu. Místo měsíců sbírání karmy má rozhodovat chování tady a teď, posouzené modelem. Jestli jazykový model uhlídá smysl pravidla líp než seznam zakázaných slov, ukáže až provoz; Reddit sám zdůrazňuje, že dnes žádný systém nevypíná a jen připravuje půdu. Česká fóra a chaty zatím moderaci řeší jinak, převážně psanými pravidly a lidskými správci, jak jsme popsali dřív.