Přeskočit na obsah
Magazín Chatujme.cz
Fóra a komunity · čtení na 4 min

Reddit zapne dalším komunitám nástroj s jazykovým modelem, který hlídá jejich pravidla

Reddit v listopadu zapne nástroj Rules Hub v dalších komunitách, a to sám, bez žádosti moderátorů. Jazykový model v něm čte pravidla subredditu a příspěvky, které je podle něj porušují, posílá do fronty ke kontrole; mazat je bude, jen když to moderátoři přepnou. Část z nich si stěžuje, že jim nastavení naskakuje bez upozornění.

Zpráva Redditu o trvalém vyloučení uživatele z jedné komunity
Takovou zprávu dostane uživatel, kterého moderátoři trvale vyloučí z komunity. Foto: Prototyperspective, Wikimedia Commons (public domain)

Reddit 5. listopadu oznámil moderátorům, že nástroj Rules Hub během měsíce otevře dalším komunitám. Příspěvek v r/modnews zároveň popsal, jak to proběhne: kde nástroj dostane přístup, tam se u způsobilých pravidel zapne sám a příspěvky, které podle něj pravidla porušují, pošle do fronty ke kontrole (Mod Queue). Sám nic nesmaže a nikoho nepotrestá. Rozhodnutí podle Redditu zůstává na moderátorech.

Rules Hub je moderátorská sada, kterou Reddit v srpnu rozšířil z uzavřeného testu, když ohlásil, že chce moderaci opřít o jazykové modely a ubrat na významu karmy. Starší Automoderátor (Automod) hledá přesnou shodu slov a vzorů, kdežto jazykový model posuzuje, jestli příspěvek odpovídá smyslu pravidla. Před srpnovým rozšířením ho podle Social Media Today zkoušelo kolem 700 komunit. Od 6. srpna ho podle oznámení v r/NewMods dostávají všechny komunity založené od 5. července a všechny nové.

Nové kolo má podle Redditu pokrýt zhruba o čtyři procenta víc odstranění, která dělají moderátoři

Firma píše, že při rozšiřování vybírá „dost pečlivě“ (v překladu), co zapne, a že nové kolo má podle odhadu zvýšit pokrytí odstranění, která dělají moderátoři, zhruba o 4 %. Z jakého základu se to počítá a kolik odstranění nástroj zachytává dnes, příspěvek neuvádí. Většina komunit podle Redditu velkou změnu hned nepozná. Další pravidla chce zapínat postupně, až bude mít víc dat.

Jak se nástroj nastavuje, popisuje nápověda Redditu k pravidlům komunit. U pravidla, které Rules Hub umí vynucovat, je automatické vynucování zapnuté rovnou a výchozí akcí je nahlášení. Moderátor může zvolit jednu ze čtyř akcí:

volba v nastaveníco se stane s příspěvkem
Report (výchozí)zůstane vidět a přidá se do fronty ke kontrole
Remove for reviewzmizí a čeká ve frontě, jestli ho moderátor vrátí; odpovídá filtru v Automodu
Removesmaže se
Only show guidancenic se nemaže, autor jen dostane upozornění ještě před odesláním

Na kartě Insights pak moderátor vidí za posledních 7 nebo 30 dní, kolikrát nástroj zasáhl a u kterých příspěvků. Automod přitom běží dál. Když oba nástroje zasáhnou u téhož příspěvku, platí přísnější akce, takže smazání Automodem přebije nahlášení z Rules Hub. Obě akce se zapíšou do moderátorského protokolu.

Komentáře, videa a historii autora jazykový model nečte

Nápověda vyjmenovává i meze. Nástroj zatím kontroluje jen příspěvky, komentáře ne, a z příspěvku čte text a obrázky nahrané přímo na Reddit. Videa nehodnotí. Nevidí historii autora, takže nevynutí pravidla podle stáří účtu, karmy, štítku u jména (flairu) nebo dřívějších odstranění. Nezvládne ani pravidla s podmínkou, třeba „povoleno jen v týdenním vlákně“, a pravidla, která stojí na uvážení moderátora. U odkazu zkontroluje adresu, stránku na druhé straně ale neotevře.

Reddit v nápovědě sám připouští, že nástroj může označit příspěvek, který pravidlo neporušuje, nebo přehlédnout ten, který ano. Pod listopadovým oznámením stojí k téhle větě komentář s podpisem Synor, podle kterého jsou pravidla závislá na kontextu a záměru devadesát procent moderátorské práce pisatele.

Moderátorům nastavení naskakuje bez upozornění

Že se Rules Hub zapíná bez ptaní, není novinka tohoto kola. Ve vlákně z 30. září na r/ModSupport stojí stížnost moderátora s přezdívkou ProudnotLoud, že automatické vynucování bylo zapnuté nejméně v šesti komunitách, které moderuje, přestože tam bylo dřív vypnuté, a že zapnutí nebylo vidět v moderátorském protokolu. Stejnou stížnost má tentýž účet už ve vlákně ze 14. září. Reddit pod vláknem odpověděl, že nastavení moderátorů nepřepisuje: u způsobilých pravidel se vynucování zapne v režimu nahlášení a na odstranění ho má smysl přepnout, až se ukáže přesné. Zmatek kolem zapínání bez upozornění slíbil předat týmu.

Pod listopadovým oznámením se tatáž stížnost vrací. Podle ProudnotLoud bude zase nutné denně procházet komunity a vypínat pravidla jedno po druhém, protože o zapnutí nepřijde zpráva. Jinde je to naopak: jednomu moderátorovi přišla zpráva, že nástroj komunitě zapnuli, ale že podmínky nesplňuje ani jedno z jejích pravidel. Na otázku, jak nástroj vypnout, padla ve vlákně odpověď: po jednotlivých pravidlech.

Neveřejné poznámky k pravidlům chce Reddit zkoušet od začátku příštího roku

V přehledu zpětné vazby za třetí čtvrtletí z 28. října Reddit uvedl, že testeři po něm chtěli hlavně vysvětlení, proč nástroj zasáhl, přesnost a víc kontroly nad vynucováním. V listopadovém oznámení slibuje tři úpravy. Moderátoři budou moct ke každému pravidlu připsat poznámky s výjimkami a příklady, které členové komunity neuvidí. Nástroj má umět vyjít z dosavadních nastavení Automodu, wiki stránek a důvodů odstranění. A pravidla půjde předem vyzkoušet na příspěvcích, které moderátoři dřív schválili nebo smazali.

Zkoušet to chce Reddit začít na začátku příštího roku. Proč nástroj rozšiřuje dřív, než budou úpravy hotové, vysvětluje tím, že od širšího okruhu komunit se dozví, kde už pomáhá a kde ne.

Zdroje

Diskuse

Zatím tu nikdo nediskutuje. Můžete být první.

Napsat příspěvek

Diskutovat můžete i bez účtu. S registrací se ale příspěvek zveřejní hned a nemusíte pokaždé vyplňovat jméno. Účet už máte? Přihlaste se.

Nezveřejňujeme ho, slouží jen redakci. S příspěvkem ukládáme i IP adresu; co s údaji děláme, stojí v zásadách zpracování osobních údajů.

Podporuje zápis Texy: **tučně**, *kurzíva*, odrážky, odkazy.

Dál k tématu

Fóra a komunity

Beta Mastodonu 5.0 zkusmo dovolí správcům odebírat cizí seznamy blokovaných serverů

Mastodon vydal ve středu 4. listopadu první betu verze 5.0, přes dva týdny poté, co ji ohlásil blog projektu. Vedle nového webového rozhraní přináší správcům serverů odběr sdílených seznamů blokovaných domén, zatím za experimentálním přepínačem, a souhlas se zařazením do adresáře serverů. Hotová verze má vyjít do tří týdnů.

Fóra a komunity

Slovenský TrollWall AI kupuje Elv.ai, který hlídal komentáře i českým médiím

Slovenská firma TrollWall AI kupuje konkurenční Elv.ai, který od roku 2023 moderoval diskuse na sociálních sítích i českým médiím. Klienti Elv.ai z médií a veřejných institucí přecházejí na platformu, která toxické komentáře na Facebooku, Instagramu, TikToku a YouTube skrývá automaticky. Cenu firmy nezveřejnily.