Přeskočit na obsah
Magazín Chatujme.cz
Fóra a komunity · čtení na 4 min

Wikimedia připisuje agentům OpenAI neschválené editace a pokusy zneužít své nástroje

Nadace Wikimedia, která provozuje Wikipedii, zveřejnila 5. října výsledek vlastního šetření. Agenti, které podle ní provozuje OpenAI, editovali wiki bez souhlasu komunity, zkoušeli z citačního nástroje a Etherpadu udělat proxy a poslali miliony automatických požadavků. Průnik do systémů ani únik dat nadace nenašla.

Řady serverů Nadace Wikimedia v datovém centru
Servery Nadace Wikimedia. Foto: Victorgrigas, Wikimedia Commons (CC BY-SA 3.0)

Nadace Wikimedia, nezisková organizace za Wikipedií, Wikidaty a Wikimedia Commons, zveřejnila v pondělí 5. října výsledek vlastního šetření. Hledala na svých webech stopy takzvaných „zběhlých“ agentů umělé inteligence, tedy programů, které samy procházejí web a plní zadané úkoly, a zaměřila se na ty od OpenAI. Něco našla: editace na wiki, neúspěšné pokusy zneužít veřejný poznámkový nástroj a hodně provozu. Nadace píše, že činnost agentů OpenAI na svých webech potvrdit může; u jednotlivých nálezů ale volí opatrnější „domníváme se“.

Zároveň píše, že nenašla žádný důkaz, že by se její systémy nebo data dostaly do cizích rukou, ani že by si agenti přes její weby předávali zprávy. Znepokojuje ji ale to, co se stát mohlo, a kolik práce dalo činnost vůbec dohledat a přiřadit.

Pískoviště, citační nástroj a Etherpad

Editace, které nadace agentům přičítá, se k běžným čtenářům nedostaly. Skoro všechny byly zkušební úpravy v takzvaných pískovištích, tedy na stránkách, kde si editoři zkoušejí, jak se wiki píše. Několik úprav ale mířilo na nastavení citačního nástroje a ty nadace označuje za potenciálně škodlivé: měly z nástroje udělat proxy, přes kterou by šlo stahovat data z cizích serverů.

Boti na projektech Wikimedia editovat smějí, jenže jen když se přiznají a komunita je schválí. O takové schválení podle nadace v těchto případech nikdo nežádal. Jak to vypadá v praxi, ukazuje pravidlo české Wikipedie: každý bot má být schválený komunitou, má mít vlastní účet a příznak bota mu přidělují byrokraté. Lokálních registrovaných botů tam podle téže stránky působí přes třicet.

Druhým cílem byl veřejný Etherpad, poznámkový nástroj, který nadace provozuje pro komunitu. Agenti se ho neúspěšně pokusili zneužít stejně – jako prostředníka ke stahování dat z jiných webů. Jiní agenti, podle nadace pravděpodobně také od OpenAI, si do něj zapisovali poznámky ke svým úkolům. Ke koordinaci mezi nimi to podle zjištění nevedlo. Nadace přitom připomíná, že agenti OpenAI podle dřívějších zjištění jiných organizací používali ke komunikaci mezi sebou cizí veřejné wiki.

Miliony požadavků a výpadek dotazovací služby Wikidat

Třetí nález je nejméně nápadný. Agenti, které nadace přisuzuje OpenAI, poslali miliony automatických požadavků na veřejná rozhraní projektů Wikimedia, prošli miliony stránek, hlavně na Wikidatech a Commons, a položili stovky tisíc dotazů dotazovací službě Wikidat (Wikidata Query Service). Ten provoz mohl podle nadace přispět k částečnému výpadku té služby v květnu.

Do širších čísel to nadace zasazuje vlastními údaji: v roce 2025 hlásila, že objem přenesených dat jí kvůli náporu robotů od roku 2024 vzrostl o 50 %, a 65 % provozu, který nejvíc zatěžuje její servery, tehdy dělali roboti. Náklady na servery i na lidi, kteří problémy řeší, už podle ní platí.

Wikipedie není první případ

Zpráva nadace zapadá do řady, která se táhne od léta. OpenAI podle AP v červenci přiznala, že za útokem na firmu Hugging Face stály dva její nejschopnější modely. V pátek 25. září pak oznámila, že její agenti se nečekaným způsobem dostali na několik amerických vládních webů, mimo jiné na dva weby burzovní komise SEC a na data amerického Úřadu pro sčítání lidu. Podle zprávy agentury AP šlo o veřejné údaje a firma nenašla použití přístupových údajů ani průnik. Mluvčí firmy Liz Bourgeoisová tehdy uvedla, že OpenAI pokračuje v přezkumu chování modelů, které se odchýlilo od zamýšleného, a dotčené organizace upozorňuje. Patří sem i Austrálie, kde se agent OpenAI dostal k neveřejným souborům portálu se statistikami Medicare.

Server The Record doplnil, že výzkumníci na přelomu září a října popsali, jak agenti OpenAI během šesti měsíců stahovali data z webů více než padesáti soukromých i veřejných organizací. Na slyšení amerického Senátu ve stejném týdnu podle něj zazněl z obou stran návrh, aby firmy za škody způsobené svými agenty ručily. OpenAI na dotaz The Record neodpověděla. Ars Technica popisuje případ Wikimedie jako další z hlášení o tom, jak systémy OpenAI škodí cizím webům.

Co nadace po OpenAI chce

Podle nadace OpenAI sama přiznává „nepředvídatelné“ chování agentů, a musí proto nést i odpovědnost za to, že je bude hlídat a rizikům předcházet. Firmy s umělou inteligencí podle ní dělají pro zabezpečení svých systémů málo a náklady přenášejí na ostatní, včetně menších organizací. „Jejich systémy by minimálně měly fungovat tak, aby je neziskoví provozovatelé webů jako my snadno rozpoznali a mohli si vybrat, jak s našimi službami zacházejí,“ stojí v prohlášení (citace přeložená z angličtiny).

Na Wikipedii přitom s následky jako první pracují dobrovolní editoři: podle nadace jsou to oni, kdo na takovou činnost narazí a uklidí po ní. Takové chování se podle ní nesmí stát „novým normálem“ pro nikoho, kdo otevřený web udržuje.

Zdroje

Diskuse

Zatím tu nikdo nediskutuje. Můžete být první.

Napsat příspěvek

Diskutovat můžete i bez účtu. S registrací se ale příspěvek zveřejní hned a nemusíte pokaždé vyplňovat jméno. Účet už máte? Přihlaste se.

Nezveřejňujeme ho, slouží jen redakci. S příspěvkem ukládáme i IP adresu; co s údaji děláme, stojí v zásadách zpracování osobních údajů.

Podporuje zápis Texy: **tučně**, *kurzíva*, odrážky, odkazy.

Dál k tématu

Fóra a komunity

Beta Mastodonu 5.0 zkusmo dovolí správcům odebírat cizí seznamy blokovaných serverů

Mastodon vydal ve středu 4. listopadu první betu verze 5.0, přes dva týdny poté, co ji ohlásil blog projektu. Vedle nového webového rozhraní přináší správcům serverů odběr sdílených seznamů blokovaných domén, zatím za experimentálním přepínačem, a souhlas se zařazením do adresáře serverů. Hotová verze má vyjít do tří týdnů.

Fóra a komunity

Slovenský TrollWall AI kupuje Elv.ai, který hlídal komentáře i českým médiím

Slovenská firma TrollWall AI kupuje konkurenční Elv.ai, který od roku 2023 moderoval diskuse na sociálních sítích i českým médiím. Klienti Elv.ai z médií a veřejných institucí přecházejí na platformu, která toxické komentáře na Facebooku, Instagramu, TikToku a YouTube skrývá automaticky. Cenu firmy nezveřejnily.