Nvidia ohlásila alianci pro bezpečnost AI. Linux Foundation uvádí jiný seznam členů
Nvidia a Linux Foundation ohlásily v pondělí 27. července Open Secure AI Alliance, sdružení, které má otevřenými nástroji hlídat bezpečnost modelů a agentů. Každý ze dvou zakladatelů ale téhož dne otiskl jiný seznam členů: jeden 52 jmen, druhý 37. Chybí v nich OpenAI, Google i Anthropic, přestože v iniciativě, na kterou se aliance odvolává, jsou všechny tři od června.
Nvidia oznámila v pondělí 27. července Open Secure AI Alliance, sdružení, které má otevřenými nástroji hledat a zavírat díry v modelech a v softwaru kolem nich. Tutéž zprávu vydala týž den Linux Foundation. Obě organizace k ní připojily seznam zakládajících partnerů. Ty seznamy se neshodují.
Na co se aliance odvolává
Aliance nevznikla na zelené louce. Podle Nvidie staví na iniciativě Akrites, kterou Linux Foundation spustila 25. června, a na práci sdružení OpenSSF. Akrites má vlastní tým pro řešení bezpečnostních incidentů, jednotný postup koordinovaného zveřejňování zranitelností a podle tiskové zprávy má sloužit i jako údržbář poslední instance u opuštěných, ale hojně používaných balíčků.
Proč vůbec vznikl, stojí v téže zprávě: jazykové modely dnes projdou velký projekt a najdou v něm zranitelnosti během minut, jenže z tisíců takto ověřených nálezů posledních měsíců je opravených méně než pět procent. Chyb přibývá rychleji, než je kdo stíhá zavírat, a není to jev omezený na otevřený software: na chybách z rekordní červencové sady záplat Microsoftu se při hledání podílely modely také.
Dva zakladatelé, dva seznamy
Nvidia na svém blogu vyjmenovala 52 organizací. Linux Foundation ve svém příspěvku uvedla 36 dalších firem, tedy i se sebou 37. Ani jedna z nich přitom počet nenapsala číslem: obě jen otiskly seznam, sečíst se musí ručně.
Rozdíl mezi oběma seznamy je patnáct jmen; to porovnání jsme udělali sami. Navíc jsou u Nvidie Box, Crusoe, F5, Factory AI, Fortinet, G42, GitHub, Mistral, Nokia, Perplexity, Uber, Upwind, vLLM, World Wide Technology a Zscaler. V obou seznamech naopak stojí Microsoft, IBM, Red Hat, Cisco, Dell Technologies, Hugging Face, Cloudflare, CrowdStrike, Salesforce, SAP, Siemens nebo Palantir.
Přetisky si s tím poradily každý po svém. The Hacker News napočítal 37 a dal to číslo do titulku, Linuxiac píše o více než čtyřiceti organizacích. Ani jedno číslo není vymyšlené, každé jen vychází z jiného seznamu.
Kdo mezi jmény není
V seznamu Nvidie nefiguruje OpenAI, Google, Anthropic ani Amazon Web Services. Není to drobnost: všechny čtyři jsou mezi zakládajícími organizacemi Akrites, tedy právě té iniciativy, na kterou se aliance odvolává. Firmy, které před měsícem podepsaly společný postup při zveřejňování zranitelností, u navazujícího sdružení chybí. Důvod ani jedno z obou oznámení neuvádí a my ho nedohledali.
Jediný kód, který si jde stáhnout hned
Hmatatelný výstup má aliance zatím jeden. Nvidia otevřela projekt NOOA, celým jménem NVIDIA Labs Object-Oriented Agent, a vystavila ho na GitHubu v repozitáři NVIDIA-NeMo/labs-OO-Agents pod licencí Apache 2.0.
Je to knihovna v Pythonu, která nezávisí na konkrétním modelu. Agent se v ní píše jako běžný objekt: má stav a metody, a metody s prázdným tělem doplní za běhu model. Knihovna zaznamenává každé volání modelu i každé spuštění kódu, tedy přesně to, co u agentů chybí, když se má zpětně zjistit, co vlastně udělali. README samo upozorňuje, že jde o výzkumný software a že spouštět kód vygenerovaný modelem není bez rizika.
Co v oznámení není
The Hacker News to shrnul jednou větou: materiály k uvedení neobsahují zakládající listinu, řídicí orgán, technické pracovní skupiny, harmonogram ani společný repozitář aliance (přeloženo z angličtiny). Zůstává tedy seznam jmen, široce vymezený obor působnosti a jeden repozitář jedné firmy.
Linuxiac je opatrný podobně. Aliance je podle něj zatím spíš nová iniciativa než hotová softwarová platforma a její dopad bude záviset na tom, jestli do ní zúčastněné firmy budou opravdu přispívat.
Vymezení oboru je přitom slibné: identita agentů, oprávnění, izolace, mantinely chování, záznamy o činnosti, formáty modelů, kontrola napříč více modely a bezpečné postupy při psaní kódu. Na tak široký záběr je jedna výzkumná knihovna málo.
Co z toho plyne
Nvidia staví svůj příspěvek na jedné otázce: jestli obrana infrastruktury poběží uvnitř několika neprůhledných systémů, nebo na otevřených modelech a nástrojích, které si kdokoli prohlédne, upraví a nasadí (přeloženo z angličtiny). Podle nás se odpověď pozná podle jedné konkrétní věci, a to jestli aliance do pár měsíců vydá společný repozitář a postup hlášení chyb, jaký má Akrites. Do té doby jsou to dva seznamy, které si neodpovídají, a jedna knihovna na GitHubu.
Zdroje: oznámení Nvidie, příspěvek Linux Foundation, tisková zpráva k Akrites, The Hacker News, Linuxiac a repozitář NOOA.
