Ai2 popsal, jak spočítal mapu požárního rizika Severní Ameriky za 30,5 hodiny
Institut Ai2 vydal 28. července rozbor platformy, na které pouští své modely pro pozorování Země. Mapa požárního rizika pro celou Severní Ameriku podle něj zabrala 30,5 hodiny a v nejvytíženější chvíli běžela na 19 600 procesorech a 994 grafických kartách. Modely jsou ke stažení zdarma, jejich licence ale zakazuje vojenské i těžební použití.
Institut Ai2, celým jménem Allen Institute for Artificial Intelligence, zveřejnil 28. července rozbor infrastruktury, na které pouští své modely pro pozorování Země. Nejvýmluvnější je z něj jeden příklad: mapa požárního rizika pro celou Severní Ameriku. Výpočet trval 30,5 hodiny. Kdyby týž objem práce probíhal sériově, odhaduje Ai2 jeho délku na 4 737 hodin.
Co je OlmoEarth
OlmoEarth je rodina modelů pro dálkový průzkum Země. Ai2 je předtrénoval zhruba na 10 terabajtech družicových dat z několika typů senzorů a nabízí je ke stažení. Karta nejnovější verze v provedení Base popisuje architekturu ViT-Base se 114 miliony parametrů, která pracuje se snímky družic Sentinel-1, Sentinel-2 a Landsat, a to i s jejich časovými řadami; text karty přitom ještě nese označení předchozí verze v1.1. Za poslední měsíc ji Hugging Face vykazuje 11 711krát staženou; kolik z toho je skutečných nasazení, se z toho čísla poznat nedá.
Metodu předtrénování popisuje pořad Satellite image deep learning, který v červnu zpovídal výzkumníka Ai2 Josepha Redmona. Jmenuje se Latent MIM Lite a hledá střední cestu mezi dvěma přístupy: rekonstrukce obrazových bodů se učí spolehlivě, ale slabě, kdežto predikce ve skrytém prostoru dává silnější příznaky za cenu nestabilního učení. Ai2 podle popisu nahradilo cílový kodér zmrazenou náhodnou lineární projekcí v prostoru tokenů.
Proč je počítání nad družicovými snímky jiné
Běžný model dostane pár megabajtů a odpoví do vteřiny. Jediná úloha nad snímky Země může přesunout terabajty a běžet hodiny. Vstupy pokrývají různá spektrální pásma, typy senzorů a časové kroky, přicházejí od několika poskytovatelů v odlišných projekcích a rozlišeních a část snímků chybí nebo je zakrytá mraky. Výstupem je zase mapa, takže každá předpověď musí sednout do stejné souřadnicové sítě jako to, co ji obklopuje.
Ai2 k tomu dodává, že úlohy stráví stahováním a přípravou snímků často víc času než samotným výpočtem modelu.
Práce se dělí podle toho, co která část stroje umí
Platforma proto rozděluje každou úlohu na tři fáze a každé přiřazuje jiný hardware. Získání a příprava dat běží na procesorech s důrazem na vstup a výstup: snímky se stáhnou, převedou do jedné projekce, srovnají a uloží ve formátu, který se rychle načítá. Samotná inference, tedy průchod modelem, běží na grafických kartách. Závěrečné zpracování se vrací na procesory – sešije výstupy jednotlivých oken, použije masky a vyexportuje výsledek do formátů Zarr, GeoTIFF nebo GeoJSON.
Vykonávací vrstva se jmenuje OlmoEarth Run. Zadanou oblast rozdělí na části velké tak, aby každou zvládl jeden stroj, a ty pak na menší okna, která zpracuje model. Území velikosti státu se rozpadne asi na sto částí, kontinent na tisíce. Sousední části se mírně překrývají a překryv se při skládání srovnává, aby ve výsledné mapě nebyl vidět šev.
Čísla z mapy požárního rizika
Na mapě požárního rizika Severní Ameriky to podle Ai2 vypadalo takto: v nejvytíženější chvíli běželo zhruba 19 600 procesorů a 994 grafických karet a síťová propustnost přesáhla 168 GB/s. Odhadovaných 4 737 hodin sériového výpočtu se tím zkrátilo na 30,5 hodiny, což Ai2 shrnuje jako 155násobné zrychlení.
Text zároveň přiznává strop. Víc strojů naráz naráží na kvóty poskytovatele cloudu, takže míra souběhu je jedna z několika hodnot, které se nastavují úloze od úlohy. Podobně se dá měnit rozlišení výstupu, velikost modelu nebo to, jestli se stažené snímky ukládají do mezipaměti pro opakované běhy nad týmž územím.
Obecnější údaj zní, že kontinent platforma zvládne zhruba za den, zpracuje přitom desítky terabajtů snímků a stojí to zlomky centu za kilometr čtvereční. Přesnou částku Ai2 neuvádí.
Vlastní index místo cizích katalogů
Platforma musí nejdřív zjistit, které snímky do modelu vůbec pustit. Ai2 k tomu používá veřejné katalogy STAC, jenže jedna velká úloha vyrobí tisíce dotazů na metadata naráz – víc, než na kolik jsou služby jako STAC API Evropské kosmické agentury nebo Microsoft Planetary Computer stavěné.
Řešením je vlastní index, který se plní průběžně. U dat hostovaných přes AWS Open Data přichází na každý nový snímek upozornění službou SNS; kde poskytovatel takový proud změn nenabízí, ptá se platforma jeho katalogu každých pár minut. Dotazy ven tak kopírují tempo, jakým snímky přibývají, ne nárazy velkých úloh. Z úložiště se pak čtou jen ty bajty, které daná část potřebuje, což umožňují formáty COG a Zarr. Index obsahuje snímky družic Sentinel-1, Sentinel-2, Landsat a NISAR.
Z toho Ai2 odvozuje tři doporučení pro každého, kdo data o Zemi zveřejňuje: hlásit nové snímky frontou zpráv, ukládat je na velkých cloudových platformách bez zvláštních limitů a používat formáty, ze kterých jde číst po částech.
Otevřené ke stažení, ale s omezením oborů
Modely jsou volně ke stažení, licence u nich ale není žádná z obvyklých. Jmenuje se OlmoEarth Artifact License a zakazuje dvě skupiny použití: vojenské a obranné, výslovně včetně vývoje zbraní, vojenských operací, zpravodajské činnosti i sledování osob a policejní práce, a dále těžbu surovin ze Země – od vrtů a dolů po odlesňování. Kdo modely nebo odvozená díla šíří dál, musí uvést Ai2 jako zdroj a stejná omezení předat příjemcům. Smlouva zaniká sama při jejím porušení a také tehdy, když uživatel u soudu tvrdí, že modely porušují něčí patent.
Omezení oborů použití je přesně to, co běžné otevřené licence nedělají. GitHub u hlavního repozitáře licenci nerozpozná a hlásí ji jako NOASSERTION; Apache 2.0 má z repozitářů OlmoEarth jen výukový olmoearth_ml4rs_tutorial. Podle nás to není malicherný rozdíl. Kdo chce modely zapojit do vlastního produktu, musí ta omezení přenést na všechny své zákazníky.
Co má přijít dál
Ai2 vypisuje i plán, a to podle toho, co po něm chtějí partneři. Úlohy se mají dát plánovat dopředu nebo spouštět automaticky, jakmile index zaznamená nový snímek nad sledovaným územím. K tomu má přibýt detekce změn a upozornění, aby se odlesnění nebo povodeň ohlásily samy a nečekaly, až si jich někdo všimne v hotové mapě. Dál jsou v seznamu agentní nástroje pro uživatele bez zkušeností se strojovým učením, rychlejší modely, další zdroje dat včetně počasí z datové sady ERA-5 a předpočítané embeddingy pro celou planetu.
Platforma zatím běží na Google Cloud. Podle Ai2 potřebuje jen virtuální stroje schopné spustit obraz Dockeru a přístup k objektovému úložišti, takže by ji podle něj šlo provozovat i u jiného poskytovatele nebo přímo v účtu a výpočetním prostředí partnera.
