V minulém díle jsem psala, že mě GLM 5.2 nepřesvědčil, abych investovala do dalších krabiček. Vydrželo mi to čtyři dny. Tento týden mi domů dorazil třetí DGX Spark, zase ASUS Ascent GX10, a v obýváku mi teď běží model o 744 miliardách parametrů. V tomhle díle deníku najdete, proč jsem názor změnila, jak se tři krabičky propojují (je to jednodušší, než jsem čekala) a hlavně první čísla: rychlost, kód a běžná práce proti DeepSeeku, který u mě doma vládl doteď.
Jak se (ne)posílá superpočítač
Nejdřív historka z doručení, protože k té změně názoru patří. První krabičku mi v červenci poslala Alza. Stroj za víc než sto tisíc přijel tak, že originální krabici prostě hodili do větší krabice. Bez jediné výplně. Počítač si to celou cestu lítal uvnitř, jak chtěl, a já dodnes nechápu, že to přežilo.
Druhý a třetí Spark jsem proto kupovala jinak. Napsala jsem Martinu Petrovi z brněnské firmy M Computers (oficiální partner NVIDIA) a najednou to byl úplně jiný zážitek. Poradil mi s výběrem, sehnal cenu, pod kterou jsem se nikde nedostala, domluvil prodlouženou záruku a balík přišel zabalený tak, že by přežil pád ze schodů. Jestli o vlastním Sparku uvažujete, ozvěte se Martinovi. Já už jinde nenakoupím.
Tři krabičky, tři kabely, žádný switch
Čekala jsem víkend složitého síťování. Realita: tři kabely (dorazily rovnou s krabičkou). Každý Spark má dva rychlé síťové porty, takže se tři stroje propojí každý s každým a žádný switch nepotřebujete. Ten začnete řešit až od čtyř kusů.
Dohromady mají tři stroje 384 GB paměti. A spotřeba? Celá trojice si při práci bere kolem 300 W, zhruba jako jeden lepší herní počítač.
GLM 5.2 podruhé: tentokrát bez hladovky
V červenci jsem GLM 5.2 na dvou strojích strhala. Dvoubitová komprese z něj udělala model, který komolil e-mailové adresy a vymýšlel si názvy souborů, a já napsala, že smysl začíná dávat až na čtyřech strojích. Spletla jsem se o krabičku. Komunita mezitím vymyslela hybridní kompresi: části modelu, které pracují pořád, nechává ve 4 bitech a šetří jen na těch, na které dojde zřídka. Výsledek má 273 GB, vejde se přesně na tři Sparky a k tomu jedna věc, kterou jsem nečekala: model na krabičkách nově vidí i obrázky. Hodíte mu screenshot a on ví, co na něm je.
Nasadila jsem hotový komunitní recept (odkaz v tabulce na konci) a byla to úplně jiná zkušenost. Model drží pravidla zadání a za první dny zkoušení jsem nenarazila na jediný zkomolený údaj. Pořádné slepé bodování češtiny (0–12, tentokrát rovnou naslepo, po lekci z minulého dílu) si nechám do příštího dílu, až nasbírám dost výstupů z ostré práce.
Jedna praktická poznámka: recept má přemýšlení modelu vypnuté záměrně. Se zapnutým si GLM rozmýšlí každou maličkost a rychlost jde do kolen, tak mu ho nezapínejte.
Který model umí nejlíp česky? Porovnávám je na reálné práci, ne na anglických benchmarcích. Žebříček průběžně doplňuju o nové modely.
Rychlost: 25 tokenů za sekundu na kódu
První čísla z trojice. Recept má dvě cesty a čísla uvádím pro tu rychlejší, s kontextem 235 tisíc tokenů:
- psaní kódu a strukturovaných výstupů: kolem 25 tokenů za sekundu, špičkově 29,
- běžný text: 15 až 20 tokenů za sekundu,
- druhá cesta utáhne kontext 348 tisíc tokenů (i s obrázky), za cenu nižší rychlosti (21 místo 25 tokenů za sekundu).
Pro srovnání: DeepSeek V4 Flash 0731 na dvou krabičkách píše kolem 75 tokenů za sekundu. GLM je tedy na kódu zhruba třikrát pomalejší, na běžném textu ještě o kus víc, a navíc zvládne jen jeden dotaz naráz, zatímco DeepSeek jich u mě běžně odbavuje několik souběžně. Tohle rozhoduje o tom, na co ho reálně pustíte.
Kód, texty a běžná práce: kdo na co
Po prvních dnech to u mě zatím vypadá takhle.
Kvalita: GLM 5.2. Na složitější uvažování a delší kód je to zatím to nejlepší, co jsem doma rozběhla. Změřené to ještě nemám (slepý test teprve přijde), ale výstupy od něj většinou nemusím předělávat. A protože nově vidí obrázky, zkouším na něm i úplně nový druh práce: hodím mu screenshot stránky a nechám ho hledat, co na ní není v pořádku. Zatím koukám a učím se, co od toho čekat.
Rychlost a dávky: DeepSeek. Kde jedu dávkovou práci (třídění, alternativní texty, souhrny) nebo potřebuju rychlé iterace při kódování, zůstává DeepSeek na dvou krabičkách. Je několikrát rychlejší, zvládne víc úloh najednou (u obřích dotazů to samozřejmě stojí rychlost, jak jsem měřila minule) a na běžnou práci je jeho kvalita víc než dost.
Popravdě se ty dva skvěle doplňují: trojice s GLM na práci, kde záleží na každém detailu, dvojice s DeepSeekem na všechno, co má být hotové rychle a ve velkém. Přesně proto se třetí krabičky nezbavím: mám teď doma dvě sestavy na dva druhy práce. Úplně nejvíc by samozřejmě bylo mít čtyři krabičky pro GLM a k nim dvě pro DeepSeek. Šest strojů. Ale... těžký.
Co si z toho odnést
- Na třech DGX Sparcích už GLM 5.2 dává smysl. Hybridní komprese vyřešila to, co dvoubitová dieta zničila. Na dvou strojích platí verdikt z minula: nezkoušejte.
- Kvalita GLM, rychlost DeepSeek. GLM je 3× až 5× pomalejší (podle typu výstupu) a bere jen jeden dotaz naráz. Na dávky a rychlé iterace zůstává DeepSeek, na náročné jednotlivé úlohy GLM.
- Do tří krabiček nepotřebujete switch. Tři kabely a jedete. Switch řešte až od čtyř strojů.
- Kupujte u někoho, kdo strojům rozumí. Na balení, poradenství a prodloužené záruce záleží, když posíláte poštou stroj za sto tisíc.
Jaký hardware na váš model? Kalkulačka najde od nejlevnějšího stroj, který ho utáhne.
Co dál
Největší otázka je pořád otevřená: čeština. GLM dostane stejný slepý test 0–12 jako minule DeepSeek, rovnou zamíchaný a bez popisků, ať se neopakuje moje červencová shovívavost. DeepSeek si mezitím obhajuje slepé skóre v ostrém provozu (výsledek uzavřu příště) a konečně dojde i na slíbený pokus s anglickými instrukcemi u modelů, které česky umí dobře. A chystám ještě jednu věc: díl o tvorbě videí na krabičkách.
Jestli zvažujete vlastní železo, Poběží mi to? vám spočítá, co se vejde do vašeho počítače, a Návratnost porovná lokální stroj s placeným API.
A otázka na vás: chystám slepý test češtiny, GLM proti DeepSeeku a Qwenu. Jakou úlohu bych do něj měla přidat, aby vás výsledek opravdu zajímal? Napište mi to do komentářů.
Časté otázky
Vyplatí se kupovat třetí DGX Spark kvůli GLM 5.2?
Záleží, co na strojích děláte. Pokud jedete hlavně dávkovou práci a rychlé iterace, dva Sparky s DeepSeekem vám stačí a třetí krabička vám moc nepřidá. Pokud chcete na jednotlivé náročné úlohy nejvyšší kvalitu (a obrázky na vstupu), trojice s GLM 5.2 je dnes to nejsilnější, co si doma postavíte. Můj slepý test češtiny na něj ale teprve čeká.
Potřebuju na tři DGX Sparky síťový switch?
Ne. Každý Spark má dva rychlé porty, tři stroje se propojí třemi kabely každý s každým. Switch začnete řešit až od čtyř krabiček.
Utáhnou tři Sparky GLM 5.2 v plné kvalitě?
V plné ne, model má v původní velikosti přes 1 400 GB. Hybridní komprese ale nechává nejpoužívanější části modelu ve 4 bitech a šetří jen na okrajových, takže výsledných 273 GB se chová nesrovnatelně lépe než červencová dvoubitová verze. Kontext je 235 tisíc tokenů, případně 348 tisíc v pomalejší variantě.
Je GLM 5.2 na třech Sparcích rychlejší než DeepSeek na dvou?
Není. GLM píše kolem 25 tokenů za sekundu, DeepSeek kolem 75 a k tomu zvládá víc dotazů souběžně. GLM si vybíráte kvůli kvalitě výstupu, ne kvůli rychlosti.
