K čemu mi doma běží dva DGX Sparky: GLM 5.2 letěl do koše

Vím, odmlčela jsem se. Poslední dva týdny mě práce zavalila tak, že na deník nezbyla ani minuta. Celou dobu jsem ale věděla, že vám dlužím dvě odpovědi: jak dopadl test GLM 5.2 na dvou DGX Sparcích z druhého dílu a odpověď na nejčastější otázku z komentářů: k čemu ty krabičky vlastně používám. Dnes splácím obojí. A přihodím čerstvou novinku, protože zrovna když píšu tyhle řádky, stahuje se mi na krabičky model, na který jsem čekala od začátku.

GLM 5.2 na dvou Sparcích: nezkoušejte to

Slíbila jsem verdikt: katastrofa. Tečka. Na dvou Sparcích GLM 5.2 nezkoušejte.

Rozběhnout se ho podařilo, o tom žádná. 15 tokenů za sekundu a čeština na první pohled v pořádku. Jenže pak přišlo měření na mých reálných úlohách (bodování 0–12 podle přesnosti faktů a úplnosti, stejné jako v minulých dílech) a bylo po nadějích:

A těch 7,25 je ještě milosrdné číslo. Jsou to dva běhy se stejným zadáním: jednou 6,33, podruhé 8,17. Rozdíl skoro dvou bodů mezi identickými běhy znamená, že nikdy nevíte, který výsledek zrovna dostanete. K tomu model komolil e-mailové adresy z podkladů, vymýšlel názvy souborů a tiskl interní poznámky, které měl výslovně zakázané zveřejnit. Donedávna papírově nejchytřejší otevřený model světa prohrál s modelem, který je dvacetkrát menší. Dvoubitová dieta z obra prostě nenechala dost.

Dvě poctivé poznámky, ať obrovi nekřivdím. Zaprvé: na čtyřech krabičkách je to jiná písnička — vešla by se méně zmrzačená verze a komunita hlásí přes 30 tokenů za sekundu. Já ale čtyři nemám a GLM mě naštěstí nepřesvědčilo, abych do dalších dvou investovala. Zadruhé: test mi dal jeden nečekaně cenný výsledek. Když agent přeložil instrukce do angličtiny (podklady zůstaly české), skóre skočilo skoro o dva body nahoru. Stejný model, stejné podklady, jediná změna byl jazyk zadání. Od té doby překlápím instrukce svých pipeline do angličtiny. Výstupy samozřejmě zůstávají česky, ty čtou lidi.

Nevydrželo to ani čtrnáct dní

I po zklamání s GLM mám pořád stejný názor: co nejde dnes, půjde v blízké budoucnosti. Celou dobu jsem si opakovala, že dva stroje budou stačit — někdo brzy vydá model, který se na ně vejde a bude o třídu lepší než to, co na nich běhá teď.

Trvalo to třináct dní.

1. července vydal DeepSeek model V4 Flash 0731. A tady musím vysvětlit, proč mám radost z modelu, o kterém jsem psala už v druhém dílu. To, co mi na Sparcích běhalo doteď, byla totiž verze Preview — ochutnávka (přesněji její úprava pro Sparky). Verze 0731 je ostré vydání: úplně stejná architektura, úplně stejná velikost, DeepSeek ji jen znovu dotrénoval. V testu Terminal Bench 2.1, kde model samostatně pracuje v příkazové řádce počítače (pro moje agenty přesně to podstatné), skočil z 61,8 na 82,7 bodu. Přeskočil tím i svého většího sourozence V4-Pro ve verzi Preview.

Benchmarky si můžou tvrdit své, změřím si to po svém. Radost mám ale obrovskou a stahování jsem pustila hned. Váhy mají zase přes 160 GB, stejně jako Preview, takže model poběží přes oba propojené Sparky. Chystala se i výrazně zmenšená, 3bitová verze kolem 100 GB, která se vejde na jeden stroj — k té se ještě dostanu.

Model mi na dvojici Sparků běžel ještě ten večer, co váhy vyšly. V netrpělivosti jsem to nejdřív zkoušela po svém a dostala se na devět tokenů za sekundu (na hraní dost, na práci málo). Recept pro Sparky ale tentokrát nenechal na sebe čekat: komunita ho vydala prakticky obratem, i se zrychlovacím trikem, který si tipuje slova dopředu.

Nasadila jsem ho a přeměřila celé kolo znovu: prompty od 256 do 131 tisíc tokenů, jeden až čtyři dotazy naráz. Psaní zhruba 75 tokenů za sekundu, víc než umělo Preview. Čtení podkladů až 2 000 tokenů za sekundu. A když jsem modelu poslala prompt o 131 tisících tokenů (klidně celá kniha naráz), psal odpověď rychlostí 85 tokenů za sekundu. V plné 8bitové kvalitě, žádná dieta jako u GLM. Limity vidím taky: tři takhle obří dotazy najednou a rychlost spadne na 7 tokenů za sekundu.

A menší 3bitová verze, co se vejde na jeden stroj? Mezitím vyšla taky, má 103 GB. Na jednom stroji píše kolem 12 tokenů za sekundu (bez zrychlovacího triku, ten zatím umí jen plná verze na dvou strojích). Po zkušenosti s GLM a dietami jsem jí v češtině moc nevěřila.

Kvalita? Čeština z prvních zkoušek čistá, žádné komolení, pravidla zadání drží. Jednu věc si ale model hned vymyslel: detail, který v podkladech vůbec nebyl. Připomínka za všechny peníze, proč nic nejde ven bez kontroly. A slíbené pořádné bodování? Tady radost končí: 8,9 až 9,1 z 12, podle toho, jak zrovna model běží. Laťku 10,5 z Preview ostrá verze u mě nepřekonala ani jednou. Na papíře o třídu chytřejší model, v mé práci zatím horší. Jedno překvapení ale bodování přineslo: ta 3bitová dieta, které jsem nevěřila, dala prakticky stejné skóre jako plná 8bitová kvalita i jako rychlý komunitní recept. Po GLM jsem čekala propad kvůli kompresi, nepřišel. Komprese v tom tentokrát nehrála roli, slabší je model sám. Dávková práce u mě proto zatím zůstává na Qwenu a DeepSeek 0731 si nechávám na další kolo měření.

A jedna příhoda zdarma pro každého, kdo si podobné krabičky pořídí: nezkoušejte na nich načítat model přes 160 GB a zároveň stahovat další. Přesně to se u mě stalo a jeden Spark se tvrdě restartoval (tyhle stroje si nemají jak vypomoct, když jim dojde paměť). Od té doby platí pořadí: nejdřív dostáhnout, pak načítat.

Takže lék na rakovinu, nebo Skynet?

Teď to, na co se ptáte pod každým dílem: k čemu ty krabičky vlastně mám. Ani lék na rakovinu, ani Skynet. SEO.

SEO mě chytlo ve čtrnácti letech. Letos mi bude třicet čtyři, takže se v něm pohybuju dvacet let, naplno jako SEO konzultant od roku 2012. Leccos se za tu dobu změnilo, ale podstata zůstává: přizpůsobovat se Googlu a pořád se učit nové věci.

Pro ty z vás, kdo SEO neznají: když něco hledáte na Googlu, o pořadí výsledků rozhoduje algoritmus. SEO (optimalizace pro vyhledávače) je práce na tom, aby si ten algoritmus vybral váš web co nejvýš. Z prvních pozic lidi klikají, z druhé stránky skoro nikdo. Takže upravujete texty, technický stav webu, jeho strukturu i to, kdo na něj odkazuje — a měříte, jestli to Google ocenil.

Zní to jednoduše. V praxi to podle velikosti webu znamená hromadu práce s obrovským množstvím dat:

• Analýza klíčových slov. Zjistit, co přesně lidi hledají, jak často a jakými slovy. Tisíce dotazů, které je potřeba roztřídit a přiřadit ke stránkám.
• Technický audit. Nástroj jako Screaming Frog (program, který proleze web stejně, jako ho prochází Google, a vypíše všechno, co našel) vám vysype tisíce řádků: rozbité odkazy, pomalé stránky, duplicity, chybějící popisky.
• Opravy a vyhodnocování. Chyby opravit a pak sledovat, jestli to pomohlo. Bez měření je to věštění.
• Optimalizace stránek. Nadpisy, texty, obrázky, interní odkazy — stránku po stránce.
• Tvorba a úpravy obsahu. Články, návody, popisy kategorií a produktů.
• Analýza konkurence. Proč je konkurenční web výš a co má, co vy nemáte.
• Analýza odkazového profilu. Kdo na váš web odkazuje a jestli vám některé odkazy spíš neškodí (ano, i to se stává).
• Data, data, data. Google Search Console (Google vám sám říká, na jaké dotazy se zobrazujete a na které pozici), Google Analytics (co návštěvníci na webu dělají) a k tomu nástroje jako Semrush, Ahrefs nebo Moz — obří databáze, které sledují hledanost slov a odkazy napříč internetem.

Je to sakra hodně hodin a ty hodiny nikde neseženete. Když všechno děláte ručně, musíte si vybírat, komu pomůžete — ostatní prostě nestihnete, ať chcete sebevíc.

S příchodem AI by se mohlo zdát, že se to zautomatizuje a práce ubude. Opak je pravdou: na SEO konzultanta se navalily další požadavky a umět toho musíte ještě víc než dřív, takže pořád jedu od rána do noci. Jenže sáhodlouhé zdržující úlohy dnes zvládám efektivně, práce mě zase ohromně baví a naplňuje a na věci, do kterých jsem se dřív musela nutit, se vlastně těším. A ne, neznamená to, že AI všechno udělá za mě. Tam nejsme a nevím, jestli někdy budeme. Ale ta efektivita vzrostla brutálně.

Co z toho dnes jede na krabičkách

Moje dělící čára je jednoduchá: dávková, opakovatelná práce s jasnou kontrolou jde na krabičky. Úsudek a strategie zůstávají nejlepším modelům na trhu — a poslední slovo mám vždycky já.

Konkrétně dnes na lokálních modelech běží:

• alternativní texty obrázků — popisky, které čte Google a nevidomí uživatelé; u větších webů jde o tisíce obrázků,
• třídění klíčových slov — roztřídit tisíce dotazů z analýzy do skupin podle záměru hledajícího,
• první průchod dat ze Search Console — najít dotazy, kde web visí těsně pod první stránkou (tam bývají nejrychlejší výhry),
• překlad technického auditu do lidštiny — z tisíců řádků seznam úkolů seřazený podle dopadu,
• vzájemná kontrola — u dávkových úloh běží vedle prvního modelu druhý jako revizor a chytá mu chyby (sestava z druhého dílu).

Nic z toho nejde ke klientovi bez kontroly. Krabičky mi šetří hodiny. Zodpovědnost zůstává na mně.

Historka z auta, kvůli které tenhle díl vlastně píšu

Před pár dny jsem řídila 300 kilometrů domů. Někde v půlce cesty mi přišel e-mail od mého agenta: hotovo, dávka alternativních textů pro jeden ze spravovaných webů je zpracovaná. Tisíce obrázků, popsané lokálními modely na krabičkách, protože jich můžou brát spoustu naráz. Nikdo agentovi neřekl, aby mi psal e-mail — jen mu zřejmě došlo, že řídím a u počítače nebudu.

A v tom autě mi docvaklo: kdybych tuhle úlohu měla platit v tokenech přes API, nejspíš bych ji vůbec nezadala. Alternativní texty jsou přesně ten typ práce, jejíž dopad se špatně měří a kterou si klient sám nikdy neobjedná. Je to prostě bonus, dlouhodobá hra. Díky krabičkám ji udělám, protože můžu a protože mě to baví. Čas mě nestojí a peníze v tu chvíli taky ne (elektřinu nepočítám, ta se v téhle úvaze ztratí).

A přesně v tom je pro mě hlavní pointa vlastní AI doma: můžu pro klienty dělat věci navíc, do kterých by se nikdo, kdo přepočítává každou minutu a každý token na peníze, nepustil. Klienti často ani nevědí, proč to dělám. Projeví se to v konečném výsledku, a to mi stačí.

„Tak to jeďte přes levné API, vy chytrá"

Zkoušela jsem, vážně. Když jsem tyhle pipeline stavěla, hnala jsem je přes levné modely přes API — přesně jak mi dodnes kdekdo radí. Realita: audit, o kterém si myslíte, že běží, zatímco jste pryč, v půlce umře na vyčerpaný limit, protože je na oblíbeném modelu zrovna nápor. Záložní model to nezachrání. Stálo to pár korun, to ano. Jenže výsledek nikde a vy to zjistíte, až se vrátíte.

Když od automatizace čekáte spolehlivost, nemůžete ji stavět na nejlevnější infrastruktuře na trhu. Proto klientská práce běží na nejlepších modelech, které si ráda platím, a dávková práce doma na krabičkách, kde mi nikdo kohoutek nezavře.

A když mi zase napíšete, že i tohle jde levněji přes API: jde. Kouzlo je ale v horizontálním škálování, tedy v tom, že doma pustím spoustu úloh najednou a nikdo mi u toho nepočítá tokeny. Tam tu debatu s dovolením nechám.

Ne, krabičky nenahrazují předplatné

Poslední věc, která se pod minulými díly vracela pořád dokola: „takže rušíš předplatné?" Neruším a nechystám se. Pro klientskou práci chci maximální spoleh, a ten dnes dávají nejlepší placené modely. Tečka.

Krabičky jsou něco jiného: pojistka. Jestli se ceny AI někdy pohnou tak, že se mi placené modely přestanou vyplácet, chci mít doma stroje, u kterých věřím, že do roka utáhnou modely na úrovni dnešní špičky. Otevřené modely dotahují závratným tempem — vždyť to vidíte v tomhle díle: třináct dní mezi „tenhle je dobrý" a „tenhle má být o třídu jinde". K ruční práci, jak jsem ji dělala roky, se vracet nechci. Nikdy.

Chápu, že většina lidí věří, že AI bude vždycky takhle levná a dostupná. Možná budou mít pravdu. Já si jen myslím, že s prací, která mě živí, mám dobrý důvod nespoléhat na „možná".

Co si z toho odnést

1. GLM 5.2 na dvou DGX Sparcích nezkoušejte. Dvoubitová dieta zničí přesnost údajů i kázeň modelu. Na čtyřech strojích je to jiná debata.
2. Jazyk instrukcí je výkonová páka. Skoro dva body v mém testu jen za překlad zadání do angličtiny. Platí i bez vlastního hardwaru: instrukce anglicky, výstup česky.
3. Nekupujte hardware kvůli jednomu konkrétnímu modelu. Modely se střídají po týdnech: GLM u mě propadl a za třináct dní vyšel nový DeepSeek. Na benchmarcích lepší, moji laťku zatím nepřekonal.
4. Na lokální AI patří dávková, opakovatelná práce s kontrolou. Úsudek a finální kvalita zůstávají špičkovým modelům a člověku.
5. Největší hodnota vlastní AI není úspora, ale práce navíc. Věci, které byste přes placené tokeny nikdy nezadali, najednou prostě uděláte.

Co dál

Na krabičkách se teď bude měřit dál: DeepSeek 0731 dostane druhou šanci s anglickými instrukcemi, tedy s pákou, která u GLM přidala skoro dva body. Souběžně přeměřím, co překlad instrukcí udělá i s modely, které česky umí dobře. Jestli zvažujete vlastní železo, Poběží mi to? vám spočítá, co se vejde do vašeho počítače, a Návratnost porovná lokální stroj s placeným API.

A otázka na vás, jako vždycky: kdybyste měli doma vlastní AI, která nepočítá tokeny, co byste na ni pustili jako první? Napište mi to do komentářů — nejlepší nápady na té dvojici rovnou změřím.

Časté otázky

Čím se liší DeepSeek V4 Flash 0731 od původního V4 Flash?

Původní verze byla Preview, tedy ochutnávka. Vydání 0731 z 31. července má úplně stejnou architekturu i velikost, DeepSeek ho jen znovu dotrénoval. V testu samostatné práce v příkazové řádce (Terminal Bench 2.1) skočil z 61,8 na 82,7 bodu a přeskočil i většího sourozence V4-Pro-Preview. Pro dva propojené DGX Sparky je to dnes nejzajímavější kandidát — v mém vlastním testu kvality ale laťku Preview zatím nepřekonal (zhruba 9 proti 10,5 z 12).

Zvládne lokální model na DGX Sparku skutečnou SEO práci?

Dávkovou a opakovatelnou část ano: alternativní texty obrázků, třídění klíčových slov, souhrny technických auditů a první průchod dat ze Search Console. Vždy s kontrolou, než jde cokoliv ke klientovi. Strategie a analýzy zůstávají u nejlepších placených modelů a u člověka.

Nahradí domácí AI krabičky předplatné placených modelů?

U mě ne a nemají to v popisu práce. Placené špičkové modely dělají práci, kde záleží na každém detailu a kde je nejvíc co zkazit. Krabičky odbavují dávky, dělají práci navíc, která by se jinak nevyplatila, a fungují jako pojistka pro případ, že by ceny AI šly špatným směrem.

Vyplatí se zkoušet GLM 5.2 na dvou DGX Sparcích?

Ne. Po zmenšení na 2 bity komolí e-mailové adresy i názvy souborů, plete si pravidla zadání a v mém testu (přesnost faktů a úplnost, 0–12) prohrál i s dvacetkrát menším modelem (7,25 proti 10,25). Smysl začíná dávat až na čtyřech strojích, kam se vejde šetrnější komprese.

Zdroje