Kimi a dlouhý kontext: jak Moonshot AI přepsal pravidla paměti modelů

Když Moonshot AI v říjnu 2023 spustil interní testování Kimi Chat, nabídl kontextové okno 200 000 čínských znaků. To bylo tehdy dost na to, aby si vývojáři povšimli. O pět měsíců později přidal nulu: 2 000 000 znaků, přibližně 1,33 milionu tokenů. Ne jako marketingová cifra, ale jako funkční parametr přístupný přes API. Tato trajektorie — desetinásobný nárůst kapacity za půl roku — je technicky zajímavá sama o sobě, bez ohledu na to, co říkají reklamní materiály.

Co je za číslem: lossless long-context mechanismus

Klíčový technický koncept, na kterém Kimi staví svou diferenciaci, je takzvaný lossless long-context mechanismus. Název je záměrně konfrontační vůči standardnímu přístupu odvětví — většina modelů s dlouhým kontextem totiž degraduje na komprimované nebo aproximované reprezentace, jakmile délka vstupu překračuje komfortní zónu tréninku.

Moonshot AI přistoupil k problému jinak: místo aby model trénoval na krátkých sekvencích a pak se pokoušel o extrapolaci na delší vstupy během inference, zabudoval schopnost pracovat s dlouhými sekvencemi přímo do tréninkové pipeline. Technicky to znamená optimalizaci na třech úrovních — architektura modelu, správa paměti a mechanismus pozornosti (attention). Výsledek je, že model při inferenci nerekonstruuje detail ze ztrátové komprese, ale pracuje s reprezentací konsolidovanou během tréninku.

Praktický rozdíl je měřitelný: standardní „needle in a haystack" benchmarky, kde se testuje schopnost modelu nalézt konkrétní informaci v dlouhém dokumentu, dávají u lossless přístupu konzistentně zelené výsledky napříč celou délkou kontextového okna. Moonshot AI sám upozornil, že tento benchmark se stal snadno optimalizovatelným a postupně ztrácí vypovídací hodnotu — každý dostatečně motivovaný tým ho dokáže „projít". Zajímavější je proto reálné testování složitějších úloh.

Podle analýzy dostupné na myqcloud.com, publikované výzkumnou pobočkou Changjiang Securities, token-znaková konverze pro čínský text odpovídá poměru přibližně 1 token na 1,5 znaku. Při 2 milionech znaků to dává 1,33 milionu tokenů — v době spuštění interního testování více než Gemini 1.5 Pro (1 milion tokenů), Claude 3 (200 000 tokenů) i GPT-4 Turbo (128 000 tokenů).

Kde model skutečně funguje a kde ne

Podrobné testování publikované na Shaoshupai.com přineslo konkrétní výsledky z reálných úloh. Autor nahral dva kompletní prospekty z hongkongského IPO — Mixue Bingcheng (369 351 znaků) a Goodme (420 975 znaků) — a testoval schopnost modelu srovnávat finanční data napříč dokumenty. Výsledek byl použitelný: faktické dotazy fungovaly spolehlivě, extrakce klíčových čísel byla přesná.

Slabší místa se projevují tam, kde model musí provádět víceúrovňové inference přes celý kontext najednou. Generování strukturovaného JSON výstupu z dlouhých dokumentů selhává přibližně v části pokusů — model buď chybí ve formátování, nebo zabalí každý řádek do vlastních složených závorek. Logické uvažování přes celé 1,33milionové tokenové okno rovněž není konzistentní.

Příčina je pravděpodobně architektonická. Transformer attention má kvadratickou výpočetní složitost vůči délce sekvence — to je fyzické omezení, které lossless trénink řeší z hlediska zachování informace, nikoli nutně z hlediska schopnosti modelu efektivně uvažovat přes celý kontext při inferenci. Moonshot AI si je toho vědom: v říjnu 2024 spustili výzkum nové attention architektury pojmenované Kimi Linear, která má lineární časovou složitost a je prezentována jako potenciální základ pro agentní modely příští generace.

Kimi K2 a posun od kontextu k agentu

Samotný kontext je jen jeden rozměr. V červenci 2025 Moonshot AI vydal a současně open-sourcoval model Kimi K2 — model s parametry v řádu bilionů, navržený primárně pro agentní scénáře. Výsledek byl rychlý: Kimi K2 obsadil první místo v globálním žebříčku open-source modelů na LMArena s více než 3 000 hlasy komunity a celkové páté místo v kombinovaném žebříčku zahrnujícím i uzavřené modely.

Kimi K2 pak posloužil jako základ pro komerčně zajímavý případ: AI programovací platforma Cursor integrovala model Kimi K2.5 (s reinforcement learningem) pod názvem Composer 2. Po zveřejnění technických detailů a reakci Elona Muska, který potvrdil identitu modelu, Moonshot AI výslovně potvrdil, že jde o licencovanou spolupráci přes Fireworks inference platformu. Tato epizoda dobře ilustruje, jak se čínský model dostal do globální vývojářské infrastruktury nikoli přes přímý marketing, ale přes B2B vrstvu.

Z hlediska API pricing je aktuální struktura na platformě Moonshot v roce 2026 nastavena následovně: Kimi K2.6 (nejnovější model) stojí 6,50 CNY za milion vstupních tokenů a 27,00 CNY za milion výstupních tokenů; K2.5 je levnější při 4,00 CNY vstup a 21,00 CNY výstup. Pro srovnání — původní Moonshot V1 s kontextovým oknem 131 072 tokenů se drží na 10,00 CNY vstup a 30,00 CNY výstup.

Celková finanční situace firmy odpovídá technologické trakci: v květnu 2026 dokončil Moonshot AI kolo financování v objemu přibližně 2 miliardy USD, po kterém valuace přesáhla 20 miliard USD. Podle dat z Baidu Baike jde o nejrychlejší postup čínské firmy od vzniku k valuaci přesahující 10 miliard USD. Zároveň probíhají předběžné konzultace ohledně možného IPO v Hongkongu — s CICC a Goldman Sachs jako potenciálními bankami.

---

Moonshot AI vyřešil technicky obtížný problém — jak škálovat kontextové okno bez ztráty kvality reprezentace. To je reálný technologický příspěvek. Otevřená otázka zůstává jiná: zda schopnost pojmout 1,33 milionu tokenů skutečně otevírá nové aplikační scénáře, nebo jen rozšiřuje stávající. Architektura Kimi Linear a agentní schopnosti K2 naznačují, že Moonshot AI sám považuje samotný kontext za nezbytnou, ale nikoli postačující podmínku. Příští generace modelů bude zřejmě hodnocena méně podle délky okna a více podle schopnosti v tom okně skutečně uvažovat.