Nedávný projekt Andrei Karpathyho, bývalého ředitele AI v Tesle a zakladatele OpenAI, v tichosti identifikoval kritickou, ale stále nedefinovanou vrstvu v moderním softwaru: orchestrační middleware mezi podnikovými aplikacemi a rychle se vyvíjejícími modely AI. Experiment s názvem LLM Council ukazuje, že směrování a agregace modelů umělé inteligence je překvapivě jednoduché, ale skutečná složitost spočívá v jejich přeměně na podnikové řešení.
Vzestup AI orchestrace
Pro technologické manažery je Karpathyho projekt víc než jen zábavou, ale i plánem toho, jak budou společnosti přistupovat k investicím do infrastruktury AI v roce 2026. Základní myšlenka je jednoduchá: Namísto spoléhání se na jedno proprietární řešení AI mohou společnosti integrovat více modelů – GPT-5.1, 3.0 Pro, Claude Sonnet 4.5, které vyhodnocují a systémy Grok syntetizuje odpovědi. Tento přístup poskytuje flexibilitu a zabraňuje uzamčení dodavatele.
Jak funguje Rada LLM: AI soudí AI
Rada LLM pracuje ve třech fázích:
- Paralelní generování: Požadavek uživatele je odeslán více modelům AI současně.
- Peer Review: Každý model kritizuje odpovědi svých kolegů a poskytuje úroveň kontroly kvality, která se u standardních chatbotů jen zřídka vyskytuje.
- Synthesis: Designated “LLM Chair” (aktuálně Gemini 3) kombinuje odpovědi a hodnocení do konečné, směrodatné odpovědi.
Karpathy zjistil, že modelky často upřednostňují vzájemné odpovědi před svými vlastními, což naznačuje potenciální zaujatost vůči výřečnosti a určitým rétorickým stylům. To vyvolává klíčovou otázku: Dokáže umělá inteligence spolehlivě vyhodnotit umělou inteligenci, aniž by ohrozila lidské potřeby stručnosti a přesnosti?
Technická architektura: Minimalistická, ale efektivní
LLM Council je postaven na „tenkém“ zásobníku: FastAPI (rámec Python), React/Vite (frontend) a soubory JSON pro ukládání dat. Klíčovým prvkem je OpenRouter, agregátor API, který normalizuje požadavky mezi poskytovateli modelů. To umožňuje systému nahradit modely úpravou pouze jednoho řádku kódu a chránit jej před uzamčením dodavatele.
Tento přístup svědčí o rostoucím trendu nahlížet na špičkové modely jako na zaměnitelné komponenty spíše než jako na monolitické závislosti. Pokud Meta nebo Mistral příští týden vydají lepší model, lze jej integrovat během několika sekund.
Chybějící prvky: Bezpečnost, dodržování předpisů a spolehlivost
Zatímco základní logika je elegantní, LLM Council postrádá důležité podnikové funkce: ověřování, odstraňování PII (osobně identifikovatelné informace), monitorování souladu a robustní řešení chyb. Tyto nedostatky definují hodnotovou nabídku komerčních poskytovatelů infrastruktury AI, jako jsou LangChain a AWS Bedrock. Prodávají „zpevnění“ kolem základní logiky – bezpečnostní opatření, pozorovatelnost a soulad – které přeměňují nezpracovaný skript na životaschopnou platformu.
Kód Karpathy ukazuje, že technická výzva nespočívá ve směrování požadavků, ale ve správě dat a zajištění spolehlivosti na podnikové úrovni.
Budoucnost kódu: Pomíjivá a generovaná umělá inteligence
Karpathyho provokativní prohlášení, že „kód je nyní pomíjivý a knihovny jsou zastaralé“, naznačuje radikální posun. Namísto udržování pevných interních nástrojů mohou inženýři vytvářet svá vlastní, jednorázová řešení pomocí AI. To představuje strategickou otázku: Měly by společnosti kupovat drahé softwarové balíčky nebo dát inženýrům možnost vytvářet vlastní nástroje za nižší cenu?
Problém shody: Stroj versus lidský úsudek
Experiment LLM Council zdůrazňuje kritické riziko: rozpor mezi úsudkem stroje a člověka. Pokud hodnotitelé umělé inteligence odměňují dlouhé a dlouhé odpovědi, když zákazníci chtějí stručná řešení, metriky ukáží úspěch, ale spokojenost zákazníků prudce klesne. Zcela spoléhat se na AI při hodnocení AI je strategie plná skrytých problémů se zarovnáním.
Na závěr, Karpatiho víkendový hack rozebírá AI orchestraci a dokazuje, že základní funkce jsou dostupné. Skutečnou výzvou je vybudování řídicí vrstvy – zabezpečení, dodržování předpisů a spolehlivosti, které promění nezpracovaný skript v podnikovou platformu. Otázkou pro technologické lídry není, zda integrovat AI, ale jak využít její divoký potenciál prostřednictvím odpovědného vývoje.
