Een recent project van Andrej Karpathy, voormalig AI-directeur bij Tesla en oprichter van OpenAI, heeft stilletjes een kritische, maar ongedefinieerde laag in moderne software blootgelegd: de orkestratie-middleware tussen bedrijfsapplicaties en snel evoluerende AI-modellen. Dit weekendexperiment, genaamd ‘LLM Council’, laat zien dat het routeren en aggregeren van AI-modellen verrassend eenvoudig is, maar het bedrijfsklaar maken ervan is waar de complexiteit echt ligt.
De opkomst van AI-orkestratie
Voor technische besluitvormers is Karpathy’s ‘vibe code’-project niet alleen maar speelgoed; het is een blauwdruk voor de manier waarop bedrijven investeringen in AI-infrastructuur in 2026 zullen benaderen. Het kernidee is simpel: in plaats van te vertrouwen op enkele, eigen AI-oplossingen, kunnen bedrijven meerdere modellen – GPT-5.1, Gemini 3.0 Pro, Claude Sonnet 4.5, Grok 4 – integreren in een systeem dat debatteert, bekritiseert en antwoorden synthetiseert. Deze aanpak biedt flexibiliteit en vermijdt een ‘vendor lock-in’.
Hoe de LLM-raad werkt: AI beoordeelt AI
De LLM Council opereert in drie fasen:
- Parallelle generatie: De zoekopdracht van een gebruiker wordt tegelijkertijd naar meerdere AI-modellen verzonden.
- Peer Review: Elk model bekritiseert de reacties van zijn collega’s, waardoor een laag van kwaliteitscontrole wordt opgelegd die zeldzaam is in standaardchatbots.
- Synthese: Een aangewezen “Chairman LLM” (momenteel Gemini 3) combineert de antwoorden en ranglijsten tot een definitief, gezaghebbend antwoord.
Karpathy ontdekte dat de modellen vaak de voorkeur gaven aan elkaars reacties boven die van henzelf, wat een mogelijke voorkeur voor breedsprakigheid en specifieke retorische stijlen benadrukte. Dit roept een belangrijke vraag op: kan AI AI op betrouwbare wijze beoordelen zonder in lijn te zijn met de menselijke behoefte aan beknoptheid en nauwkeurigheid?
De technische architectuur: minimalistisch en toch effectief
De LLM Council is gebouwd op een ‘dunne’ stapel: FastAPI (Python-framework), React/Vite (frontend) en JSON-bestanden voor gegevensopslag. De spil is OpenRouter, een API-aggregator die verzoeken van modelaanbieders normaliseert. Hierdoor kan het systeem modellen wisselen door een enkele regel code te bewerken, waardoor deze wordt beschermd tegen leverancierslock-in.
Deze benadering duidt op een groeiende trend: grensmodellen behandelen als verwisselbare componenten in plaats van monolithische afhankelijkheden. Als Meta of Mistral volgende week een superieur model uitbrengt, kan dit binnen enkele seconden worden geïntegreerd.
De ontbrekende stukjes: beveiliging, compliance en betrouwbaarheid
Hoewel de kernlogica elegant is, mist LLM Council essentiële bedrijfsfuncties: authenticatie, PII-redactie, nalevingscontroles en robuuste foutafhandeling. Deze afwezigheden bepalen de waardepropositie voor commerciële AI-infrastructuurleveranciers zoals LangChain en AWS Bedrock. Ze verkopen de ‘verharding’ rond de kernlogica: de beveiliging, waarneembaarheid en compliance-wrappers die van een onbewerkt script een levensvatbaar platform maken.
De code van Karpathy laat zien dat de technische uitdaging niet in de routingprompts zit; het gaat om het beheren van de gegevens en het garanderen van betrouwbaarheid op bedrijfsniveau.
De toekomst van code: kortstondig en door AI gegenereerd
Karpathy’s provocerende uitspraak dat “code nu vluchtig is en bibliotheken voorbij zijn” duidt op een radicale verschuiving. In plaats van rigide interne tools te onderhouden, kunnen ingenieurs met behulp van AI aangepaste, wegwerpbare oplossingen genereren. Dit roept een strategische vraag op: moeten bedrijven dure softwaresuites kopen, of moeten ingenieurs de mogelijkheid krijgen om op maat gemaakte tools te maken tegen een fractie van de kosten?
Het afstemmingsprobleem: machine versus menselijk oordeel
Het LLM Council-experiment onderstreept een cruciaal risico: het verschil tussen AI en het menselijk oordeel. Als AI-beoordelaars uitgebreide, uitgebreide antwoorden belonen terwijl klanten beknopte oplossingen willen, zullen de statistieken succes laten zien terwijl de tevredenheid keldert. Alleen vertrouwen op AI om AI te beoordelen is een strategie vol verborgen afstemmingsproblemen.
Samenvattend : de weekendhack van Karpathy demystificeert de AI-orkestratie, wat bewijst dat de kernfunctionaliteit binnen handbereik is. De echte uitdaging ligt in het bouwen van de governancelaag: de beveiliging, compliance en betrouwbaarheid die een onbewerkt script omzet in een platform op ondernemingsniveau. De vraag voor technologieleiders is niet of ze AI moeten integreren, maar hoe ze het wilde potentieel ervan kunnen temmen met verantwoorde engineering.
