Wat blijft lokaal in een hybride AI-opstelling?

Een hybride AI-opstelling combineert een werkomgeving op je eigen systeem met een taalmodel dat lokaal of bij een externe provider draait. De agent werkt dus bij jou, terwijl het taalmodel via een provider zoals OpenAI of Anthropic kan lopen. Wat blijft er dan precies bij jou, en wat gaat er naar buiten? Hieronder lees je het per onderdeel, met wat er bij elke opdracht naar de provider gaat en hoe je die grens zelf instelt.

Blauwe serverkasten links, met een datastroom die in een boog naar een lichtblauwe wolk met netwerkknooppunten rechts loopt
Wat blijft lokaal en wat gaat extern in een hybride opstelling.

Welke onderdelen draaien op je eigen systeem?

Deze onderdelen draaien en staan op een systeem bij jou:

  • De Hermes-omgeving zelf, met de configuratie, instellingen en skills.

  • Je projecten en bestanden, zoals code, documenten en een kennisbank.

  • De sessiegeschiedenis: eerdere gesprekken, beslissingen en context.

  • De toegangsrechten: wie de agent mag gebruiken en met welke rechten.

Repositories staan waar jij wilt, bijvoorbeeld op GitHub of een interne Git-server. Welk systeem het lokale deel draagt, hangt af van je opstelling: een computer die je al hebt of een computer die je ervoor kiest. Lees ook wanneer je een Linux-computer nodig hebt voor een AI-agent.

Welk deel kan bij een externe provider draaien?

Alleen het taalmodel: het deel dat je opdracht begrijpt, een plan maakt en antwoorden schrijft. Dat model kan bij een externe provider draaien, zoals OpenAI of Anthropic, of lokaal op je eigen hardware. Hermes stuurt elk bericht en elke stap met tools via dat model.

Kleinere extra taken, zoals een lang gesprek samenvatten of een afbeelding bekijken, gebruiken standaard hetzelfde model. Je kunt per extra taak een ander model kiezen, ook een lokaal model. Hoe dat werkt, staat in de documentatie over modellen instellen.

Welke data gaat er naar de provider?

Kort antwoord: bij elke aanroep gaat alleen de context van de lopende opdracht mee. Je bestanden en eerdere sessies blijven lokaal staan, tenzij de agent ze voor die opdracht opent of opzoekt.

Die context bestaat uit drie delen. Eerst de vaste instructies voor de agent: de werkafspraken van het project, het korte geheugen met vaste feiten en de lijst met beschikbare skills. Dan het gesprek in de lopende sessie. En tot slot de uitvoer van de tools die de agent in die sessie gebruikte, bijvoorbeeld de tekst van een bestand dat het opende of het resultaat van een zoekopdracht. Een bestand dat de agent niet opent, gaat dus niet mee. Hoe Hermes die instructies opbouwt, lees je in de documentatie over de opbouw van de prompt.

Wat de provider met die context doet, staat in zijn eigen beleid. Het privacybeleid voor bedrijven van OpenAI geldt onder meer voor het API-platform. Daarin staat: “We do not train our models on your data by default.” Volgens het Privacy Center van Anthropic gebruikt Anthropic de invoer en uitvoer van zijn zakelijke producten, waaronder de API, standaard niet om modellen te trainen. De uitzondering: je stuurt zelf feedback in of geeft daar toestemming voor. Lees bij je provider ook hoe lang gegevens bewaard blijven; dat verschilt per product en account.

AspectLokaalExterne provider

Hermes-omgeving

Configuratie, instellingen, skills

Draait niet extern; de instructies voor de agent gaan mee in elke aanroep

Projecten en bestanden

Code, documenten, kennisbank

Alleen wat de agent voor de opdracht leest

Sessiegeschiedenis

Eerdere beslissingen en context

Niet als lokaal sessiearchief bewaard; verstuurde context valt onder het beleid van de provider

Toegangsrechten

Wie mag erbij en met welke rechten

Niet van toepassing

Taalmodel

Lokaal model (als hardware het toelaat)

Externe provider (OpenAI, Anthropic)

Welke taken houd je lokaal en welke mogen naar een provider?

Houd een taak lokaal als ze data raakt die je niet naar buiten wilt sturen. Dat geldt ook voor werk dat moet blijven lopen wanneer het cloudmodel stopt. Een provider past bij taken die het sterkste model nodig hebben en alleen context lezen die je onder het beleid van die provider mag delen.

Vertrouwelijke documenten en interne kennis gaan naar een lokaal model, zodat de inhoud op je eigen systeem blijft. Schrijven, analyseren en plannen met informatie die je mag delen, kan via een model bij een provider, dat vaak sterker is. Extra taken zoals een lang gesprek samenvatten kunnen een eigen model krijgen, ook een kleiner lokaal model.

Werk dat niet mag stilvallen, vraagt een lokaal model als reserve naast het cloudmodel. Op 22 oktober 2026 weigerde het cloudmodel in een van onze eigen sessies verder te werken, en nam een lokaal model het werk in dezelfde sessie over. Hoe je dat opzet, lees je in ons artikel over een lokaal model als terugvaloptie.

In een hybride AI-opstelling maak je die keuze per taak, niet één keer voor de hele opstelling. Kiezen tussen een volledig lokale opstelling en een cloudopstelling is een bredere vraag; die vergelijken we in ons artikel over lokale AI versus cloud-AI.

Hoe houd je zelf de controle?

Je houdt de controle op drie manieren: je kiest het model, je bepaalt wat de agent mag openen en gebruiken, en je werkt met een eigen account bij de provider.

Eerst kies je het model. Dat kan een provider zijn of een lokaal model, als je hardware dat aankan. Hoeveel hardware een lokaal model vraagt, lees je in ons artikel over welke computer je nodig hebt voor lokale AI.

Daarna bepaal je wat de agent mag openen. Bij de installatie leg je vast tot welke mappen, projecten en koppelingen de agent toegang heeft, en welke tools aanstaan. Bij een koppeling via MCP kies je ook welke tools van die koppeling Hermes laadt. Wat de agent niet kan openen, kan het ook niet doorsturen.

Tot slot stel je je eigen account in bij de provider. Verbruik en facturering lopen dan via jou, en het beleid van de provider geldt rechtstreeks voor jouw account. Voltti heeft zo geen toegang tot je verbruik.

Hoe dat er in het klein uitziet, lees je bij Sisu, onze huisagent met Hermes en Home Assistant. De koppelingen met de apparaten blijven thuis, het taalmodel loopt via een externe dienst.

Gebruik voordat je data koppelt onze checklist om AI veilig te gebruiken. Wil je hulp bij de keuze wat in jouw opstelling lokaal blijft? Lees hoe we lokale AI voor bedrijven aanpakken.

Portretfoto van Seppe Gadeyne

Seppe Gadeyne is developer en eigenaar van Voltti. Hij richt AI-agenten in voor bedrijven in België en Nederland.

Bijgewerkt op

Veelgestelde vragen

01Gaat al mijn data naar de provider?

Nee. Bij elke aanroep gaat alleen de context van de lopende opdracht mee. Dat zijn de instructies voor de agent, het gesprek in die sessie en wat de agent voor die opdracht heeft gelezen. Je andere bestanden en eerdere sessies blijven lokaal staan. Wat de provider met die context doet, staat in zijn beleid. Volgens dat beleid gebruiken OpenAI en Anthropic data van hun zakelijke API standaard niet om modellen te trainen.

02Kan ik volledig lokaal werken?

Ja, met een lokaal taalmodel. Dan gaat er geen context naar een externe modelprovider. Hoeveel hardware dat vraagt, hangt af van het model; lees welke computer je nodig hebt voor lokale AI. Een lokaal model kan trager en minder sterk zijn dan een groot cloudmodel. Een tussenvorm is een lokaal model als terugvaloptie naast een cloudmodel. We adviseren hierover tijdens de intake.

03Wie bepaalt welke provider we gebruiken?

Jij. Voltti adviseert, maar je stelt je eigen account in bij de modelprovider. Zo lopen verbruik en facturering via jou, en geldt het beleid van de provider rechtstreeks voor jouw account. Je ziet zelf wat je verbruikt, en Voltti heeft geen toegang tot dat verbruik.

Vragen over je hybride opstelling?

Bespreek je pilot