Stel vragen over werkinstructies, doorzoek interne documenten en laat rapportages opstellen. Alles draait lokaal: uw data verlaat het pand niet.
Vertrouwelijke documenten die het pand niet uit mogen.
Onduidelijke herkomst van het model dat u zou gebruiken.
Geen AI-kennis in huis, en geen zin om van één leverancier afhankelijk te worden.
Dat kan: met een taalmodel dat volledig op uw eigen hardware draait.
Toepassingen
Vragen over werkinstructies
“Hoe stel ik machine 4 in na een productwissel?” Antwoord met verwijzing naar de juiste instructie en pagina.
Informatie uit interne documenten
Handboeken, procedures, contracten en projectdossiers doorzoeken in gewone taal.
Rapportages opstellen
Conceptrapportages op basis van eigen sjablonen en brondocumenten, die een medewerker controleert en afmaakt.
Bij elk antwoord ziet u welke documenten en passages gebruikt zijn.
Hoe het werkt
1
Uw documenten worden lokaal ingelezen en doorzoekbaar gemaakt.
2
Een medewerker stelt een vraag in de browser.
3
Het systeem zoekt de relevante passages op, alleen in documenten waar die medewerker recht op heeft.
4
Het taalmodel formuleert een antwoord met bronvermelding.
Software
Functie
Besturingssysteem
Ubuntu Server
Verenigd Koninkrijk
Functie
Containers
Docker Engine
Verenigde Staten
Functie
Taalmodel draaien
vLLM
Verenigde Staten
Functie
Embeddings en reranker
Text Embeddings Inference (Hugging Face)
Verenigde Staten en Frankrijk
Functie
Documenten inlezen
Docling
Zwitserland (IBM Research)
Functie
Zoekindex (vector database)
Qdrant
Duitsland
Functie
Chat-interface
Open WebUI
Canada en Verenigde Staten
Functie
Beveiligde toegang (HTTPS)
Traefik
Frankrijk
Functie
Inloggen (SSO)
Keycloak, of directe koppeling met Active Directory
Verenigde Staten (Red Hat)
Functie
Beheer op afstand
NetBird, of de bestaande VPN van de klant
Duitsland
Functie
Sessie-opnames van beheer
Apache Guacamole
Verenigde Staten (Apache Software Foundation)
Functie
Monitoring
Prometheus en Grafana
Verenigde Staten en Zweden
Geen licentiekosten per gebruiker. Alles is te vervangen of zelf over te nemen. Elk onderdeel is vrij beschikbaar, breed gebruikt en te vervangen: u zit nergens aan vast.
Modellen
Mistral · Mistral AI · Frankrijk
Eerste keuze bij een Europese voorkeur; goed in Nederlands en andere Europese talen.
Gemma · Google DeepMind · Verenigde Staten
Efficiënt op één GPU; kan ook afbeeldingen en scans lezen.
Ook mogelijk
Llama · Meta
Zeer breed ondersteund door tools en community.
Phi · Microsoft
Klein en snel; geschikt voor eenvoudige taken en beperkte hardware.
gpt-oss · OpenAI
Open model met sterke redeneercapaciteit voor complexere vragen.
Naast het taalmodel zijn een embedding-model en een reranker nodig. Ook die kiezen we bewust op herkomst, bijvoorbeeld EmbeddingGemma (Google) of mixedbread (Duitsland).
Wij werken standaard alleen met open modellen van Europese en westerse makers, gedownload van de officiële bron en gecontroleerd voordat ze op uw server komen.
Een lokaal model is kleiner dan de grootste cloudmodellen. Voor vragen over uw eigen documenten is dat geen beperking: het antwoord komt uit uw documenten, het model formuleert.
Welk model het wordt, bepalen we met een test op uw eigen documenten en vragen.
Hardware
Proefopstelling
NVIDIA DGX Spark
Compact systeem met 128 GB geheugen en voorgeïnstalleerde software. Voor proef en kleine teams.
Fabrieksgarantie van NVIDIA of de partnerfabrikant.
Productie op kantoor
Tower-workstation
Dell, HP of Lenovo, met twee NVIDIA RTX PRO 6000 GPU's. Voor organisaties zonder serverruimte, enkele tientallen gebruikers.
Fabrieksgarantie met reparatie op locatie, meerjarig af te sluiten.
Productie in serverruimte
Rack-server
Twee of meer GPU's van Dell, HPE, Lenovo of een Europese bouwer zoals Thomas-Krenn (Duitsland). Voor organisaties met eigen serverruimte en groei in gebruikers.
Fabrieksgarantie met reparatie op locatie, meerjarig af te sluiten.
U koopt de hardware rechtstreeks of via uw eigen IT-leverancier. Die is en blijft van u.
Het systeem wordt compleet en getest geleverd. Gaat er een onderdeel stuk, dan komt de fabrikant het op locatie vervangen.
Ik help met de aanschaf, maar u bent en blijft zelf eigenaar.
Aanpak
Stap 1 · Week 1-2
Kennismaking en intake
Toepassingen, documenten en eisen aan privacy en beveiliging.
Stap 2 · 2-4 weken
Proefopstelling
Een werkende assistent op een deel van uw documenten, getest met uw eigen vragen. Vaste prijs, na de intake.
Stap 3 · 6-8 weken
Installatie en pilot
Hardware geleverd, software ingericht, één afdeling aan het werk.
Stap 4
Uitrol en beheer
Meer afdelingen, training, updates en monitoring.
Totale doorlooptijd: ongeveer drie maanden tot productie.
Beveiliging en beheer
Geen uitgaand verkeer
De server staat in een eigen netwerksegment, telemetrie staat uit.
Inloggen met bestaande accounts
Koppeling met Active Directory of Entra ID, rechten per groep.
Controleerbaar
Logging van gebruik en van beheersessies.
Beheer op uw voorwaarden
Via uw eigen VPN of een zelf gehoste verbinding, alleen op afgesproken momenten. Volledig afgesloten (air-gapped) kan ook.
Afspraken op papier: verwerkersovereenkomst en ondersteuning bij de DPIA.
Over mij
Ik bouw en beheer al jaren de technische kant van e-commerce en IT-omgevingen: van volledige infrastructuur tot koppelingen tussen systemen. Die ervaring met het opzetten en draaiend houden van bedrijfskritische techniek gebruik ik nu om organisaties te helpen die AI willen inzetten zonder hun data uit handen te geven. U werkt rechtstreeks met de persoon die het bouwt.
Veelgestelde vragen
Nee. Model, documenten en zoekindex staan op uw eigen server. Die heeft geen uitgaande internetverbinding nodig om te werken.
Voor algemene kennis zijn de grootste cloudmodellen sterker. Voor vragen over uw eigen documenten maakt dat weinig uit: het antwoord komt uit uw documenten en het model formuleert het.
Elk antwoord toont de brondocumenten en passages. Voor de oplevering testen we met een vaste set van uw eigen vragen.
Nee. Medewerkers loggen in met hun bestaande account en zien alleen antwoorden uit documenten waar hun groep recht op heeft.
Er zijn drie posten: eenmalige hardware, de implementatie en optioneel beheer. Er zijn geen licentiekosten per gebruiker. Na de intake krijgt u een vaste prijs voor de proefopstelling.
De systemen hebben fabrieksgarantie met reparatie op locatie. De inrichting is vastgelegd, zodat het systeem snel opnieuw op te bouwen is.
Meestal niet. Beheer gaat op afstand via uw eigen beveiligde verbinding, op afgesproken momenten. Wilt u een volledig afgesloten systeem, dan kom ik op locatie.
Nee. Alles is open source en gedocumenteerd. Uw eigen IT of een andere partij kan het beheer overnemen.
Kennismaking
In 30 minuten bespreken we uw documenten, uw eisen en wat een proefopstelling oplevert. Vrijblijvend.
