Binnen onze organisatie maken we gebruik van Large Language Models (LLM’s) ter ondersteuning van interne processen en datagedreven besluitvorming. Momenteel wordt slechts een klein deel van deze modellen lokaal in ons datacenter gehost; het merendeel draait nog via externe providers.
Met het oog op dataveiligheid, performance, kostenreductie en onafhankelijkheid willen we deze lokale infrastructuur uitbreiden en productie-ready maken. Het doel is om een schaalbare, betrouwbare en snelle omgeving te ontwikkelen waarin AI-modellen lokaal kunnen draaien.
Ontwerp en bouw een proof-of-concept waarin één of meerdere LLM’s lokaal in het datacenter kunnen worden gehost als interne dienst. Onderzoek de technische en financiële haalbaarheid van deze aanpak.
