Zo bouw je een volwassen AI-architectuur

Veel organisaties begonnen met generatieve AI door slimme prompts te schrijven.

Dat leverde snel resultaat op. Teams experimenteerden met ChatGPT, bouwden API-koppelingen en automatiseerden hun eerste processen.

Daarna kwamen de beperkingen in beeld:

• de kwaliteit wisselde;
• de uitkomst was lastig te voorspellen;
• teams gebruikten verschillende instructies;
• controle op de output ontbrak.

Dat is niet vreemd. Een goede prompt is waardevol, maar vormt nog geen architectuur.

In de eerste fase draait alles om prompt engineering. Teams verbeteren de instructies die ze aan een AI-model geven.

Ze werken bijvoorbeeld aan:

• duidelijke opdrachten;
• vaste systeeminstructies;
• voorbeelden van goede output;
• een herkenbare tone of voice.

Deze aanpak werkt goed voor losse experimenten. Problemen ontstaan zodra meer mensen en processen AI gebruiken.

Prompts worden dan steeds langer. Teams bewaren verschillende versies en passen regels op meerdere plekken aan. Ook richtlijnen voor privacy, toegankelijkheid en communicatie raken verspreid.

Daardoor wordt het beheer ingewikkeld. Prompt engineering alleen is moeilijk op te schalen.

De volgende stap draait om contextmanagement.

Niet alleen de vraag aan het model telt. Ook de informatie die het model standaard meekrijgt, bepaalt de kwaliteit van het antwoord.

Denk aan:

• merk- en schrijfrichtlijnen;
• juridische kaders, zoals de AVG;
• toegankelijkheidsregels;
• redactionele afspraken;
• informatie over de doelgroep;
• interne begrippen;
• relevante kennisbronnen.

Voeg je deze informatie steeds handmatig toe? Dan ontstaan snel fouten en verschillen.

Een volwassen aanpak maakt de context:

• centraal beschikbaar;
• gestructureerd;
• herbruikbaar;
• voorzien van versiebeheer;
• automatisch onderdeel van het AI-proces.

Zo groeit AI van een los experiment naar een beheersbaar onderdeel van je digitale omgeving.

Een volwassen AI-architectuur bestaat uit verschillende lagen. Elke laag heeft een eigen functie.

1. Beheer van prompts
Vaste prompttemplates zorgen voor herkenbare en voorspelbare resultaten.

Deze laag bevat bijvoorbeeld:

• vaste instructies;
• beheer van systeemprompts;
• versiebeheer;
• registratie van gebruik en resultaten;
• controle op prestaties en fouten.

Zo voorkom je dat elk team zelf losse prompts ontwikkelt.

2. Relevante kennis ophalen
Een AI-model beschikt niet automatisch over de juiste interne kennis.

Met Retrieval-Augmented Generation, vaak afgekort tot RAG, haalt het systeem relevante informatie op voordat het een antwoord maakt.

Deze laag ondersteunt:

• het ophalen van actuele kennis;
• zoeken op betekenis;
• toegang tot interne bronnen;
• een scheiding tussen vaste regels en wisselende inhoud.

Het model krijgt zo alleen de informatie die voor de opdracht relevant is.

3. Centrale opslag van context
Een contextregister bevat de vaste regels en uitgangspunten van de organisatie.

Hierin beheer je bijvoorbeeld:

• beleidsregels;
• tone-of-voice-afspraken;
• privacyrichtlijnen;
• toegankelijkheidseisen;
• interne terminologie;
• regels voor verschillende doelgroepen.

Teams gebruiken daardoor dezelfde uitgangspunten. Een wijziging hoeft maar op één plek plaats te vinden.

4. Besturing en veiligheidsmaatregelen
AI vraagt om duidelijke afspraken, controles en verantwoordelijkheden.

Deze laag bevat onder meer:

• herkenning van persoonsgegevens;
• controle op ongewenste output;
• toegang op basis van rollen;
• registratie van wijzigingen en besluiten;
• inzicht in gebruikte bronnen en instructies.

Zo blijft zichtbaar hoe een antwoord tot stand kwam. Dat helpt bij controle, verantwoording en verbetering.

Een taalmodel baseert zijn antwoord op de informatie die het meekrijgt.

Onduidelijke of versnipperde context leidt snel tot:

• wisselende communicatie;
• afwijkingen van beleid;
• verkeerd gebruikte termen;
• privacy- en compliancerisico’s;
• feitelijk onjuiste antwoorden.

Meer informatie toevoegen lost dat probleem niet automatisch op. De informatie moet vooral relevant, actueel en goed beheerd zijn.

Contextmanagement vormt daarom de brug tussen experimenteren en professioneel gebruik.

Veel organisaties beschikken al over:

• losse prompts;
• een API-koppeling;
• een eerste oplossing voor kennisontsluiting;
• enkele werkende AI-toepassingen.

Toch ontbreekt vaak een centrale aanpak.

Er is dan nog geen:

• organisatiebreed beheer van context;
• versiebeheer voor AI-regels;
• duidelijke scheiding tussen beleid en inhoud;
• volledig overzicht van wijzigingen en resultaten.

Juist daar ligt de volgende volwassenheidsstap.

Door context, techniek en afspraken samen te brengen, veranker je AI duurzaam in je organisatie.

Een volwassen AI-architectuur draait niet alleen om betere modellen.

Ze zorgt ervoor dat je organisatie AI veilig, voorspelbaar en op grotere schaal gebruikt. Daarbij komen techniek, context en bestuur samen.

Finalist helpt organisaties bij het ontwerpen en bouwen van zo’n architectuur. Zo groeit een eerste AI-experiment uit tot een beheersbare digitale voorziening.