De AI-folklore (1/2): vijf mythes die besluitvorming vertragen

AI kan organisaties al op veel manieren ondersteunen. Tegelijk ontstaan er sterke verhalen over wat de technologie wel en niet kan.

Sommige verhalen maken organisaties onnodig voorzichtig. Andere zorgen juist voor haastige investeringen.

Het gevolg is hetzelfde: besluiten steunen meer op verwachtingen dan op feiten.

In deze tweedelige reeks onderzoeken we tien veelgehoorde mythes. Wat klopt er wel? Waar ontbreekt nuance? En wat betekent dat voor jouw organisatie?

Verhalen over AI verspreiden zich snel via media, presentaties en sociale platforms.

Ze bevatten vaak een kern van waarheid. Toch ontbreekt regelmatig belangrijke context.

Daardoor overschatten organisaties de mogelijkheden van AI. Andere organisaties blokkeren toepassingen uit angst voor risico’s.

Een goede AI-strategie begint daarom met een helder onderscheid tussen feiten, aannames en verwachtingen.

“Met AI kan iedereen software bouwen. Ontwikkelaars zijn straks niet meer nodig.”

AI kan code genereren, uitleggen en controleren. Dat versnelt bepaalde onderdelen van softwareontwikkeling.

Goede software vraagt echter om meer dan werkende code. Denk aan:

• heldere eisen;
• een passende architectuur;
• beveiliging;
• betrouwbare tests;
• koppelingen met andere systemen;
• beheer en onderhoud;
• naleving van wet- en regelgeving.

Ook moderne AI-systemen presteren nog wisselend bij complexe en langdurige opdrachten. De mogelijkheden groeien snel, maar volledige vervanging van ontwikkelteams volgt daar niet automatisch uit.

Wat betekent dit voor jouw organisatie?
Gebruik AI om ontwikkelaars te ondersteunen. Laat de technologie bijvoorbeeld helpen bij standaardcode, documentatie en eerste controles.

Houd mensen verantwoordelijk voor ontwerp, veiligheid en kwaliteit.

Sneller ontwikkelen heeft alleen waarde wanneer de oplossing ook betrouwbaar en beheersbaar blijft.

“AI vervangt mensen. Grootschalig banenverlies is onvermijdelijk.”

AI beïnvloedt werk. Dat betekent niet dat iedere getroffen functie volledig verdwijnt.

Onderzoek van de Internationale Arbeidsorganisatie laat zien dat generatieve AI vooral taken binnen beroepen verandert. Menselijke inbreng blijft bij de meeste functies nodig. De gevolgen verschillen bovendien sterk per beroep en sector.

Sommige taken verdwijnen. Andere worden sneller of eenvoudiger. Ook ontstaan nieuwe verantwoordelijkheden rond controle, data en kwaliteit.

Wat betekent dit voor jouw organisatie?
Kijk niet alleen naar functies. Onderzoek welke taken veranderen.

Breng vervolgens in kaart:

• welke werkzaamheden AI kan ondersteunen;
• waar menselijke kennis nodig blijft;
• welke nieuwe vaardigheden medewerkers nodig hebben;
• hoe je kennis binnen de organisatie behoudt;
• wie de uitkomsten controleert.

Investeer dus niet alleen in technologie. Investeer ook in mensen en hun ontwikkeling.

“Eén slimme agent neemt straks CRM, HR, financiën en klantcontact over.”

AI-agents kunnen informatie uit verschillende systemen ophalen. Ook kunnen ze taken starten en stappen in een proces uitvoeren.

Daarmee vervangen ze niet automatisch de onderliggende systemen.

Je organisatie blijft betrouwbare bronnen nodig voor bijvoorbeeld:

• klantgegevens;
• financiële administratie;
• personeelsinformatie;
• dossiers;
• autorisaties;
• transacties.

Een agent vormt vaak een nieuwe laag boven bestaande software. Zonder goede data, koppelingen en toegangsregels wordt die laag kwetsbaar.

Wat betekent dit voor jouw organisatie?
Maak je digitale omgeving niet systeemloos, maar geschikt voor het gebruik van agents.

Zorg voor:

• betrouwbare gegevens;
• duidelijke eigenaars;
• bruikbare koppelingen;
• goed ingerichte toegangsrechten;
• registratie van handelingen;
• heldere procesregels.

Een slimme toegang tot slechte processen maakt die processen niet beter.

“Een agent mag nooit zelfstandig handelen.”

Zelfstandigheid brengt risico’s mee. Dat geldt vooral wanneer een agent toegang heeft tot gevoelige data of belangrijke systemen.

Toch maakt menselijke goedkeuring een toepassing niet vanzelf veilig. Ook mensen kunnen fouten maken, waarschuwingen negeren of zich laten misleiden.

Veiligheid ontstaat door een combinatie van maatregelen. NIST benadrukt onder meer het belang van risicobeheer, controle, evaluatie en passende menselijke betrokkenheid. Recente richtlijnen besteden daarnaast aandacht aan identiteit en autorisatie voor AI-agents.

Wat betekent dit voor jouw organisatie?
Stem de vrijheid van een agent af op het risico.

Denk daarbij aan:

• alleen toegang tot noodzakelijke gegevens;
• duidelijke grenzen aan mogelijke handelingen;
• extra goedkeuring bij belangrijke besluiten;
• veilige testomgevingen;
• registratie en monitoring;
• een mogelijkheid om direct in te grijpen.

Laat een agent zelfstandig werken waar de gevolgen beperkt zijn. Voeg meer controle toe zodra het risico stijgt.

“Het model heeft gevoelens en wil niet worden uitgezet.”

Een taalmodel kan overtuigend over emoties, wensen en ervaringen schrijven. Dat betekent niet dat het deze ook werkelijk ervaart.

Wetenschappers verschillen van mening over de precieze voorwaarden voor bewustzijn. Er bestaat geen breed gedragen bewijs dat de huidige taalmodellen bewust zijn. Onderzoekers waarschuwen daarom voor het verwarren van menselijk klinkende taal met een innerlijke beleving.

Die verwarring noemen we antropomorfisme: we schrijven menselijke eigenschappen toe aan technologie.

Wat betekent dit voor jouw organisatie?
Beoordeel een AI-systeem op aantoonbaar gedrag en prestaties.

Kijk bijvoorbeeld naar:

• de kwaliteit van antwoorden;
• bekende beperkingen;
• gebruikte gegevens;
• foutpercentages;
• veiligheidsmaatregelen;
• de gevolgen van verkeerde output.

Maak geen beleid op basis van wat een model over zichzelf zegt.

AI kan menselijk klinken. De organisatie blijft verantwoordelijk voor ieder besluit over de inzet ervan.

De vijf mythes bevatten allemaal een herkenbare zorg.

AI verandert softwareontwikkeling en werk. Agents brengen nieuwe veiligheidsvragen mee. Ook kunnen taalmodellen opvallend menselijk overkomen.

De fout ontstaat wanneer zo’n observatie verandert in een absolute conclusie.

Een zorgvuldige organisatie vraagt daarom steeds:

• welk probleem willen we oplossen;
• wat kan de technologie aantoonbaar;
• waar liggen de beperkingen;
• welke risico’s zijn acceptabel;
• wie blijft verantwoordelijk;
• hoe meten we de waarde?

Zo ontstaat ruimte om te vernieuwen zonder de controle te verliezen.

In het tweede deel onderzoeken we vijf andere mythes. Die gaan over Europese wetgeving, deepfakes, model collapse, energiegebruik en de waarde van AI op lange termijn.

Finalist helpt organisaties om aannames te toetsen aan concrete toepassingen. Zo maak je keuzes die meetbaar, uitlegbaar en beheersbaar zijn.