Witte vergrootglas op grijs bureau toont navyblauwe blokjes in een raster, met een messing liniaal ernaast

Hoe kun je AI-toepassingen binnen Mendix auditen voor compliance?

Je audit AI-toepassingen binnen Mendix door eerst te bepalen welk risiconiveau de toepassing heeft onder de EU AI Act en de AVG, vervolgens data, modellen, logica, toegang en logging te toetsen en alles vast te leggen in een herhaalbaar proces. Het draait om aantoonbaarheid: kun je laten zien wat het model doet, met welke data en wie ervoor verantwoordelijk is?

Voor gereguleerde organisaties zoals farmaceuten, overheden en maakbedrijven is dat extra belangrijk, omdat low-code snelheid niet ten koste mag gaan van controle. Hieronder lees je welke eisen gelden, wat je moet toetsen en hoe je dat praktisch aanpakt.

Welke compliance-eisen gelden voor AI in Mendix?

Voor AI in Mendix gelden dezelfde wettelijke kaders als voor elke andere software: de EU AI Act, de AVG en sectorspecifieke regels. Het platform maakt je niet automatisch compliant. De verantwoordelijkheid voor correct gebruik, dataverwerking en risicobeheersing ligt bij jouw organisatie als gebruiker en inzetter van de toepassing.

In de praktijk gaat het om drie lagen:

  • EU AI Act: deelt AI-systemen in naar risiconiveau. Hoogrisicotoepassingen, bijvoorbeeld rond personeelsselectie of kritieke processen, kennen zwaardere eisen voor documentatie, menselijk toezicht en transparantie.
  • AVG: geldt zodra persoonsgegevens in prompts, trainingsdata of uitkomsten voorkomen. Denk aan een rechtsgrond, dataminimalisatie en het recht op uitleg bij geautomatiseerde besluitvorming.
  • Sectorale en interne eisen: bijvoorbeeld GxP in de farmaceutische industrie, overheidsrichtlijnen voor informatiebeveiliging of ISO-normen.

Controleer altijd de actuele tekst en de invoeringstermijnen van de EU AI Act, want de verplichtingen worden gefaseerd van kracht.

Welke onderdelen van een Mendix AI-app moeten worden geauditeerd?

Een audit van een Mendix AI-app omvat minimaal de gebruikte data, het AI-model of de externe AI-dienst, de applicatielogica rond de AI-aanroep, toegangsrechten, logging en de menselijke controlemomenten. Alleen kijken naar het model is onvoldoende, want de risico’s zitten vaak in de koppeling met het proces.

Data en modelkeuze

Toets welke data naar het model gaan, waar die worden verwerkt en of persoonsgegevens worden gedeeld met een externe aanbieder. Leg vast welk model je gebruikt, welke versie en onder welke contractuele voorwaarden. Controleer ook of de aanbieder jouw data mag hergebruiken voor training.

Applicatielogica en beveiliging

Kijk naar de microflows en integraties waarin AI-uitkomsten worden verwerkt. Wordt een uitkomst ongecontroleerd opgeslagen of direct omgezet in een beslissing? Beoordeel entity access, rollen en de beveiliging van API-sleutels. Let ook op prompt injection: kan een gebruiker via invoer het gedrag van het model manipuleren?

Hoe voer je stap voor stap een AI-audit uit?

Een AI-audit voer je uit in vijf stappen: inventariseren, risico’s classificeren, controles toetsen, bevindingen vastleggen en verbeteracties inplannen. Door dit als vast proces in te richten, wordt de audit herhaalbaar en kun je richting toezichthouders en interne controllers aantonen dat je grip hebt op je AI-toepassingen.

  1. Inventariseer: maak een overzicht van alle Mendix-apps die AI gebruiken, inclusief modellen, databronnen en eigenaren.
  2. Classificeer het risico: voer een AI-risicobeoordeling uit en bepaal onder welke categorie van de EU AI Act de toepassing valt.
  3. Toets de maatregelen: controleer privacy, beveiliging, menselijk toezicht, datakwaliteit en bias per toepassing.
  4. Documenteer: leg bevindingen, bewijsstukken en aannames vast op een plek waar auditors erbij kunnen.
  5. Verbeter en volg op: koppel bevindingen aan een eigenaar en een deadline, en toets later of ze zijn opgelost.

Betrek vanaf de start de functionaris gegevensbescherming, security en de business owner. Zo voorkom je dat compliance pas aan het einde van de ontwikkeling aan tafel komt.

Hoe maak je AI-beslissingen in Mendix traceerbaar?

Je maakt AI-beslissingen traceerbaar door per aanroep vast te leggen wat de invoer was, welk model en welke versie zijn gebruikt, wat de uitkomst was en wie of wat daar vervolgens mee heeft gedaan. Zo ontstaat een audit trail in Mendix waarmee je beslissingen achteraf kunt reconstrueren en verantwoorden.

Praktische bouwstenen:

  • Een aparte logentiteit voor AI-aanroepen, met tijdstip, gebruiker, prompt, modelversie en respons.
  • Vastleggen of een mens de uitkomst heeft goedgekeurd, aangepast of afgewezen.
  • Aandacht voor bewaartermijnen en dataminimalisatie, want logs met persoonsgegevens vallen zelf ook onder de AVG.
  • Beperkte toegang tot de logs en bescherming tegen aanpassing achteraf.

Als je dit vroeg in het ontwerp meeneemt, kost het weinig extra moeite. Achteraf inbouwen is duurder en vaak onvolledig. Bij onze maatwerkapplicaties met Mendix nemen we traceerbaarheid daarom standaard mee als ontwerpeis.

Wat verandert er met Mendix Maia voor governance en controle?

Mendix Maia is de AI-assistent van Mendix en voegt AI toe aan het ontwikkelproces zelf, bijvoorbeeld bij het genereren en verbeteren van applicatielogica. Daardoor verschuift governance deels naar de vraag hoe AI-gegenereerde wijzigingen worden beoordeeld, goedgekeurd en vastgelegd voordat ze in productie komen.

Voor je audit betekent dit dat je naast de AI-functies in de app ook het ontwikkelproces meeneemt. Stel vragen als: wie reviewt door AI voorgestelde wijzigingen, hoe worden die in versiebeheer herkenbaar vastgelegd en welke gegevens mogen in de assistent terechtkomen? Het voordeel van een beheerst low-code platform is dat je AI binnen vaste kaders van het platform inzet, in plaats van losse code zonder zicht op herkomst.

Controleer de actuele documentatie van Mendix voor de exacte werking, dataverwerking en beschikbare instellingen, omdat deze functionaliteit zich snel ontwikkelt. Behandel AI-assistentie niet als vervanging van code review, maar als extra bron die je zelf moet toetsen.

Hoe vaak moet een AI-audit worden herhaald?

Een AI-audit herhaal je minimaal jaarlijks en daarnaast bij elke ingrijpende wijziging, zoals een nieuw model, nieuwe databronnen of een gewijzigd gebruiksdoel. Bij hoogrisicotoepassingen is een kortere cyclus verstandig, aangevuld met doorlopende monitoring van prestaties en afwijkingen.

Triggers voor een tussentijdse audit zijn onder meer:

  • Een modelupdate of overstap naar een andere aanbieder.
  • Uitbreiding naar nieuwe gebruikersgroepen of processen.
  • Nieuwe of aangescherpte wet- en regelgeving.
  • Incidenten, klachten of opvallende uitkomsten van het model.

AI-modellen veranderen sneller dan klassieke software, dus een eenmalige audit veroudert snel. Combineer periodieke audits daarom met doorlopende controles in je beheerproces.

Wil je weten hoe jouw Mendix-landschap ervoor staat of hoe je AI veilig en controleerbaar toevoegt? Neem contact met ons op voor een vrijblijvend gesprek.

Veelgestelde vragen

Waar begin ik als ik nog nooit een AI-audit heb uitgevoerd in Mendix?

Begin klein met een inventarisatie van alle Mendix-apps die al AI-functies gebruiken, inclusief externe diensten en de eigenaar per app. Kies vervolgens één toepassing met het hoogste risico als pilot en doorloop daarop het volledige auditproces. Leg de uitkomsten vast in een eenvoudige template (risicoklasse, databronnen, modelversie, maatregelen, bevindingen) die je later voor de andere apps kunt hergebruiken.

Wie moet er betrokken zijn bij een AI-audit en wie is eindverantwoordelijk?

Eindverantwoordelijk is de business owner van de toepassing, niet het ontwikkelteam of de platformleverancier. Betrek daarnaast minimaal de functionaris gegevensbescherming, een security-specialist, een Mendix-ontwikkelaar die de microflows kent en bij gereguleerde sectoren ook kwaliteit of compliance (bijvoorbeeld GxP-validatie). Leg rollen en verantwoordelijkheden vooraf schriftelijk vast, bijvoorbeeld in een RACI-overzicht.

Wat doe ik als mijn AI-leverancier onvoldoende transparant is over trainingsdata of modelwerking?

Vraag de aanbieder om documentatie over dataverwerking, hergebruik van data voor training, verwerkerovereenkomsten en beveiligingscertificeringen. Biedt de leverancier die niet aan, leg dan het restrisico vast in je risicobeoordeling en overweeg maatregelen zoals het anonimiseren of pseudonimiseren van prompts, of een alternatief model. Voor hoogrisicotoepassingen kan ontbrekende transparantie een reden zijn om een leverancier af te wijzen.

Hoe test ik een Mendix AI-app op prompt injection en bias?

Stel een testset samen met bewust misleidende invoer, zoals instructies die het model proberen te laten afwijken van zijn taak, en controleer of de app en het model daar veilig mee omgaan. Voor bias vergelijk je uitkomsten voor verschillende groepen of scenario’s met representatieve testdata. Voer deze tests uit bij elke modelwijziging, bewaar de resultaten als bewijsmateriaal en beperk in de applicatielogica wat een AI-uitkomst automatisch mag veroorzaken.

Hoe houd ik de audit trail beheersbaar zonder zelf een AVG-risico te creëren?

Log alleen wat nodig is om beslissingen te reconstrueren en vermijd waar mogelijk volledige persoonsgegevens in prompts en responses, bijvoorbeeld door te werken met verwijzings-ID’s of gemaskeerde gegevens. Stel een duidelijke bewaartermijn in met een automatische opschoonroutine (scheduled event) en beperk de toegang tot logs via aparte rollen. Zo blijft de audit trail bruikbaar zonder dat het een nieuwe bron van privacyrisico’s wordt.

Is een menselijke controle voldoende als ik een AI-uitkomst laat goedkeuren in de app?

Alleen een goedkeuringsknop is niet genoeg: het toezicht moet in de praktijk zinvol zijn. Zorg dat de beoordelaar voldoende context en uitleg ziet, de bevoegdheid heeft om af te wijken en dat dit ook gebeurt. Monitor bijvoorbeeld het percentage ongewijzigd goedgekeurde uitkomsten; een bijna honderd procent akkoord kan wijzen op blind vertrouwen en daarmee op een zwakke controle.

Welke bewijsstukken vragen auditors meestal bij een AI-toepassing?

Denk aan de risicoclassificatie, een overzicht van modellen en versies, verwerkersovereenkomsten, een DPIA waar nodig, rolmatrix en entity access-overzichten, testresultaten (inclusief bias en veiligheid) en voorbeelden uit de audit trail. Bewaar deze documenten op een vaste, toegankelijke plek en koppel ze aan de releaseversie van de app, zodat je per moment kunt aantonen wat er gold.

Gerelateerde artikelen