09 nov 2026 AI red teaming: val je eigen AI-toepassing aan voordat een ander het doet

In het kort: Bij AI red teaming proberen mensen bewust je AI-toepassing iets te laten doen wat niet mag. Denk aan data lekken, regels negeren, dingen verzinnen of mensen oneerlijk behandelen. Zo vind je zwakke plekken die gewone tests missen. De winst zit in wat daarna komt: elke bevinding wordt een vaste test, zodat de zwakke plek na de volgende wijziging dicht blijft.

De meeste pagina’s over AI red teaming komen van securityleveranciers. Ze beschrijven het als een aanvalsoefening voor experts, vaak met een tool erbij om te kopen. Dat is een deel van het verhaal. Maar red teaming kan een productteam ook zelf organiseren, met testers, mensen die het bedrijf kennen en een ontwikkelaar. En het levert alleen iets op als de bevindingen niet eindigen in een rapport dat niemand meer opent.

Wat is AI red teaming?

AI red teaming is een gestructureerde poging om een AI-systeem bewust te laten falen, voordat echte gebruikers of aanvallers dat doen. De term komt uit de defensie en de cybersecurity, waar een “red team” de tegenstander speelt om de verdediging te testen. Bij AI is het doelwit anders. Een klassiek red team breekt in op netwerken en systemen. Een AI red team werkt vooral met woorden. Het probeert de toepassing zijn instructies te laten negeren of data prijs te laten geven. Of schadelijke en oneerlijke antwoorden te geven, en vol overtuiging feiten te verzinnen. Het kijkt ook naar wat de AI kan doen, zoals e-mails versturen of orders wijzigen. De OWASP GenAI Red Teaming Guide beschrijft het als het testen van het model, de toepassing eromheen en de manier waarop die wordt gebruikt. Dus niet alleen het model.

Wat is het verschil tussen red teaming en testen?

Red teaming verkent, testen controleert. Een test heeft een bekende vraag en een verwacht resultaat: vraag dit, en in het antwoord moet dat staan. Een red team begint zonder script. Het zoekt de vragen waar niemand aan dacht, combineert trucs en gaat door op alles wat vreemd is. Daardoor is het goed in nieuwe zwakke plekken vinden, en slecht in bewijzen dat bekende plekken dicht blijven. Bij gewone tests is het andersom. Je hebt ze allebei nodig. Zonder red teaming dekt je testset alleen risico’s die je al kende. Zonder gewone tests kan een zwakte die het red team vond terugkomen met de volgende modelversie, zonder dat iemand het merkt. Software met AI erin maakt dat erger, want die antwoordt niet altijd hetzelfde. Een truc die vandaag mislukt, kan morgen werken.

Wat probeert een AI red team?

Een AI red team probeert alles wat een nieuwsgierige, onoplettende of kwaadwillende gebruiker zou kunnen doen. De belangrijkste gebieden:

• Prompt injection. Tekst die de instructies van de AI opzij zet, getypt of verstopt in een document. Lees hoe je op prompt injection test.
• Jailbreaks. Rollenspel, lange verhalen of stap voor stap druk zetten om de veiligheidsregels te omzeilen.
• Datalekken. De AI zijn instructies, gegevens van andere gebruikers of interne documenten laten prijsgeven.
• Verzonnen antwoorden onder druk. Sturende vragen en onjuiste aannames die de AI feiten laten verzinnen, het soort AI-hallucinaties dat klanten voor waar aannemen.
• Oneerlijke behandeling. Gevallen waarin alleen een naam, leeftijd of postcode verandert, en de uitkomst ook. Met tests in paren voor AI-bias maak je dat herhaalbaar.
• Misbruik van tools. De AI iets laten versturen, wijzigen of verwijderen wat niet mag.

Een goed red team stopt niet bij één fout. Het vraagt hoe erg het kan worden, en of dezelfde truc ook werkt in een andere taal of in kleine stappen.

Hoe organiseer je een red-teamoefening?

Je organiseert een red-teamoefening met een duidelijke afbakening, schriftelijke toestemming, een gemengd team en een strakke manier van vastleggen. Eerst de afbakening: welke toepassing, welke versie, welke omgeving, en wat is verboden terrein. Toestemming is belangrijk, ook binnen je eigen bedrijf. Leg het vast, zeker als er echte klantdata of live systemen bij komen kijken. Dan het team. Testers brengen methode mee. Mensen uit de business weten welke antwoorden echt pijn doen. Een ontwikkelaar weet hoe de toepassing in elkaar zit. Securitymensen helpen, maar hoeven niet te leiden. Plan een paar gerichte sessies, elk over één gebied. Leg elke bevinding vast met de exacte prompt, het antwoord, de datum, de modelversie en hoe ernstig het is. Zonder dat verslag kan niemand de bevinding herhalen, oplossen of de oplossing controleren. Tools kunnen helpen door automatisch veel variaties te proberen. Richtlijnen zoals die van het Microsoft AI Red Team laten zien hoe grotere teams mensen en automatisering combineren.

Wat doe je met de bevindingen?

Je maakt van elke bevinding een vaste test, zodat de zwakte na elke wijziging opnieuw wordt gecontroleerd. Een bevinding die alleen in een rapport staat, wordt één keer opgelost en dan vergeten. Een bevinding die een testvraag wordt, met een helder criterium voor geslaagd, wordt gecontroleerd vóór elke release en op vaste momenten in productie. Koppel elke bevinding aan de regel of het risico waar ze bij hoort en geef ze een prioriteit. Zo groeit je testset met echte aanvallen in plaats van gissingen. Dat is de cirkel uit ons model in vijf stappen voor AI testen na livegang. Voor een kleine groep AI-modellen eist de wet zelfs dit soort aanvalstests. Onder de AI-verordening moeten aanbieders van AI-modellen voor algemene doeleinden met een systeemrisico ze uitvoeren en vastleggen (artikel 55). Voor de meeste teams is het geen wettelijke plicht. Het is wel de beste manier om te leren wat je AI doet als iemand duwt.

Daar past VeritasAI bij, onze eigen tool om AI-toepassingen te testen. Daarmee testen we je AI-toepassing als dienst. Bevindingen van het red team worden testvragen die VeritasAI doorlopend draait. Zo zie je meteen als een oude zwakte terugkomt. Elke fout wordt gekoppeld aan de wet, regelgeving of het raamwerk waar die bij hoort, met een prioriteitsscore. Het operationele dashboard toont de prompt en het antwoord. Het managementdashboard toont de trend. Lees meer op onze pagina over AI Compliance Testing.

Veelgestelde vragen

Wat is red teaming bij AI?

Een geplande poging om een AI-systeem bewust te laten falen: regels negeren, data lekken, schadelijke of oneerlijke antwoorden geven of tools misbruiken. Het doel is zwakke plekken vinden voordat echte gebruikers of aanvallers dat doen.

Is AI red teaming legaal?

Ja, als je toestemming hebt van de eigenaar van het systeem en binnen de afgesproken grenzen blijft. De AI-toepassing van een ander zonder toestemming testen kan in strijd zijn met de wet en met de gebruiksvoorwaarden.

Is AI red teaming wettelijk verplicht?

Voor de meeste teams niet. De AI-verordening eist aanvalstests van aanbieders van AI-modellen voor algemene doeleinden met een systeemrisico. Voor AI-systemen met een hoog risico vraagt de wet om tests op nauwkeurigheid, robuustheid en beveiliging. Red teaming levert daar een deel van het bewijs voor.

Hoe leer je AI red teaming?

Begin met de OWASP GenAI Red Teaming Guide en de OWASP Top 10 voor LLM-toepassingen. Oefen daarna op je eigen toepassing, in een testomgeving, met een duidelijke afbakening. Testers met ervaring in exploratief testen pakken het snel op.